AI를 이해하는 데 함수와 그래프가 왜 필요할까 - 입력이 결과로 바뀌는 관계를 읽는 방법

안녕하세요, DECHIVE입니다.

AI 설명을 읽다 보면 갑자기 f(x)라는 기호가 나오고, 점과 선이 그려진 그래프가 등장합니다. 그 순간부터 어려운 수학 이야기가 시작되는 것처럼 느껴질 수 있습니다.

하지만 함수와 그래프를 처음 이해할 때 필요한 질문은 단순합니다.

무엇을 넣었을 때, 어떤 결과가 나올까?

배송 거리에 따라 비용이 달라지고, 집의 조건에 따라 예상 가격이 달라지는 것처럼 AI도 입력과 결과 사이의 관계를 다룹니다. 함수는 그 관계를 적는 방법이고, 그래프는 관계의 모양을 보는 방법입니다.

모든 공식을 외워야 AI를 사용할 수 있다는 뜻은 아닙니다. 다만 이 두 개념을 알면 모델이 하는 일과 성능 설명을 조금 더 정확하게 읽을 수 있습니다.

한 문장으로 먼저 정리하면

함수는 정해진 입력마다 하나의 출력을 대응시키는 관계이고, 함수의 그래프는 그 입력과 출력의 짝을 좌표 위에 나타낸 것입니다. AI에서는 모델의 계산 관계와 결과의 변화를 설명하는 데 사용합니다.

여기서 ‘하나의 출력’이 반드시 숫자 하나라는 뜻은 아닙니다. 여러 숫자가 모인 벡터나 확률분포도 하나의 출력 대상이 될 수 있습니다.

또한 AI 자료에 나오는 모든 그래프가 함수의 그래프인 것은 아닙니다. 실제 관측값을 찍은 산점도나 학습 과정을 기록한 그래프도 있습니다. 이 차이는 뒤에서 다시 살펴보겠습니다.

함수는 입력을 결과에 연결하는 규칙입니다

배송 거리에 따라 요금을 정하는 아주 단순한 서비스를 생각해 보겠습니다.

• 기본요금은 2,000원입니다.
• 거리가 1km 늘어날 때마다 500원이 추가됩니다.
• 거리를 연속적인 값으로 계산하고, 최소요금이나 반올림 같은 다른 조건은 없다고 가정합니다.

이 관계를 짧게 적으면 다음과 같습니다.

배송비 = 2,000 + 500 × 배송 거리

거리가 1km이면 2,500원, 2km이면 3,000원, 4km이면 4,000원입니다. 입력으로 거리를 넣으면 규칙에 따라 비용이 나옵니다.

이것이 함수의 기본 모습입니다. 이 배송비 규칙은 이해를 돕기 위한 DECHIVE의 가상 예시이며 실제 업체의 요금표가 아닙니다.

함수는 꼭 복잡한 수식이어야 하는 것도 아닙니다. 상품을 넣으면 정해진 가격이 나오는 표, 점수를 넣으면 통과 여부가 나오는 규칙도 입력과 출력의 대응 관계로 볼 수 있습니다.

다만 같은 입력에 서로 다른 출력이 동시에 대응한다면, 그 관계는 해당 입력만으로 정의된 함수가 아닙니다. 시간이나 상품 종류처럼 빠진 조건을 입력에 추가해야 할 수 있습니다.

f(x)는 무엇이라고 읽으면 될까요?

위 규칙에서 배송 거리를 x, 배송비를 f(x)라고 적어보겠습니다.

f(x) = 2,000 + 500x

기호를 풀어 읽으면 다음과 같습니다.

• x: 입력으로 넣는 배송 거리
• f: 배송비를 정하는 함수의 이름
• f(x): 거리 x를 넣었을 때 나오는 배송비
• 500x: 500과 x를 곱한 값

f(2)는 ‘거리 2를 넣었을 때의 비용’입니다. 따라서 f(2) = 3,000입니다.

괄호가 있다고 해서 f와 x를 곱한다는 뜻은 아닙니다. 어떤 함수에 무엇을 넣었는지 표시하는 표기입니다.

함수에 넣을 수 있는 입력의 범위도 중요합니다. 이 예시에서 배송 거리는 0km 이상으로 정합니다. 수식에 음수를 넣어 계산할 수 있더라도, 실제 거리라는 의미에는 맞지 않기 때문입니다.

수식과 표와 그래프는 같은 관계를 다르게 보여줍니다

수식은 관계를 간결하게 적습니다. 표는 몇 가지 입력에 대한 결과를 바로 보여줍니다.

• 0km → 2,000원
• 1km → 2,500원
• 2km → 3,000원
• 3km → 3,500원
• 4km → 4,000원

이 짝들을 좌표 위에 찍으면 그래프가 됩니다. 가로축에는 거리, 세로축에는 배송비를 놓습니다. 이 예시에서는 거리를 연속적으로 계산하므로 점 사이의 관계도 하나의 직선으로 나타낼 수 있습니다.

그래프를 보면 두 가지가 눈에 들어옵니다. 거리가 0이어도 비용은 2,000원에서 시작하고, 거리가 늘수록 비용이 일정한 비율로 올라갑니다.

어려운 용어로는 시작 위치를 절편, 선이 올라가는 정도를 기울기라고 합니다. 여기서는 각각 ‘기본요금’과 ‘1km당 추가 비용’에 해당합니다.

표는 특정 값을 찾기 좋고, 그래프는 전체적인 변화의 모양을 보기 좋습니다. 수식은 표에 없는 입력도 같은 규칙으로 계산하게 해줍니다.

AI 모델에서는 무엇이 달라질까요?

위 배송비는 사람이 규칙을 미리 정했습니다. 반면 머신러닝에서는 여러 사례를 이용해 입력과 출력의 관계를 잘 설명하는 모델을 학습합니다.

예를 들어 거리로 배송 시간을 예측하려고 한다면, 과거 배송 기록에서 거리와 실제 소요 시간을 모을 수 있습니다. 단순한 모델은 다음처럼 쓸 수 있습니다.

예상 시간 = a × 거리 + b

여기서 a와 b는 모델이 사용할 매개변수입니다. 학습 과정에서 이 값들을 조정해 예측과 실제 기록 사이의 차이를 줄이려고 합니다. 이런 형태가 선형 회귀의 기본 예시입니다.

중요한 차이가 있습니다. 학습한 관계는 실제 기록을 잘 설명하려는 추정이지, 현실이 반드시 따라야 하는 법칙은 아닙니다.

거리가 같아도 교통 상황이나 배송 수단에 따라 실제 시간은 달라질 수 있습니다. 모델이 거리만 입력으로 사용한다면, 이런 차이를 충분히 반영하지 못할 수 있습니다.

입력에 교통 상황과 배송 수단을 추가할 수도 있습니다. 이때 함수는 여러 조건을 함께 받아 결과를 계산합니다. 현실의 AI 모델에서는 입력도 출력도 숫자 하나보다 훨씬 복잡한 경우가 많습니다.

학습은 관계를 바꾸고, 실행은 그 관계를 사용합니다

함수라는 관점에서 보면 학습과 실행의 차이도 조금 선명해집니다.

• 학습: 데이터에 더 잘 맞도록 모델의 매개변수를 조정합니다.
• 실행: 현재 모델에 새 입력을 넣어 출력을 계산합니다.

선형 모델에서는 a를 바꾸면 선의 기울기가 달라지고, b를 바꾸면 선의 위치가 위아래로 이동합니다. 값이 바뀌면 같은 입력에 대한 예측도 바뀝니다.

모델이 얼마나 틀렸는지 수치로 계산하는 규칙은 손실 함수라고 합니다. 예를 들어 숫자를 예측하는 작업에서는 예측값과 실제값의 차이를 제곱해서 평균내는 평균제곱오차를 사용할 수 있습니다.

여기서 자세한 손실 공식을 외울 필요는 없습니다. 모델의 예측을 계산하는 관계와, 그 예측의 오류를 평가하는 관계가 따로 있다는 점을 알면 됩니다.

AI의 함수는 모두 직선일까요?

그렇지 않습니다. 배송비 예시는 가장 단순한 관계를 보여주기 위해 직선을 사용했습니다.

실제 입력과 출력의 관계는 휘어지거나, 구간에 따라 달라지거나, 여러 조건이 함께 작용할 수 있습니다. 신경망은 여러 계산 단계를 연결하고 비선형 변환을 사용해 더 복잡한 관계를 표현합니다.

하지만 복잡한 함수를 쓴다고 반드시 더 정확한 모델이 되는 것은 아닙니다. 모델의 표현 능력과 실제 성능은 구분해야 합니다. 어떤 데이터를 학습했는지, 새로운 사례에서도 잘 작동하는지 따로 평가해야 합니다.

또한 입력 조건이 수백 개라면 그 전체 관계를 평면의 선 하나로 그릴 수 없습니다. 이때 보이는 그래프는 특정 조건을 고정한 단면이거나, 일부 값을 요약한 그림일 수 있습니다.

그래프 위의 점과 선은 무엇을 뜻할까요?

AI 자료를 볼 때는 그림의 종류를 먼저 확인해야 합니다.

함수의 그래프

정해진 입력과 출력의 관계를 나타냅니다. 어떤 함수를 어떤 범위에서 그렸는지 확인합니다.

데이터 산점도

관측한 입력과 결과의 짝을 나타냅니다. 점들이 실제 기록인지 가상 예시인지 확인합니다.

예측선과 관측점

모델의 예측과 실제 기록을 비교합니다. 점과 선의 차이가 어느 입력에서 큰지 살펴봅니다.

학습 곡선

학습 진행에 따라 기록한 손실 등의 값을 보여줍니다. 가로축이 무엇이고 어느 데이터의 결과인지 확인합니다.

관측값을 그린 산점도에서는 같은 거리에 여러 배송 시간이 찍힐 수 있습니다. 실제 시간은 거리 외의 조건에도 영향을 받기 때문입니다. 따라서 이런 점들을 그대로 ‘거리 하나의 함수’라고 부르면 정확하지 않을 수 있습니다.

학습 곡선도 배송비 그래프와는 다릅니다. 가로축이 거리가 아니라 학습 단계나 반복 횟수일 수 있고, 세로축은 비용이 아니라 손실일 수 있습니다.

선이 내려갔다는 사실만으로 AI가 좋아졌다고 판단할 수는 없습니다. 학습 데이터에서의 손실이 줄어든 것인지, 별도로 남겨둔 데이터에서도 성능이 좋아진 것인지 확인해야 합니다.

같은 질문인데 답이 달라지는 AI와 모순되지 않을까요?

함수는 같은 입력에 하나의 출력을 대응시킨다고 했습니다. 그런데 생성형 AI는 같은 질문에도 다른 답을 만들 수 있습니다. 이 둘은 설명하는 단계를 구분하면 함께 이해할 수 있습니다.

언어 모델은 주어진 문맥에서 다음 토큰 후보의 확률분포를 계산할 수 있습니다. 여러 후보가 들어 있는 확률분포 자체도 하나의 출력 대상입니다. 이후 생성 과정에서는 그 분포에서 토큰을 선택할 수 있으므로 최종 문장이 달라질 수 있습니다.

또한 사용자가 보는 질문 한 줄이 전체 입력은 아닙니다. 대화 기록, 지침, 도구 결과, 모델의 상태와 실행 조건도 결과에 영향을 줄 수 있습니다.

따라서 모델의 계산 관계를 함수로 설명한다는 사실만으로 서비스 전체가 항상 같은 답을 돌려준다고 결론 내리면 안 됩니다.

그래프를 읽을 때 무엇을 확인하면 될까요?

수식을 전부 이해하지 못해도 다음 질문은 할 수 있습니다.

1. 가로축과 세로축은 무엇인가요? 거리인지, 시간인지, 학습 단계인지부터 확인합니다.
2. 단위와 눈금은 어떻게 되어 있나요? 원과 만 원, 초와 분을 구분하고 축이 어디에서 시작하는지 봅니다.
3. 점과 선은 무엇을 나타내나요? 관측값, 예측값, 가상 예시를 구분합니다.
4. 어떤 조건을 고정했나요? 여러 입력 중 하나만 바꿔 그렸다면 나머지 조건을 확인합니다.
5. 어디까지 확인한 관계인가요? 시험하지 않은 입력 범위에서도 같은 성능이라고 볼 근거가 있는지 봅니다.

그래프의 모양은 설명을 돕지만, 그 자체가 정확성의 보증은 아닙니다. 무엇을 측정하고 어떤 조건에서 그렸는지 함께 읽어야 합니다.

흔한 오해

“함수는 복잡한 수학 공식이다.”

공식뿐 아니라 표나 규칙으로도 표현할 수 있습니다. 핵심은 입력과 출력의 대응 관계입니다.

“함수의 출력은 언제나 숫자 하나다.”

여러 숫자로 이루어진 벡터나 확률분포도 출력 대상이 될 수 있습니다.

“AI가 학습한 선은 현실의 정답이다.”

데이터에서 추정한 관계입니다. 빠진 조건과 새로운 입력에서의 오류가 있을 수 있습니다.

“그래프에서 점들을 연결하면 모두 함수가 된다.”

같은 입력에 다른 출력들이 대응하는 데이터도 있습니다. 관측점과 함수의 관계를 구분해야 합니다.

“손실 그래프가 내려가면 실제 업무 성능도 좋아진다.”

어느 데이터에서 어떤 손실을 측정했는지 확인하고, 새 데이터와 실제 업무에서도 평가해야 합니다.

그래서 무엇을 기억해야 할까요?

함수는 입력과 출력 사이의 관계를 정하는 언어입니다. 그래프는 그 관계와 변화의 모양을 눈으로 읽게 해줍니다.

이 관점으로 AI를 보면 모델이 하는 일은 조금 구체적으로 보입니다. 입력을 받아 계산하고, 학습 과정에서는 그 계산에 쓰는 매개변수를 조정하며, 평가에서는 결과가 얼마나 잘 맞는지 확인합니다.

AI의 수식을 만났다면 무엇이 입력이고 무엇이 출력인지부터 보세요. 그래프를 만났다면 축과 점과 선이 무엇을 뜻하는지부터 확인하세요.

그 정도만으로도 ‘복잡한 그림이 있으니 믿을 만하다’에서 한 걸음 더 나아갈 수 있습니다. 어떤 관계를 설명하는지, 실제로 어디까지 확인한 결과인지 판단하는 출발점이 됩니다.

확인한 자료

1. OpenStax — Algebra and Trigonometry 2e, Functions and Function Notation: 함수의 정의, 입력과 출력, 함수 표기, 표와 그래프 표현을 확인했습니다.
2. Google for Developers — Linear regression: 선형 모델의 입력·예측·가중치·편향과 학습 과정을 확인했습니다.
3. Google for Developers — Linear regression: Loss: 손실의 역할과 평균제곱오차 정의를 확인했습니다.
4. Google for Developers — Neural networks: Activation functions: 비선형 변환과 신경망의 관계 표현을 확인했습니다.
5. Google for Developers — Introduction to Large Language Models: 문맥에 따른 토큰 확률과 그 확률을 이용한 선택 과정을 확인했습니다.