AI 모델과 AI 시스템은 무엇이 다를까ChatGPT를 모델 하나로 보면 안 되는 이유

안녕하세요, DECHIVE입니다.

ChatGPT가 인터넷을 검색해 최신 내용을 알려주면 우리는 흔히 “AI 모델이 검색했다”고 말합니다. 예전 대화를 기억하거나 파일을 읽고, 계산기를 실행하거나 이미지를 만들 때도 모두 모델이 한 일처럼 느껴집니다.

그런데 모델 자체가 인터넷에 접속한 걸까요? 대화 기록과 파일도 모델 안에 들어 있는 걸까요? 결제 버튼을 누르거나 메일을 보내는 기능까지 모델의 능력이라고 봐야 할까요?

이 질문에 답하려면 AI 모델과 AI 시스템을 나눠 봐야 합니다.

한 문장으로 먼저 답하면

AI 모델은 입력을 바탕으로 예측·분류·생성 같은 결과를 계산하는 핵심 구성요소이고, AI 시스템은 그 모델이 실제 목적을 수행하도록 데이터·지침·도구·안전장치·사용자 화면 등을 연결한 전체 구조입니다.

쉽게 비유하면 모델은 자동차의 엔진에 가깝고, 시스템은 엔진을 포함한 자동차 전체에 가깝습니다.

다만 이 비유도 완벽하지는 않습니다. 하나의 AI 시스템이 여러 모델을 사용할 수도 있고, 같은 모델이 서로 다른 수많은 시스템에 들어갈 수도 있기 때문입니다. 중요한 건 모델이 중심 부품이라는 것과 사용자가 실제로 경험하는 제품은 그보다 넓은 구조라는 것입니다.

AI 모델은 무엇을 말할까요?

머신러닝에서 모델은 데이터에서 학습한 관계를 이용해 새로운 입력에 대한 결과를 만드는 계산 구조입니다.

예를 들어 날씨 데이터를 학습한 모델은 현재 기온·습도·기압을 입력받아 비가 올 가능성을 예측할 수 있습니다. 이미지 분류 모델은 사진을 입력받아 고양이인지 강아지인지 구분할 수 있고, 언어 모델은 지금까지 주어진 문맥을 바탕으로 다음에 올 토큰을 계산해 문장을 만듭니다.

Google의 머신러닝 입문 자료는 모델을 데이터에서 얻은 수학적 관계로서 머신러닝 시스템이 예측에 사용하는 것으로 설명합니다.

모델을 이해할 때는 보통 다음 요소를 봅니다.

• 어떤 입력을 받는가
• 어떤 출력을 만드는가
• 무엇을 학습했는가
• 내부 매개변수와 구조는 어떠한가
• 어떤 작업에서 어느 정도의 성능을 내는가
• 어떤 한계와 오류 경향이 있는가

오늘날 “AI 모델”이라고 말할 때는 학습된 가중치만 가리키기도 하고, 모델 구조와 가중치가 결합된 실행 가능한 묶음을 뜻하기도 합니다. 문맥에 따라 범위가 조금 달라질 수 있지만, 공통점은 입력을 처리해 결과를 만드는 학습된 핵심 계산부라는 점입니다.

그리고 한 가지 예외도 기억해야 합니다. 모든 AI 시스템이 반드시 머신러닝 모델을 중심으로 만들어지는 것은 아닙니다. 사람이 작성한 지식과 논리 규칙으로 추론하는 규칙 기반 AI도 넓은 의미의 AI에 포함될 수 있습니다. 이번 글에서 말하는 ‘모델’은 오늘날 가장 많이 접하는 머신러닝·생성형 AI를 중심으로 한 설명입니다.

AI 시스템은 모델보다 무엇이 더 클까요?

실제 서비스가 작동하려면 모델만으로는 부족합니다.

사용자가 질문을 입력할 화면이 필요하고, 질문을 모델이 처리할 형태로 바꾸는 과정이 필요합니다. 이전 대화나 관련 문서를 찾아 현재 입력에 붙일 수도 있습니다. 모델이 검색이나 계산을 요청하면 실제 도구를 실행하고 결과를 다시 전달할 프로그램도 필요합니다. 권한을 확인하고 위험한 요청을 막는 안전장치, 응답을 저장하는 데이터베이스, 장애를 감시하는 운영 체계도 들어갈 수 있습니다.

모든 AI 시스템이 아래 요소를 전부 갖는 것은 아니지만, 실제 서비스에서는 흔히 다음과 같은 구성요소가 모델 주변에서 함께 작동합니다.

• 입력 인터페이스: 채팅창, 음성, 카메라, 센서, API
• 입력 처리: 파일 변환, 이미지 분석 준비, 개인정보 제거, 형식 정리
• 지침과 문맥: 시스템 규칙, 사용자 요청, 이전 대화, 작업별 설정
• 데이터 연결: 검색, RAG, 데이터베이스, 사내 문서, 사용자 메모리
• AI 모델: 입력을 바탕으로 예측·분류·생성 또는 도구 요청을 계산
• 도구와 외부 서비스: 웹 검색, 계산기, 코드 실행, 메일, 캘린더, 결제 시스템
• 제어와 안전장치: 권한 확인, 콘텐츠 필터, 승인 단계, 사용량 제한
• 출력 처리: 출처 표시, 형식 변환, 결과 정렬, 화면 표시
• 운영 기반: 서버, 로그, 모니터링, 평가, 업데이트, 장애 대응

EU AI Act 안내는 AI 모델을 AI 시스템의 핵심 구성요소로 설명하면서도, 모델만으로는 AI 시스템이 되지 않으며 사용자 인터페이스 같은 추가 구성요소가 필요하다고 구분합니다.

NIST의 AI 위험관리 프레임워크 역시 AI 시스템을 볼 때 모델만 떼어 보지 않습니다. 사용 맥락, 데이터와 입력, AI 모델, 과업과 출력이라는 여러 차원을 함께 다루고, 설계부터 배포·사용·평가까지 전체 수명주기에서 검증할 것을 강조합니다.

즉 시스템은 단순히 모델을 감싼 예쁜 화면이 아닙니다. 모델이 어떤 정보를 받고, 무엇을 할 수 있으며, 결과가 실제 세계에 어떻게 전달되는지를 결정하는 실행 환경 전체입니다.

ChatGPT는 모델일까요, 시스템일까요?

이 질문은 시대와 문맥을 함께 봐야 합니다.

OpenAI는 2022년 ChatGPT를 처음 소개하면서 대화형으로 상호작용하도록 훈련한 모델이라고 설명했습니다. 당시에는 ‘ChatGPT 모델’이라는 표현이 자연스러웠습니다.

하지만 오늘날 사용자가 웹이나 앱에서 만나는 ChatGPT를 모델 하나로만 설명하기는 어렵습니다.

OpenAI의 현재 기능 안내에 따르면 ChatGPT에서는 요금제와 설정에 따라 여러 기반 모델을 선택할 수 있고, 웹 검색·심층 조사·이미지 입력과 생성·파일 업로드 같은 도구와 기능을 사용할 수 있습니다.

설정에 따라 저장된 메모리와 과거 대화가 현재 답변의 문맥으로 사용될 수 있습니다. 프로젝트 파일이나 연결된 앱의 정보도 별도 기능과 권한 설정에 따라 문맥에 포함될 수 있습니다.

또한 OpenAI의 Model Spec은 모델이 받는 입력에 사용자 메시지만 있는 것이 아니라 시스템·개발자 지침이 함께 들어갈 수 있고, 도구가 연결된 경우 모델이 도구 호출을 요청한 뒤 실행 결과를 다시 받아 답변을 이어갈 수 있다고 설명합니다.

따라서 현재의 ChatGPT 경험은 대략 다음과 같이 볼 수 있습니다.

1. 사용자가 질문이나 파일을 입력합니다.
2. 제품이 시스템 지침과 현재 대화, 허용된 메모리나 관련 정보를 준비합니다.
3. 선택되거나 라우팅된 모델이 입력을 처리합니다.
4. 시스템의 라우팅 로직이 도구 사용을 결정하거나, 모델이 검색·파일·코드 실행 같은 도구 호출을 요청합니다.
5. 시스템이 도구를 실제로 실행하고 결과를 모델에 돌려줍니다.
6. 모델이 최종 응답을 만들고 제품이 이를 화면에 표시합니다.

이 흐름은 이해를 돕기 위한 일반화입니다. 실제 내부 구조와 순서는 기능·요금제·설정·제품 업데이트에 따라 달라질 수 있습니다.

핵심은 분명합니다.

우리가 ChatGPT에서 경험하는 결과는 모델의 능력만이 아니라 제품이 제공한 지침·문맥·도구·권한·사용자 설정이 함께 만든 결과입니다.

그래서 “ChatGPT가 검색했다”는 표현은 일상적으로는 통하지만, 더 정확하게 말하면 시스템의 라우팅 로직이 검색 사용을 결정하거나 모델이 검색 도구 호출을 요청하면, 연결된 검색 도구가 실제 검색을 수행한 뒤 결과를 모델에 전달합니다.

같은 모델을 쓰는데 결과가 다른 이유

두 서비스가 같은 기반 모델을 사용한다고 광고해도 결과는 충분히 달라질 수 있습니다.

예를 들어 같은 언어 모델을 사용하는 두 고객 상담 서비스를 생각해보겠습니다.

첫 번째 서비스는 회사의 자주 묻는 질문 문서만 검색해 답변하도록 만들었습니다. 주문 내역을 볼 권한은 없고, 환불도 실행할 수 없습니다.

두 번째 서비스는 같은 모델을 사용하지만 고객 데이터베이스와 주문 조회 API가 연결되어 있습니다. 본인 확인이 끝난 사용자에게만 주문 상태를 보여주고, 환불은 정해진 금액 이하에서만 진행하며, 그 이상은 직원 승인을 받도록 설계되어 있습니다.

두 서비스의 모델이 같아도 실제 능력과 위험은 다릅니다.

• 제공되는 지침이 다릅니다.
• 검색하는 문서가 다릅니다.
• 사용할 수 있는 도구가 다릅니다.
• 접근 권한과 승인 절차가 다릅니다.
• 응답을 제한하거나 검사하는 규칙이 다릅니다.
• 최신 정보로 갱신되는 주기가 다릅니다.

결국 모델 이름만으로는 서비스가 무엇을 할 수 있는지 충분히 알 수 없습니다.

모델의 능력과 시스템의 능력을 섞으면 생기는 오해

AI 제품을 설명할 때는 기능이 어디에서 나오는지 구분할 필요가 있습니다.

“모델이 최신 정보를 알고 있다”

실제로는 모델이 학습 당시의 지식을 사용한 것일 수도 있고, 시스템이 방금 웹이나 데이터베이스를 검색해 최신 정보를 문맥에 넣어준 것일 수도 있습니다. 두 경우는 최신성·출처·재현 방법이 다릅니다.

“모델이 내 이름을 기억한다”

모델 매개변수가 사용자를 새로 학습한 것이 아니라, 제품의 메모리나 대화 기록에서 관련 정보를 불러와 현재 입력에 추가했을 수 있습니다.

“모델이 메일을 보냈다”

모델은 메일의 내용이나 수신자를 제안했을 수 있지만, 실제 전송은 권한을 가진 외부 도구와 시스템이 수행합니다. 도구를 호출하겠다는 출력과 실제 실행 완료는 같은 일이 아닙니다.

“새 모델로 바꾸면 서비스 문제가 모두 해결된다”

오류의 원인이 잘못된 검색 문서, 끊어진 API, 부족한 권한, 잘못된 시스템 지침, 느린 서버, 부실한 승인 절차라면 모델만 교체해도 문제가 남을 수 있습니다.

이 차이를 모르면 모델이 하지 않은 일까지 모델의 능력으로 평가하거나, 시스템 설계 문제를 모델 탓으로 돌리게 됩니다.

문제가 생겼을 때 어디를 봐야 할까요?

모델과 시스템을 구분하면 오류를 고칠 출발점도 달라집니다.

여러 입력에서 반복적으로 사실을 만들어내거나 특정 지시를 이해하지 못한다면 모델의 한계, 학습 방식, 프롬프트와 평가 기준을 살펴볼 수 있습니다.

회사 문서를 찾지 못하거나 오래된 규정을 가져온다면 검색 인덱스, 문서 갱신, 검색 순위, RAG 구성을 먼저 확인해야 할 수 있습니다.

모델이 도구 사용을 요청했지만 실제 작업이 끝나지 않았다면 도구 연결, 인증, 권한, 네트워크, 재시도와 완료 확인 로직을 봐야 합니다.

사용자마다 볼 수 있는 정보가 달라야 하는데 모두에게 같은 결과가 보인다면 모델보다 인증·인가와 데이터 접근 제어의 문제일 가능성이 큽니다.

위험한 작업이 승인 없이 실행됐다면 모델의 판단만 탓할 것이 아니라 시스템이 어떤 행동을 허용했고 어디에 인간 승인을 넣었는지 확인해야 합니다.

DECHIVE의 해석으로 정리하면, AI 결과를 검증할 때 질문은 “어떤 모델을 썼는가?”에서 끝나면 안 됩니다.

모델에 무엇이 들어갔고, 무엇이 연결됐으며, 어떤 권한으로 무엇이 실제 실행됐는가?

까지 확인해야 합니다.

모델 평가와 시스템 평가는 같지 않습니다

새 AI 모델이 벤치마크에서 높은 점수를 기록했다는 발표를 자주 봅니다. 이 점수는 모델의 특정 능력을 비교하는 데 유용하지만, 실제 서비스 전체의 품질을 그대로 보장하지는 않습니다.

사용자는 다음과 같은 요소를 함께 경험합니다.

• 질문에 맞는 자료를 제대로 찾는가
• 도구 호출이 실제로 성공하는가
• 응답 속도와 장애율은 어떤가
• 권한이 없는 정보에 접근하지 않는가
• 중요한 행동 전에 승인을 받는가
• 결과의 출처와 실행 상태를 명확히 보여주는가
• 문제가 생겼을 때 기록을 남기고 복구할 수 있는가

모델 성능이 좋아도 검색이 나쁘면 틀린 문서를 바탕으로 답할 수 있습니다. 모델이 도구 호출 형식을 잘 만들어도 시스템이 실행 결과를 확인하지 않으면 실패한 작업을 완료했다고 말할 수 있습니다. 반대로 작은 모델이라도 좁은 업무에 맞는 데이터와 명확한 규칙, 좋은 도구 연결을 갖추면 더 안정적인 결과를 낼 수 있습니다.

그래서 NIST는 신뢰할 수 있는 AI를 모델 성능 하나로만 다루지 않고, 시스템의 사용 맥락과 수명주기 전반에서 시험·평가·검증·확인을 수행하도록 설명합니다.

경계가 애매한 경우도 있습니다

모델과 시스템의 경계가 언제나 눈에 보이는 선으로 나뉘는 것은 아닙니다.

명령줄에서 모델 하나를 불러 바로 결과를 출력하는 간단한 데모는 모델과 시스템의 차이가 거의 없어 보일 수 있습니다. 반대로 거대한 서비스는 여러 모델, 검색 엔진, 데이터베이스, 외부 도구, 사람의 승인 절차까지 연결합니다.

또 모델 제공자가 안전 조정이나 입력·출력 처리를 모델 패키지의 일부로 제공할 수도 있고, 같은 기능을 서비스 개발자가 바깥에서 구현할 수도 있습니다. ‘모델’이라는 말이 구조만 뜻하는지, 학습된 가중치와 실행 코드까지 포함하는지도 문맥에 따라 달라집니다.

법과 표준에서 사용하는 AI 시스템의 정의, 개발자가 말하는 시스템, 사용자가 부르는 AI 서비스도 정확히 같은 범위를 가리키지 않을 수 있습니다.

따라서 모든 대화에서 용어를 하나로 고정하기보다 지금 말하는 대상이 학습된 핵심 계산부인지, 실제 목적을 수행하는 전체 제품인지를 확인하는 편이 정확합니다.

그래서 무엇을 기억해야 할까요?

AI를 사용할 때 우리가 직접 만나는 것은 대개 모델 원본이 아니라 모델이 들어간 시스템입니다.

모델은 결과를 만드는 핵심 계산부입니다. 하지만 모델이 어떤 지침을 받고, 어떤 자료를 검색하며, 어떤 도구와 권한을 가지고, 결과를 어떤 방식으로 보여주는지는 시스템이 결정합니다.

이 구분은 단순한 용어 정리가 아닙니다.

AI가 최신 정보를 어디에서 가져왔는지, 왜 같은 모델을 쓴 서비스가 서로 다르게 답하는지, 오류가 났을 때 무엇을 고쳐야 하는지, 실제 행동의 책임을 어디에서 확인해야 하는지를 판단하는 기준이 됩니다.

DECHIVE에서는 이렇게 기억하면 충분합니다.

모델은 답을 계산하는 핵심이고, 시스템은 그 답이 만들어지고 사용되고 실행되는 전체 과정입니다.

다음에 AI 서비스가 새로운 기능을 발표하면 모델 이름만 보지 마세요.

무슨 모델을 썼는지와 함께, 그 모델 주변에 무엇을 연결했는지를 보면 실제 변화가 훨씬 또렷하게 보입니다.

확인한 자료

1. European Commission AI Act Service Desk — What distinguishes an AI model from an AI system?
2. OECD — Explanatory memorandum on the updated OECD definition of an AI system
3. NIST — Artificial Intelligence Risk Management Framework 1.0
4. Google for Developers — What is Machine Learning?
5. OpenAI — Model Spec
6. OpenAI Help Center — ChatGPT Capabilities Overview
7. OpenAI Help Center — Memory in ChatGPT
8. OpenAI API — Using tools
9. OpenAI — Introducing ChatGPT
10. OpenAI Help Center — ChatGPT Release Notes