시즌 2-3편. AI 에이전트, LLM, 챗봇의 차이를 진짜 쉬운 말로 정리해봤다

지난 두 편에서 skill.md와 나만의 GPT, 그리고 에이전트를 다루면서 눈치채신 분도 계실 겁니다. 우리가 계속 얘기하는 이 'AI 에이전트'라는 게, 예전부터 있던 '챗봇'이나 요즘 자주 나오는 'LLM'과 뭐가 다르지? 라는 궁금증 말입니다.

저도 처음에는 이 셋을 자주 혼동했습니다. 뉴스에서는 'ChatGPT는 LLM이다'라고 하고, 어떤 글에서는 '챗봇의 진화다'라고 하고, 요즘은 '에이전트 시대'라고 합니다. 도대체 뭐가 뭘까요?

오늘은 이 세 단어의 차이를 진짜 쉬운 말로 정리해보겠습니다.

🎬 한 문장 요약부터

• LLM(대규모 언어 모델) = 말과 글을 아주 잘 다루는 엔진
• 챗봇 = 그 엔진에 대화창을 붙여둔 완성품
• AI 에이전트 = 그 엔진에 손발과 판단력을 붙인 일꾼

셋은 서로 다른 것이 아니라, 같은 뿌리에서 점점 확장되는 관계입니다.

🚗 자동차 비유로 이해해보기

가장 직관적인 비유는 자동차입니다.

• LLM = 자동차의 엔진
• 챗봇 = 엔진에 핸들과 좌석을 붙인 일반 승용차
• AI 에이전트 = 승용차에 자율주행, GPS, 배송 기능까지 붙인 자율주행 택배 차량

엔진(LLM)만 있으면 힘은 있는데 사람이 탈 수 없습니다. 차(챗봇)가 있어야 사람이 타서 원하는 대로 몰 수 있죠. 그리고 자율주행 택배 차량(에이전트)이 되면, 목적지만 알려주면 알아서 물건을 배송하고 옵니다.

이제 하나씩 살펴보겠습니다.

🧠 LLM: 말과 글을 다루는 엔진

**LLM(Large Language Model)**은 '대규모 언어 모델'을 뜻합니다. 말 그대로 언어를 다루는 아주 큰 인공지능 모델입니다. GPT-4, Claude, Gemini 같은 이름들이 다 LLM입니다.

LLM이 하는 일은 딱 하나입니다. 다음에 올 말을 예측하는 것. 굉장히 단순해 보이지만, 이 능력을 극한까지 끌어올리면 놀라운 일들이 벌어집니다. 문장을 이어 쓸 수 있고, 질문에 답할 수 있고, 코드를 짜고, 번역을 하고, 요약을 합니다.

LLM의 특징

• 날것 그대로는 사용하기 어렵다: LLM은 API 형태로 존재합니다. 개발자가 코드로 불러 써야 합니다
• 대화창이 없다: 화면도 인터페이스도 없습니다. 그냥 '입력을 넣으면 출력을 뱉는 함수'에 가깝습니다
• 하지만 힘의 원천이다: 챗봇도 에이전트도 결국 이 엔진 없이는 안 움직입니다

일반 사용자는 LLM을 직접 만질 일이 거의 없습니다. 우리가 만나는 건 이 엔진을 감싼 완성품이죠.

💬 챗봇: 엔진에 대화창을 붙인 완성품

챗봇은 LLM 엔진에 대화 인터페이스를 붙여 사람이 쓸 수 있게 만든 완성품입니다. 우리가 매일 쓰는 ChatGPT, Claude 앱, Gemini 앱이 다 챗봇입니다.

챗봇의 핵심은 '주고받는 대화'입니다.

• 사용자가 질문 → 챗봇이 답변 → 사용자가 다시 질문 → 챗봇이 다시 답변

이 왕복이 자연스럽게 이어지도록 UI가 잘 짜여 있습니다. 대화 이력도 저장되고, 파일을 첨부할 수도 있고, 이미지도 붙일 수 있습니다.

챗봇의 한계

챗봇의 결정적인 한계는 이겁니다. 답만 한다. 실제 실행은 사람이 해야 합니다.

예를 들어 "다음 주 도쿄 여행 항공권을 찾아서 정리해줘"라고 하면, 챗봇은 "이런 사이트에서 찾아보세요"라고 안내하거나, 자기가 아는 정보로 답합니다. 하지만 실제로 항공권 사이트를 열어서 검색하고 결과를 표로 만드는 건 사용자가 이어서 해야 합니다.

이 한계를 넘기 위해 등장한 게 다음 단계입니다.

🤖 AI 에이전트: 손발과 판단력을 붙인 일꾼

AI 에이전트는 챗봇에 세 가지가 추가된 형태입니다.

• 도구(Tools): 웹 검색, 파일 읽기/쓰기, 코드 실행, 브라우저 조작 같은 '손발'
• 기억(Memory): 지금까지 뭘 했는지 기록하고 참고하는 '단기 기억'
• 판단 루프: '다음에 뭘 할지'를 스스로 결정하고 실행하는 '두뇌 회로'

지난 1편에서 봤던 아키텍처 그림이 바로 이 구조입니다.

에이전트에게 "도쿄 여행 항공권 정리해줘"를 부탁하면:

1. 계획을 세운다: '먼저 검색 사이트를 열고, 3개 항공사를 비교하고, 표로 정리한다'
2. 도구를 실행한다: 실제로 브라우저를 열고 검색
3. 결과를 기록한다: 찾은 정보를 임시로 저장
4. 결과물을 만든다: 표로 정리해서 파일로 넘김

챗봇이 안내자라면, 에이전트는 대신 뛰어주는 조수입니다.

📊 세 개념 한눈에 비교

항목 LLM 챗봇 AI 에이전트

정체	언어 엔진	엔진 + 대화창	엔진 + 도구 + 판단
비유	자동차 엔진	일반 승용차	자율주행 택배 차량
누가 쓰나	개발자 (API)	일반 사용자	일반 사용자
주된 결과	텍스트 조각	대화 응답	실제 작업 완료
한계	인터페이스 없음	실행 못 함	크레딧/시간 소모 큼
예시	GPT-4, Claude, Gemini	ChatGPT, Claude 앱	ChatGPT Agent Mode, Manus

🧭 뉴스를 읽을 때 이 구분이 쓰이는 순간

이 세 단어를 구분할 줄 알면 뉴스 읽기가 훨씬 편해집니다.

• "GPT-5가 발표됐다" → LLM 자체의 업그레이드. 엔진이 더 강력해진 것
• "ChatGPT에 새 기능이 추가됐다" → 챗봇 완성품 개선. 인터페이스와 편의 기능이 좋아진 것
• "에이전트 시대가 온다" → 챗봇을 넘어 스스로 일하는 AI로의 전환. 도구와 판단이 붙은 새 시대

같은 회사의 발표라도 어느 층위 얘기인지 구분할 수 있으면, 그 발표가 나한테 어떤 영향을 주는지 훨씬 잘 감이 잡힙니다.

💭 저는 이 순서로 이해했습니다

솔직히 저는 처음에 챗봇부터 만났습니다. ChatGPT를 쓰다가 'LLM'이라는 단어를 보고 '이게 뭐지?' 했고, '에이전트'가 나왔을 때는 '챗봇이랑 뭐가 달라?' 했습니다.

핵심을 잡은 순간은 이 문장을 만났을 때였습니다.

챗봇은 대답한다. 에이전트는 실행한다.

이 한 문장으로 정리되니, 그 뒤에 나오는 다른 개념들도 다 자리를 잡더라고요. AutoGPT, Devin, Manus, ChatGPT Agent — 다 '실행하는 AI'라는 큰 카테고리 안의 다른 브랜드들이었습니다.

🎯 Technical Writer와 DevRel 관점에서

문서를 쓰는 사람 입장에서 이 구분은 특히 중요합니다. 왜냐하면 문서에 이 단어들이 자주 등장하고, 잘못 쓰면 독자가 헷갈리기 때문입니다.

• "우리 제품에 LLM을 붙였다"라고 쓰면 개발자용 API 얘기처럼 들립니다
• "우리 제품에 챗봇을 붙였다"라고 쓰면 대화형 기능이라는 뜻이 명확합니다
• "우리 제품에 에이전트를 붙였다"라고 쓰면 사용자를 대신해 뭔가 실행한다는 뜻이 됩니다

같은 기능을 어떻게 부르느냐에 따라 독자의 기대치가 완전히 달라집니다. Technical Writer나 DevRel이 이 감각을 갖고 있으면, 회사 안팎으로 나가는 메시지가 훨씬 정확해집니다.

📌 정리

• LLM = 언어 엔진. 개발자가 API로 부르는 원재료
• 챗봇 = LLM에 대화창을 붙인 완성품. 대답이 주된 역할
• AI 에이전트 = 챗봇에 도구, 기억, 판단을 붙인 실행자. 여러 단계 자동 처리 가능
• 비유: 엔진 → 승용차 → 자율주행 택배 차량
• 핵심 한 문장: 챗봇은 대답한다. 에이전트는 실행한다

다음 글에서는 요즘 자주 들리는 새 개념, **'프롬프트 엔지니어링은 이제 옛말이고 컨텍스트 엔지니어링의 시대'**라는 흐름을 다뤄보겠습니다. 왜 이런 얘기가 나오는지, 뭐가 달라진 건지 정리해볼 예정입니다.

읽어주셔서 감사합니다.

---

TAG: #AI에이전트 #LLM #챗봇 #ChatGPT #Claude #Gemini #DevRel준비 #DocsToDevRel #TechnicalWriter #비전공자 #기초기술개념