STEP 1 - LLM이란, 무엇인가

LLM이란 무엇인가 - AI 안에서 LLM의 위치 이해하기

요즘 "AI"라는 말과 "LLM"이라는 말이 거의 같은 의미처럼 쓰이는 경우가 많습니다. 하지만 두 개념은 크기부터 다릅니다. 앞으로 RAG를 이해하려면 먼저 LLM이 AI라는 큰 그림 안에서 정확히 어느 위치에 있는지부터 짚고 넘어가야 합니다.

1. AI, 머신러닝, 딥러닝, LLM의 관계

AI는 가장 큰 범주고, 그 안에 머신러닝이 있고, 머신러닝 안에 딥러닝이 있고, 딥러닝 안에 LLM이 있는 포함 관계입니다.
AI (인공지능)
└ Machine Learning (머신러닝)
└ Deep Learning (딥러닝)
└ LLM (거대 언어 모델)

구분	정의	예시
AI	사람처럼 판단하도록 만든 모든 기술의 총칭	규칙 기반 챗봇, 게임 NPC, LLM 등 전부 포함
Machine Learning	데이터를 보고 스스로 규칙(패턴)을 찾아내는 방식	스팸 메일 분류, 추천 시스템
Deep Learning	인공신경망을 겹겹이 쌓아 복잡한 패턴을 학습하는 방식	이미지 인식, 음성 인식
LLM	방대한 텍스트로 학습된, 언어를 다루는 딥러닝 모델	ChatGPT, Claude, Gemini

즉 "AI를 쓴다"는 표현은 사실 굉장히 넓은 의미고, 우리가 실무에서 다루려는 건 그중에서도 텍스트에 특화된 딥러닝 모델인 LLM입니다.

2. 예전 AI(규칙 기반)와 LLM은 무엇이 다른가

과거의 AI, 예를 들어 초창기 챗봇은 사람이 미리 정해둔 규칙에 따라 움직였습니다. "환불"이라는 단어가 들어오면 정해진 답변을 출력하는 식입니다.
[사용자] 환불하고 싶어요
[규칙 기반 챗봇] '환불' 키워드 감지 → 미리 정해둔 답변 출력
→ "환불 절차는 다음과 같습니다..."

이 방식은 미리 정의하지 않은 표현이 들어오면 바로 한계가 드러납니다. "이거 취소하고 돈 돌려받고 싶은데요"라고 하면 '환불'이라는 단어가 없으니 규칙에 걸리지 않고 엉뚱한 답이 나갑니다.

LLM은 이 방식과 근본적으로 다릅니다. 규칙을 사람이 짜 넣는 게 아니라, 방대한 텍스트를 학습하면서 언어의 패턴 자체를 스스로 익힙니다. 그래서 "환불"이라는 단어가 없어도 문맥상 같은 의미라는 걸 이해하고 답할 수 있습니다.

3. LLM은 어떻게 언어를 익히는가 - 사람과 비교

사람이 언어를 배우는 과정과 비교하면 이해가 쉽습니다. 아이가 수많은 문장을 반복해서 듣고 읽으면서 "이런 상황에서는 보통 이런 말이 이어지는구나"라는 감각을 자연스럽게 익히는 것처럼, LLM도 인터넷에 있는 방대한 텍스트(책, 뉴스, 코드, 위키 등)를 학습하면서 "이 단어 다음에는 보통 이런 단어가 온다"는 확률적 패턴을 익힙니다.
사람: 수많은 대화와 글을 접하며 언어 감각을 체득
LLM : 수십억 개의 문장을 학습하며 단어 간 확률적 연결 패턴을 학습

이 학습을 마친 LLM에게 질문을 던지면, 모델은 저장된 정답을 "검색"하는 게 아니라 학습한 패턴을 바탕으로 가장 자연스러운 다음 단어를 순서대로 이어 붙여 답변을 만들어냅니다.

4. 정리

• AI는 가장 큰 개념이고, LLM은 그 안에서 텍스트를 다루는 딥러닝 모델의 한 종류입니다.
• 예전 AI(규칙 기반)는 사람이 정한 규칙대로만 움직였지만, LLM은 방대한 텍스트를 학습해 언어 패턴 자체를 스스로 익혔다는 점이 근본적으로 다릅니다.
• LLM은 정답을 찾아오는 게 아니라, 학습한 패턴을 바탕으로 가장 그럴듯한 문장을 생성하는 방식으로 동작합니다.

이 "패턴 기반으로 답을 생성한다"는 특성이 다음 글에서 다룰 LLM의 한계, 즉 Hallucination과 Knowledge Cutoff 문제로 바로 이어집니다.