ChatGPT 등장 배경 및 LLM 이해 정리

📑 목차

1. ChatGPT 등장 배경 (AI 발전 흐름)
   • 1-1. 규칙 기반 인공지능 (1950년대)
   • 1-2. 머신러닝의 등장 (1980년대)
   • 1-3. 딥러닝의 발전 (2010년대)
   • 1-4. 트랜스포머 모델 등장 (2017년)
   • 1-5. ChatGPT의 등장 (2022년)
2. LLM의 이해
   • 2-1. 머신러닝 (Machine Learning)
   • 2-2. 딥러닝 (Deep Learning)
   • 2-3. 언어 모델 (Language Model)
   • 2-4. LLM의 정의와 구조 (Large Language Model)
   • 2-5. LLM의 언어 이해 방식
   • 2-6. LLM의 텍스트 생성 방식
   • 2-7. LLM의 한계: 텍스트 길이 제한
3. LLM의 학습 원리
   • 3-1. 모델을 업데이트하는 방법
   • 3-2. 모델 업데이트 없이 LLM을 활용하는 방법
   • 3-3. 학습되지 않은 데이터에 대한 대응
   • 3-4. 추론 기법과 Reasoning 방식
   • 3-5. 소형 LLM (sLLM)
   • 3-6. 멀티모달 모델 (Multimodal Model)

---

1. ChatGPT 등장 배경 (AI 발전 흐름)

1-1. 규칙 기반 인공지능 (1950년대)

• 사람이 모든 규칙을 직접 정의
• 논리 예시: A = B, B = C → A = C
• 장점: 명확한 논리
• 한계: 규칙 폭증, 예외 처리 불가

---

1-2. 머신러닝의 등장 (1980년대)

• 데이터로 규칙을 학습
• 통계·확률 기반 모델
• 한계: 특징(feature)은 사람이 설계

---

1-3. 딥러닝의 발전 (2010년대)

• 다층 신경망 기반
• 특징 자동 추출
• 이미지·음성 인식에서 혁신

---

1-4. 트랜스포머 모델 등장 (2017년)

• Attention 기반 문맥 동시 처리
• NLP 성능 도약

---

1-5. ChatGPT의 등장 (2022년)

• GPT 기반 대규모 언어 모델
• 자연스러운 대화 및 API 생태계 확산

---

2. LLM의 이해

2-1. 머신러닝 (Machine Learning)

• 데이터 기반 패턴 학습 및 예측

2-2. 딥러닝 (Deep Learning)

• 다층 신경망을 통한 특징 자동 학습

2-3. 언어 모델 (Language Model)

• 다음 단어의 확률을 예측하여 문장 생성

2-4. LLM의 정의와 구조 (Large Language Model)

• 초대형 파라미터를 가진 언어 모델
• 모델 + 연산(GPU/TPU) + 데이터의 결합

2-5. LLM의 언어 이해 방식

• 토큰화 → 임베딩 → 위치 정보 반영

2-6. LLM의 텍스트 생성 방식

• Self-Attention 기반 다음 단어 예측
• Top-k / Top-p, Temperature 등 사용

2-7. LLM의 한계: 텍스트 길이 제한

• 콘텍스트 윈도우 한계
• 분할·요약·대형 컨텍스트 모델로 보완

---

3. LLM의 학습 원리

3-1. 모델을 업데이트하는 방법

3-1-1. 사전 학습 (Pre-training) : 데이터의 범용성

• 방대한 텍스트 데이터를 통해 언어의 기본 구조와 패턴 학습
• 대규모 데이터 수집 후 정제 과정 필수
• 문맥 이해 및 일반적인 텍스트 생성 능력 확보

3-1-2. 파인튜닝 (Fine-tuning) : 데이터의 전문성

• 특정 도메인이나 작업에 맞게 추가 학습
• 예: 번역(출발–도착 문장), 질의응답(Q&A)
• 모델 전체 또는 일부 파라미터만 업데이트 가능

인간의 지시를 더 잘 이해하기 위한 보완 방법: 인스트럭션 튜닝, RLHF

3-1-3. 인스트럭션 튜닝 (Instruction Tuning)

• 다양한 사용자 지시에 적절히 응답하도록 학습
• 파인튜닝과의 차이
  • 파인튜닝: 특정 작업 중심
  • 인스트럭션 튜닝: 다양한 작업 전반

3-1-4. RLHF (Reinforcement Learning from Human Feedback)

• 인간 피드백을 활용한 강화 학습
• 답변 순위 → 보상 모델 생성 → 강화 학습 적용
• 사람이 선호하는 응답에 가까워짐

---

3-2. 모델 업데이트 없이 LLM을 빠르게 활용하는 방법

3-2-1. 인콘텍스트 러닝 (In-Context Learning)

• 사용자가 제공한 프롬프트 맥락을 통해 즉석 학습
• 프롬프트: 지시, 정보, 예시 포함 입력
• Few-shot Learning: 예시를 통해 패턴 학습
• Zero-shot Learning: 예시 없이 지시만으로 수행

---

3-3. 학습되지 않은 데이터에 대한 대응

3-3-1. 파인튜닝의 한계

• 일부 파라미터만 학습 가능
• 지식이 자주 변하는 경우 비효율적

3-3-2. RAG (Retrieval-Augmented Generation)

• 외부 데이터를 검색하여 생성에 활용
• 임베딩 기반으로 질문과 가장 유사한 정보 검색

---

3-4. 추론 기법과 Reasoning 방식

3-4-1. 생각의 사슬 (Chain of Thought, CoT)

• 단계적 사고 과정을 통해 정답 도출 확률 향상
• 내부적으로 여러 단계의 추론을 수행

---

3-5. 소형 LLM (sLLM)

• 파라미터 수를 줄인 경량 모델
• LLM: 수백억~조 단위 파라미터
• sLLM: 수십억 이하 파라미터
• 장점: 저비용, 온디바이스·폐쇄망 환경 활용 가능

---

3-6. 멀티모달 모델 (Multimodal Model)

• 텍스트, 이미지, 음성, 영상 등 다양한 데이터 처리
• 예: 이미지 설명, 그림 생성, 음성 대화

---

한 줄 요약

LLM은 대규모 데이터와 연산을 기반으로 사전 학습·미세 조정·추론 기법을 결합해 인간 수준의 언어 이해와 생성을 수행하는 인공지능 모델