🎯
Fine-tuning
사전학습 모델을 특정 태스크에 맞게 재학습
Fine-tuning은 이미 범용 지식을 갖춘 Pre-trained 모델을 특정 목적에 맞게 조정하는 학습 방법입니다. 전체 가중치를 업데이트하는 Full Fine-tuning과, 일부 계층만 업데이트하는 방법이 있습니다. 핵심 원리는 전이 학습(Transfer Learning)입니다. Pre-training에서 습득한 언어 이해 능력을 유지하면서, 새로운 도메인의 패턴을 추가로 학습합니다. 예를 들어, 의료 논문 데이터로 Fine-tuning하면 의료 전문 모델이 되고, 법률 문서로 하면 법률 전문 모델이 됩니다. 학습률(learning rate)을 Pre-training보다 훨씬 낮게 설정하여 기존 지식을 파괴하지 않는 것이 중요합니다.
핵심 개념
1
Pre-trained Base Model 선택 (GPT, LLaMA, Mistral 등)
2
태스크별 학습 데이터 준비 (입력-출력 쌍, 수천~수만 건)
3
학습률을 낮게 설정 (1e-5 ~ 5e-5, Pre-training 대비 10~100배 작게)
4
태스크 데이터로 가중치 업데이트 — 기존 지식 유지하면서 새 패턴 학습
5
검증 데이터로 과적합 체크 (Early Stopping)
6
평가 지표로 성능 확인 (정확도, F1, BLEU 등)
장점
- ✓ Pre-training 대비 훨씬 적은 데이터/비용으로 전문화
- ✓ 도메인 특화 성능 대폭 향상
- ✓ 기존 범용 지식은 유지
- ✓ 오픈소스 Base Model 활용 가능
단점
- ✗ 고품질 학습 데이터 필요
- ✗ Catastrophic Forgetting — 기존 능력 저하 위험
- ✗ 하이퍼파라미터 튜닝 필요
- ✗ Full Fine-tuning은 GPU 메모리 많이 필요
사용 사례
의료/법률/금융 전문 모델
Instruction Following (지시 따르기 학습)
감정 분석 모델
코드 생성 전문 모델
특정 언어 강화 (일본어, 한국어 등)