Llama 2: 오픈소스 LLM의 새 시대
2023년 7월, Meta가 Llama 2를 상업적 사용이 가능한 오픈소스 라이선스로 공개했습니다. 이는 AI 생태계에 근본적인 변화를 가져온 사건입니다.
Llama 2의 특징
- 모델 크기: 7B, 13B, 70B 파라미터 3종
- 라이선스: 상업적 사용 가능 (월 7억 MAU 이하)
- RLHF 적용: 100만 건의 인간 어노테이션으로 alignment
- 컨텍스트 길이: 4,096 토큰
생태계 영향
Llama 2 공개 후 수주 만에 수백 개의 파생 모델과 도구가 등장했습니다:
- Fine-tuning 프레임워크: QLoRA, PEFT로 누구나 맞춤 모델 생성
- 추론 최적화: llama.cpp로 CPU에서도 실행 가능
- 한국어 모델: 한국어 데이터로 fine-tuning한 커뮤니티 모델 다수 등장
의미
OpenAI의 폐쇄형 모델과 Meta의 오픈소스 모델 사이의 경쟁이 본격화되었습니다. 기업들은 이제 자체 호스팅 가능한 LLM 옵션을 갖게 되었습니다.