LLM 만들기

대규모 언어 모델(LLM)의 구조와 동작 원리를 이해하고, 작은 언어 모델을 직접 만들어보는 실습 프로그램입니다.

최근의 AI는 어떻게 문장을 이해하고, 추론하며, 답변을 생성할까요? 이 프로그램에서는 언어 모델의 기본 개념부터 토크나이저, 임베딩, 트랜스포머, 학습 과정, 추론 방식까지 LLM을 구성하는 핵심 요소를 차근차근 살펴봅니다. 또한 공개된 오픈소스 모델과 데이터셋을 활용해 작은 언어 모델을 직접 구축하고, 프롬프트 설계와 파인튜닝, 모델 평가 등 실제 AI 개발 과정도 함께 경험합니다.

프로그램은 강의와 실습을 병행하며 진행됩니다. AI를 사용하는 것을 넘어 직접 만들어보고 싶은 개발자, 학생, 연구자, 그리고 언어 모델의 내부 구조를 깊이 이해하고 싶은 누구나 참여할 수 있습니다.