LLM 기초 구조 학습 돕는 'Language Model Builder' 오픈소스 공개

요약

Anthropic의 Felix Rieseberg가 사용자가 직접 거대언어모델(LLM)을 구축할 수 있도록 돕는 무료 Mac 앱 'Language Model Builder'를 공개했다. 이 도구는 기본 설정 사용 시 하루 만에 일관성 있고 문법적인 문장을 작성하는 모델을 생성할 수 있도록 설계되었다. MacBook Pro M5 Max 기기 기준, 약 1억~1억 5천만 개의 파라미터를 가진 GPT-2-small급 모델을 수십억 개의 토큰으로 학습시키는 데 약 일주일이 소요된다. 단, 개발자는 이 도구가 Claude 3.5 Sonnet이나 GPT-4o 같은 최신 대규모 모델을 생성하기 위한 용도가 아님을 분명히 했다. 현재 이 프로젝트는 Reddit의 r/LocalLLaMA 커뮤니티에서 높은 관심을 받고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.