WorldTUI: 터미널 환경을 LLM으로 시뮬레이션하는 360M 모델

요약

개발자가 360M 파라미터 규모의 언어 모델을 파인튜닝해 실제 셸이나 파일 시스템 없이 터미널처럼 동작하는 'WorldTUI'를 개발했다. 이 모델은 사용자 입력에 따라 터미널 화면 변화를 직접 예측하며, 파일 생성, vim 및 tmux 실행, 간단한 게임 구동 등이 가능하다. 모델 학습의 핵심 성공 요인은 스스로 오류를 수정하도록 가르치고 화면 행을 병렬로 디코딩하도록 구현한 점이다. 개발자는 게임 엔진 대신 모델이 입력을 기반으로 다음 화면을 예측하는 방식에서 영감을 얻었으며, 터미널 환경을 데이터 생성의 이점으로 활용했다. 현재 웹브라우저를 통해 데모를 체험할 수 있으며, WebGPU를 지원하는 Chrome이나 Edge 환경에서 최적의 성능을 발휘한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.