참고팁Reddit
Go 기반 에이전트 프레임워크 'indecis' 공개…Doom 게임 내 의사결정 10ms 구현
작은 텍스트 인코더와 Go 언어 최적화를 통해 로컬 CPU에서 극강의 추론 속도를 확보한 기술적 실사례.
요약
최근 Reddit LLMDevs에서 CPU 환경에서만 구동되는 Doom 플레이 모델이 화제가 되고 있다. 이 모델은 Go 라이브러리인 'indecis'를 기반으로 하며, 작은 텍스트 인코더를 학습시켜 10ms의 중앙값 지연 시간으로 의사결정을 수행한다. ViZDoom의 'defend_the_center' 시나리오에서 20회 테스트한 결과, 평균 21.8점을 기록하며 기존 스크립트 봇과 유사한 성능을 보였다. 해당 모델은 노트북에서 11분 만에 학습되었으며, 메모리 사용량은 약 65MB 수준이다. 특히 SIMD 최적화를 적용했을 때와 그렇지 않았을 때의 성능 차이가 극명해, 추론 속도가 모델 효율성에 핵심적임을 입증했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Jev takes 70 to 500 ms to decide what to do in Doom. My model takes 10 ms, on a single CPU core
원문 보기 ↗