참고Reddit
Qwen3.5(큐원 3.5)-4B에 x86 컴퓨터를 내장한 'Qwenx86' 모델 공개
모델 가중치에 컴파일된 컴퓨터를 포함시켜 도구 실행 효율을 극대화한 실험적 연구. 새로운 추론 아키텍처 사례.
요약
Qwen3.5-4B 모델에 64비트 x86 컴퓨터를 내장한 새로운 형태의 모델 'Qwenx86'이 공개되었다. 이 모델은 Qwen 모델 자체의 레이어 외에 13개의 트랜스포머 레이어를 추가했으며, 여기에는 학습된 가중치 대신 컴파일러를 통해 계산된 로직이 포함되어 있다. Qwen은 '<tool_call>' 기능을 활용해 내장된 컴퓨터를 호출하며, 이를 통해 계산기, Python 인터프리터, C 컴파일러, 메모 저장, 물리/화학 정보 검색 등 다양한 도구를 실행한다. 모든 연산 과정은 디버거를 통해 레지스터, 플래그, 메모리 상태 등 타임라인 기반으로 상세히 확인할 수 있다. 해당 모델은 약 9GB의 GPU 메모리를 점유하여 16GB GPU 환경에서 구동 가능하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Qwen3.5-4B with a 64-bit x86 computer compiled into its weights
원문 보기 ↗