참고Reddit
[R] LLM 내부 상태를 외부 파일로 저장·재현하는 'Silicon Hippocampus' 실험
모델의 의사결정 상태를 외부로 저장하고 로드하는 연구. LLM의 기억 관리 및 인지 구조 연구에 참고할 만한 실험.
요약
AkbasCore Silicon Hippocampus 프로젝트는 Qwen2.5-72B 모델이 경험한 행동과 결과를 텍스트가 아닌 고유한 내부 수치 상태로 파일에 기록하는 TEST878 실험을 완료했다. 실험 결과, 이 수치 파일을 다시 불러오면 해당 경험을 직접 겪지 않은 모델의 의사결정 상태가 실시간으로 변화하는 현상이 확인되었다. 이번 실험은 단일 A100 GPU 환경에서 두 차례 진행되었으며, 양측 모두 정확히 동일한 수치 결과를 도출하여 재현성을 입증했다. 연구진은 실험 코드와 33페이지 분량의 기술 논문, GPU 로그를 Zenodo에 공개했다. 이는 AI가 언어적 설명이 아닌 경험적 수치 상태를 통해 학습하고 판단을 변경할 수 있는 가능성을 제시하는 중요한 연구 사례이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 AkbasCore Silicon Hippocampus (TEST878): A frozen 72B model writes a lived experience to disk as its own internal state, not as text, and when the experience is reloaded it changes the model's decision in a state that never lived it
원문 보기 ↗