참고Reddit
Qwen2.5(큐원 2.5)-7B 적용 'AkbasCore MAM' 아키텍처: 모델 가중치 변경 없는 영구 기억 기술
파인튜닝이나 RAG 없이 모델에 외부 지식을 주입하는 새로운 실험적 아키텍처 사례로 기술적 주목 가치가 있음.
요약
AkbasCore MAM 아키텍처가 Mistral-7B에 이어 Qwen2.5-7B-Instruct 모델에서도 성공적으로 작동함을 입증했다. 이 방식은 파라미터 가중치를 전혀 변경하지 않는 완전 동결 상태에서 외부 카트리지를 통해 영구적인 메모리 기능을 제공한다. 별도의 미세 조정(Fine-tuning), RAG(검색 증강 생성), 데이터베이스 조회 없이도 정보 처리가 가능하다는 점이 핵심이다. 검증 결과, 소스 텍스트 없이 질문에 대해 72개 문항 중 72개를 모두 정확하게 답변하는 성능을 보였다. 이는 특정 모델에 국한되지 않고 다양한 LLM 패밀리로 아키텍처 확장이 가능함을 시사한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 AkbasCore MAM now runs on a second AI: frozen Qwen2.5-7B gets permanent memory from plugged-in cartridges. No fine-tuning, no RAG, no source text, no weight changes. 72/72. Open-source demo.
원문 보기 ↗