MIT, AI 모델 간 정보 공유 기술 '스웜 텔레파시' 공개

요약

MIT CSAIL과 MIT-IBM 컴퓨팅 연구소 연구진이 AI 모델 간 텍스트 교환 없이 내부 계산 정보를 직접 공유하는 '스웜 텔레파시(SwaT)' 기술을 개발했다. 이 기술은 서로 다른 기업이 만든 모델 간에도 호환되며, 기존의 텍스트 기반 소통 방식보다 평균 정확도를 40% 향상했다. 또한, 내부 정보를 직접 전달하는 방식을 통해 데이터 처리 속도를 4배 단축하는 성과를 거뒀다. 연구진은 해당 기술을 모델 계열 간 프리필(prefill) 없는 KV 캐시 전송 방식으로 구현했다. 이번 연구는 AI 모델 효율성을 극대화할 수 있는 새로운 협업 모델을 제시했다는 점에서 의미가 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.