딥시크 모델, KV 캐시 압축 시 특정 위치 정보 유실 취약점 발견

요약

딥시크가 긴 문맥 처리를 위해 사용하는 메모리 절약 기술에서 '위상 민감도(Phase Sensitivity)'로 인한 성능 저하 문제가 발견됐다. 바이트댄스와 프린스턴대 등 공동 연구진의 논문에 따르면, 이 기술은 입력 정보를 압축할 때 문서 내 정보 위치에 따라 검색 정확도가 크게 달라지는 것으로 나타났다. 평균적인 벤치마크 점수가 높더라도 특정 위치의 정보를 제대로 식별하지 못하는 '주기적 약점'이 발생할 수 있다는 지적이다. 이는 청크 단위의 KV 캐시 압축 과정에서 발생하는 구조적 한계로, 고성능 AI 모델의 신뢰성에 영향을 미칠 수 있다. 실무자들은 대규모 컨텍스트 처리 시 정보 검색 정확도에 편차가 발생할 수 있음을 인지하고 대응책을 마련해야 한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.