온콜(On-call) AI 에이전트를 위한 장기 기억(Long-term Memory) 설계 사례

요약

Reddit의 LLMDevs 커뮤니티에 SRE를 위한 'Déjà Vu' 에이전트가 공개되었습니다. Déjà Vu는 과거 사고 이력을 기억하여 대응 정확도를 높이는 모델로, 단순 재시작 제안 비율은 31%에서 97%까지 개선되는 성과를 보였습니다. 특히 과거와 유사한 사고를 식별하고 차이점을 구별하는 능력을 갖췄으며, 사고 발생 시 어떤 엔지니어가 대응했는지와 소요 시간까지 추적할 수 있습니다. 22건의 사고를 대상으로 한 블라인드 테스트 결과, 초기 대응 성공률은 33%에서 83%로 크게 향상되었습니다. 현재 데모 페이지와 소스 코드는 베르셀(Vercel)과 깃허브(GitHub)를 통해 공개된 상태입니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.