참고팁X
실시간 채팅 자동화 모델 'Sage2' 공개
전체 기록 재독해 없이 스트림 데이터를 구조화해 실시간으로 의사결정하는 파이프라인. 실시간 상담 에이전트 구축에 유용함.
요약
Levanto Labs가 Jev의 한계를 보완한 실시간 대화 자동화 모델 'Sage2'를 공개했다. 기존 Jev는 고정된 입력값에 대해 질문에 답변하는 방식이라 실시간 채팅 시 전체 대화 내용을 매번 다시 읽어야 하는 비효율이 존재했다. Sage2는 추출 모델과 의사결정 모델을 결합해 실시간 스트림에서 바로 작동하며, 새로운 메시지가 들어올 때마다 대화 전체를 다시 읽지 않아도 된다. 추출 단계에서 새로운 메시지를 150ms 내에 구조화된 필드로 변환하고, 의사결정 모델이 이를 즉시 분석하여 답변을 도출한다. 결과적으로 원시 텍스트에서 액션까지의 전체 루프가 약 200ms 만에 완료되어 실시간 대화 환경에서 즉각적인 자동화가 가능하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @_avichawla: Another big breakthrough after Jev! Jev answers a fixed question over a fixed input, so a live chat requires re-reading the full t
원문 보기 ↗