리퀴드 AI, 실시간 추론 엔진 'RIPL' 공개… 응답 지연 50ms 미만 겨냥

요약

리퀴드 AI가 검색과 결제 등 실시간 업무 환경에서의 AI 활용을 지원하기 위해 추론 속도를 극대화한 엔진 'RIPL(Real-time Inference Pipeline)'을 22일(현지시간) 출시했다. 기존 대형언어모델(LLM)이 가진 응답 지연 문제를 해결해, 그동안 고전적 머신러닝 기법이 주로 쓰이던 분야에 LLM 도입을 가속화하는 것이 목표다. 이 엔진은 응답 지연 시간을 50ms 미만으로 단축하는 것을 지향하며, 실제 실시간 추론 효율을 높이는 데 초점을 맞췄다. RIPL은 기업 고객을 위한 전용 상용 제품으로 제공되며, 상세 가격 정보는 리퀴드 AI 영업팀을 통해 문의해야 한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.