래블업, AI 인프라 플랫폼 '백엔드닷AI'에 모델별 비용 관리 추가

요약

래블업이 기존 GPU 자원 관리 플랫폼인 Backend.AI에 이어, 기업용 AI 모델 통합 운영 서비스 '컨티넘'을 새롭게 선보였다. 컨티넘은 여러 부서에서 사용하는 다양한 AI 모델의 토큰 사용량과 비용을 한곳에서 모니터링하고, 업무 특성에 맞춰 모델별 요청을 자동으로 분배해 운영 효율을 극대화한다. 래블업은 이 서비스를 통해 고성능 모델과 경량 모델을 목적에 맞게 배치하고, 외부 네트워크와 분리된 폐쇄망 환경에서도 사용량 집계가 가능하도록 지원한다. 인프라 구축 방식(클라우드, 온프레미스, 하이브리드)에 관계없이 통합 관리를 제공하는 것이 핵심이다. 현재 120여 고객사를 확보한 래블업은 기업의 AI 도입 확대에 맞춰 인프라 자원 관리부터 모델 비용 정산까지 전 과정을 아우르는 솔루션을 강화하고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.