중요AI타임스
KT, AI 모델 500개 통합한 '토큰팩토리' 출시…토큰 최대 25% 절감
국내외 모델을 한 곳에서 선택·결제, 오토 라우터로 비용 최적화. 멀티모델 운영 시 검토 가치.
요약
KT가 오는 30일 국내외 500개 이상의 AI 모델을 한곳에서 관리하고 활용할 수 있는 기업용 통합 플랫폼 'KT 토큰팩토리'를 출시한다. 지난 7월 박윤영 대표 취임 이후 4개월 만에 상용화된 이 서비스는 기업의 AX 전환을 지원하는 핵심 신사업으로 육성될 계획이다. KT가 자체 개발한 '오토 모델 라우터' 기능은 질문의 난이도와 유형, 비용 등을 분석해 최적의 AI 모델을 자동으로 선택해주어 업무 효율을 높인다. 특히 한국어 특성을 반영한 프롬프트 압축 기술 등을 통해 토큰 사용량을 최대 25%까지 절감할 수 있는 것이 강점이다. 기업 고객은 여러 AI 모델을 개별적으로 계약할 필요 없이 플랫폼 내에서 선택 및 결제를 통합 관리할 수 있어 비용과 운영 부담을 크게 줄일 것으로 기대된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 KT, AI 모델 500개 통합 ‘토큰팩토리’ 출시…토큰 최대 25% 절감
원문 보기 ↗