중요X
Perplexity(퍼플렉시티), 모델 자동 라우팅 API 'Orchestrator' 공개
오픈웨이트·상용 모델을 단일 API·통합 과금으로. 멀티모델 운영 중이라면 라우팅 비용 절감 검토 가치.
요약
Perplexity AI가 작업별 최적의 모델을 선택하고 관리할 수 있는 Perplexity Orchestrator API를 출시했다. Orchestrator는 가용성, 처리 용량, 지연 시간(latency)을 분석하여 최적의 모델 제공자를 자동으로 선정한다. 이번 API를 통해 오픈 가중치 모델과 독점 모델 모두를 단일 API 인터페이스에서 통합적으로 사용할 수 있다. 모든 모델에 대해 통합 결제 시스템이 적용되어 관리 편의성을 높였다. 실무자는 이 도구를 활용해 프로젝트 성격에 맞춰 다양한 AI 모델을 효율적으로 교차 사용할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @perplexity_ai: Introducing the Perplexity Orchestrator API. Orchestrator lets you choose the right model for the right task, and automatically se
원문 보기 ↗