참고HF Blog
Baseten, Hugging Face 추론 제공업체 합류
Hugging Face 환경에서 DeepSeek, Kimi 등 주요 오픈 모델을 쉽게 배포할 수 있는 인프라 선택지가 확장되었습니다.
요약
AI 인프라 플랫폼인 Baseten이 허깅페이스(Hugging Face) 허브의 공식 추론 제공업체(Inference Provider)로 합류했다. 이번 통합을 통해 허깅페이스 모델 페이지에서 Baseten의 서버리스 추론 기능을 바로 이용할 수 있으며, 허깅페이스 SDK(Python 1.26.1 이상 및 JavaScript)를 통해 원활한 연동이 가능하다. 초기 지원 작업은 대화 및 텍스트 생성으로, Kimi K3, DeepSeek V4 Flash, GLM-5.2 등 다양한 오픈 웨이트 LLM 모델을 활용할 수 있다. 개발자는 최소한의 설정만으로 Baseten의 AI 기능을 애플리케이션에 통합할 수 있다. 향후 Baseten은 지원 가능한 작업 범위를 점진적으로 확대할 계획이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Baseten on Hugging Face Inference Providers 🔥
원문 보기 ↗