추론 제공업체 급증, 빠르게 월 100만 달러 달성…마진 구조 공개

요약

현재 많은 추론 서비스 제공업체가 오픈소스 모델을 활용해 빠르게 월 100만 달러 규모의 매출을 달성하고 있다. 시간당 8달러 수준의 B300 온디맨드 대여 비용 대비, GLM 5.3, DeepSeek 4.1 Flash/Pro 등의 모델은 적절한 처리량에서 시간당 10~20달러 이상의 수익을 창출하며, DeepSeek의 DeepInfer는 비수기에 시간당 38달러까지 수익화가 가능하다. 시장 진입 장벽이 낮아지면서 매주 수십 개의 기업이 생겨나고 있지만, 중국 오픈소스 모델 연구소들이 일정 규모 이상의 서비스에 수익 공유를 요구하는 등 비용 압박도 커지고 있다. 결국 추론 서비스가 상품화됨에 따라 경쟁이 치열해지고 토큰 가격 하락과 컴퓨팅 비용 상승이 예상된다. 현재는 시장이 급격히 성장하고 있어 네오클라우드 기업뿐만 아니라 DeepInfra, Wafer 등 신생 기업들도 높은 성장세를 보이고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.