참고X
Prime Intellect, 실시간 비전 모델 'Moondream' 개발팀 인수
H100 기준 초당 60회 추론 가능한 고효율 비전 모델 및 추론 엔진 기술 확보.
요약
Prime Intellect가 실시간 영상 처리가 가능한 오픈 웨이트 비전 모델을 개발하는 Moondream 팀을 인수했다. 이번 인수에는 모델을 단일 GPU 프로그램으로 컴파일하는 추론 엔진인 Photon이 포함되어 있다. Prime Intellect는 Nvidia H100 한 대에서 초당 60회 이상의 Moondream 추론을 수행하며 수십 밀리초 내에 응답을 생성한다고 밝혔다. 특히 Moondream 3.1은 특정 객체 식별 테스트에서 Muse Wonder 대비 약 1,000분의 1 비용으로 80% 수준의 정확도를 기록했다. Moondream 3.1은 이미 Prime Inference에서 사용 가능하며, 향후 Photon은 Prime의 전체 스택에 통합되어 다른 모델의 추론 성능을 가속화할 예정이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @mark_k: Prime Intellect has acquired Moondream, a small team building open-weight vision models fast enough for live video. The deal inclu
원문 보기 ↗