중요Hacker News
Diffusion 기반 LLM 'Mercury 3' 공개: 초당 1,000토큰 돌파
1M 컨텍스트·초당 1천토큰에 입력 $0.20. 실시간 음성·튜터링 서비스라면 속도-비용 비교 가치.
요약
Mercury 3는 확산(Diffusion) 기반 LLM 중 가장 뛰어난 성능을 갖춘 모델로, 주요 벤치마크에서 GPT-6 Luna 및 Claude Haiku 5.5를 상회하는 성능을 기록했다. NVIDIA GPU 환경에서 초당 1,068토큰을 처리하며, 이전 모델 대비 4~8배 빠른 속도를 구현했다. 모델 규모는 Mercury 1 대비 40배 이상 커졌으며, 컨텍스트 윈도우는 100만 토큰으로 확장되었다. 가격은 100만 토큰당 입력 0.20달러, 출력 0.70달러이나 출시 기념으로 50% 할인된 가격에 제공된다. 이번 공개를 통해 확산 모델도 자기회귀(Autoregressive) 모델과 경쟁할 수 있을 만큼 확장 가능하다는 점을 증명했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Mercury 3: Diffusion at scale
원문 보기 ↗