중요X
StepFun, 오픈 웨이트 모델 'Step 5 Preview' 공개…600B MoE·1M 컨텍스트
BF16·FP8 가중치 공개. 코딩·에이전트 작업 특화로 자체 평가·파인튜닝 검토 가치.
요약
AI 스타트업 StepFun이 최신 모델 Step 5 Preview를 오픈 웨이트로 공개했다. 이번 모델은 총 600B 파라미터 규모의 Sparse MoE 아키텍처를 채택했으며, 토큰당 27B 파라미터가 활성화된다. 1M 토큰의 컨텍스트 윈도우를 지원하며 텍스트와 비전 입력을 기본적으로 처리할 수 있다. 코딩, 소프트웨어 엔지니어링, 금융 등 장기적인 에이전트 작업에 최적화된 성능을 제공하도록 설계되었다. 현재 BF16 및 FP8 가중치를 Hugging Face와 ModelScope를 통해 이용할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @StepFun_ai: Step 5 Preview is now open weights. BF16 and FP8 weights are live on Hugging Face and ModelScope, together with our technical blog
원문 보기 ↗