참고X
RedNote, 에이전트용 오픈소스 멀티모달 MoE 'dots3-note' 공개
자체 비평 및 메모리 업데이트가 가능한 'TEMPO' 강화학습 기법을 도입하여 장기 작업 성능을 개선한 280B 모델.
요약
RedNote이 에이전트 구동을 위해 설계된 280B 규모의 멀티모달 MoE 모델 'dots3-note' 프리뷰 버전을 오픈소스로 공개했다. 이 모델은 'TEMPO'라 불리는 새로운 강화학습 방식을 도입해 에이전트가 장시간의 복잡한 작업을 수행하는 동안 스스로 진행 상황을 평가하고 메모리를 업데이트하며 학습할 수 있도록 지원한다. 512K의 방대한 컨텍스트 창을 지원하며 텍스트, 이미지, 비디오, 오디오를 이해할 수 있다. 특히 280B 규모임에도 실제 추론 시 활성화되는 파라미터는 16B에 불과해 효율성을 높였다. 장시간 작업을 처리해야 하는 AI 에이전트 개발자들에게 중요한 기술적 진전이 될 것으로 보인다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @kimmonismus: Nice: RedNote just open-sourced dots3-note Preview, a 280b multimodal MoE built for agents that operate over hours. Its standout i
원문 보기 ↗