참고Reddit
소형 언어 모델 'Ling-3.0-tiny' 7.9B 출시
1.3B 활성 파라미터로 동작하는 경량 모델. 리소스 제약이 있는 온디바이스 환경에서 고려 가능.
요약
Reddit의 r/LocalLLaMA 커뮤니티에서 새로운 하이브리드 추론 모델인 Ling-3.0-tiny를 공개했습니다. 이 모델은 전체 매개변수 7.9B 중 토큰당 1.3B만 활성화하는 구조를 채택하여 효율적인 연산이 가능합니다. 실제 업무 환경에서의 수학 문제 풀이, 지시문 이행, 자원 민감형 환경 배포에 최적화되도록 설계되었습니다. 해당 모델은 현재 일주일간 무료로 제공되고 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 New model release: Ling-3.0-tiny: 7.9B total parameters, with only 1.3B active per token- free for a week
원문 보기 ↗