참고Reddit
AntLing, 오픈소스 베이스 모델 'Ling-3.0' 6종 체크포인트 공개
프리트레이닝/파인튜닝 단계별로 선택 가능한 오픈소스 베이스 모델. 직접 학습/연구 시 활용 권장.
요약
AntLing이 Ling-3.0 베이스 모델의 전체 체크포인트 6종을 공개했습니다. 이번 릴리스는 tiny와 flash라는 두 가지 크기에 대해 각각 pretrained, mid-trained, WSM-merged라는 세 가지 단계로 구성되어 총 6개의 개별 리포지토리로 제공됩니다. 모든 모델은 MIT 라이선스로 배포되며 현재 별도의 게이트 없이 공개된 상태입니다. 공개된 모델들은 모두 사전 학습(pretraining) 단계의 체크포인트로, 채팅이나 인스트럭트와 같은 후기 학습(post-training)은 적용되지 않았습니다. 개발자들은 자신의 프로젝트 목적에 맞춰 필요한 단계의 체크포인트를 선택하여 이어지는 사전 학습이나 파인튜닝 연구에 활용할 수 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Ling-3.0 released all 6 base checkpoints: 2 sizes × 3 stages
원문 보기 ↗