참고Reddit
Aleph-Alpha, 오픈소스 모델 'Kolibri-1' 공개: 78B 파라미터, 1M 컨텍스트 지원
78B 파라미터 규모의 고성능 오픈 모델로, 로컬 환경에서 긴 문맥 처리가 필요한 작업에 테스트 고려 가능.
요약
독일의 AI 기업 Aleph Alpha가 새로운 대규모 언어 모델인 Kolibri-1을 허깅페이스(Hugging Face)에 공개했다. 해당 모델은 78B(780억) 파라미터 규모로 구축되었으며, 실제 연산에는 3.46B(34억 6천만) 파라미터가 활성화되는 구조를 갖추고 있다. 특히 최대 1M(100만) 토큰에 달하는 방대한 컨텍스트 윈도우를 지원하는 것이 특징이다. 라이선스는 Apache 2.0으로 배포되어 활용성을 높였다. 자세한 기술적 사양은 Aleph Alpha가 공개한 기술 보고서를 통해 확인할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Aleph-Alpha/Kolibri-1 · Hugging Face - 78B parameters. 3.46B active. Up to 1M tokens of context - Apache 2.0
원문 보기 ↗