참고Reddit
Aleph-Alpha, MoE 모델 'Kolibri-1 78B-A3.5B' 공개
78B 규모의 신규 MoE 모델 릴리스. 로컬 환경 실행을 위한 벤치마크 및 성능 확인이 필요한 시점.
요약
독일 AI 기업 Aleph-Alpha가 새로운 혼합 전문가(MoE) 모델인 Kolibri-1 78B-A3.5B를 공개했다. 이번에 출시된 모델은 총 파라미터 78B 규모로, 활성 파라미터 3.5B를 사용하는 효율적인 구조를 채택했다. Reddit의 r/LocalLLM 커뮤니티에서는 해당 모델의 특이한 사이즈와 모델 카드에 게시된 유망한 벤치마크 결과가 큰 관심을 끌고 있다. 현재 로컬 LLM 환경에서의 성능에 대해 사용자들의 논의가 이어지고 있으며, 실무자들 사이에서는 실제 테스트를 통한 성능 검증이 필요한 시점이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 New MoE Model - Aleph-Alpha Kolibri-1 78B-A3.5B
원문 보기 ↗