참고Reddit
UkisAI, 추론 효율 최적화된 'Swift' 오픈소스 모델 시리즈 공개
생각 패턴 최적화를 통해 토큰 사용량을 대폭 줄인 소형 모델. 로컬 LLM 환경에서 효율적인 추론을 고민 중이라면 테스트해볼 가치가 있음.
요약
UkisAI가 개발한 추론 효율적 LLM 시리즈인 'Swift'가 220만 회 이상의 다운로드를 기록했습니다. Swift 모델은 과도한 사고 패턴을 페널티로 제어하여 토큰 사용량을 58.3% 절감하고, 정확도 손실 없이 속도를 1.95배 향상시킨 것이 특징입니다. 현재 Swift 27B와 Swift Flash Next 모델이 공개되어 있으며, GSQ-RCO 양자화 버전 및 검열되지 않은 변형 모델도 커뮤니티를 통해 제공됩니다. UkisAI는 연구자들을 위한 새로운 모델 조기 액세스 및 무료 컴퓨팅 리소스를 지원하며 오픈소스 생태계에 기여하고 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Thank you :) Swift Models hit 2.2 million+ downloads / Early Access to New Models, Free Compute for Researchers
원문 보기 ↗