옵트에이아이, 온디바이스 전용 오픈웨이트 모델 '옵트기어' 공개

요약

옵트에이아이가 자체 설계한 첫 파운데이션 모델인 경량 언어모델 '옵트기어(Opt.Gear)'를 지난 6일 공개했다. 이번 모델은 매개변수 규모에 따라 10억 개(1B), 2억 7000만 개(270M), 100만 개(1M) 등 세 가지 크기로 나뉜다. 기존 거대 언어모델을 단순히 축소한 방식이 아닌, SRAM, 메모리 대역폭, 전력, 지연 시간 등 온디바이스 환경 제약을 고려해 설계된 것이 특징이다. 이에 따라 스마트폰과 노트북은 물론 MCU 환경에서도 안정적인 구동이 가능하다. 옵트에이아이는 가중치와 배포 파일을 함께 제공하는 오픈웨이트 모델 형태로 공개해 기업의 활용성을 높였다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.