참고Hacker News
유럽 신생 AI 랩 Desert Ant Labs, 온디바이스 특화 경량 모델 18종 공개
토큰 비용 없이 모바일 기기에서 오디오, 비전, 텍스트 처리 가능. 온디바이스 AI 앱 개발 시 고려할 만한 선택지.
요약
유럽의 신생 AI 연구소 Desert Ant Labs가 기기 내에서 즉시 구동되는 온디바이스(on-device) 특화 소형 모델 18종을 출시했다. 이 모델들은 오디오, 비전, 텍스트 처리 등 특정 과업에 최적화되어 밀리초 단위의 응답 속도를 제공하며, 토큰 비용 없이 5년 된 구형 스마트폰에서도 원활하게 작동한다. Swift, Kotlin, JavaScript를 지원하는 단일 SDK를 통해 이용 가능하며, 현재 12개 안정화 모델과 6개 베타 모델이 공개되었다. 사용자 데이터가 외부 서버로 전송되지 않아 보안성을 강화할 수 있으며, 월간 활성 기기 10만 대까지는 무료로 사용할 수 있다. 전체 모델 사양과 벤치마크는 공식 웹사이트와 Hugging Face에서 확인할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Desert Ant Labs: local, fast models that run on device
원문 보기 ↗