비디오 처리 가능한 'Viveki-0.1' 오픈소스 모델 공개

요약

최근 레딧(Reddit)의 r/LLMDevs에서 비디오, 이미지, 텍스트를 동시에 처리할 수 있는 최초의 의사결정 모델인 Viveki-0.1이 공개되었습니다. 이 모델은 A100-80GB GPU 1개 기준 160ms의 지연 시간(latency)을 기록하며 실시간으로 비디오를 처리할 수 있습니다. Viveki-0.1은 별도의 학습이나 파인튜닝 없이, 토큰 생성 전 문맥 내 객관적 질문에 대한 답변을 예측하는 메커니즘적 통찰을 활용하여 구축되었습니다. 벤치마크 테스트인 BANKING77과 MuSR에서는 기존 Jev 모델보다 성능이 5% 미만으로 뒤처지지만, Fastino GLiDE의 Perplexity Decider와 같은 파인튜닝 기법을 결합하면 성능이 크게 향상될 것으로 예상됩니다. 현재 개발자는 해당 모델에 대한 추가적인 지능 평가를 진행 중입니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.