참고X
Scaledown, 텍스트/이미지 추출 특화 초경량 모델 공개: "Jev 대비 효율성 강화"
단순 데이터 추출 및 분류 태스크에서 기존 LLM 대비 비용과 속도를 극단적으로 최적화한 대안.
요약
최근 @scaledown_team은 분류, 데이터 추출, 요약 등 특정 과업 수행에 특화된 새로운 모델을 공개했다. 이 모델은 기존 LLM 대비 속도는 200배 빠르며 비용은 467배 저렴한 효율을 자랑한다. 비용은 100만 토큰당 0.04달러 수준으로, 텍스트나 스크린샷 등 최대 100만 토큰의 입력을 한 번 읽고 결과값을 직접 도출하는 방식을 사용한다. 별도의 텍스트 생성 없이 정답만을 즉시 가리키는 방식으로 작동하며, 단순 반복 업무를 위한 '소형 모델' 시장에서의 경쟁이 더욱 치열해질 전망이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @AnatoliKopadze: i don’t think people realize what just happened... 200x faster. 467x cheaper than LLMs on narrow tasks like classification and ext
원문 보기 ↗