참고팁ZDNet Korea
아크프라, 비LLM 지원 및 GPU 메모리 최적화 '뉴트리 1.2' 출시
멀티모달 및 OCR 등 비LLM 모델 통합 관리 지원. GPU 메모리 자동 계산 기능으로 운영 효율화 가능.
요약
아크프라(Arcfra)가 기업용 AI 플랫폼 뉴트리 1.2(Neutree 1.2)를 출시하며 모델 지원 범위를 확대하고 운영 효율성을 강화했다. 이번 버전은 자체 개발한 플렉스 엔진(Flex Engine)을 도입해 마이너U(MinerU), 패들OCR(PaddleOCR) 등 비LLM 모델까지 지원하며, 언어부터 OCR까지 다양한 모델을 단일 플랫폼에서 통합 관리할 수 있게 한다. 또한 자동 KV캐시 및 GPU 메모리 계산 기능을 통해 배포 실패 위험을 낮추고 자원 낭비를 방지한다. 프로젝트별 API 키 관리와 시각적 모델 레지스트리를 제공하여 기업의 모델 거버넌스와 운영 가시성을 개선했다. 현재 뉴트리 1.2는 깃허브(GitHub)를 통해 오픈소스로 공개되어 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 아크프라, 비LLM 모델 지원 추가 및 AI 운영을 간소화하는 뉴트리 1.2 출시
원문 보기 ↗