NaiveRT 출시: Blackwell GPU 기반 고속 추론 워크스페이스

요약

NaiveAI Lab이 공개한 NaiveRT는 코드 생성, 앱 미리보기, 인터랙션 기능을 하나의 워크스페이스에서 통합 제공하는 도구이다. NaiveRT는 8개의 Blackwell GPU 환경에서 HTML/SVG 요청 기준 초당 1,719 토큰 이상의 처리 성능과 최대 2,122 토큰/초의 속도를 기록했다. 이는 CPU 스케줄링 과정을 배제하고 Fused CUDA 커널과 GPU 기반의 Speculative Decoding 기술을 적용한 결과로, 70.6%의 초안 수락률을 보인다. 개발자는 Anthropic Messages 호환 API를 통해 스트리밍 및 도구 호출 기능을 활용할 수 있다. 실제 시연 결과 코드 작성부터 검증까지의 개발 루프를 단일 공간에서 빠르게 처리할 수 있어 실무적인 효율성이 높다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.