긴 로그를 이미지로 변환해 토큰 비용을 94% 절감하는 'Tanuki Context'

요약

Tanuki Context는 텍스트 데이터를 이미지로 변환해 LLM 토큰 비용을 획기적으로 줄여주는 오픈소스 도구입니다. 텍스트를 토큰당 과금하는 LLM의 가격 정책과 달리, 이미지는 픽셀 크기에 따라 고정 비용이 발생한다는 점을 활용한 방식입니다. 실제 서비스 로그 테스트 결과, 37,111개 토큰을 2,240개로 줄여 94%의 비용 절감 효과를 확인했습니다. 28,000자 분량의 로그를 1568x728 PNG 이미지로 변환할 경우, 약 7,000 토큰이 들 작업이 1,456 토큰으로 감소합니다. 별도의 의존성 없이 MIT 라이선스로 배포되어 누구나 즉시 로컬 환경에서 테스트할 수 있습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.