멀티모달 API 호출 시 Base64 vs Presigned URL 성능 벤치마크

요약

멀티모달 LLM API 호출 시 이미지 데이터를 Base64 Data URL로 전송할지, S3/R2의 Presigned URL을 사용할지에 대한 성능 벤치마크 결과가 공개되었습니다. Base64 방식은 별도의 업로드 과정이 없어 운영이 간편하지만, 대화 이력이 길어질수록 매번 동일한 바이트를 재전송해야 하는 단점이 있습니다. 반면 Presigned URL 방식은 매 호출 시 페이로드가 가벼워지며 레이턴시 측면에서 유리할 것으로 예상되었습니다. 작성자는 이 두 방식을 3개 벤더의 모델을 대상으로 직접 비교 테스트를 진행했습니다. Claude의 cache_control 특성 등 테스트 과정에서 발생한 기술적 이슈와 상세 방법론, 모델별 레이턴시 결과는 기술 블로그를 통해 확인할 수 있습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.