참고팁Reddit
MCP 툴 스키마 최적화: 컨텍스트 점유율 97% 절감하기
모든 스키마를 항상 로드하는 대신 검색(Search) 후 실행하는 패턴으로 토큰 비용과 지연 시간을 획기적으로 줄이는 방법.
요약
최근 LLM 개발 커뮤니티에서 모델 컨텍스트 프로토콜(MCP)의 비효율적인 도구 스키마 처리 방식이 지적되었습니다. 기본 MCP 패턴은 모델이 매번 연결된 모든 서버의 전체 도구 스키마를 읽게 하여 불필요한 토큰 소비와 지연 시간을 발생시킵니다. 실제 테스트 결과, 하나의 도구 호출을 위해 약 54k 토큰 규모의 스키마가 컨텍스트를 점유하는 비효율이 확인되었습니다. 해결책으로 전체 도구 목록(catalog)을 모델에게 직접 보여주지 않는 방식이 제안되었습니다. 대신 모델이 '검색'과 '실행'이라는 두 가지 작업만 수행하도록 설계하여, 자연어 의도로 도구를 검색하고 필요한 정보만 반환받는 방식으로 컨텍스트 부담을 획기적으로 줄였습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 One MCP tool schema was ~54k tokens in context. We cut it to ~1.3k by never letting the model see the catalog.
원문 보기 ↗