참고Reddit
MCP 서버 1.6만 개 분석 결과: 프롬프트 인젝션에 취약한 도구 설명 다수 발견
MCP 서버 설정 시 도구 설명에 시스템 명령을 포함하는 것이 보안상 위험할 수 있음을 확인. 개발 시 주의 필요.
요약
최근 공식 MCP Registry에 등록된 16,435개 서버의 196,542개 도구 설명을 분석한 결과, 많은 도구 설명이 단순히 기능을 설명하는 것을 넘어 모델의 행동을 제어하는 지침을 포함하고 있음이 확인되었습니다. 분석된 도구 설명 중에는 '이 도구를 항상 사용하라'거나 '사용자에게 알리지 말고 숨기라'는 등의 조종성(steering) 및 은폐(concealment) 지침이 다수 포함되어 있습니다. 이는 모델이 도구 설명을 읽고 그대로 수행하는 경향을 악용하여 프롬프트 인젝션(prompt injection)을 시도하거나 모델의 행동을 특정 방향으로 강제하려는 의도로 풀이됩니다. MCP 서버를 구축하거나 사용할 때 도구 설명이 보안 취약점이 될 수 있음을 인지하고, 이러한 지침이 포함되어 있는지 주의 깊게 검토해야 합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 I read the tool descriptions of 16,435 MCP servers that answer without a sign-in. Here is what the instruction-like ones actually say
원문 보기 ↗