참고Reddit
에이전트 툴 호출 보안 강화 도구 'nomosguard' 공개
모델이 결정을 내리는 것이 아니라 증거 기반의 결정론적 규칙 엔진으로 툴 호출을 제어하는 보안 가드레일.
요약
Python 3.11 이상 환경을 지원하는 오픈소스 프로젝트 'nomosguard'(v0.7.11)는 에이전트의 도구 호출을 검증하는 'fail-closed' 방식의 보안 게이트웨이다. 이 모델은 LLM이 생성한 설명과 증거를 바탕으로 결정론적 규칙 엔진을 통해 최종 실행 여부를 판별하며, 모델이 직접적인 의사결정 경계를 넘지 않도록 설계되었다. 제공되는 5개의 MCP 도구(evidence_ingest, assert_claim, derive_paths, decide, explain)는 증거 불충분 시 즉시 요청을 차단하며, 청구된 모든 주장에 대해 명확한 근거를 요구한다. 특히 증거가 없는 주장은 감점 방식이 아닌 즉각 거부 처리하여 보안성을 높였다. 외부 런타임 의존성 없이 작동하며, 최종 결과는 ALLOW, ALERT, BLOCK 중 하나로 도출되어 신뢰할 수 있는 에이전트 구축을 지원한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 nomosguard: the model explains, the rules decide - a fail-closed gate for agent tool calls (5 MCP tools, zero deps)
원문 보기 ↗