참고Reddit
AI 거버넌스 및 보안 라이브러리 'PolicyAware' 오픈소스 공개
AI 에이전트 및 RAG 시스템 배포 시 deny-by-default 제어와 민감 데이터 차단을 구현할 수 있는 오픈소스 도구.
요약
오픈소스 파이썬 라이브러리인 PolicyAware는 AI 애플리케이션, LLM, RAG 시스템 및 AI 에이전트를 위한 거버넌스, 보안, 컴플라이언스를 제공하는 제어 평면입니다. 이 도구는 모델이나 외부 도구에 요청이 도달하기 전 중간 계층에서 개입하여 사용자 역할, 테넌트, 위험 수준, 예산에 따른 정책을 시행합니다. 프롬프트가 인프라를 떠나기 전에 개인정보(PII, PHI) 및 API 보안 키와 같은 민감 데이터를 탐지하고 마스킹할 수 있습니다. 또한 Model Context Protocol(MCP)을 포함한 AI 에이전트의 도구 호출을 커넥터 및 작업 수준에서 차단하거나 승인하는 기능을 제공합니다. 지연 시간, 비용, 성능 등을 고려한 지능형 모델 라우팅 및 폴백 관리도 지원합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Introducing PolicyAware: An open-source Python library for AI & Agent Governance
원문 보기 ↗