중요TechCrunch
마이크로소프트 "프런티어 모델은 신뢰할 수 없다"…AI 에이전트 감시 기능 출시
에이전트를 내부자 위협으로 보는 접근. 사내 에이전트 도입 시 모니터링·권한 통제 설계 재검토 필요.
요약
Microsoft가 기업 내 AI 에이전트가 야기할 수 있는 내부자 위협에 대응하기 위해 새로운 보안 기능인 'Guardian Agents'를 출시했다. 이 기능은 지난 6월 공개된 'Project Perception'의 일환으로, 기존의 외부 공격 방어 중심에서 벗어나 기업이 자체적으로 운영하는 AI 에이전트를 상시 모니터링하고 통제하는 데 초점을 맞췄다. 이는 기업이 사용하는 AI 모델 제공업체를 완전히 신뢰할 수 없다는 인식하에 개발되었으며, 사티아 나델라 CEO는 AI 모델 제공사로부터 독립된 별도의 감시 시스템 구축 필요성을 강조했다. 기존 Project Perception은 레드팀(공격), 블루팀(탐지), 그린팀(수정)으로 구성되어 외부 해킹 모델인 Anthropic의 Mythos, OpenAI의 Daybreak 등에 대응해 왔다. 이번 업데이트는 AI 에이전트 자체가 악의적인 내부 위협 요소가 될 수 있다는 경각심을 반영한 조치이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’
원문 보기 ↗