참고ZDNet Korea
AI 안전성 평가, '원칙'에서 '레드팀 검증' 중심으로 표준화 가속
AI 안전성 입증이 규제 준수의 핵심이 됨에 따라 관련 레드팀 및 평가 프로세스 대비 필요.
요약
AI 기술이 자율 판단 및 행동 단계로 진화함에 따라 국제표준 또한 단순한 안전 원칙 수립에서 실제 위험 검증 및 입증 중심으로 변화하고 있다. 특히 ISO/IEC JTC1 SC42 위원회는 AI 취약점을 찾는 레드팀 테스트의 절차와 방법을 담은 'ISO/IEC 42119-7' 표준을 2027년 5월 제정을 목표로 개발 중이다. 최근 레드팀 테스트에는 AI 에이전트가 활용되면서 공격 규모가 급증했고, 이를 평가하기 위해 AI를 활용한 결과 분석 방식도 도입되고 있다. 또한 기업이 AI의 안전성과 신뢰성 기준 충족 여부를 증명할 수 있는 '신뢰성 사실 라벨(TFL)' 도입이 추진되며 향후 AI 에이전트 간 자동 확인 체계로도 활용될 전망이다. 다만 자율적 AI 에이전트의 권한 위임 및 통제, 프런티어 AI 정의 등은 여전히 표준화가 필요한 과제로 남아 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 AI 안전, 선언보단 검증으로…국제표준도 달라진다
원문 보기 ↗