참고ZDNet Korea
MS, AI 행동강령 초안 공개…'인간 통제권' 최우선
AI 자율성과 인간 통제권을 명확히 구분하는 가이드라인 제시. 기업 내 AI 거버넌스 수립 시 참고할 만한 표준안.
요약
마이크로소프트가 AI의 안전한 개발과 인간 통제권 보장을 위한 AI 행동강령 초안을 공개했다. 이번 강령은 AI가 해킹 지원, 대량살상무기 개발, 기만적 행위, 인간 감독 우회 등을 시도하지 못하도록 제한하며, 인간의 통제와 안전 원칙을 최우선 순위에 두는 것을 골자로 한다. 특히 AI가 독자적으로 목표를 설정하거나 권한을 확대하지 못하도록 설계해 자율성에 엄격한 경계를 설정했다. 해당 문서는 확정안이 아닌 의견수렴용 초안으로, 향후 6주간 의견을 수렴해 연말 수정본을 발표할 예정이다. 마이크로소프트는 수정된 지침을 바탕으로 2027년 이후 MAI 모델 개발의 핵심 운영 가이드라인으로 활용할 방침이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 마이크로소프트, AI 행동강령 초안 공개…해킹 지원·기만 행위 금지
원문 보기 ↗