MS, AI 안전 및 통제 원칙 담은 'Humanist AI Code of Conduct' 공개

요약

Microsoft가 자사 AI 모델의 위험한 행동을 방지하기 위한 새로운 AI 행동 강령(code of conduct)을 발표했다. 이번 강령은 향후 10년 내 슈퍼인텔리전트 AI가 인간의 능력을 능가할 것으로 예측하며, 이를 통제하고 정렬하는 것이 인류의 가장 큰 도전 과제임을 명시하고 있다. 모델은 사이버 공격, 핵무기 개발, 딥페이크 생성 등을 금지하는 '절대적 제약(absolute constraints)'을 포함해 사용자의 개별 요청보다 우선적으로 적용된다. 또한 AI가 인간을 대체하는 것이 아니라 인간을 지원하고 인류의 번영을 가속화해야 한다는 기본 원칙을 제시한다. 이번 조치는 Microsoft AI가 모델을 훈련하는 과정에서 지켜야 할 가치와 레드라인을 구체화한 실질적인 안전 가이드라인으로 평가된다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.