앤트로픽, 모델 개발 전 과정 외부 검증 도입…액센츄어와 파트너십

요약

앤트로픽은 AI 개발의 안전성을 강화하기 위해 글로벌 컨설팅 기업 액센츄어와 프런티어 AI 독립 평가 파트너십을 체결했다. 액센츄어의 AI 전문 조직 '패컬티'는 앤트로픽 내부에서 모델 훈련부터 배포까지 전 과정을 직접 평가하고 레드팀 테스트와 정렬 평가 등을 수행한다. 이번 조치는 다리오 아모데이 CEO가 강조한 'AI 속도 조절론'의 일환으로, 모델 완성 후 평가하던 방식에서 벗어나 개발 과정부터 외부 검증을 받는 '내재형 평가'를 도입했다는 점이 핵심이다. 양사는 향후 5년간 내재형 평가 역량 구축에 각각 최소 10억 달러를 투자할 계획이다. 다만 아직 평가자의 정보 접근 범위나 결과 공개 기준, 운영 비용 조달 방식 등은 과제로 남아 있으며, 앤트로픽은 비영리 기관 '메트르' 등과도 추가 협력을 논의 중이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.