참고AI타임스
오픈AI, 연구용 '킬 스위치' 인프라 공개…실시간 작업 제어
모델 학습 및 에이전트 운용 시 위험 동작을 실시간으로 차단하는 안전 인프라 구축 사례.
요약
오픈AI가 AI 연구 중 발생할 수 있는 위험 행동이나 보안 문제를 신속하게 제어하기 위한 중앙 통제 시스템 '컨트롤 룸(Control Room)'을 9일(현지시간) 공개했다. 이 시스템은 모델이나 연구 프로그램 전체를 종료하지 않고, 문제가 발생한 특정 작업의 실행 권한만을 35초 이내에 차단하도록 설계됐다. 이를 통해 전체 연구에 영향을 주지 않으면서 개별 작업의 안전 문제에만 즉각적으로 대응할 수 있다. 오픈AI는 이번 시스템을 통해 AI 연구 인프라 전반에서 실행되는 작업을 실시간으로 추적하고 관리할 방침이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 오픈AI, AI 연구용 '킬 스위치' 공개…35초 내 출력 차단
원문 보기 ↗