참고X
샘 알트만, 'AI 통제권 상실 및 권력 집중' 경계 발언 화제
AI 프론티어 개발의 두 가지 핵심 리스크로 통제권 상실과 권력 독점을 언급하며, 인간 중심의 기술 발전을 강조한 발언입니다.
요약
OpenAI의 샘 올트먼(Sam Altman)은 AI 발전 과정에서 반드시 피해야 할 두 가지 위험 요소를 경고했다. 첫 번째는 AI에 미래의 통제권을 상실하는 것으로, AI는 인간의 통제를 벗어나지 않고 항상 인류에게 봉사해야 한다고 강조했다. 이를 위해 모델의 성능 향상보다 정렬 및 안전 기술 확보가 선행되어야 한다고 지적했다. 두 번째는 소수나 특정 기업에 과도한 AI 권력이 집중되는 현상이다. 특정 주체가 강력한 AI를 활용해 자신의 세계관을 강요하는 디스토피아적 상황을 방지하기 위해서는 국가나 연구소에 권력이 쏠리지 않도록 균형을 유지하는 것이 필수적이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @sama: There are two ways AI progress could go very badly and that we must avoid. First, we could lose control of the future to AI. This
원문 보기 ↗