AI 랩들의 얼라인먼트 생태계 기여 부족 및 재정 지원 필요성 화제
주요 AI 랩들이 얼라인먼트 NGO에 대한 재정 지원을 확대해야 한다는 주장이 업계 내에서 큰 공감을 얻고 있습니다.
요약
최근 X의 사용자 @tszzl은 주요 AI 모델 개발 기업들이 METR, Redwood, Apollo, Goodfire와 같은 비영리 단체나 정렬(alignment) 전문 기업에 기술 정렬과 관련된 외부 비용을 크게 의존하고 있다고 지적했다. 이러한 기업들은 정렬 관련 외부 효과의 상당 부분을 외부 기관에 떠넘기고 있으며, 실질적인 자율 규제를 위해서는 막대한 자금을 보유한 AI 연구소들이 이 생태계에 자금을 투입해야 한다고 주장했다. 특히 METR과 같이 연구소와의 독립성을 유지하려는 조직을 지원하기 위해, 연구소로부터 독립성을 유지하면서도 기부금을 받아 배분할 수 있는 제3의 필란트로피 시장이 필요하다는 의견이다. 또한 OpenAI 파운데이션과 같은 조직이 기술적 정렬 문제나 검증 가능한 연구 결과에 대해 대규모 상금을 제공하는 방식도 고려할 수 있다. 결론적으로 AI 산업이 현실적으로 자율 규제를 실현하려면, 연구소들이 벌어들이는 막대한 수익의 일부를 정렬 및 제어 연구 생태계에 재투자해야 한다는 것이 핵심이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @tszzl: the model training cos freeload tremendously off of NGOs like METR, Redwood, Apollo, and smaller alignment cos like Goodfire. they
원문 보기 ↗