참고X
사티아 나델라가 지적한 AI 모델 '데이터 학습 루프'의 역설
AI 모델 대여가 기업 노하우 유출로 이어질 수 있다는 경고. 기업 내부 데이터를 폐쇄형 모델에 태울 때 고려해야 할 보안 이슈.
요약
Microsoft의 CEO Satya Nadella는 기업이 AI 모델을 대여할 때 비용과 기업의 독점적 지식을 모두 지불하는 '지능에 대한 이중 지불'을 하게 된다고 지적했다. 사용자가 프롬프트와 피드백을 입력할 때마다 기업의 노하우가 모델에 학습되며, 폐쇄형 모델의 경우 이 정보가 공급자에게 귀속되는 '학습 루프(learning loop)' 현상이 발생하기 때문이다. 만약 기업의 사용 데이터 가치가 토큰 비용보다 높다면, 향후 AI 모델 제공업체가 오히려 비용을 지불하고 데이터를 확보하는 상황이 올 수도 있다. 이미 OpenAI는 일부 모델에서 트레이닝 권한을 받는 대가로 계정당 최대 일일 100만 개의 무료 토큰을 제공하는 옵트인 프로그램을 운영하고 있다. 하드웨어나 알고리즘은 대여 및 유출이 가능하지만, 모델을 통과하는 프롬프트와 교정 데이터는 이를 보유한 측에 독점적으로 축적되어 차별화된 자산이 된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @socialcapital: Microsoft CEO Satya Nadella wrote that a company renting an AI model “essentially pays for intelligence twice”: Once in money, and
원문 보기 ↗