OpenAI 'Project Lily': 계약직 통한 사용자 대화 데이터 검토 정황 포착

요약

OpenAI가 'Project Lily'의 일환으로 수백 명의 계약직 근로자를 고용해 ChatGPT와의 실제 대화 내용을 검토하고 있는 것으로 알려졌다. 404 Media가 입수한 내부 문건에 따르면, 이들은 사용자의 프롬프트와 대화 내용을 확인하고 AI의 답변을 평가해 모델 성능을 개선하는 작업을 수행한다. OpenAI는 대화 검토 전 개인정보를 제거하는 절차를 거치지만, 사용자가 입력한 민감한 개인 정보가 그대로 노출될 가능성이 여전히 존재한다. 계약직 근로자는 사용자 이름은 볼 수 없으나, 일반 사용자들은 자신의 대화가 사람에게 읽힐 수 있다는 사실을 인지하지 못할 가능성이 높다. 또한 이번 프로젝트에는 ChatGPT가 지나치게 아첨하거나 인간처럼 행동하는 성향을 줄여 모델의 중립성을 높이는 작업도 포함되어 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.