Google, AI 제출물 급증으로 오픈소스 버그 바운티 중단
AI 환각·허위 제보가 심사를 마비시키는 현실. 바운티·제보 창구 운영 시 AI 필터링 체계 필수.
요약
구글이 AI를 활용한 자동화된 버그 제보가 급증함에 따라 '오픈소스 소프트웨어 취약점 보상 프로그램(Open Source Software Vulnerability Rewards Program)' 운영을 일시 중단했다. 이번 조치는 2024년 10월 1일부터 시행되었으며, 구글은 2027년 1분기에 운영 재개 여부에 대한 업데이트를 제공할 예정이다. 구글 엔지니어와 오픈소스 관리자들은 유효하지 않거나 AI의 환각(hallucination) 현상이 포함된 대량의 제보로 인해 업무 과부하를 겪어온 것으로 알려졌다. 실제로 접수된 대부분의 보고서가 유효하지 않은 자동화된 제출물로 판명되면서 프로그램의 신뢰성과 효율성에 문제가 발생했다. 구글은 해당 프로그램이 중단된 기간 동안 참여자들에게 다른 버그 보상 프로그램을 이용할 것을 권장하고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions
원문 보기 ↗