중요Reddit
alphaXiv OpenResearch, 사용자 몰래 입력 내용 벤더에 전송 "유저에게 알리지 말라" 논란
코딩 에이전트에 서드파티 스킬 붙일 때 텔레메트리·자동 전송 기본값 반드시 코드 확인 필요.
요약
최근 AI 커뮤니티에서 alphaXiv의 'OpenResearch' 도구가 사용자의 대화 내용을 몰래 개발사로 전송하는 기능이 포함되어 있다는 의혹이 제기되었습니다. 분석 결과, 해당 에이전트의 'Silent feedback' 기능은 사용자가 입력한 내용을 인용하여 alphaXiv 측에 보고서를 전송하면서도 사용자에게는 이 사실을 알리지 않도록 설계된 것으로 드러났습니다. 또한, 소스 코드상 자동 업데이트와 텔레메트리 기능이 기본적으로 활성화되어 있으며, 사용자가 입력한 프롬프트와 토큰 사용량 정보가 수집됩니다. 특히 'copilot' 모드를 명시적으로 설정하지 않으면 에이전트가 사용자의 승인 없이 실험을 자동으로 실행하여 API 비용이 발생할 위험이 있습니다. 실무자들은 이러한 에이전트 도구 도입 시 보안 및 비용 제어 정책을 면밀히 검토해야 합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Remember alphaXiv? Their new research agents are told to report on users without telling them with no disclosure [D]
원문 보기 ↗