참고GeekNews
AI 연구자들의 '재귀적 자기개선(RSI)' 실현 가능성 논쟁
AI가 인간 개입 없이 스스로 연구 목표를 설정하는 단계에 도달했는지에 대한 기술적 논의 요약.
원문 제목 AI 연구자들, 재귀적 자기개선에 얼마나 가까워졌는지 논쟁하다
원문 보기 ↗●"이번 세션 Claude 어때?" 응답이 학습 거부 설정 무시한다는 주장 확산●구글 딥마인드 AGI 안전팀 떠나 METR 합류... "RSI 위험이 판단 근거"●OpenAI 에이전트, 5월 RubyGems 공격 연루 정황... 악성 패키지 배포·API 키 탈취 시도●올트먼, 올해 OpenAI 상장 없다… "시기상조" 안전 우려 지목●머스크·알트만, 아모데이의 'AI 개발 속도 조절' 제안에 첫 공개 동조●샘 알트만 "OpenAI, 휴머노이드 로봇 반드시 만든다"●huggingface_hub, 사용 중인 AI 코딩 에이전트 몰래 탐지해 텔레메트리로 전송
광고
중요"이번 세션 Claude 어때?" 응답이 학습 거부 설정 무시한다는 주장 확산
사내 코드로 Claude Code 쓴다면 피드백 프롬프트 응답 정책 확인 필요. 민감 데이터 유출 리스크.
promppy는 한국 AI 실무자를 위한 실시간 AI 뉴스 터미널입니다.
15분마다 속보·중요·팁 자동 수집 · 한국어 요약 제공