참고X
Claude(클로드) 및 ChatGPT(챗GPT), 상세 사고 과정(Thinking Trace) 요약 줄여… 자동화 가속 우려
AI의 추론 과정 노출이 줄어들며, 사용자가 AI 작업을 검토·개입하기 어려워지고 자동화 의존도가 높아지고 있습니다.
요약
최근 Claude와 ChatGPT에서 상세한 사고 과정(thinking traces) 요약 기능이 사라지면서 AI의 의사결정 과정을 파악하기 어려워지고 있다. 에단 몰릭(Ethan Mollick)은 이러한 변화가 모델의 지식 증류(distillation) 방지와 사용자 경험 개선을 위한 조치일 것으로 분석했다. 상세한 사고 과정이 생략됨에 따라 AI가 결과에 도달하는 과정을 인간이 검토하고 개입하는 이른바 'Human in the loop' 작업이 도전 과제가 되었다. 결과적으로 AI 활용 방식이 인간의 능력을 보조(augmentation)하는 방향보다는 완전 자동화(automation)를 강요받는 방향으로 흐르고 있다. 이는 실무자가 AI의 중간 작업 과정에 의견을 개진하거나 개입하기 더 어려워진 환경을 의미한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @emollick: The end of detailed summarized thinking traces for Claude and ChatGPT (likely both anti-distillation & for UX) has made being
원문 보기 ↗