참고팁Reddit
주요 오픈 모델별 '사고(Thinking)' 프로세스 비활성화 파라미터 정리
모델 추론 시 사고 과정 출력을 끄고 응답 속도와 토큰 비용을 최적화하는 API 설정 가이드.
요약
최근 LLM 개발자 커뮤니티에서는 불필요한 '사고(thinking)' 과정으로 인해 추론 모델의 응답 시간이 길어지고 토큰 비용이 낭비되는 문제를 해결하기 위해, API 호출 시 사고 기능을 비활성화하는 방안이 주목받고 있습니다. Qwen 3.6/3.8 모델은 chat_template_kwargs의 'enable_thinking' 옵션을 false로 설정하여 기능을 끌 수 있으며, DeepSeek V4/V4.1은 thinking 매개변수를 'disabled'로 설정해 사고 과정을 생략 가능합니다. 반면 GLM-5.3 및 5.3-Flash 모델은 사고 기능 비활성화를 지원하지 않으며, 관련 설정을 시도할 경우 오류가 발생할 수 있습니다. 실무적인 관점에서 정형화된 데이터나 간단한 JSON 출력이 필요한 루틴한 작업에는 이러한 사고 기능 제어 옵션을 적극 활용하는 것이 비용과 효율성 측면에서 유리합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Turning off "thinking" on open models over API: what each one accepts as of October 2026
원문 보기 ↗