참고팁Reddit
추론 모델의 불필요한 토큰 소모 줄이는 '학습 없는' 대조 디코딩 기법
모델 재학습 없이 추론 과정(Chain-of-Thought)을 최적화하여 비용과 지연 시간을 줄일 수 있는 실용적 기법입니다.
원문 제목 Reasoning models burn tokens they don't need: a training-free contrastive decoding method shortens the chain of thought without retraining
원문 보기 ↗