참고Reddit
LLM 동작 원리 시리즈 4부: 프롬프트 입력 후 첫 토큰 생성까지 내부 과정 해설
KV 캐시, temperature·top-k·top-p 디코딩 원리를 정리한 개발자용 입문 가이드. 추론 튜닝 이해에 유용.
원문 제목 How LLMs Work, Part 4: What happens between hitting enter and seeing the first word appear
원문 보기 ↗KV 캐시, temperature·top-k·top-p 디코딩 원리를 정리한 개발자용 입문 가이드. 추론 튜닝 이해에 유용.
원문 제목 How LLMs Work, Part 4: What happens between hitting enter and seeing the first word appear
원문 보기 ↗