참고팁X
Karpathy의 LLM 활용 팁: '음성 대화'로 의도 명확히 하기
복잡한 맥락을 전달할 때 텍스트 타이핑 대신 음성으로 충분히 설명하여 프롬프트 품질을 높이는 팁.
요약
AI 전문가 Andrej Karpathy는 LLM과 작업할 때 복잡한 의도를 전달하기 위해 '긴 횡설수설 세션(ramble session)'을 활용하는 방식을 제안했다. 사용자가 LLM에 상세한 지시사항을 일일이 입력하기 번거로울 때, 약 10분간 음성 인식 기능을 켜고 의식의 흐름대로 자유롭게 말하는 방식이다. 그는 '음성 인식으로 전환하니 오타가 있을 수 있다'는 식의 사전 안내를 하거나 인터뷰 형태로 대화를 진행하기도 한다. Karpathy는 LLM이 이러한 두서없는 대화에서도 사용자의 의도를 매우 효과적으로 재구성하고 정리한다는 점을 강조했다. 결과적으로 이 과정을 통해 사용자와 LLM 간의 'Mind meld(사고 융합)' 수준이 높아져 이후 수정 작업이 줄어드는 효과를 얻을 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @karpathy: One pattern I find useful for working with LLMs is a nice long ramble session. Sometimes the LLM needs more bits to understand wha
원문 보기 ↗