동일 프롬프트가 매번 다른 결과를 낼 때: '운'에 의존하지 않는 프롬프트 설계법

요약

동일한 프롬프트를 사용해도 결과가 매일 다르게 나오는 이유는 모델의 샘플링 분산 때문일 가능성이 크며, 이는 프롬프트 자체가 불안정하다는 신호이다. 프롬프트를 반복적으로 수정하는 것보다 모델이 항상 올바른 경로를 선택하도록 프롬프트 구조를 견고하게 만드는 것이 중요하다. 해결책으로 명확한 출력 형식 지정, 작동 예시(worked example) 포함, 모델이 방황할 여지를 줄이는 구조화된 출력 지시가 필요하다. 성공적인 프롬프트는 우연이 아닌 반복적인 실행에서도 일관된 결과를 도출해야 한다. 따라서 프롬프트를 배포하기 전에는 반드시 동일한 입력값으로 여러 번 테스트하여 신뢰성을 확보해야 한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.