LLM 평가 모델의 편향 줄이기: 점수 매기기 전 '문제점' 먼저 묻기

요약

LLM을 평가자로 활용할 때 단순히 점수와 이유를 동시에 묻는 대신, 논리적 추론 과정을 강제하는 프롬프트 구조를 설계하면 평가 정확도를 높일 수 있다. 기존의 '1~5점 척도로 평가하고 이유를 제시하라'는 방식은 모델이 먼저 점수를 부여한 뒤 이를 정당화하는 근거를 사후에 작성하여 오류를 간과할 가능성이 크다. 이를 개선하기 위해 '사실 오류나 근거 없는 주장을 먼저 나열한 후 남은 내용을 바탕으로 점수를 매기라'는 순서로 프롬프트를 변경해야 한다. 이러한 단계적 접근법은 모델이 평가 과정에서 논리적 검증을 우선하게 만들어 결과적으로 더 낮은, 하지만 정확한 점수를 도출하게 한다. 프롬프트 엔지니어는 LLM 평가자의 판단 방식이 출력 순서에 따라 크게 달라질 수 있음을 인지하고 프로세스를 재구성해야 한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.