모호한 프롬프트 지시어('Be careful', 'Thorough' 등)가 위험한 이유

요약

AI 모델에게 '주의 깊게' 혹은 '철저하게'와 같은 모호한 형용사를 명령어로 사용하는 것은 실질적인 제어 효과를 내지 못하며, 모델이 스스로 결정하게 만드는 무책임한 방식입니다. 이러한 표현은 사람마다 기준이 다르고 구체적인 요구사항이 빠져 있어 결과를 예측하기 어렵게 만듭니다. 대신 모델의 일관된 출력을 원한다면 모호한 느낌을 전달하는 대신 구체적인 '합격 기준(acceptance criteria)'을 제시해야 합니다. 예를 들어 '오류를 적절히 처리하라'는 모호한 지시보다는 '유효성 검사 실패 시 특정 오류 형태를 반환하고, 특정 컨텍스트를 기록하며, 재시도하지 마라'는 식의 명확한 제약 조건을 명시해야 합니다. 프롬프트 엔지니어링 과정에서 모호함을 제거하는 것이 결과물의 품질과 신뢰성을 높이는 핵심입니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.