참고팁Reddit
AI 에이전트 오작동 방지용 '구조화된 액션 레코드' 프롬프트 패턴
에이전트의 실행 전 의사결정을 자연어가 아닌 규격화된 레코드로 출력하게 하여 휴먼 검증 효율을 높이는 기법.
요약
AI 에이전트가 사람의 승인을 받아야 할 때 서술형 문장 대신 구조화된 데이터 레코드를 출력하도록 유도하는 프롬프트 패턴이 제안되었습니다. 기존처럼 '환불해주겠다'는 식의 서술형 응답은 내용이 잘못되어도 읽기 좋아 보일 수 있다는 한계가 있습니다. 이를 해결하기 위해 에이전트에게 작업 수행 대신 action, target, changes, amount, reversible, evidence, rule, could_be_wrong_if 항목을 포함한 구조화된 레코드 형태로 출력할 것을 지시하는 방식입니다. 데이터 변경이나 고객 연락 등 민감한 작업을 할 때, 에이전트가 설명이나 설득 없이 변경 전후 데이터와 적용된 정책 규칙만을 명확히 보고하도록 하여 실수를 방지합니다. 이 패턴은 에이전트의 판단 근거를 구체적으로 확인해야 하는 실무 환경에서 유용할 것으로 보입니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Prompt pattern: make the agent propose an action as an effect record instead of a narrative (untested draft, plus how I’d evaluate it)
원문 보기 ↗