소형 모델로 전환 시 프롬프트 성능 저하 패턴 분석

요약

최근 소형 모델들이 추론 벤치마크보다는 지시 수행(instruction following) 능력을 강화하며 실무에 도입되고 있으나, 기존 프롬프트 라이브러리의 호환성 여부는 불투명한 상황이다. 단일 지시나 형식을 지정하는 프롬프트는 소형 모델에서도 무리 없이 작동할 것으로 예상된다. 반면, A·B·C 단계별 수행을 요구하는 다단계 프롬프트는 소형 모델에서 가장 먼저 실패할 가능성이 높다. 긴 답변을 생성하는 과정에서 전체 계획을 유지하는 능력이 소형 모델의 주요 한계점으로 지목된다. 실무자들은 모델 체급이 낮아질 때 프롬프트 패턴이 어떻게 무너지는지에 대한 구체적인 경험 데이터를 공유할 필요가 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.