LLM의 창의적 문제 해결 원리: '새로운 구성'과 '검증의 비대칭성'

요약

LLM은 단순히 학습된 데이터를 재조합하는 것을 넘어 새로운 발견을 해낼 수 있으며, 핵심은 기존 지식을 새로운 순서로 구성하는 능력에 있습니다. 이는 수학 정리 증명처럼 난이도 높은 문제를 해결할 때 기존의 보조 정리와 기법을 활용하여 '학습되지 않은' 문제에 접근하는 방식으로 작동합니다. 특히 제안은 어렵지만 검증은 쉬운 '비대칭적 검증' 구조를 활용하면, 대규모 테스트 타임 탐색 후 검증기를 통해 정답만 필터링할 수 있습니다. 실제로 AlphaProof는 Lean을 검증기로 사용하여 IMO 은메달 수준의 성과를 거두었고, FunSearch는 수학적 난제인 cap set 문제에서 새로운 해를 발견했습니다. 단백질 구조 예측 모델인 AlphaFold와 같이 물리 법칙을 학습한 모델들은 시뮬레이션을 통해 미지의 영역까지 일반화가 가능합니다. 결과적으로 거대한 탐색 공간과 저비용 검증이 가능한 분야에서는 LLM을 통해 기존에 없던 과학적 발견과 난제 해결이 가속화될 것으로 전망됩니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.