[연구] 확산 모델의 오차를 예측하는 '왕복 일관성(Round-Trip Consistency)' 기법

요약

최근 AI 연구에서 오토레귀시브 모델(잠재 확산 모델, 흐름 모델 등)이 긴 롤아웃 과정에서 오차를 누적하는 문제를 해결하기 위해 '라운드 트립 일관성(Round-Trip Consistency)' 기법이 제시되었습니다. 연구진은 단일 조건부 잠재 확산 모델을 사용하여 시스템을 시간상 앞뒤로 이동시키는 양방향 학습 방식을 도입했습니다. 이를 통해 모델이 정방향 후 역방향으로 이동했을 때 시작점으로 돌아오는지를 확인하여, 정답 데이터 없이도 테스트 시점의 오차를 스스로 측정할 수 있게 했습니다. 이 방식은 앙상블이나 별도의 검증 데이터, 지배 방정식 없이도 추가 롤아웃 한 번만으로 오차를 추정하는 것이 가능합니다. 또한 단일 네트워크에서 양방향을 동시에 학습시키는 것이 별도의 모델을 사용하는 방식보다 더 우수한 성능을 보이는 것으로 확인되었습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.