참고Reddit
[R] 텍스트-이미지 생성 일관성 높이는 'CO₂Jump' 샘플러 공개
멀티모달 모델 생성 시 텍스트와 이미지 간 불일치 문제 해결. 별도 재학습 없이 기존 모델에 바로 적용 가능한 샘플러 기술.
요약
구글, 구글 딥마인드, 스토니브룩 대학교 연구진은 텍스트와 이미지 생성 시 발생하는 불일치 문제를 해결하기 위해 'CO₂Jump' 샘플러를 NeurIPS 2026에서 발표했다. 기존 모델은 미로 설명과 그리는 경로가 일치하지 않는 등 병렬 생성 과정에서 일관성이 결여되는 한계가 있었다. CO₂Jump는 텍스트 신뢰도와 교차 모달 어텐션(Cross-modal attention)을 활용하여 이미지 생성 과정을 제어한다. 특히 낮은 신뢰도의 토큰은 마스킹 후 재생성하여 생성 과정 중 초기 결정을 수정할 수 있는 기능을 제공한다. 이 샘플러는 디노이징 단계마다 1회의 모델 포워드 패스만 사용하여 효율적이며, 별도의 추가 학습 과정 없이 기존 모델에 바로 적용 가능하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Concurrent Image Understanding and Generation: Self-Correcting Coupled Markov Jump Processes [R]
원문 보기 ↗