참고팁Reddit
Neta Lumina 팀, 오픈소스 모델의 '앤 해서웨이 고정 출력' 버그 비하인드
IP-Adapter 앵커 하드코딩 오류로 인한 사례. 이미지 생성 파이프라인 구성 시 주의해야 할 기술적 실수.
요약
오픈소스 모델 'Neta Lumina'를 개발한 Neta 팀이 최근 자사의 'Neta Studio' 통합 과정에서 모든 이미지가 앤 해서웨이(Anne Hathaway)로 생성되는 오류를 발견했다. 개발팀은 이 현상의 원인을 파악하는 데 2주가 소요되었으며, 조사 결과 IP-Adapter 앵커에 실수로 앤 해서웨이의 사진을 하드코딩했던 것으로 드러났다. 단일 프롬프트로 가상 세계를 구축하는 Neta Studio를 개발하던 중 해당 문제가 발생해 모델이 프롬프트를 제대로 수행하지 못하는 현상이 나타났다. 이번 사건은 모델 학습 데이터나 어댑터 설정 과정에서 발생할 수 있는 데이터 오염의 대표적인 사례로 커뮤니티에서 화제가 되었다. 현재 Neta 팀은 해당 오류를 수정하고 관련 기술적 문제를 해결 중이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 It took us two 2eeks to figure out why every image gen via our open-source model looked like Anne Hathaway
원문 보기 ↗