참고팁Reddit
포트폴리오 사이트 RAG 파이프라인 구축 및 라이브러리 버전 이슈 해결 사례
RAG 파이프라인에서 라이브러리 버전 불일치로 발생하는 디버깅 경험과 실질적인 구현 구성 공유.
요약
한 개발자가 자신의 포트폴리오 사이트에 단순 챗봇을 넘어선 실제 RAG(검색 증강 생성) 파이프라인을 구축한 사례가 r/LLMDevs에서 주목받고 있다. 사례 연구와 업무 이력을 청크 단위로 나누고 OpenAI의 text-embedding-3-small 모델로 임베딩하여 Neon Postgres와 pgvector에 저장한 후 코사인 유사도로 검색하는 방식을 택했다. 특히 AI SDK의 데이터 스트림 내 메시지 어노테이션 기능을 활용해 답변 텍스트와 출처(Citation)를 분리함으로써 응답 재파싱 없이도 어떤 청크가 참조되었는지 UI에 명확히 표시하도록 구현했다. 개발 과정에서 AI SDK 코어 패키지와 임베딩 제공업체 간 스펙 버전 불일치(EmbeddingModelV1 vs V4)로 인한 임베딩 실패 오류가 발생해 어려움을 겪었다. 해당 오류는 원인 파악이 어려운 타입 에러로 나타났으나, 제공업체 버전을 고정함으로써 문제를 즉시 해결했다. 파이프라인 연동 시 라이브러리 간 버전 호환성 관리가 필수적임을 시사한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 RAG pipeline in my portfolio site
원문 보기 ↗