참고팁Reddit
오픈 모델 기반 프로덕션 RAG 구축 워크숍 공유
하이브리드 리트리벌과 RAGAS 평가 등 실무 환경에서 오픈 모델을 활용한 효율적인 RAG 파이프라인 구축 방법론을 배울 수 있습니다.
요약
8월 29일, API 호출 없이 완전히 오픈 소스 모델만 활용하여 프로덕션 수준의 RAG(Retrieval-Augmented Generation)를 구축하고 벤치마킹하는 실습 워크숍이 개최된다. AI 컨설턴트이자 Chelsea AI Ventures 설립자인 Ben Auffarth가 주도하며, 벡터 검색 단독 방식의 한계를 보완하기 위한 하이브리드 검색(벡터+키워드)과 리랭킹(Reranking) 기술을 다룬다. 특히 RAGAS를 활용한 평가 방법론을 통해 RAG 품질을 정량적으로 측정하고, 설계 단계부터 가드레일을 구축하는 프로세스를 교육한다. 오픈 모델 배포 시의 실제 비용과 성능 벤치마킹 데이터도 함께 공유될 예정이다. 실무자들은 이번 워크숍을 통해 비용 효율적인 프로덕션급 RAG 파이프라인 구축 노하우를 습득할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 We’ve got a workshop on production retrieval-augmented generation with open models, benchmarked end to end, thought it’d be relevant here [D]
원문 보기 ↗