본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.
https://fastcampus.info/4n8ztzq
(~6/20) 50일의 기적 AI 환급반💫 | 패스트캠퍼스
초간단 미션! 하루 20분 공부하고 수강료 전액 환급에 AI 스킬 장착까지!
fastcampus.co.kr
오늘 수강한 "Qdrant + Reranker를 활용한 고급 RAG 시스템 구축" 과정은 RAG 기반 검색 시스템의 정확도를 높이기 위한 핵심 기술인 Reranker에 대해 이론부터 실습까지 폭넓게 다뤄 매우 유익한 시간이었습니다. 먼저 이론 강의에서는 Reranker의 개념과 원리를 명확히 짚어주었습니다. 일반적인 벡터 유사도 검색이 쿼리와 문서를 각각 인코딩해 비교하는 반면,
Reranker는 Cross-Encoder 방식을 활용해 쿼리-문서 쌍을 하나의 입력으로 받아 더 정밀한 relevance score를 예측한다는 점이 인상 깊었습니다. 특히 BAAI의 bge-reranker와 같은 모델이 Huggingface에서 제공된다는 점은 실무 적용 가능성을 높여줬습니다.
실습에서는 LangChain과 Qdrant를 기반으로 한 RAG 시스템 구축을 직접 체험했습니다. 지정된 PDF 문서를 로딩하고 RecursiveCharacterTextSplitter로 문서를 청크 단위로 나눈 후, bge-m3 임베딩 모델을 사용해 Qdrant에 저장하는 전 과정을 진행했습니다. 이후 사용자가 입력한 질문에 대해 벡터 기반 검색 결과를 먼저 확인한 후, 동일한 결과를 Cross-Encoder 기반 Reranker로 재정렬해보며 응답 품질의 차이를 체감할 수 있었습니다. 특히 단순 유사도 기반보다 Reranker가 더 관련도 높은 문서를 우선시한다는 점이 실질적인 개선 효과로 다가왔습니다.
마지막으로 LCEL 기반 RAG 응답 생성 체인을 구축해, reranked된 문서를 기반으로 LLM 응답을 생성하는 흐름까지 구성하면서 RAG 파이프라인의 종합적 이해도를 높일 수 있었습니다. 단순한 이론 이해를 넘어서, 실습을 통해 RAG 시스템을 처음부터 끝까지 손으로 다뤄본 경험은 매우 값진 학습이었습니다. 특히 Reranker가 정확도를 높이는 동시에 계산 비용이 든다는 현실적인 trade-off에 대한 고민도 하게 되었고, 실무 적용시 어떤 조건에서 적용해야 할지에 대한 감각도 익힐 수 있었습니다. 전반적으로 내용이 명확하고 구성도 잘 되어 있어 매우 만족스러운 강의였습니다.
