본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.
https://fastcampus.info/4n8ztzq
(~6/20) 50일의 기적 AI 환급반💫 | 패스트캠퍼스
초간단 미션! 하루 20분 공부하고 수강료 전액 환급에 AI 스킬 장착까지!
fastcampus.co.kr
이번 실습 노트북은 PowerPoint 또는 PDF 형식의 문서들을 벡터 기반 검색 시스템과 연동하여, LLM을 활용한 질의응답 시스템(RAG)을 구축하는 과정을 다루고 있었습니다. 기존에 많이 접했던 FAISS 기반 RAG와 달리, 본 실습에서는 Qdrant라는 실시간 벡터 DB를 활용하여 문서 인덱싱과 검색을 수행한다는 점에서 인프라 구성 및 실무 적용 관점에서 매우 신선하고 실용적인 내용이었습니다.
노트북은 크게 네 부분으로 나뉘어 구성되어 있었습니다. 첫 번째는 문서 준비 및 전처리 과정이었습니다. 이 단계에서는 PowerPoint 파일이 아닌 PDF 파일을 대상으로 pymupdf4llm 라이브러리를 활용하여 각 페이지를 마크다운 텍스트로 추출하였습니다. 특히 슬라이드 기반 문서의 구조를 고려하여 각 페이지별 텍스트를 Document 객체로 구성하는 과정은 실제 PPT 문서를 지식베이스로 삼을 때 매우 유용한 전략임을 확인할 수 있었습니다.
두 번째는 문서 임베딩과 Qdrant 벡터 저장소 구축이었습니다. 이 파트에서 인상 깊었던 점은 InstructorEmbedding 모델을 사용했다는 것입니다. 이는 단순한 문장 임베딩이 아닌, Instruction 기반으로 텍스트 의미를 벡터화하는 방식이기 때문에, 질의-문서 간 의미 연결을 더 정밀하게 파악할 수 있었습니다. LangChain의 Qdrant.from_documents를 통해 벡터를 저장소에 직접 등록하고, 나중에 다시 로드하여 활용하는 방식 또한 실무 시스템에 바로 적용 가능한 흐름이었습니다.
세 번째는 Retrieval-Augmented Generation (RAG) 구성입니다. Qdrant에서 관련 문서를 검색하고, 이를 LLM의 context로 넣어 응답을 생성하는 체인을 LangChain으로 구성했습니다. 특히 Retrieval 모델로부터 직접 검색된 Document를 기반으로 하는 QA Chain의 작동 원리를 그대로 체험해보면서, 문서 검색 정확도에 따라 응답 품질이 크게 달라지는 것도 눈으로 확인할 수 있었습니다.
마지막으로, 질의 테스트 파트에서는 슬라이드 문서 내 특정 키워드나 요약 내용을 질문으로 던졌을 때, 실제 슬라이드의 어느 부분에서 정보를 추출했는지 확인하며 LLM의 reasoning 품질과 RAG의 연결 구조를 검증하는 시간이었습니다. 예를 들어, “포드 자동차의 경제적 영향은?” 같은 질문에 대해 실제 관련 슬라이드 내용을 기반으로 응답하는 흐름은, 단순한 LLM 응답이 아닌 검색 기반 LLM 응답임을 명확히 보여줬습니다.
총평하자면, 이 실습은 단순한 코드 실습을 넘어서 현대적인 RAG 시스템의 전체 흐름을 명확하게 보여주는 고급 콘텐츠였습니다. Qdrant, InstructorEmbedding, LangChain, PyMuPDF4LLM 등 최신 기술을 통합적으로 다루면서도 실습이 단순하지 않게 구성되어 있어, 실제 업무에 적용 가능한 수준으로 잘 설계되어 있었습니다. 문서 기반 지식 QA 시스템을 구축하고자 하는 개발자나 연구자에게 적극 추천드립니다.
