본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.
https://fastcampus.info/4n8ztzq
(~6/20) 50일의 기적 AI 환급반💫 | 패스트캠퍼스
초간단 미션! 하루 20분 공부하고 수강료 전액 환급에 AI 스킬 장착까지!
fastcampus.co.kr
이번 강의를 통해 RAG(Retrieval-Augmented Generation) 시스템의 핵심인 임베딩과 벡터 데이터베이스 구축 과정을 구체적으로 경험할 수 있었습니다. 단순히 "문서를 임베딩한다"는 추상적인 개념에서 벗어나, 실제로 어떤 모델을 사용하고 어떻게 데이터를 다루는지가 명확히 정리되어 있어서 매우 인상적이었습니다. 특히 OpenAI의 text-embedding-3-small 모델과 Ollama의 bge-m3 모델을 비교하며 학습할 수 있었던 점이 좋았습니다. 실제로 두 모델의 임베딩 벡터 차원, 처리 속도, 검색 정확도의 차이를 직접 체감할 수 있었고, 이를 통해 상황에 따라 적합한 임베딩 모델을 선택해야 한다는 점을 배웠습니다.
PDF 문서를 페이지 단위로 로드한 뒤 RecursiveCharacterTextSplitter를 이용해 청크로 나누는 과정 또한 매우 유용했습니다. 보통 문서 단위로만 생각하기 쉬운데, 이렇게 세분화된 청크 단위로 나눠야 검색 정확도를 높이고 문맥을 유지할 수 있다는 점을 이해하게 되었습니다. 청크 간 200자 정도의 overlap을 두는 실습은 특히 인상적이었습니다. 이를 통해 문서 내 흐름을 보존하면서도 세밀한 검색이 가능하다는 점을 직접 체험할 수 있었습니다.
FAISS를 활용한 벡터 저장소 구축은 개인적으로 가장 흥미로웠습니다. 기존에 알고 있던 단순한 DB 검색과 달리, 벡터 유사도 기반 검색은 완전히 다른 차원의 접근법임을 깨달았습니다. 단순 키워드 기반이 아닌, 의미 기반 검색을 통해 더 자연스럽고 정확한 응답을 제공할 수 있었습니다. 또한, FAISS는 in-memory 기반이라 빠른 속도를 제공하지만 영구 저장이 어렵다는 단점도 명확히 알게 되었고, 이를 보완하기 위해 Chroma DB를 도입하는 부분에서 데이터베이스 설계의 실용적인 고민까지 느낄 수 있었습니다.
Chroma DB는 영구 저장 기능과 함께 다양한 필터링 조건을 지원하기 때문에 실제 서비스에 적용할 때 훨씬 유연하다는 점이 매우 매력적이었습니다. 실제로 필터 조건을 적용한 쿼리 실습에서, 단순히 유사한 문서를 찾는 것이 아니라 메타데이터 기반 조건부 검색까지 할 수 있다는 점이 특히 기억에 남습니다.
이 강의를 듣고 나니 RAG 기반 시스템을 구축할 때 벡터 DB 선택이 단순한 기술 요소가 아니라, 서비스의 품질과 직결된다는 점을 깊이 느꼈습니다. 강의 자료와 코드를 따라가며 손으로 직접 실습하면서, 이론적 지식과 실무 감각을 동시에 얻을 수 있었던 점이 가장 큰 수확이었습니다. 앞으로 AI 기반 검색 시스템이나 QA 시스템을 개발할 때, 오늘 배운 내용이 매우 큰 자산이 될 것 같습니다. 정말 유익한 강의였습니다
