RAG 파이프라인, 검색을 코드로 짜면서 배운 것RAG를 "LLM에 문서 검색을 붙이는 것" 정도로만 알고 있었다. 막상 파이프라인을 코드로 짜 보니, 정작 어려운 건 LLM이 아니라 검색이었다. 색인부터 평가까지 각 단계에서 무엇을 결정해야 하는지 정리한다.RAG를 다시 정의하기: 무엇을 아는가 vs 어떻게 말하는가처음엔 파인튜닝과 RAG를 같은 서랍에 넣고 있었다. 둘 다 "모델에 지식을 넣는 법"이라고 생각했다. 코드를 짜면서 경계가 분명해졌다.파인튜닝은 모델 가중치를 바꾼다. RAG는 가중치를 그대로 두고, 답을 생성하기 전에 외부 저장소에서 관련 문서를 찾아 프롬프트에 끼워 넣는다. 이번 프로젝트 목적을 기준으로 단순화하면, 최신 근거를 제공하는 문제는 RAG에, 반복되는 응답 방식과 형식을 학..
