검색 증강 생성 (RAG)
검색 증강 생성(RAG)은 언어 모델이 외부 소스에서 관련 문서를 먼저 검색한 뒤 그 검색된 텍스트를 근거로 답변을 생성하는 기술로, 모델이 학습 가중치만으로 사실을 떠올리는 대신 구체적이고 출처를 밝힐 수 있는 자료에 기반한 응답을 제공합니다.
RAG는 현대 AI 답변 엔진 대부분이 작동하는 방식입니다. 질문이 입력되면 시스템은 먼저 검색 단계를 거칩니다. 일반적으로 문서 색인에 대한 시맨틱 검색을 실행하여 가장 관련성 높다고 판단한 구절들을 가져온 후, 이를 컨텍스트로 모델에 제공합니다. 모델은 해당 구절을 바탕으로 답변을 작성합니다. ChatGPT, Perplexity, Google AI Overviews 같은 도구가 출처를 명시하고 링크를 제공할 수 있는 것도 이 때문입니다. 답변 생성 시점에 출처가 모델 앞에 실제로 존재하기 때문입니다. 검색 단계 없이는 모델이 학습 데이터에 포함된 내용을 재서술할 수밖에 없으며, 그 내용은 오래되었거나 지나치게 일반적이거나 특정 상품에 대해서는 아예 없을 수도 있습니다.
파이프라인은 두 단계로 구성되며 각 단계는 독립적으로 실패할 수 있습니다. 검색은 어떤 문서가 컨텍스트 창에 들어올지를 결정하고, 생성은 모델이 그 문서를 어떻게 활용할지를 결정합니다. 페이지가 아무리 잘 작성되었더라도 검색 단계에서 탈락하면 답변에 등장하지 못합니다. 색인에 포함되지 않았거나, 검색기가 매칭할 수 있는 구절 단위로 분리되지 않았거나, 시스템이 신뢰하는 다른 출처로부터 뒷받침되지 않은 경우가 여기에 해당합니다. 반대로 검색 단계를 통과하더라도 해당 구절 자체가 빈약하거나 서로 모순된다면 답변의 질은 낮아집니다. AI 검색에 최적화한다는 것은 사람이 읽는 텍스트뿐 아니라 두 단계 모두를 고려한다는 의미입니다.
예시로 자연주의 화장품을 판매하는 Shopify 스토어를 생각해봅니다. 고객이 ChatGPT나 네이버 AI에서 세안 후 자극이 적은 토너를 묻는다고 가정합니다. AI는 해당 사용 경험에 대해 찾을 수 있는 내용을 검색합니다. 커뮤니티 게시글, 에디토리얼 추천, 크롤링 가능한 형태로 공개된 리뷰 텍스트 등이 대상이 됩니다. 만약 스토어가 고객 리뷰 900건을 페이지 로드 후에 렌더링되는 JavaScript 위젯 안에 가두어 두고 있다면, 검색기는 빈 껍데기만 보고 아무것도 가져오지 못할 때가 많습니다. 리뷰를 크롤링 가능한 HTML에 담고 Product 및 Review 스키마로 마크업한 경쟁사는 리뷰 수가 더 적더라도 AI 답변에 인용됩니다.
RAG가 정확성을 보장하지는 않으며, 이 점은 솔직히 인정할 필요가 있습니다. 모델은 여전히 구절을 잘못 읽거나, 두 출처를 뒤섞거나, 실제로 그 주장을 뒷받침하지 않는 페이지를 인용할 수 있습니다. 검색 품질도 쿼리에 따라 달라지기 때문에, 특정 표현으로는 인용되던 페이지가 비슷한 다른 표현에서는 보이지 않을 수 있습니다. 이커머스에서 구매자들이 AI 어시스턴트에게 상품 비교와 추천을 요청하는 빈도가 높아질수록, 반복적으로 드러나는 문제는 하나입니다. 진짜 고객 리뷰는 존재하지만, 검색기가 가져올 수 있는 읽기 가능하고 뒷받침되며 색인된 형태로는 없다는 것입니다. 검색 가능한 상태가 되는 것은 다른 모든 것의 전제 조건입니다. 콘텐츠가 컨텍스트 창에 들어오지 못하면, 답변의 품질은 발휘될 기회조차 얻지 못합니다. 이 격차를 해소하는 것이 BeyondReviews가 집중하는 작업입니다.