RAG와 출처 기반 답변

RAG는 Retrieval-Augmented Generation의 줄임말입니다. retrieval은 회수 또는 검색, generation은 생성을 뜻합니다. 질문이 오면 검색기가 가까운 문서 조각을 고르고, 언어 모델은 질문과 그 조각을 함께 받아 답을 만듭니다.

RAG는 질문과 관련된 자료를 먼저 검색하고 그 자료를 문맥으로 넣어 답을 생성하는 두 일을 결합합니다. 1NeurIPSRetrieval-Augmented Generation for Knowledge-Intensive NLP TasksAbstract and Section 2, retrieval-augmented generation formulation

이 교재 도우미는 지금 읽는 절, 챕터, 트랙을 먼저 살핍니다. 같은 질문이라도 쉬운 트랙에서는 쉬운 트랙 원고만, 기본 트랙에서는 기본 트랙 원고만 찾습니다. 두 원고는 목표만 공유하고 예시와 설명을 따로 썼기 때문입니다. 공통 출처 설명은 별도 서가처럼 검색합니다.

답변에 [1]이 있다면 숫자만 믿지 말고 눌러 봅니다. 이 서비스에서 숫자는 source ID와 연결되고, source ID는 출처 목록의 기관, 제목, 판, 날짜, 링크로 이어집니다. 모델이 주소를 직접 쓰지 않고 서버가 등록된 주소만 열어 줍니다.

안정된 source ID는 답의 근거를 검증된 출처 목록과 연결해 모델이 임의의 링크를 만드는 일을 막는 데 도움을 줍니다. 2National Institute of Standards and TechnologyArtificial Intelligence Risk Management Framework: Generative Artificial Intelligence ProfileSection 2.7 and suggested actions on content provenance

정확한 위치도 중요합니다. 60쪽 보고서 전체를 링크하는 것보다 “12쪽의 이 절”처럼 앞 문장을 확인할 곳을 알려 주어야 합니다. 출처 카드의 기관과 날짜, 라이선스, 마지막 검토일도 살펴봅니다. 제조사가 자기 제품을 설명한 자료는 “제조사 1차 자료”라고 따로 표시됩니다.

검색기는 낱말이 비슷하지만 질문과 다른 부분을 가져올 수 있습니다. 언어 모델은 올바른 부분을 받아도 숫자를 바꾸거나 두 문장을 잘못 합칠 수 있습니다. 오래된 자료가 검색되면 최신 질문에 맞지 않을 수도 있습니다.

RAG도 관련 없는 부분을 찾거나 찾은 내용을 잘못 엮으면 틀릴 수 있으므로 인용된 원문을 확인해야 합니다. 3National Institute of Standards and TechnologyArtificial Intelligence Risk Management Framework: Generative Artificial Intelligence ProfileSections 2.3 and 2.7, confabulation and information integrity

그래서 도우미는 결과를 세 상태로 표시합니다. 충분한 교재 부분을 찾으면 “교재 근거 있음”, 가까운 부분은 있지만 답하기 모자라면 “근거 부족”, 교재 주제가 아니면 “교재 범위 밖”입니다. 근거가 없을 때 출처를 만들어 채우지 않습니다. 숫자형 확신도 대신 실제 출처 수를 보여 줍니다.