RAG는 질문이 들어오면 먼저 회사 문서에서 관련 부분을 찾고 그 문서를 근거로 답을 만드는 AI 방식이다.
| 구분 | 내용 |
|---|---|
| 정의 | RAG는 질문이 들어오면 먼저 회사 문서에서 관련 부분을 찾고 그 문서를 근거로 답을 만드는 AI 방식이다. |
| 설명 | 답과 함께 근거 문서를 보여 줄 수 있다. 문서가 틀리거나 옛 버전이 섞여 있으면 답도 틀리므로, 도입의 절반은 최신 버전 표시와 권한 정리 같은 문서 정리다. |
| 차이 | 일반 챗봇은 학습한 인터넷 글로 답하고 우리 회사 문서를 모르지만, RAG를 사용하는 AI는 답할 때마다 회사 문서를 찾아본다. |
대화형 AI에 우리 회사 작업표준이나 거래처 조건을 물어보면 그럴듯하지만 틀린 답이 돌아오곤 한다. AI가 그 회사의 문서를 학습한 적이 없어서다. 그래서 회사 문서를 먼저 찾아보고 그 문서를 근거로 답하게 하는 방식이 나왔고, 이것이 RAG다.

RAG는 Retrieval-Augmented Generation의 약자로, 우리말로는 검색 증강 생성이다. 질문을 받으면 AI가 곧바로 답하지 않고 회사 문서에서 관련된 부분을 먼저 찾는다. 그런 다음 찾아낸 문서를 근거로 답을 만든다. 답과 함께 어느 문서의 어느 부분을 참고했는지도 보여 줄 수 있다.
일반 챗봇은 학습 때 본 인터넷 글을 바탕으로 답한다. 우리 회사 문서는 알지 못하므로 모르는 내용을 그럴듯하게 꾸며 낼 수 있다.
RAG를 사용하는 AI는 답할 때마다 회사 문서를 찾아본다. 문서가 바뀌면 바로 다음 답부터 바뀐 내용이 반영되고, 근거 문서가 함께 나오니 사람이 답의 정확성을 확인하기 쉽다.

RAG는 찾아낸 문서를 바탕으로 답하므로 문서가 틀리면 답도 틀린다. 같은 내용의 지난 버전과 새 버전이 섞여 있으면 지난 버전을 근거로 삼을 수 있고, 스캔 이미지로 된 문서는 글자를 인식하지 못해 검색 대상에서 아예 제외된다. 그래서 RAG 도입 작업의 절반은 AI가 아니라 문서 정리다.

도입 전에 아래 세 가지를 확인한다.
RAG는 AI를 더 똑똑하게 하는 기술이라기보다, AI가 우리 회사 문서를 근거로 말하게 하는 방법이다.
귀사의 상황에 맞는 답을 드립니다.