檢索增強生成Retrieval-Augmented Generation (RAG)
檢索增強生成是讓語言模型先從外部資料找出相關內容,再依這些內容撰寫答案的做法,簡稱 RAG。
- 英文
- Retrieval-Augmented Generation (RAG)
- 台灣常見別名
- 檢索增強式生成
- 簡中用語
- 检索增强生成
- 類別
- AI搜尋與GEO
- 提出者與年份
- Patrick Lewis 等 12 位作者,2020 年 5 月 arXiv 論文,同年收錄 NeurIPS 2020
- 官方文件
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks(原論文);AWS 與 Microsoft 的 RAG 說明文件
檢索增強生成是什麼?
檢索增強生成的英文是 Retrieval-Augmented Generation,簡稱 RAG。語言模型的知識來自訓練資料,訓練完就不會自己更新,也不知道你公司的內部文件。RAG 的做法是在模型回答之前,先用搜尋從指定的資料裡找出相關段落,再把這些段落連同問題一起交給模型,請它依據內容寫出答案。名稱裡的「增強」,指的是用檢索到的資料補強模型原本的記憶。
它在 AI 搜尋流程裡把「找資料」和「寫答案」兩步接在一起,位置介於傳統搜尋引擎與聊天機器人之間。搜尋引擎只回傳連結,單獨的語言模型只憑記憶回答,RAG 則先找資料,再依資料作答。
舉例
網拍客服機器人被問「退貨申請後幾天要寄回?」系統先在退貨條款文件裡找出相關段落,再讓模型依條款回答。如果找到的是去年的舊版條款,答案寫得再流暢也會是錯的,所以要查錯,得先看模型當下拿到哪幾段文件。
檢索增強生成怎麼運作
一、整理可查的資料。系統讀取文件,切成片段,建立索引,並保留文件名稱與版本。索引可以用關鍵字比對,也可以用向量相似度,或兩者混合。
二、依問題取回片段。檢索元件從允許的來源挑出相關內容,回傳文件名稱、片段與版本,方便驗證哪份資料進入下一步。字面上出現相同的詞,不代表找到的內容適用於這個問題。
三、交給模型產生答案。系統把挑出的片段連同使用者問題放進模型的上下文。有做引用的產品,讀者可以沿著來源確認答案和原文是否一致;是否附引用、找不到資料時怎麼回答,取決於產品設計。
出處。Patrick Lewis 等 12 位作者在 2020 年 5 月於 arXiv 發表論文《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》,同年收錄於 NeurIPS 2020。他們把預訓練的語言模型當成「參數記憶」,把維基百科的向量索引當成可搜尋的「非參數記憶」,用在需要大量知識的問答任務上。
哪些產品在用。Amazon Bedrock Knowledge Bases 與 Microsoft 的 Azure AI Search 都把 RAG 當成官方文件裡的標準情境,讓企業用自己的文件作為回答依據。
在搜尋上的角色。2024 年 10 月 OpenAI 推出 ChatGPT 搜尋,Google 也有 AI 摘要與 AI 模式。這些產品的官方說明沒有用 RAG 稱呼自己,但流程與 RAG 相同:先檢索網頁,再生成附連結的回答。Google 的說明指出,頁面要被收錄、有資格以摘要形式顯示,才可能出現在 AI 功能裡,且沒有額外的特殊最佳化。對網站來說,這表示頁面先要被抓取與收錄,內容也要在被切成片段後仍然讀得懂,這是本站的判讀,不是官方說法。
為什麼重要
RAG 讓回答能涵蓋模型訓練之後才出現的新資料,也讓團隊查得到答案引用了哪個版本。答錯的原因可能在三處:索引還沒更新、檢索漏掉正確段落、模型誤讀已經取回的文字。分得出是哪一步出問題,才知道要修資料同步、搜尋設定,還是回答規則。
對 SEO 人員而言,RAG 說明了為什麼 AI 搜尋的答案會附上網頁連結:模型是依檢索到的頁面作答,被檢索到才有機會被引用。
怎麼檢查
- 在 ChatGPT 搜尋或 Google 的 AI 模式輸入你想被找到的問題,記下回答引用了哪些網頁,以及引用的是哪一段文字。
- 沒被引用時,先到 Google Search Console 的「網址審查」,確認頁面已被收錄,也沒有 nosnippet 之類限制摘要的設定。
- 檢查頁面的段落能不能單獨讀懂:段落開頭寫出主詞,數字附上單位與日期,不要只寫「如上所述」。
- 如果是自己架設公司內部的 RAG,先準備一組有標準答案的測試問題,加一題資料裡沒有答案的題目,逐題記錄取回的文件版本與生成結果。
常見誤解
接上 RAG 後,模型已經重新學會文件。
文件是隨每次查詢提供給模型的,不會因為一次檢索就改變模型參數。
答案放了引文,就確定全文正確。
來源可能是舊版、適用對象不同,或只支持答案的一部分。還是要核對原句和日期。
資料越多,回答就越準。
來源重複、過期或互相衝突時,檢索要靠版本和適用範圍來分辨。擴大資料庫之前,先用同一組問題測試。
常見問題
RAG 和微調有什麼差別?
RAG 不改動模型,只在每次回答前補上檢索到的資料;微調則用額外資料重新訓練,改變模型的參數。資料常常更新、需要標明出處時,通常先考慮 RAG。
RAG 一定要使用向量資料庫嗎?
不用。向量索引只是找片段的做法之一,全文搜尋、混合檢索,或由程式查詢結構化資料,也可以提供生成時需要的內容。選哪一種要看資料型態與查詢方式。
外部網頁的 RAG 回答一定能查到最新資料嗎?
不一定。要看系統怎麼取得網頁,以及有沒有使用快取、索引和定期同步。就算頁面已經更新,也要確認生成時實際取到的是哪個版本。
RAG 可以完全避免 AI 胡說嗎?
不能完全避免。RAG 提供可查證的資料,能降低憑空捏造的機會,但檢索到錯的段落、資料本身有誤,或模型誤解內容,仍會產生錯誤答案。回答最好附上來源讓人核對。
RAG 和 AI 搜尋引用網頁有什麼關係?
原理類似。AI 搜尋回答時會先檢索網頁片段,再依內容生成並附上來源連結。所以頁面的段落寫得清楚、能單獨被讀懂,比較有機會被取用和引用。