RAG 與知識庫

RAG 檢索增強生成是什麼?讓 AI 先查資料再回答

RAG(Retrieval-Augmented Generation,檢索增強生成)是讓 AI 先查資料再回答的做法。使用者提問後,系統先到外掛的知識庫裡檢索相關內容,把撈到的段落連同問題一起送給模型,模型再根據這些材料生成答案,並附上來源引用。它的價值在於答案有依據、可追溯,而且知識庫更新後回答就立刻跟著更新,不必重新訓練模型。這是目前降低幻覺最實用的一套架構。
RAG 檢索增強生成是什麼?讓 AI 先查資料再回答:文章重點卡

RAG 檢索增強生成是什麼?讓 AI 先查資料再回答

問 AI 「我們公司出差報銷上限多少」,它不可能知道,因為那份規定只存在你們的雲端硬碟裡。硬問就會得到編造的數字。

RAG 就是幫它把那份文件先找出來再作答。這是企業導入 AI 最常走的第一條路。

你將學到什麼

定義

先從外部知識庫檢索相關內容,再讓模型根據這些內容生成答案。

白話比喻

開書考。不要求背起來,但要求你翻到那一頁再作答,還要註明頁碼。

五個步驟

提問、檢索、增強、生成、附上來源引用。

最大好處

知識庫一改,回答立刻跟著改,不用重新訓練模型。

定義

RAG 是結合外部知識庫的生成方式,讓回答更準確、可追溯、有依據。它不改模型,只改模型手上拿到的材料。

流程是五步:使用者提問、在知識庫中檢索相關內容、把檢索到的內容加進問題裡、模型據此生成答案、附上來源引用方便追溯。

白話比喻

像一場開書考。老師不要求你把整本背起來,但要求你翻到正確那一頁再作答。

而且答案卷上要寫「這題出自第幾頁」。翻對頁的人答得又快又準,翻錯頁的人照樣會寫錯,這也是檢索品質決定一切的原因。

知識庫是怎麼建起來的

步驟做什麼
資料擷取從文件、網頁、資料庫、雲端硬碟等來源取得原始資料
資料清理去除雜訊、統一格式
切片分段把內容切成一小段一小段
向量化把文字轉成向量表示
建立索引存進向量資料庫供檢索

實際用例

常見場景包括企業內部知識問答、文件與報告分析、客服與技術支援、研究與市場情報、教育與學習輔助。共同特徵是資料是你自己的、會變動、而且不能答錯。

做得好的幾個關鍵:持續更新知識庫、設定適當的切片策略、調整檢索參數平衡召回率與精準度、提供清楚的來源引用、持續監控效果。跟微調的取捨可以看 知識庫 RAG 跟模型微調的差別

常見誤解

最常見的誤解是以為 RAG 讓模型「學會」了你的資料。它沒有學,只是每次臨時把資料翻給它看,關掉知識庫就什麼都不知道。

第二個誤解是把 RAG 當成搜尋引擎的替代品。它的強項是把找到的內容整理成答案,找得對不對仍取決於檢索那一段,那一段做不好,後面全白做。相關概念可以看 Grounding 資訊錨定

本文源起本文內容出自酒Ann 的「AI 實戰陪跑班」課程教材,由酒Ann 編寫成彙編條目。想系統性搞懂 AI 名詞,歡迎追蹤 酒Ann 的 Facebook

延伸學習

把這篇文章分享給需要的人FacebookLINEThreadsX

常見問答

RAG 跟微調差在哪?
微調是把知識練進模型的參數裡,改一次要重跑訓練,成本高但推論時不必另外查資料。RAG 是把知識放在外面,用檢索的方式即時取用,改資料只要改文件。要教模型「怎麼講話」用微調,要它「知道什麼事實」用 RAG。
有了 RAG 就不會有幻覺嗎?
會少很多,但不是零。如果檢索沒撈到對的段落,模型手上材料不足時仍可能自己補。所以除了 RAG,還要設計好切片策略、調整檢索參數,並要求它在找不到依據時直接說沒有,而不是硬答。
為什麼要先把文件切片?
因為一次能塞進模型的內容有限,而且整份文件丟進去會讓相關度被稀釋。切成小段落之後,檢索才能精準命中你要的那一段。切太碎會失去上下文,切太大又不精準,這個平衡是做 RAG 最需要調的地方。