RAG 與知識庫
Cross-Encoder 交叉編碼器是什麼?更準但更慢的比對方式
Cross-Encoder 交叉編碼器是什麼?更準但更慢的比對方式
知識庫撈出來的十份資料裡,只有一份真的答得到問題,剩下九份都只是「字面上有點像」。
交叉編碼器就是負責在最後一關把那一份挑出來的機制。它慢,但它準。
你將學到什麼
一句話定義
把問題跟文件綁在一起深度比對,輸出相關性分數的打分機制。
白話比喻
初選看履歷關鍵字,決選是把人找來面試,一題一題對著問。
用在哪一步
檢索召回之後的重排序階段,只處理少量候選文件。
代價是什麼
逐對計算、耗算力、速度慢,不適合拿來做大規模初步檢索。
定義
Cross-Encoder(交叉編碼器)是一種將查詢(問題)與文件(段落)串接在一起、輸入到同一個 Transformer 模型中的機制,讓模型直接學習兩者的互動關係,輸出相關性分數。
運作方式分三步:輸入串接把問題與文件綁在一起、模型深度編碼同時理解兩者、輸出一個相關性分數。
它不只看文件內容,而是理解問題和文件之間的真正關係。
跟雙塔編碼器差在哪
| 項目 | Cross-Encoder 交叉編碼器 | Bi-Encoder 雙編碼器 |
|---|---|---|
| 輸入方式 | 查詢加文件串接在一起 | 查詢與文件分開編碼 |
| 互動方式 | 深度語義互動,逐對分析 | 向量相似度計算,獨立比較 |
| 相關性判斷 | 非常精準 | 較粗略 |
| 計算成本 | 高,較耗算力也較慢 | 低,效率高、速度快 |
| 適用場景 | 重排序,精準挑選最佳答案 | 初步檢索召回,快速找出候選文件 |
在 RAG 流程中的位置
第一步用向量搜尋或 BM25 做文件檢索,撈出前 K 筆候選文件。
第二步進入 Re-ranking 重排序,用交叉編碼器逐一與問題配對打分。第三步輸出分數最高的前幾筆,作為最終送進模型的依據。
實際用例
問「AI 如何應用在醫療影像診斷」,候選文件裡有一份談深度學習分析 X 光與電腦斷層影像、一份談影像壓縮技術、一份談醫療產業市場規模。
三份都含有「醫療」與「影像」,用 Embedding 相似度不一定分得出來,交叉編碼器則會把第一份的分數拉得明顯高於另外兩份。
延伸學習
ChatGPT 很強,但真正讓你下班的是 Google
六小時完整實錄。從「AI 很厲害,為什麼你還是每天加班」這個問題出發,把 Google Workspace 當成真正的工作平台重新設計一次流程 ── Sheets 的資料結構、Drive 與 Docs 的文件流、Gmail 與 Calendar 的通知系統,再用 Apps Script 讓它自己跑起來,最後收斂成一張屬於你自己的 AI 工作能力地圖。
NT$ 4,599
知識變現切割地圖(高清版下載,不含講義)
《知識變現切割地圖》的高清完整版。一張圖把語氣、心理、內容、產品、再利用五層模組攤在同一個平面上,讓你回頭盤點已有內容、規劃新的轉化節奏。課程附上地圖本身的完整解說與應用指南,教你怎麼讀這張圖、從哪一層開始用。完整版 PDF 可下載,放大看細節不會糊。
NT$ 680

