生成與推論
Hallucination 幻覺是什麼？AI 一本正經地說謊
Hallucination 幻覺，指 AI 生成看似合理、實際上錯誤或根本不存在的資訊。當它不確定答案，或訓練資料中沒有相關內容時，仍會嘗試把答案補齊，於是憑空捏造出人物、機構、引用或數據。它的語氣一樣自信，所以特別容易被當真。
Hallucination 幻覺是什麼？AI 一本正經地說謊
你問 AI 一個冷門問題，它給了一段完整的答案，附上研究者姓名與年份。你去查，那篇研究不存在。這就是幻覺。
幻覺不是 AI 故障，而是它的運作本質。理解這件事，你才會建立起使用 AI 的正確習慣：可以用，但重要的事一定要查證。
你將學到什麼
定義
AI 生成看似合理、實際上錯誤或不存在的資訊，而且語氣一樣自信。
白話比喻
像一位魔術師。表演精彩到你以為是真的，但那些東西本來就不存在。
跟誰容易搞混
常被說成「AI 壞掉了」。它沒壞，這是機率式預測的自然副作用。
定義
Hallucination 幻覺，是指 AI 生成看似合理、但實際上錯誤或不存在的資訊。當 AI 不確定答案，或訓練資料中沒有相關內容時，它仍會嘗試把答案「補齊」，於是產生了看起來很有道理的錯誤內容。
整個過程有五步：資料限制、理解與推理、遇到不確定或缺乏資訊、產生錯誤內容、被使用並傳播。最後一步最麻煩，因為使用者若不查證，錯誤資訊會被當真擴散。
白話比喻
AI 就像一位魔術師，可以創造出看起來很真實的內容，但那些內容其實是不存在的魔術。精彩，但不代表真實。
它也很像一個不肯說「我不知道」的人。你問什麼，它都要接得上，於是在資料的缺口處自動填空，而填空用的是語感不是事實。
常見的幻覺類型
| 類型 | 會長什麼樣子 | 為什麼是幻覺 |
|---|---|---|
| 捏造人物或事件 | 把某人與某件事湊在一起講得很具體 | 時間、身分或事件根本對不上 |
| 虛構機構或組織 | 講出一個名字很正式的單位 | 實際上沒有這個機構 |
| 假引用與造假來源 | 「根據某某研究指出…」 | 那篇文獻並不存在 |
| 錯誤的事實或數據 | 給出一個具體但錯誤的數字 | 與公認數值不符 |
| 錯誤的時間或順序 | 把發生年份講錯 | 先後順序與事實相反 |
| 錯誤的程式碼或公式 | 語法看起來完全正常 | 執行後出錯或得到錯的結果 |
實際用例
最常踩到的情境有三種：查冷門的法規與制度、要它列參考文獻、問它某個產品的規格數字。這三種都有標準答案，而 AI 沒有查證能力，錯了你不會有任何提示。
我的做法是把「有沒有來源」當成分界線。凡是要對外公開、要給客戶、要進報告的內容，一律用 Citation 引用來源 的方式回頭查一次原始出處，查不到就當作它不存在。
常見誤解第一個誤解是以為換更強的模型就不會有幻覺。模型越強，幻覺的頻率會下降，但不會歸零，而且錯得更像真的。第二個是以為語氣有把握就代表有依據。AI 的自信程度與正確率無關，這正是它最危險的地方。
本文源起本文內容出自酒Ann 的「AI 實戰陪跑班」課程教材，由酒Ann 編寫成彙編條目。想系統性搞懂 AI 名詞，歡迎追蹤 酒Ann 的 Facebook。
延伸學習
常見問答
為什麼 AI 會產生幻覺？
四個原因：訓練資料不完整、資料過時、預測本質是猜下一個詞而不是查事實庫，以及為了讓回答流暢而自動補齊內容。它沒有「我不知道」這個預設選項。
要怎麼降低幻覺？
五招最有效：提供清楚的背景與限制、要求它附上來源並自己查證、要求分步思考再回答、上傳可靠資料讓它有依據、對重要資訊交叉比對而不完全依賴單一回答。
發現幻覺之後該怎麼辦？
先保持懷疑，對過於完美或細節過多的內容多一分警覺；接著用官方網站、學術資料庫或新聞媒體查證；再追問它的依據並要求重新檢查；有回報管道就回報，幫助改進模型。