AI 為什麼會說錯？認識「幻覺」與如何防範

AI 也會「自信地說錯」

你可能遇過：AI 給的答案聽起來頭頭是道，查證後卻是錯的、甚至完全捏造。這個現象叫「幻覺」（hallucination），是使用 AI 一定要懂的事。

為什麼會發生

大語言模型的本質是「預測下一個最合理的字」，而不是「查證事實」。當它不知道答案時，仍會生成「看起來合理」的內容——於是就編了出來。它不是故意騙你，是它的運作方式使然。

最容易出現幻覺的情況

• 冷門、specific 的事實（人名、數據、日期、引用）
• 它訓練資料裡沒有的最新資訊
• 你問得很模糊或帶有錯誤前提
• 要求它提供「來源」「論文」「法條」時（可能捏造）

怎麼防範

1. 重要資訊一定查證：尤其是數字、引用、法律醫療等。
2. 用能附來源的工具：如 Perplexity，可點來源核對。
3. 給足脈絡、別問模糊問題：前提越清楚，越不易亂編。
4. 要它「不知道就說不知道」：在提示裡明確要求。
5. 企業用 RAG：讓 AI 根據你的資料回答，見 打造企業 AI 知識庫。

總結

幻覺不是 AI 壞掉，是它的本質。把 AI 當「很會講但偶爾會錯的聰明助手」，重要的事自己把關，就能安心用。延伸閱讀：使用 AI 工具的隱私與安全。

一個簡單的自保習慣

把 AI 當成「很會講、但偶爾會睜眼說瞎話的聰明助手」：

• 數字、日期、引用、法條 → 一定再查一次
• 重要決定 → 不要只憑 AI 一句話
• 要它「不知道就說不知道」，能降低亂編

總結

幻覺不是 AI 壞掉，是它的本質。理解它、對重要的事保持查證，就能安心用。延伸閱讀：AI 內容偵測準嗎。