劍橋字典於 2023 年訂的年度關鍵字是Hallucinate，希望在這股 Chat GPT 熱潮中提醒大家：AI 固然好用，但也有可能產生錯假訊息。

AI 幻覺：
是指 AI 系統如大型語言模型生成的虛構、不合理及不準確的資訊，可能由於數據質量、模型結構等產生，根據相關公司的研究調查發現，目前各大語言模型都有幻覺問題。

但是為什麼大型語言模型會有這樣的問題呢？

OpenAI 創始元老 Andrej Karpathy 以「夢境」比喻大型語言模型的運作，使用者輸入的提示詞，就如夢境開始的鑰匙，這些模型基於對訓練數據的模糊印象來開始「作夢」，大多數的夢境會產生對使用者有用的結果（讓使用者的問題獲得解答），只有夢境進入被認為不正確的範圍，才會被標記為「幻覺」。

目前使用者可以透過 RAG 技術，比較多個模型生成的不同回應，找出矛盾之處，讓模型自我反思並驗證其生成的資訊。

科技始終來自於人性，人會犯錯，機器也會。在使用 AI 產品時，別忘了仍需要批判性思考，而非對於其產出的資訊全然接收唷!

參考資料：
「我沒有說謊，這是AI幻覺」當AI一本正經胡說八道 | DQ 地球圖輯隊