遺漏重要資訊
A 公司 5 月 26 日的生產事件：
文件中明確提到模具預熱的步驟，
「溫度會依模具規範而不同」，必須查閱對應規格 (還特別標成紅色)。
但 AI 回應中遺漏了這段關鍵資訊，
導致新人直接套用前一模具的預熱溫度設定，
結果造成生產的 5,200 支瓶胚中，有 4,870 支因底部翹曲與螺牙波紋而報廢，損失慘重。
-
00:00
1.
AI 幻覺 (hallucination) 的風險
播放影片: https://learning.xms.tw/media/3522
透過很簡單的策略 ~
什麼都問 AI
就能將資深員工腦袋裏的隱性經驗慢慢挖出來，雖然這已經解決了知識管理「經驗進不去、維護困難」這兩大難題，但還差一步，就是要想辦法避免 AI 幻覺！
目前 AI 那種「一本正經、胡說八道」的問題，
雖然可以利用 RAG 技術限定回答的範圍來大幅改善，但依然無法完全避免。
因此，幾乎所有公司都會加註提醒與警語。
例如，Google 「AI 摘要」功能中的警語說明 (下圖)：
雖然這項技術令人振奮 ... 可能會提供不準確或令人反感的資訊。因此，我們無法確保 AI 摘要內容皆正確無誤。
每次回答，都不一樣
以下是 2025/11 的測試結果，
即使採用 RAG 技術，一樣無法避免「一本正經、胡說八道」的問題。
請 ChatGPT 依據特定內容回答衛教問題「裝引流管後可以洗澡嗎？」
- 一次說「沒找到」
- 另一次有找到，但卻回答錯誤「需避免淋濕」 (答案是不行)
一本正經，很恐怖 ...
因為回答得太專業了 ~
雖然沒有直接提及 ...
但有提到「Port-A 人工血管」 ...
根本就像是專家的口吻，
還特別提到「Port-A 人工血管」，很容易讓人信以為真。
以下是一樣的問題，問 Google notebookLM (Gemini 模型) 的結果
AI 幻覺的風險
然而，這樣的不確定性，
對企業來說，尤其在「標準化的生產流程 (SOP)」，更是一個非常嚴重的問題。
有經驗的員工或許還能察覺異常，
對 AI 的回應保有一定的判斷與思辨能力，覺得「怪怪的」時候，會再進一步查證。
但對新進人員而言，
由於 AI 語氣「一本正經」，反而更容易讓人信以為真、照單全收，進而導致實際的生產錯誤。
也因為 AI 技術本身極具吸引力，全球企業都積極投入，
但與此同時，其「幻覺（hallucination）」問題也開始在實務應用中浮現 ...
雖然AI 模型越來越厲害，幻覺問題也不斷的持續改善，但理論上就是無法避免。
也就是說，即使正確率高達 95%
如果我們不能承受那剩下的 5% 帶來的風險，導入 AI 很可能是埋下一顆不定時炸彈 ...
以下就是幾個因 AI 回答不夠精準，所造成嚴重後果的實際案例。
案例
- 1.
- 2.遺漏關鍵步驟B 公司 3 月 7 日的生產事件：原文有明確提及「模具預熱」的步驟，但 AI 回應卻略過這個程序。新人依照 AI 的回應操作，未正確完成預熱流程，
導致模具在未對準的情況下受熱變形，射嘴與模口錯位，不僅造成模具損壞，也導致生產中斷。
- 特別說明：這類問題的發生，並不是因為員工不夠認真，也不是非 AI 技術本身的錯，而是提醒我們：
- 要建立保護機制
能有效避免幻覺的風險，例如好的教育訓練制度幫助新人有足夠的「經驗和敏銳度」。 - 資料內容很重要
在缺乏「高品質、結構化」資料輔助的情況下，直接依賴 AI 回應來作業，是極具風險的。
- 要建立保護機制
評語
請登入後才可以評分
- 位置
-
- 資料夾名稱
- AI 人工智慧之道 ~ 每天 10 分鐘，打造沒有幻覺的 AI 知識庫
- 上傳者
- 蘇德宙
- 單位
- 台灣數位員工
- 標籤
- 案例, AI 胡說八道
- 建立
- 2025-06-06 06:45:50
- 最近修訂
- 2026-06-24 06:41:42
- 長度
- 08:53
- 引用
- 1