🧠 AI：偏誤與不可靠性#

⚖️ 偏誤的來源#

偏見可能來自：

• 有偏的訓練資料
• 資料表現不完整
• 演算法設計缺陷
• 開發過程中人類回饋的主觀性

若你的 AI 模型處理的是與「人」有關的資料，務必要進行偏誤測試與容錯設計。

AI 生成工具（如 Midjourney）在處理某些職業詞彙時，會出現性別偏見：

• 輸入「新聞分析師」則多為年長男性
• 輸入「記者」會偏好生成女性圖像

☠️ 中毒資料與訓練攻擊#

機器學習模型容易被中毒資料攻擊（Data Poisoning），可能發生在：

• 模型訓練階段
• 模型運行階段

攻擊者可能會系統性地注入錯誤標記的樣本，以達成特定目的：

• 混淆垃圾郵件過濾器
• 欺騙病毒掃描器將安全檔案誤判為惡意

❌ AI 不確定與誤導資訊#

模型可能會對已知事實產生不確定性或提供誤導建議。 這在醫療領域尤其危險，可能導致：

• 推薦未經證實的療法
• 建議無效甚至有害的偏方

WARNING

不管 AI 說什麼，都不要無條件相信。

🔥 來路不明的模型風險#

下載未經驗證的模型（如來自開源平台）會帶來巨大的安全風險：

• 主流模型平台通常缺乏嚴格的安全審核
• 容易被當作散佈後門或惡意模型的通道

🐛 AI 可能建議不安全的程式碼#

AI 常會建議：

• 已過時的函式
• 不安全的認證方式
• 存在已知漏洞的套件

若開發者未加以驗證即實作，將引入嚴重安全漏洞。

Bar Lanyado 安全研究報告指出：
向 GPT-4 詢問技術問題時，它可能建議使用根本不存在的函式庫或套件。

🌫️ 幻覺：生成錯誤或虛假資訊#

AI 幻覺（Hallucination）指的是：

AI 生成看似合理，但實際上錯誤或捏造的資訊

⚠️ 當模型亂說話，後果很嚴重#

若 AI 模型隨意捏造資訊並輸出，可能造成：

• 品牌聲譽損害
• 遭受監管機構關注
• 引發法律訴訟風險

✅ 結語：減少偏誤、提升可靠性#

不是所有的事實錯誤都這麼明顯！