Paper 113 ｜演算法嫌惡 (Algorithm Aversion)：為什麼我們對 AI 的錯誤零容忍？

當系統預測出錯時，我們常聽到現場人員抱怨：「我就說這電腦不準吧！還是靠經驗最實在。」但有趣的是，當人類老鳥預測錯誤時，大家卻往往一笑置之。這種對 AI 與對人類的「雙重標準」，正是這篇 2015 年行為決策學經典論文探討的核心。

• 參考資料與研究團隊
• 1. 什麼是演算法嫌惡 (Algorithm Aversion)？
• 2. 致命的雙重標準
• 3. 實務場景：如何克服演算法嫌惡？
• 4. 誠實的打臉：給開發者的警鐘
• 5. 總結

參考資料與研究團隊

• 論文名稱：Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err
• 公開全文 PDF：ResearchGate 論文專頁
• 出處：Journal of Experimental Psychology: General, 144(1), 114-126（2015）
• 主要研究人員：
  • Berkeley J. Dietvorst (Wharton School)
  • Joseph P. Simmons
  • Cade Massey

系列脈絡：延續前面關於管理 AI 與自動化悖論的討論 (Paper 111, 112)，本篇從心理學角度出發，解釋了為什麼把權力「授權 (Delegation)」給 AI 在實務上會遭遇如此巨大的心理阻力。

1. 什麼是演算法嫌惡 (Algorithm Aversion)？

在過去的輔導經驗中，我們常看到企業砸重金買了 AI 預測系統，但最終卻被束之高閣。

這篇研究透過一系列實驗證實了一個現象：當人們看到演算法犯錯時，會極度迅速地失去對它的信任，進而拒絕使用它，即使演算法的客觀準確率依然勝過人類。

Algorithm Aversion (演算法嫌惡)： 人類對演算法的要求往往是「完美」。一旦演算法展現出瑕疵，人們便會大幅降低對它的評價，轉而依賴雖然表現更差、但卻是「人類」的決策者。

2. 致命的雙重標準

實驗中最有趣的發現是，這不僅僅是因為演算法出錯，而是因為我們對人類與機器的容錯標準不一致。

• 當人類犯錯時：我們會認為「人非聖賢，孰能無過」，並相信人類會從錯誤中學習。
• 當演算法犯錯時：我們會認為「這系統根本是壞的 / 邏輯有漏洞」，從而全盤否定它的價值。

這導致了一個非常昂貴的代價 (Costly error)：為了避免使用一個偶爾會犯錯的演算法，人們寧可選擇一個經常犯錯的人類，最終導致整體的決策品質下降。

3. 實務場景：如何克服演算法嫌惡？

如果我們必須在企業內部推動 AI，該如何克服這種心理阻力？Dietvorst 團隊在後續 (2016 年) 的研究中給出了解方：賦予人類微調的權力。

只要讓使用者能夠在演算法產出的結果上進行「微調 (Slight modification)」或握有最終的「否決權」，即使他們只修改了 1% 的數值，他們對演算法的接受度也會大幅飆升。這完美呼應了前一篇提出的 Human-in-the-loop 概念——人類需要的是控制感。

4. 誠實的打臉：給開發者的警鐘

這個心理學現象給了所有系統開發者一記響亮的耳光。我們經常在簡報上宣稱模型的 Accuracy 有 95%，以為這樣客戶就會買單。但現實是，只要客戶在 POC 測試時撞見了那 5% 的錯誤，你的模型在他們心中就是 0 分。

與其一味追求模型的絕對準確度，不如把心力花在 UI/UX 設計上：讓系統在給出建議的同時，提供透明的信心水準，並保留讓使用者修改結果的彈性介面。

5. 總結

• Algorithm Aversion 揭示了人類對 AI 犯錯的「零容忍」態度。
• 我們寧可容忍人類的平庸，也不願接受機器的微小瑕疵，這是一種非理性的決策偏誤。
• 要打破這個僵局，最好的方法不是打造 100% 完美的系統，而是賦予使用者控制權與微調能力。

了解人類的心理運作，往往比弄懂演算法背後的數學公式還重要。透過學習經驗進行應用實踐才是價值所在~