Paper 111 ｜駕馭智能：管理人工智慧的三大核心挑戰 (Autonomy, Learning, Inscrutability)

當我們把 AI 系統請進企業，我們究竟是在管理一個「工具」，還是一個「員工」？這篇發表於頂級期刊 MIS Quarterly (2021) 的專題導讀文章，為企業管理 AI 劃定了明確的探討框架。

• 參考資料與研究團隊
• 1. AI 不只是技術，是不斷移動的運算前沿
• 2. 管理 AI 的三大核心挑戰
• 3. 實務場景：當 AI 成為決策幕僚
• 4. 誠實的打臉：AI 不是隨插即用的萬靈丹
• 5. 總結

參考資料與研究團隊

• 論文名稱：Managing Artificial Intelligence
• 公開全文 PDF：ResearchGate 論文專頁（因 MISQ 版權限制，可至此平台向作者 Request）
• 出處：MIS Quarterly, 45(3), 1433–1450（2021, SSCI）
• 主要研究人員：
  • Nicholas Berente
  • Bin Gu
  • Jan Recker
  • Radhika Santhanam

系列脈絡：這篇文章是 MISQ「管理人工智慧」特刊的引言，奠定了學術界探討 AI 在組織中角色的基礎，也是銜接前一篇 Baird & Maruping (2021) Agentic IS 理論的最佳延伸。

1. AI 不只是技術，是不斷移動的運算前沿

以前輔導企業主管時，常被問到：「導入 AI 和導入以前的 ERP 有什麼不一樣？」

這篇文章給了一個非常精闢的見解：AI 不是一種單一技術，而是一個「不斷移動的運算前沿 (moving frontier of computational advancements)」。

過去的系統（如 ERP、MES）是基於確定的業務邏輯寫死的。但 AI 則是透過參考人類智慧，來解決高度複雜、不確定的問題。因此，管理 AI 已經不再只是 IT 部門的事，而是整個組織如何與這個「會成長的系統」協作的問題。

2. 管理 AI 的三大核心挑戰

文章中點出，當企業將 AI 導入營運流程時，管理者必須直接面對 AI 的三個核心特性：

1. 自主性 (Autonomy)：系統在多大程度上可以獨立運作？當系統可以自己做決策（例如自動發送採購單、自動化核貸），主管該如何設定權限與安全護欄？這呼應了我們先前探討的授權 (Delegation) 議題。
2. 學習能力 (Learning)：AI 會隨著新資料不斷改變它的行為與輸出。這代表系統上線不是結束，而是開始。管理者必須持續監控：模型是否有偏見？效能是否衰退 (Concept Drift)？
3. 不可解釋性 (Inscrutability / 黑箱)：深度學習模型往往難以解釋「為什麼」做出這個判斷。如果 AI 拒絕了某個大客戶的訂單，業務主管該如何向客戶解釋？黑箱特性是企業在合規與信任上面臨的最大障礙。

3. 實務場景：當 AI 成為決策幕僚

就過往輔導經驗來看，這三大挑戰在實務中每天都在發生。

想像一家製造業的「AI 瑕疵檢測系統」。初期，它只具備低自主性（僅標記疑似瑕疵，由人工覆核）。隨著系統不斷學習，準確率提升，企業可能決定賦予它高自主性（直接將瑕疵品剔除）。 但某天，系統突然大量剔除某批正常產品。因為其不可解釋性，工程師無法立刻抓出原因，最後只能緊急切換回全人工流程，導致產線大亂。

這就是管理 AI 的難處：你必須在效率（自主性與學習）與風險控制（可解釋性）之間不斷取得平衡。

4. 誠實的打臉：AI 不是隨插即用的萬靈丹

許多軟體廠商會把 AI 包裝成隨插即用的神兵利器，但真實世界的數據總是充滿雜訊。文章也間接提醒，管理 AI 需要重新設計溝通、領導、協調與控制機制。如果你用管理傳統軟體專案（Waterfall）的方式來管理 AI 專案，幾乎注定會失敗。

5. 總結

• AI 是一個會不斷進化的系統，管理 AI 就像是在管理一位有潛力但需要監督的實習生。
• 自主性 (Autonomy)、學習能力 (Learning) 與 不可解釋性 (Inscrutability) 是管理 AI 必須直面的三大難題。
• 企業導入 AI，不只是升級 IT 系統，更是重新設計組織的治理與協作模式。

透過學習經驗進行應用實踐才是價值所在，別只停留在想像階段~