Paper 104 ｜打開 AI 取代工作的黑盒子：專家系統與機器學習的自動化機制與「倒 U 型」錯誤後果
閱讀 Information Technology and Management 2026 論文 Artificial intelligence and job automation。這是交大資管所李永銘老師團隊的研究。這篇論文拆解了 AI 取代工作背後的兩種底層機制：專家系統與機器學習，並探討了「錯誤後果」對自動化程度的倒 U 型影響。這對於我們思考企業中哪些決策該交給 LLM Agent，哪些該保留人類核准，提供了極具價值的理論框架。
WRITTEN BY
- Name
- Harry Chang
前面的筆記我們探討了許多檢索與 RAG 的底層技術。這篇我們將視角拉高，切換到**企業管理與資訊系統（MIS）**的層次，來看交大資管所李永銘老師團隊在 2026 年發表的這篇重要論文。
對想在企業內部導入 AI（特別是 LLM Agent）的人來說，這篇論文回答了一個最核心的實務問題：「到底哪些工作可以交給 AI 自動化？界線劃在哪裡？」
這篇研究透過設計科學與實證評估的路線，打開了 AI 取代人類工作背後的「黑盒子」。
- 參考資料與研究團隊
- 一、兩種 AI 機制的拆解：專家系統 vs 機器學習
- 二、核心發現：「錯誤後果」的倒 U 型關係
- 三、這篇對「企業導入 LLM Agent」有什麼用？
- 四、延伸思考：生成式 AI 代理作為「第三種機制」？
- 五、總結
參考資料與研究團隊
- 論文名稱：Artificial intelligence and job automation: Opening the "black-box" of the underlying mechanisms
- 出處：Information Technology and Management（SSCI, 2026 線上先行）
- DOI：10.1007/s10799-026-00489-2
- 主要研究人員：Peng, Zhang, Li (Yong-Ming Li, 國立陽明交通大學資訊管理研究所) 等人
一、兩種 AI 機制的拆解：專家系統 vs 機器學習
論文首先拆解了 AI 自動化工作的兩種底層機制。過去大家常把 AI 混為一談，但其實不同的 AI 適用於不同類型的工作：
- 專家系統（Expert Systems） 早期由人類制定明確規則（Rule-based）的系統。研究發現，這類系統主要用於自動化例行性工作（Routine Work）。只要邏輯清楚、SOP 明確，專家系統就能完美取代人力。
- 機器學習（Machine Learning） 近年主流的資料驅動模型（Data-driven）。對於非例行性工作（Non-routine Work），關鍵在於「ML 模型適不適用、有沒有足夠的資料讓模型歸納出規則」。
二、核心發現：「錯誤後果」的倒 U 型關係
這篇論文最有趣的一個實證發現是：「錯誤後果（Consequences of Errors）」與「自動化程度」之間，存在著顯著的「倒 U 型」關係。
也就是說，當一個任務做錯的代價極低，或做錯的代價極高時，企業導入完全自動化的意願反而較低（可能是因為代價太低不值得投資，或代價太高不敢放手）；而在中間某個甜蜜點，自動化的程度是最高的。更重要的是，這個倒 U 型關係會因為工作類型的不同而產生改變。
三、這篇對「企業導入 LLM Agent」有什麼用？
對於正在研究或實作「多代理人決策建議機制」的開發者，這篇論文提供了一個極佳的任務分類框架（RQ1：哪些決策可以交給 AI 代理、界線在哪）。
我們可以把論文的發現直接對應到真實企業（例如製造業、D 公司）的決策情境：
- 例行、規則明確的決策（如：庫存水位檢查、交期查詢） 對應論文中的「專家系統」機制。在 Agent 的設計中，這類任務應該交給決定性的工具（Deterministic Tools）或 API 處理，確保百分之百精準。
- 非例行的判讀（如：樣品能不能轉量產？客戶特殊規格評估） 這類沒有硬性規則的任務，可以交給具備推理能力的 LLM Agent 來處理，讓 AI 從過往案例中找出潛在模式。
- 錯誤後果高的決策（如：最終報價簽核、鉅額採購批准） 呼應論文的「倒 U 型」曲線右端，這類高風險任務，系統的界線必須劃在「建議」層次，最終的核准權（Human-in-the-loop）必須保留給人類主管。
四、延伸思考：生成式 AI 代理作為「第三種機制」？
這篇論文將 AI 區分為「規則式（專家系統）」與「學習式（機器學習）」。在面對博士班口試或學術探討時，這是一個非常好的延伸切入點：
「我的研究是否將老師的框架延伸到了『生成式 AI 代理（Generative AI Agent）』這第三種機制？」
LLM Agent 的特殊之處在於，它既能呼叫規則工具（如專家系統），又能進行語意判讀（如機器學習）。在這個全新的「混合決策機制」下，論文中提到的「錯誤後果倒 U 型關係」是否依然成立？如果讓不同部門的 Agent（業務、生管、財務）先各自獨立判讀，最後再彙整成一份簽呈，這種群體協作的機制，能否有效壓低錯誤後果，進而改變自動化的邊界？
這些問題，正是把「機制設計 → 實證評估」這套嚴謹的 MIS 研究方法，套用到最前沿 LLM 應用上的絕佳方向。
五、總結
- 這篇 2026 年的新作，成功打開了 AI 自動化機制的黑盒子，為「工作取代」提供了紮實的理論分類（專家系統 vs ML）。
- 實證指出的「錯誤後果倒 U 型」關係，直接點出了企業導入 AI 的現實考量。
- 對於設計 LLM Agent 企業落地方案的人來說，這不僅是文獻回顧的好素材，更是用來切分「Agent 處理 vs 人類核准」權限邊界的理論基石。
免責聲明： 本文為論文閱讀與技術研究筆記，針對核心概念與延伸應用進行整理。詳細的實證模型、資料收集與量化分析方法，請務必參閱論文原文。