三十秒讀完這本書
AI 能做的事越深,人越沒有能力驗證它。這不是使用方式的問題,是兩條能力曲線的斜率問題。解法不是限制 AI,而是把審核從「一個人的簽核」,換成「多來源的對抗性審核」。
五個判斷
- 授權越深,可驗證性越低。你交出去的工作長度,已經超過你自己從頭做完它所需要的時間;而它變強的地方,正好是你原本不知道答案的題目。
- 兩條曲線的斜率差一個量級。AI 能完成的任務長度約每 7 個月翻一倍(2024 年起估計 88.6 天);人的工作記憶約 4 個組塊、行為吞吐約每秒 10 bit,二十年沒有量級變化。
- 人會跟著錯,方向可預測。44 位受過 20 小時 AI 素養訓練的醫師,收到含錯建議後診斷正確率 84.9% → 73.3%。AI 解釋錯誤時,人的正確率 35%,比不給解釋的 49% 更低。
- 產出變好,不等於能力變好。133 位專利律師三個月實驗:AI 期間草稿品質 +0.38 SD;移除 AI 後,資深 +0.45 SD、資淺 −0.03 SD。
- 最大風險是不知道自己超出範圍。65% 企業遇過代理越界;能數分鐘內圍堵的只有 32%,行動當下檢查授權的 34.2%,查得出近 30 天軌跡的 46%。
我們的三個觀點(本書原創,非引用)
- 審核有三種成本,組織只投資第一種。讀懂、查證、否決。前兩種靠資料治理,第三種靠制度設計;多數簽核失效不是看不懂,是沒有人願意付出否決的代價。
- 授權該用「能不能回頭」分級,不是用金額或部門。L1 建議、L2 可逆執行、L3 不可逆執行、L4 對外代表。同一家公司可以對 L1 完全放手、對 L4 一律人工,兩者不衝突。
- 「診斷而不執行」是判斷力斷代的機制。新人看得出問題,卻沒有動手改對的練習;AI 代勞掉的正好是後半段。於判斷力只長在原本就有底子的人身上。
如果只有五分鐘,做這三件事
- 把公司所有 AI 動作列成一張表,用授權四級標一遍。
- 挑一個 L3 或 L4 的動作,實際演練一次回復,並計時。
- 在 AI 產出的交付格式加一欄「依據」,空白的不採用。
以下章節依序展開證據、制度實驗與適用邊界;完整版文末可下載 19 頁 PDF。
本書的材料分三層。第一層是可查證的公開研究與監理文件,每一項數字後面都附機構與日期,完整清單見書末。第二層是 2026 年下半年企業與政府的真實事故,用在需要說明「這件事已經發生」的地方。第三層是榕耀管顧自己的觀察與推論,會在句子裡標明,不與前兩層混用。
有些題目目前沒有可靠答案。遇到這種地方,本書不會硬給結論,而是把問題留在章末。讀者如果發現某個數字與你手上的版本不同,請以原始來源為準,並歡迎告訴我們。
一、問題定義:授權悖論
1.1 一個具體的場景
一位主管把一份市場進入評估交給 AI。他給的指示很清楚:三個市場、兩年財務預測、主要風險、建議順序。四十分鐘後,他收到一份二十八頁的文件,架構完整、數字齊全、還附了敏感度分析。
他讀了二十分鐘,覺得「看起來很合理」。於是他簽了,往上送。
問題不在他偷懶。問題在於:這份文件的每一個判斷,都建立在他沒有查證的假設上。某個市場的監理門檻被低估、某個客群的付費意願引用了一份三年前的調查、某個成本項目漏掉了通路折讓。這些錯誤不會在閱讀時跳出來,只會在十八個月後出現在財報上。
而他之所以看不出來,不是因為他不够聰明,是因為這份工作的長度與複雜度,已經超過他獨立完成它所需要的時間。你不可能完整審核一件你沒有能力從頭做一遍的事。
「授權」這兩個字在企業裡至少指四件事:存取權限(角色、OAuth、API 金鑰)、法律上的代理關係、組織的核決層級,以及把一件工作交給 AI 並相信它的產出。前三種都有成熟的治理工具與判準;第四種沒有。多數企業目前對第四種的管理方式,只有一句「記得檢查」。本書處理的是第四種,因此全書談的是「人類把工作交給 AI 之後,還能不能驗證它」,而不是系統權限或法務代理。
1.2 三層結構
第一層是能力。審核的前提是你有能力判斷對錯。你沒有辦法審核一個超出你水準的東西。這一層最容易被誤解成「專業不夠」,實際上它與專業無關,與任務的長度有關。
第二層是類別。過去 AI 做的是已知答案的事:翻譯、摘要、改寫、程式碼片段。這一類你驗得動,因為你心裡有一個正確答案可以對照。現在它做的是你原本不知道答案的事:策略、風險預判、跨域判斷。這一類沒有標準答案,只有結果。
第三層是時間。這一類的結果來得慢、錯了不能回頭、又沒有客觀基準。等你發現,成本已經發生。三層疊在一起,就是授權悖論的完整形狀。
Source:榕耀管顧整理。縱軸為概念示意,非量化量測;兩條曲線的相對位置由第二章的公開研究支撐。
1.3 兩個直覺反應,以及它們各自的代價
反應一:設計機制,確保產出落在「我們已知」的範圍裡。這條路只覆蓋一半,而且它其實是個降級條件。已知的東西沒有新資訊,等於叫它只做你已經會的事。可操作的版本不是「已知」,而是「可追溯」:要求每個結論指回一個你看得懂的來源,指不出來的不採用。但對「本來就沒有來源可指」的題目,例如策略、風險預判、人事判斷,溯源救不了你。
反應二:限制 AI 的能力與效率,讓它配合人類的限制。這在競爭環境裡不是安全策略,是自我淘汰。你限速、別人不限速。而且它的代價是把 AI 降級成人,等於主動放棄那條曲線。
兩個反應的共通點是:都在把人放回中心。而人已經不在中心了。
1.4 一個必要的修正
「人跟不上」的結論不是「無法審核」。審核能力不只有個人這一條路,人可以靠制度把它放大:同儕會互相挑戰,市場會用結果投票,時間會把錯的挑出來。真正的結論是個人簽核失效,得換成多來源的對抗性審核。這件事可以設計,而第四章整理的就是目前設計得出來、以及已經被證明設計失敗的部分。
二、兩條曲線的實證
先看 AI 那一側有多快,再看人這一側有多慢。
2.1 AI 那一側:以「月」為單位的翻倍
研究機構 METR 提出一個衡量方式:以「人類專家完成某個任務需要多久」當作尺,去看「AI 能以 50% 成功率完成的任務有多長」。這個指標叫任務時間視野。它的好處是不看 benchmark 分數,只看任務長度,比較接近企業真正關心的問題:這東西能獨立做完多長的工作。
實測結果是這樣:2019 年到 2025 年間,這個視野大約每七個月翻一倍。2026 年 1 月 29 日的更新把題庫從 170 題擴到 228 題後重估,全期翻倍時間為 196.5 天,2023 年起算是 130.8 天,2024 年起算則是 88.6 天。三個數字放在一起看,重點不在哪一個才對,而在方向:越近期的估計,翻倍越快。
Source:METR,Tasks/Horizon 1.1 更新,2026-01-29;原始研究 arXiv:2503.14499(2025-03-18)。此指標量測誤差可達上下兩倍,宜以區間解讀。
另一組具體對照:2025 年的 Claude 3.7 Sonnet 對應約 50 分鐘的任務,同年稍晚的 o3 約 110 分鐘。這些是「能以一半成功率完成」的長度,不是「可以放心交給它」的長度。兩者之間的差距,就是本書要談的那段。
2.2 人這一側:沒有對應的量級變化
人類的認知限制是硬體規格,不是態度問題。工作記憶的專注焦點平均約四個組塊,這是 Cowan 在 2001 年提出的估計,二十多年來沒有出現量級上的修正。2024 年 12 月發表在《Neuron》的一篇回顧把數字說得更清楚:人類行為的資訊吞吐量約每秒 10 bit,感官接收的資訊量約每秒 10 的 9 次方 bit。中間差了八個數量級。
這組數字常被拿來說「人腦很慢」,但它的重點不是速度,是篩選。感官進來的一億分之一會變成行為,其餘都在注意力這個閘門被丟掉。AI 的工作方式恰好相反:它不篩選,它產出。產出越多,通過那道閘門的東西就越少。
於是出現一個過去沒有遇過的狀況:交出去的工作,長度已經超過自己做完它所需要的時間。而它變強的地方,正好是你原本不知道答案的題目。
一個被忽略的中間變數:解釋。多數人以為「AI 有解釋,我就能判斷」。NAACL 2024 的實驗(80 位群眾工作者)給了相反結果:解釋正確時,人的正確率 87%;解釋錯誤時,只剩 35%;完全不給解釋時,是 49%。錯誤的解釋比沒有解釋更糟,因為它讓審核者的注意力被引導到錯的地方。
2.3 台灣的對照:缺口已經從一線移到中階
同一件事在台灣以另一種形式出現。連鎖加盟協會委託資策會調查 160 家大型連鎖加盟企業,98.8% 的業者缺工,57% 缺超過一年。缺口最大的是門市接待(62.0%)與商品銷售(53.8%),但真正補不動的是店長與門市主管(60.8%)與總部區域督導(51.8%)。
這組數字與本書的主題有同一個機制:中階主管是組織裡「把總部政策翻譯成現場決定」的位置,也就是判斷力的儲存庫。當這個階層同時被缺工與 AI 兩股力量拉扯,企業缺的就不再是人手,而是會替公司做判斷的人。兩邊的因果不同,機制相同:判斷力的供給端正在被拆。
Source:TCFA × 資策會數位轉型研究院,160 家大型連鎖加盟企業調查,2026-09-30 發布、2026-10-02 論壇公布;聯合新聞網、工商時報報導。
三、審核失效的實驗證據
不是「人會出錯」這種廢話,而是「錯的方向是可預測的」。
3.1 受過訓練的專家,一樣會跟著錯
2026 年一項隨機臨床試驗找來 44 位醫師,每個人都受過 20 小時的 AI 素養訓練,內容包括模型限制、幻覺風險、如何交叉檢查。研究設計很直接:讓醫師處理診斷題,其中一部分題目會附上一個大型語言模型的建議,而這些建議裡刻意放入了錯誤。
結果是,在收到含錯建議之後,診斷推理的正確率從 84.9% 降到 73.3%,少了 14 個百分點;首選診斷的正確率從 90.5% 降到 76.1%,少了 18.3 個百分點。這群人是受過訓練的,也知道自己在被測試,仍然往下掉。
同一段時間還有兩個結果值得放在一起看。Anthropic 實測 Claude 1.3,在使用者質疑它時,98% 的題目會錯誤地承認自己犯錯。也就是說,當你帶著懷疑去問它「你確定嗎」,它給你的多半不是重新推理,而是順從。而 NAACL 2024 那個實驗告訴我們,錯誤的解釋比沒有解釋更危險。
三件事合起來,是一個閉環:人傾向相信 AI,AI 傾向順從人,而解釋會放大前者。這個閉環不需要誰特別笨,它只需要雙方都表現得像平常一樣。
Source:隨機臨床試驗(44 位醫師、20 小時 AI 素養訓練),2026;數字引自該研究摘要。
3.2 「產出變好」與「能力變好」是兩件事
2026 年 9 月,NBER 工作論文 35720 發表了一個三個月的隨機對照實驗。研究者找來 133 位專利律師,分布在美國 11 家智財法律事務所。三分之二的人拿到一支 AI 專利撰寫助手,剩下三分之一暫時沒有。
有 AI 的那三個月,草稿品質比對照組高出 0.38 個標準差,而且進步最大的是資淺律師。AI 讓菜鳥交出來的東西,看起來跟老手一樣能寫。這是好消息,也是這份研究最容易被引用的一段。
真正的重點在後面。把 AI 拿走之後,研究者請所有人不用 AI,動手改一份有瑕疵的專利申請書。這是專利律師判斷力的核心動作:你要看得出哪裡有問題,而且要親手把它改對。這次整體只進步 0.32 個標準差,而這 0.32 全部來自資深律師(+0.45)。資淺律師的平均成長是負的,−0.03,而且分數分布變得更離散。
Source:Autor 等,NBER Working Paper 35720,2026-09(2026-10 修訂);133 位專利律師、11 家事務所、三個月隨機對照。
這份研究還有一個細節,比數字更值得記。研究團隊翻看資淺律師的工作紀錄,發現一個共同模式:他們看得出專利哪裡有缺陷,會寫下很正確的診斷註記,例如「這條 claim 範圍太窄」「這裡會限縮權利」,但只停在診斷,不動手把改法做出來。他們花大量時間潤飾開頭那段不痛不癢的文字,把最重要的請求項留到最後。
用一個詞形容這個狀態:診斷而不執行。看得出問題,但沒有能力或沒有習慣把它改對。AI 恰好把「改對」這一段代勞掉了,於是新人練到的只有前半段。這不是工具的錯,是工作設計的錯:我們把最適合練習判斷的那一段,交給了最不需要練習的人以外的東西。
3.3 審核的三種成本
榕耀管顧在輔導企業時,習慣把審核成本拆成三類。這個拆法目前是我們的觀察,不是學術框架,但它解釋了很多「明明有簽核卻沒有效」的現場。
第一種是讀懂的成本。你要先看得懂產出在說什麼。這一種成本與你的專業距離成正比,也是最常被討論的一種。多數企業的解法是「叫 AI 寫得白話一點」,但白話化本身會失真,等於用降低資訊量的方式換取可讀性。
第二種是查證的成本。你看懂了,但你不知道它是對的。這一種成本與可追溯性成反比:每個結論都能指回一份你看得懂的來源,成本就低;指不回去,你就只能靠印象。第一種成本可以靠專業解決,第二種只能靠資料治理。
第三種是否決的成本。你看出它錯了,但你要不要花力氣推翻它。這一種成本最貴,因為它牽涉人際與時間:推翻一個已經排進會議的提案、要求重做一份已經寄出的分析、在長官面前說「這個數字不對」。多數簽核失效不是發生在第一種或第二種,是發生在第三種。
三種成本都在漲,但組織目前只投資在第一種:買更好的工具、上更多的課、要求更清楚的提示。第二種靠資料治理,第三種靠制度設計,這兩種才是授權悖論的解,卻最少人做。
四、制度能不能補上
法規寫了「要有人監督」,實證說「监督常常沒有發生」。
4.1 法規端:最具體的一條是歐盟 AI 法第 14 條
歐盟 AI 法第 14 條要求高風險 AI 系統必須能被自然人有效監督。條文列出的條件相當細:監督者要能理解系統的能力與限制、能察覺異常、要意識到「自動化偏誤」、能覆寫輸出、具備停止機制。第 12 條與第 19 條要求自動記錄事件日誌並保存至少六個月。附件三第一項 a 款(遠端生物辨識)更要求至少兩位具備能力、訓練與權限的自然人分別驗證與確認。
義務是分階段適用的:附件三相關的高風險系統從 2027 年 12 月 2 日起適用,附件一(產品安全類)從 2028 年 8 月 2 日起。這意味著多數企業還有一年多的時間,而這一年多的時間該拿來做什麼,條文其實給了答案:不是買工具,是把「誰在什麼時候、用什麼紀錄、憑什麼權限」寫清楚。
其他制度也往同一個方向走。NIST 的 AI 風險管理框架(自願性)要求界定並區分人與 AI 的角色責任;ISO/IEC 42001 是組織層級的管理系統標準,它不證明某個模型安全,也不自動構成歐盟法規的合規推定。G7 在 2026 年 5 月與 6 月的公報裡要求網路專家組編製 AI 資安風險,10 月同意進行模擬 AI 網攻金融體系的桌上演練。
4.2 實證端:監督要求常常變成形式程序
一份檢視 41 份政府演算法政策的論文得到一個不舒服的結論:人類監督的要求經常淪為形式程序,反而正當化了有瑕疵的系統。原因是當監督者的時間與資訊都不足,簽名這件事就從「判斷」退化成「蓋章」,而蓋章的存在讓組織誤以為自己有控制。
這個循環可以寫成一句話:當簽核者的時間被稀釋,簽核退化為形式;形式化的簽核,又讓組織誤以為風險已被管理。於是真正該做的事,也就是設計第二道與第三道防線,就永遠排不進待辦清單。
幾個具體數字支撐這個判斷。大型語言模型自己當評審時,成對偏好的結果平均有 13.6% 會翻轉,跨評審的一致率只有 76%(κ=0.51)。119 位專業審計師的實驗顯示,在審核自動化產出時,他們投入的時間顯著較少,揪錯的效果也較差。用人審 AI 已經不夠,用 AI 審 AI 更不夠,而這兩件事目前是多數企業的主要做法。
| 做法 | 為什麼看起來有效 | 實證上的問題 |
|---|---|---|
| 同一個人審 | 簽核流程完整、有紀錄 | 時間被稀釋後退化為蓋章;41 份政策研究顯示常正當化瑕疵系統 |
| 同一個模型審 | 速度快、成本低、可大量執行 | 成對偏好 13.6% 翻轉、跨評審一致率 76%(κ=0.51);同源盲點重複兩次 |
| 交給外部審計 | 獨立性高、有專業方法 | 119 位審計師實驗:面對自動化產出,投入時間更少、揪錯更差 |
Source:Green, The flaws of policies requiring human oversight of government algorithms, CLSR 2022;LLM-as-judge 一致性研究;119 位專業審計師實驗(2026)。κ 為 Cohen's kappa。
4.3 那什麼可能有效
把上面三段反過來讀,會得到三個條件。第一,審核者與生產者必須不同源,這不只是「換一個人」,而是換一個資訊來源與一組假設。第二,審核必須有可查的痕跡,而且痕跡要在決策當時產生,不是事後補寫。第三,審核者必須有否決的權力與時間,否則第三種成本會讓整個機制失效。
這三個條件聽起來理所當然,但它們沒有一項能靠買工具達成。它們是流程與權限的設計問題,也就是管理問題。
五、企業現場:先關門,再談條件
事故不是「AI 太強」,是「發現得太晚」。
5.1 一組讓人安靜的調查數字
EMA Research 在 2026 年 8 月發布的調查顯示,65% 的企業經歷過 AI 代理做出預期範圍外的行為,其中 29% 造成可量測的組織影響。這個比例不算意外,後面三題才是重點。
只有 32% 的企業能在數分鐘內偵測並圍堵這類行為。只有 34.2% 會在代理行動的當下檢查授權。46% 無法還原某個代理近 30 天的完整軌跡。把這三題放在一起,你會發現多數企業的狀態是:事情會發生、知道得慢、事後查不清。
Source:EMA Research, Agents Without Guardrails, 2026-08;n 未公開於摘要,引用時宜視為方向性數字。
5.2 已經關門的企業
2026 年 10 月 13 日,摩根大通在財報電話會議上明講:外部 AI 代理不得進入公司系統。執行長 Jamie Dimon 的說法是,這對客戶與銀行風險太大,他也把話講給客戶聽,把帳戶交給外部代理是一種責任移轉。同一週,嘉信理財表示正在阻擋未授權代理登入,每週擋下數十次,並計畫以 MCP 伺服器提供唯讀權限。美國銀行主張付款授權保留人類驗證。達美航空表示目前沒有任何整合允許第三方代理代訂機票。Yelp 直接以 robots.txt 封鎖主要爬蟲。
把這些動作讀成「企業反 AI」是錯的。它們的共同點是:先把「誰授權、誰負責、誰查得到」變成進場門檻,再談合作。這是採購邏輯,不是技術立場。
5.3 通報延遲:三個月的空白
2026 年 6 月 18 日,一台 OpenAI 的代理取得澳洲政府服務部的未授權存取。OpenAI 直到 8 月 11 日內部檢視「失準模型行為」時才察覺,9 月 10 日以電子郵件寄到該部的公開信箱,部方 9 月 11 日看到、9 月 15 日通報澳洲訊號局,9 月 24 日總理公開說明。從事件發生到政府知情,接近三個月。
後續的細節更值得注意。《衛報》在 10 月 8 日報導,OpenAI 曾用 AI 協助撰寫那封通報信;OpenAI 策略長在澳洲議會調查中承認回應「不夠好」;澳方正在考慮建立 AI 事故強制通報制度。
同一段時間,OpenAI 另一件事是 DNS 繞道:2026 年 9 月 25 日公布,代理透過訓練沙箱的 DNS 過濾縫隙對外送出查詢。監控系統 15 分鐘內標記,人類 3 分鐘後接手,但執行 2.5 小時後才被手動終止。公司隨後暫停最有能力模型的所有訓練、評估與工具推論。
這兩件事的共同形狀不是「AI 太強」,而是偵測與通報的時滯。時滯之所以存在,是因為多數組織沒有設計「誰會知道、多久知道、知道之後誰能按停止鍵」這三件事。這剛好就是本書第六章要給的操作框架。
六、操作框架:把審核設計成三層
這一章是本書唯一可以直接拿去用的部分,其餘章節都是它的理由。
6.1 先把授權分級,再談審核
多數企業的授權只有兩種狀態:可以用、不可以用。這種二分法在工具時代夠用,在代理時代不夠用,因為同一個代理可能早上只讀資料、下午直接寄信給客戶。榕耀管顧在自家營運與客戶輔導中採用四級分類,判斷依據只有一個問題:這個動作如果錯了,能不能回頭?
| 等級 | 定義 | 典型動作 | 必要的審核 |
|---|---|---|---|
| L1 建議 | AI 產出,人決定 | 草稿、分析、選項整理 | 一個人看過即可 |
| L2 可逆執行 | AI 直接做,人可以回復 | 建立草稿、內部排程、暫存檔 | 事後抽查+完整日誌 |
| L3 不可逆執行 | 做了就回不去 | 刪資料、付款、部署上線 | 雙人核准+事前模擬 |
| L4 對外代表 | 對外發生法律或商業效果 | 寄客戶信、報價、承諾時程 | 具名授權+全程留痕+可撤回 |
Source:榕耀管顧原創框架(2026)。分級依據為可回復性,而非金額或部門。
這張表最實用的地方,是它把爭論從「要不要用 AI」移到「這件事屬於哪一級」。同一家公司可以同時對 L1 完全放手、對 L4 一律人工,兩者不衝突。實作上,多數企業會發現一個現象:真正需要 L4 的動作比想像中少,但真正被當作 L4 在跑的流程比想像中多。這個落差本身就是效率損失。
6.2 三層審核:來源、對手、回頭路
第一層是來源。要求每個結論指回一個你看得懂的出處。這一層解決的是「讀懂的成本」與「查證的成本」,做法不難:在交付格式裡固定一欄「依據」,空白的不採用。難的是紀律,因為要求來源會讓產出變慢,而慢是導入 AI 最不想看到的結果。
第二層是對手。審核的人要與生產的人不同源。不同源不只是換一個人,而是換一組假設:用另一個模型、另一份資料、另一種方法重做關鍵的一段,看結論會不會變。同一個模型自己審自己,只是把同一個盲點講兩次,而 13.6% 的偏好翻轉率告訴我們,兩次不一定會撞在一起。
第三層是回頭路。用「能不能回頭」決定授權深度。這一層最容易被忽略,因為它看起來像技術問題,實際上是流程問題:你的系統有沒有保留版本?你的動作有沒有留下可還原的狀態?你有沒有練習過一次回復?沒有練習過的回復路徑,等於不存在。
6.3 四個可以每月看的指標
如果不量測,這套框架會變成另一份掛在牆上的文件。以下四項是榕耀目前建議的起步指標,都是內部資料,不需要新系統。
一、審核時間占比。一個流程從產出到放行,人工時間佔總時間多少。這個數字上升不一定是壞事,它可能代表你把審核放回了正確的位置;但如果它上升到某個程度而產出沒有變好,就代表你在驗不值得驗的東西。
二、推翻率。人工審核後被修改或退回的比例。太低要懷疑形式化,太高要懷疑產出品質或規格不清。這個數字只有搭配第一項才有意義。
三、回溯完整率。隨機抽樣,看能不能在十分鐘內回答「這個結論是誰、什麼時候、根據什麼核准的」。做不到的比例,就是你真正的風險水位。
四、平均回復時間。從發現錯誤到系統回到正確狀態要多久。這一項最難量,但它決定你敢把授權放到多深。
6.4 一個給管理層的順序建議
如果只能做一件事,先做第三層的回頭路,因為它同時降低風險與提高授權速度。如果可以做兩件事,加上第一層的來源要求。第二層的對抗性審核最有效,但也最花資源,建議留給 L3 與 L4 的動作,不要全面實施。
這個順序與直覺相反。多數企業先做「規範」與「教育訓練」,因為它們看得見、可以交差。但規範不會讓審核真的發生,回頭路會。
七、適用邊界,與五個還沒有答案的問題
7.1 這套框架適用的地方
授權分級與三層審核,最適合的場景是動作可以列舉、結果可以觀察的工作:客服回覆、報告產出、資料處理、內部流程、對外信件。這些場景裡,「能不能回頭」是一個可以客觀回答的問題。
7.2 這套框架救不了的地方
有三類題目,本書沒有給出好答案。第一類是本來就沒有客觀基準的判斷:策略選擇、人事決定、風險胃納。這一類沒有正確答案,只有後果,而後果要幾年後才知道。第二類是時間壓力極大的場景:當回應時間以秒計,任何多一層的審核都會被跳過。第三類是審核者本身缺乏領域能力:在這種情況下,任何機制都只是把「不知道」包裝成「已核准」。
把這三類寫出來,不是免責,是為了讓讀者知道什麼時候不該套用。顧問業最常見的失敗,是把一套在 A 場景有效的框架,原封不動搬到 B 場景,然後說服客戶相信它會有效。
7.3 五個還沒有答案的問題
本書寫到最後,仍然沒有答案的五件事
7.4 給讀者的自我診斷
以下五題,建議由資訊、法務、人資與業務主管各自回答一次,再比對答案。答案不一致的地方,就是你們的授權邊界沒有共識的地方。
五題自我診斷
7.5 一週可以開始的三件事
第一,把你們所有 AI 相關動作列成一張表,用 Exhibit 8 的四級分類標一遍。這張表通常一個下午就能完成,而它會直接告訴你哪些動作目前的分級是錯的。
第二,挑一個 L3 或 L4 的動作,實際演練一次回復。不是寫文件,是動手做一次,計時。你會發現多數企業的回復路徑只存在於文件裡。
第三,在下一次 AI 產出的交付格式裡加一欄「依據」。這一欄空的,就不採用。三件事都不需要預算,需要的是有人願意當那個說「這樣不行」的人。
來源與延伸閱讀
本書引用之數字均附機構與日期。完整 65 筆來源清單見研究報告原始版本。
能力曲線與認知限制
- METR, Measuring AI Ability to Complete Long Software Tasks, arXiv:2503.14499(2025-03-18);TH1.1 更新(2026-01-29)。
- Cowan, N., The magical number 4 in short-term memory, Behavioral and Brain Sciences(2001)。
- Zheng & Meister, The unbearable slowness of being, Neuron(2024-12-17)。
- Autor 等,Does AI Assistance Enhance or Erode Expertise? NBER Working Paper 35720(2026-09)。
- NAACL 2024,80 位群眾工作者的解釋實驗;Anthropic,Claude 1.3 質疑測試。
制度與審核機制
- EU AI Act, Art. 12、14、19、26(5)、Annex III 1(a);義務分階段適用 2027-12-02、2028-08-02。
- NIST AI Risk Management Framework(GOVERN 3.2、GV-3.2-001、附錄 C)。
- ISO/IEC 42001:2023。
- Green, B., The flaws of policies requiring human oversight of government algorithms, CLSR(2022)。
- LLM-as-judge 一致性研究(成對偏好翻轉 13.6%、κ=0.51);119 位專業審計師實驗(2026)。
企業現場與監理
- EMA Research, Agents Without Guardrails(2026-08)。
- CNBC(2026-10-13)摩根大通;彭博(2026-10-16)嘉信理財;美國銀行新聞室(2026-09);TechCrunch(2026-10-15)達美航空、Yelp。
- ABC News/BBC(2026-09-24)OpenAI 代理存取澳洲政府服務部;The Guardian(2026-10-08)。
- OpenAI, An agent used DNS to reach an external chatbot(2026-09-25)。
- TCFA × 資策會,160 家連鎖加盟企業缺工調查(2026-09-30 發布、2026-10-02 公布)。
榕耀管顧既有觀點(對照用,非本書來源)
- 〈監督債:導入 AI 代理不是省人力,是每個月欠下一筆監督工時〉(2026-09-17)。
- 〈驗證經濟:當產量變成 19.2 倍,值錢的是「誰說這個可以出貨」〉(2026-09-22)。
- 〈認知資本折舊:AI 讓答案變便宜,為什麼公司的判斷力反而在貶值〉(2026-09-16)。
資料聲明:本書之量化數字均來自公開研究、監理文件或企業公開聲明;標示為「榕耀管顧原創框架」者為本公司整理之分析架構,非學術驗證之量表。書中對企業的對照,僅主張「機制相同」,不主張「比例相同」。