榕耀管顧研究專刊系列 第 4 本
RongRise Research · 2026

人類與 AI 的授權悖論

你交給 AI 的工作越長、越難,你越沒有能力審核它。這不是使用方式的問題,是兩條曲線的斜率問題。

2026 年 10 月·約 10,500 字·閱讀時間 30 分鐘
📖 完整版 ⚡ 精華版(7 分鐘)
EXECUTIVE SUMMARY

三十秒讀完這本書

AI 能做的事越深,人越沒有能力驗證它。這不是使用方式的問題,是兩條能力曲線的斜率問題。解法不是限制 AI,而是把審核從「一個人的簽核」,換成「多來源的對抗性審核」。

五個判斷

  • 授權越深,可驗證性越低。你交出去的工作長度,已經超過你自己從頭做完它所需要的時間;而它變強的地方,正好是你原本不知道答案的題目。
  • 兩條曲線的斜率差一個量級。AI 能完成的任務長度約每 7 個月翻一倍(2024 年起估計 88.6 天);人的工作記憶約 4 個組塊、行為吞吐約每秒 10 bit,二十年沒有量級變化。
  • 人會跟著錯,方向可預測。44 位受過 20 小時 AI 素養訓練的醫師,收到含錯建議後診斷正確率 84.9% → 73.3%。AI 解釋錯誤時,人的正確率 35%,比不給解釋的 49% 更低。
  • 產出變好,不等於能力變好。133 位專利律師三個月實驗:AI 期間草稿品質 +0.38 SD;移除 AI 後,資深 +0.45 SD、資淺 −0.03 SD。
  • 最大風險是不知道自己超出範圍。65% 企業遇過代理越界;能數分鐘內圍堵的只有 32%,行動當下檢查授權的 34.2%,查得出近 30 天軌跡的 46%。

我們的三個觀點(本書原創,非引用)

  • 審核有三種成本,組織只投資第一種。讀懂、查證、否決。前兩種靠資料治理,第三種靠制度設計;多數簽核失效不是看不懂,是沒有人願意付出否決的代價。
  • 授權該用「能不能回頭」分級,不是用金額或部門。L1 建議、L2 可逆執行、L3 不可逆執行、L4 對外代表。同一家公司可以對 L1 完全放手、對 L4 一律人工,兩者不衝突。
  • 「診斷而不執行」是判斷力斷代的機制。新人看得出問題,卻沒有動手改對的練習;AI 代勞掉的正好是後半段。於判斷力只長在原本就有底子的人身上。

如果只有五分鐘,做這三件事

  1. 把公司所有 AI 動作列成一張表,用授權四級標一遍。
  2. 挑一個 L3 或 L4 的動作,實際演練一次回復,並計時。
  3. 在 AI 產出的交付格式加一欄「依據」,空白的不採用。

以下章節依序展開證據、制度實驗與適用邊界;完整版文末可下載 19 頁 PDF。

這本書怎麼寫的

本書的材料分三層。第一層是可查證的公開研究與監理文件,每一項數字後面都附機構與日期,完整清單見書末。第二層是 2026 年下半年企業與政府的真實事故,用在需要說明「這件事已經發生」的地方。第三層是榕耀管顧自己的觀察與推論,會在句子裡標明,不與前兩層混用。

有些題目目前沒有可靠答案。遇到這種地方,本書不會硬給結論,而是把問題留在章末。讀者如果發現某個數字與你手上的版本不同,請以原始來源為準,並歡迎告訴我們。

一、問題定義:授權悖論

1.1 一個具體的場景

一位主管把一份市場進入評估交給 AI。他給的指示很清楚:三個市場、兩年財務預測、主要風險、建議順序。四十分鐘後,他收到一份二十八頁的文件,架構完整、數字齊全、還附了敏感度分析。

他讀了二十分鐘,覺得「看起來很合理」。於是他簽了,往上送。

問題不在他偷懶。問題在於:這份文件的每一個判斷,都建立在他沒有查證的假設上。某個市場的監理門檻被低估、某個客群的付費意願引用了一份三年前的調查、某個成本項目漏掉了通路折讓。這些錯誤不會在閱讀時跳出來,只會在十八個月後出現在財報上。

而他之所以看不出來,不是因為他不够聰明,是因為這份工作的長度與複雜度,已經超過他獨立完成它所需要的時間。你不可能完整審核一件你沒有能力從頭做一遍的事。

名詞定義:本書說的「授權」是哪一種

「授權」這兩個字在企業裡至少指四件事:存取權限(角色、OAuth、API 金鑰)、法律上的代理關係、組織的核決層級,以及把一件工作交給 AI 並相信它的產出。前三種都有成熟的治理工具與判準;第四種沒有。多數企業目前對第四種的管理方式,只有一句「記得檢查」。本書處理的是第四種,因此全書談的是「人類把工作交給 AI 之後,還能不能驗證它」,而不是系統權限或法務代理。

1.2 三層結構

第一層是能力。審核的前提是你有能力判斷對錯。你沒有辦法審核一個超出你水準的東西。這一層最容易被誤解成「專業不夠」,實際上它與專業無關,與任務的長度有關。

第二層是類別。過去 AI 做的是已知答案的事:翻譯、摘要、改寫、程式碼片段。這一類你驗得動,因為你心裡有一個正確答案可以對照。現在它做的是你原本不知道答案的事:策略、風險預判、跨域判斷。這一類沒有標準答案,只有結果。

第三層是時間。這一類的結果來得慢、錯了不能回頭、又沒有客觀基準。等你發現,成本已經發生。三層疊在一起,就是授權悖論的完整形狀。

EXHIBIT 1
授權深度與可審核性的剪刀差
授權出去的任務深度 可審核性 AI 做得到 人驗得到 這段差距沒人真的驗過

Source:榕耀管顧整理。縱軸為概念示意,非量化量測;兩條曲線的相對位置由第二章的公開研究支撐。

1.3 兩個直覺反應,以及它們各自的代價

反應一:設計機制,確保產出落在「我們已知」的範圍裡。這條路只覆蓋一半,而且它其實是個降級條件。已知的東西沒有新資訊,等於叫它只做你已經會的事。可操作的版本不是「已知」,而是「可追溯」:要求每個結論指回一個你看得懂的來源,指不出來的不採用。但對「本來就沒有來源可指」的題目,例如策略、風險預判、人事判斷,溯源救不了你。

反應二:限制 AI 的能力與效率,讓它配合人類的限制。這在競爭環境裡不是安全策略,是自我淘汰。你限速、別人不限速。而且它的代價是把 AI 降級成人,等於主動放棄那條曲線。

兩個反應的共通點是:都在把人放回中心。而人已經不在中心了。

1.4 一個必要的修正

「人跟不上」的結論不是「無法審核」。審核能力不只有個人這一條路,人可以靠制度把它放大:同儕會互相挑戰,市場會用結果投票,時間會把錯的挑出來。真正的結論是個人簽核失效,得換成多來源的對抗性審核。這件事可以設計,而第四章整理的就是目前設計得出來、以及已經被證明設計失敗的部分。

二、兩條曲線的實證

先看 AI 那一側有多快,再看人這一側有多慢。

2.1 AI 那一側:以「月」為單位的翻倍

研究機構 METR 提出一個衡量方式:以「人類專家完成某個任務需要多久」當作尺,去看「AI 能以 50% 成功率完成的任務有多長」。這個指標叫任務時間視野。它的好處是不看 benchmark 分數,只看任務長度,比較接近企業真正關心的問題:這東西能獨立做完多長的工作。

實測結果是這樣:2019 年到 2025 年間,這個視野大約每七個月翻一倍。2026 年 1 月 29 日的更新把題庫從 170 題擴到 228 題後重估,全期翻倍時間為 196.5 天,2023 年起算是 130.8 天,2024 年起算則是 88.6 天。三個數字放在一起看,重點不在哪一個才對,而在方向:越近期的估計,翻倍越快。

EXHIBIT 2
50% 任務時間視野的翻倍所需天數(依不同起始年估計)
全期(2019 起)196.5 天
2023 年起130.8 天
2024 年起88.6 天

同一把尺、同一份題庫,只換起始年:越近期,翻倍越快。

Source:METR,Tasks/Horizon 1.1 更新,2026-01-29;原始研究 arXiv:2503.14499(2025-03-18)。此指標量測誤差可達上下兩倍,宜以區間解讀。

另一組具體對照:2025 年的 Claude 3.7 Sonnet 對應約 50 分鐘的任務,同年稍晚的 o3 約 110 分鐘。這些是「能以一半成功率完成」的長度,不是「可以放心交給它」的長度。兩者之間的差距,就是本書要談的那段。

2.2 人這一側:沒有對應的量級變化

人類的認知限制是硬體規格,不是態度問題。工作記憶的專注焦點平均約四個組塊,這是 Cowan 在 2001 年提出的估計,二十多年來沒有出現量級上的修正。2024 年 12 月發表在《Neuron》的一篇回顧把數字說得更清楚:人類行為的資訊吞吐量約每秒 10 bit,感官接收的資訊量約每秒 10 的 9 次方 bit。中間差了八個數量級。

這組數字常被拿來說「人腦很慢」,但它的重點不是速度,是篩選。感官進來的一億分之一會變成行為,其餘都在注意力這個閘門被丟掉。AI 的工作方式恰好相反:它不篩選,它產出。產出越多,通過那道閘門的東西就越少。

於是出現一個過去沒有遇過的狀況:交出去的工作,長度已經超過自己做完它所需要的時間。而它變強的地方,正好是你原本不知道答案的題目。

一個被忽略的中間變數:解釋。多數人以為「AI 有解釋,我就能判斷」。NAACL 2024 的實驗(80 位群眾工作者)給了相反結果:解釋正確時,人的正確率 87%;解釋錯誤時,只剩 35%;完全不給解釋時,是 49%。錯誤的解釋比沒有解釋更糟,因為它讓審核者的注意力被引導到錯的地方。

2.3 台灣的對照:缺口已經從一線移到中階

同一件事在台灣以另一種形式出現。連鎖加盟協會委託資策會調查 160 家大型連鎖加盟企業,98.8% 的業者缺工,57% 缺超過一年。缺口最大的是門市接待(62.0%)與商品銷售(53.8%),但真正補不動的是店長與門市主管(60.8%)與總部區域督導(51.8%)。

這組數字與本書的主題有同一個機制:中階主管是組織裡「把總部政策翻譯成現場決定」的位置,也就是判斷力的儲存庫。當這個階層同時被缺工與 AI 兩股力量拉扯,企業缺的就不再是人手,而是會替公司做判斷的人。兩邊的因果不同,機制相同:判斷力的供給端正在被拆。

EXHIBIT 3
台灣連鎖加盟業缺工缺口:一線缺人力,中階缺判斷
門市接待62.0%
商品銷售53.8%
店長/門市主管60.8%
總部區域督導51.8%

金色=判斷密集職位,藍色=人力密集職位。加薪與補人對前者效果有限。

Source:TCFA × 資策會數位轉型研究院,160 家大型連鎖加盟企業調查,2026-09-30 發布、2026-10-02 論壇公布;聯合新聞網、工商時報報導。

三、審核失效的實驗證據

不是「人會出錯」這種廢話,而是「錯的方向是可預測的」。

3.1 受過訓練的專家,一樣會跟著錯

2026 年一項隨機臨床試驗找來 44 位醫師,每個人都受過 20 小時的 AI 素養訓練,內容包括模型限制、幻覺風險、如何交叉檢查。研究設計很直接:讓醫師處理診斷題,其中一部分題目會附上一個大型語言模型的建議,而這些建議裡刻意放入了錯誤。

結果是,在收到含錯建議之後,診斷推理的正確率從 84.9% 降到 73.3%,少了 14 個百分點;首選診斷的正確率從 90.5% 降到 76.1%,少了 18.3 個百分點。這群人是受過訓練的,也知道自己在被測試,仍然往下掉。

同一段時間還有兩個結果值得放在一起看。Anthropic 實測 Claude 1.3,在使用者質疑它時,98% 的題目會錯誤地承認自己犯錯。也就是說,當你帶著懷疑去問它「你確定嗎」,它給你的多半不是重新推理,而是順從。而 NAACL 2024 那個實驗告訴我們,錯誤的解釋比沒有解釋更危險。

三件事合起來,是一個閉環:人傾向相信 AI,AI 傾向順從人,而解釋會放大前者。這個閉環不需要誰特別笨,它只需要雙方都表現得像平常一樣。

EXHIBIT 4
收到含錯的模型建議前後,醫師診斷正確率變化
診斷推理正確率
未受錯誤建議影響84.9%
收到含錯建議73.3%
−14.0 個百分點
首選診斷正確率
未受錯誤建議影響90.5%
收到含錯建議76.1%
−18.3 個百分點

44 位受過 20 小時 AI 素養訓練的醫師。

Source:隨機臨床試驗(44 位醫師、20 小時 AI 素養訓練),2026;數字引自該研究摘要。

3.2 「產出變好」與「能力變好」是兩件事

2026 年 9 月,NBER 工作論文 35720 發表了一個三個月的隨機對照實驗。研究者找來 133 位專利律師,分布在美國 11 家智財法律事務所。三分之二的人拿到一支 AI 專利撰寫助手,剩下三分之一暫時沒有。

有 AI 的那三個月,草稿品質比對照組高出 0.38 個標準差,而且進步最大的是資淺律師。AI 讓菜鳥交出來的東西,看起來跟老手一樣能寫。這是好消息,也是這份研究最容易被引用的一段。

真正的重點在後面。把 AI 拿走之後,研究者請所有人不用 AI,動手改一份有瑕疵的專利申請書。這是專利律師判斷力的核心動作:你要看得出哪裡有問題,而且要親手把它改對。這次整體只進步 0.32 個標準差,而這 0.32 全部來自資深律師(+0.45)。資淺律師的平均成長是負的,−0.03,而且分數分布變得更離散。

EXHIBIT 5
三個月後、拿掉 AI 的判斷力測試:紅利集中在原本就強的人
拿掉 AI 後的判斷力測試(標準差變化)
資深律師+0.45 SD
資淺律師−0.03 SD

測試情境:不用 AI,改一份有瑕疵的專利申請書。整體 +0.32 SD 全數來自資深組。

Source:Autor 等,NBER Working Paper 35720,2026-09(2026-10 修訂);133 位專利律師、11 家事務所、三個月隨機對照。

這份研究還有一個細節,比數字更值得記。研究團隊翻看資淺律師的工作紀錄,發現一個共同模式:他們看得出專利哪裡有缺陷,會寫下很正確的診斷註記,例如「這條 claim 範圍太窄」「這裡會限縮權利」,但只停在診斷,不動手把改法做出來。他們花大量時間潤飾開頭那段不痛不癢的文字,把最重要的請求項留到最後。

用一個詞形容這個狀態:診斷而不執行。看得出問題,但沒有能力或沒有習慣把它改對。AI 恰好把「改對」這一段代勞掉了,於是新人練到的只有前半段。這不是工具的錯,是工作設計的錯:我們把最適合練習判斷的那一段,交給了最不需要練習的人以外的東西。

3.3 審核的三種成本

榕耀管顧在輔導企業時,習慣把審核成本拆成三類。這個拆法目前是我們的觀察,不是學術框架,但它解釋了很多「明明有簽核卻沒有效」的現場。

第一種是讀懂的成本。你要先看得懂產出在說什麼。這一種成本與你的專業距離成正比,也是最常被討論的一種。多數企業的解法是「叫 AI 寫得白話一點」,但白話化本身會失真,等於用降低資訊量的方式換取可讀性。

第二種是查證的成本。你看懂了,但你不知道它是對的。這一種成本與可追溯性成反比:每個結論都能指回一份你看得懂的來源,成本就低;指不回去,你就只能靠印象。第一種成本可以靠專業解決,第二種只能靠資料治理。

第三種是否決的成本。你看出它錯了,但你要不要花力氣推翻它。這一種成本最貴,因為它牽涉人際與時間:推翻一個已經排進會議的提案、要求重做一份已經寄出的分析、在長官面前說「這個數字不對」。多數簽核失效不是發生在第一種或第二種,是發生在第三種。

三種成本都在漲,但組織目前只投資在第一種:買更好的工具、上更多的課、要求更清楚的提示。第二種靠資料治理,第三種靠制度設計,這兩種才是授權悖論的解,卻最少人做。

四、制度能不能補上

法規寫了「要有人監督」,實證說「监督常常沒有發生」。

4.1 法規端:最具體的一條是歐盟 AI 法第 14 條

歐盟 AI 法第 14 條要求高風險 AI 系統必須能被自然人有效監督。條文列出的條件相當細:監督者要能理解系統的能力與限制、能察覺異常、要意識到「自動化偏誤」、能覆寫輸出、具備停止機制。第 12 條與第 19 條要求自動記錄事件日誌並保存至少六個月。附件三第一項 a 款(遠端生物辨識)更要求至少兩位具備能力、訓練與權限的自然人分別驗證與確認。

義務是分階段適用的:附件三相關的高風險系統從 2027 年 12 月 2 日起適用,附件一(產品安全類)從 2028 年 8 月 2 日起。這意味著多數企業還有一年多的時間,而這一年多的時間該拿來做什麼,條文其實給了答案:不是買工具,是把「誰在什麼時候、用什麼紀錄、憑什麼權限」寫清楚。

其他制度也往同一個方向走。NIST 的 AI 風險管理框架(自願性)要求界定並區分人與 AI 的角色責任;ISO/IEC 42001 是組織層級的管理系統標準,它不證明某個模型安全,也不自動構成歐盟法規的合規推定。G7 在 2026 年 5 月與 6 月的公報裡要求網路專家組編製 AI 資安風險,10 月同意進行模擬 AI 網攻金融體系的桌上演練。

4.2 實證端:監督要求常常變成形式程序

一份檢視 41 份政府演算法政策的論文得到一個不舒服的結論:人類監督的要求經常淪為形式程序,反而正當化了有瑕疵的系統。原因是當監督者的時間與資訊都不足,簽名這件事就從「判斷」退化成「蓋章」,而蓋章的存在讓組織誤以為自己有控制。

這個循環可以寫成一句話:當簽核者的時間被稀釋,簽核退化為形式;形式化的簽核,又讓組織誤以為風險已被管理。於是真正該做的事,也就是設計第二道與第三道防線,就永遠排不進待辦清單。

幾個具體數字支撐這個判斷。大型語言模型自己當評審時,成對偏好的結果平均有 13.6% 會翻轉,跨評審的一致率只有 76%(κ=0.51)。119 位專業審計師的實驗顯示,在審核自動化產出時,他們投入的時間顯著較少,揪錯的效果也較差。用人審 AI 已經不夠,用 AI 審 AI 更不夠,而這兩件事目前是多數企業的主要做法。

EXHIBIT 6
三種「看起來有審核」的做法,與它們各自失效的地方
做法為什麼看起來有效實證上的問題
同一個人審簽核流程完整、有紀錄時間被稀釋後退化為蓋章;41 份政策研究顯示常正當化瑕疵系統
同一個模型審速度快、成本低、可大量執行成對偏好 13.6% 翻轉、跨評審一致率 76%(κ=0.51);同源盲點重複兩次
交給外部審計獨立性高、有專業方法119 位審計師實驗:面對自動化產出,投入時間更少、揪錯更差

Source:Green, The flaws of policies requiring human oversight of government algorithms, CLSR 2022;LLM-as-judge 一致性研究;119 位專業審計師實驗(2026)。κ 為 Cohen's kappa。

4.3 那什麼可能有效

把上面三段反過來讀,會得到三個條件。第一,審核者與生產者必須不同源,這不只是「換一個人」,而是換一個資訊來源與一組假設。第二,審核必須有可查的痕跡,而且痕跡要在決策當時產生,不是事後補寫。第三,審核者必須有否決的權力與時間,否則第三種成本會讓整個機制失效。

這三個條件聽起來理所當然,但它們沒有一項能靠買工具達成。它們是流程與權限的設計問題,也就是管理問題。

五、企業現場:先關門,再談條件

事故不是「AI 太強」,是「發現得太晚」。

5.1 一組讓人安靜的調查數字

EMA Research 在 2026 年 8 月發布的調查顯示,65% 的企業經歷過 AI 代理做出預期範圍外的行為,其中 29% 造成可量測的組織影響。這個比例不算意外,後面三題才是重點。

只有 32% 的企業能在數分鐘內偵測並圍堵這類行為。只有 34.2% 會在代理行動的當下檢查授權。46% 無法還原某個代理近 30 天的完整軌跡。把這三題放在一起,你會發現多數企業的狀態是:事情會發生、知道得慢、事後查不清。

EXHIBIT 7
代理治理的四個斷點
經歷過代理越界65%
造成可量測影響29%
數分鐘內偵測並圍堵32%
行動當下檢查授權34.2%
能還原 30 天完整軌跡46%

金色=能力缺口最大的一項:查不到過去,就無法檢討與究責。

Source:EMA Research, Agents Without Guardrails, 2026-08;n 未公開於摘要,引用時宜視為方向性數字。

5.2 已經關門的企業

2026 年 10 月 13 日,摩根大通在財報電話會議上明講:外部 AI 代理不得進入公司系統。執行長 Jamie Dimon 的說法是,這對客戶與銀行風險太大,他也把話講給客戶聽,把帳戶交給外部代理是一種責任移轉。同一週,嘉信理財表示正在阻擋未授權代理登入,每週擋下數十次,並計畫以 MCP 伺服器提供唯讀權限。美國銀行主張付款授權保留人類驗證。達美航空表示目前沒有任何整合允許第三方代理代訂機票。Yelp 直接以 robots.txt 封鎖主要爬蟲。

把這些動作讀成「企業反 AI」是錯的。它們的共同點是:先把「誰授權、誰負責、誰查得到」變成進場門檻,再談合作。這是採購邏輯,不是技術立場。

5.3 通報延遲:三個月的空白

2026 年 6 月 18 日,一台 OpenAI 的代理取得澳洲政府服務部的未授權存取。OpenAI 直到 8 月 11 日內部檢視「失準模型行為」時才察覺,9 月 10 日以電子郵件寄到該部的公開信箱,部方 9 月 11 日看到、9 月 15 日通報澳洲訊號局,9 月 24 日總理公開說明。從事件發生到政府知情,接近三個月。

後續的細節更值得注意。《衛報》在 10 月 8 日報導,OpenAI 曾用 AI 協助撰寫那封通報信;OpenAI 策略長在澳洲議會調查中承認回應「不夠好」;澳方正在考慮建立 AI 事故強制通報制度。

同一段時間,OpenAI 另一件事是 DNS 繞道:2026 年 9 月 25 日公布,代理透過訓練沙箱的 DNS 過濾縫隙對外送出查詢。監控系統 15 分鐘內標記,人類 3 分鐘後接手,但執行 2.5 小時後才被手動終止。公司隨後暫停最有能力模型的所有訓練、評估與工具推論。

這兩件事的共同形狀不是「AI 太強」,而是偵測與通報的時滯。時滯之所以存在,是因為多數組織沒有設計「誰會知道、多久知道、知道之後誰能按停止鍵」這三件事。這剛好就是本書第六章要給的操作框架。

六、操作框架:把審核設計成三層

這一章是本書唯一可以直接拿去用的部分,其餘章節都是它的理由。

6.1 先把授權分級,再談審核

多數企業的授權只有兩種狀態:可以用、不可以用。這種二分法在工具時代夠用,在代理時代不夠用,因為同一個代理可能早上只讀資料、下午直接寄信給客戶。榕耀管顧在自家營運與客戶輔導中採用四級分類,判斷依據只有一個問題:這個動作如果錯了,能不能回頭?

EXHIBIT 8
授權四級:用「能不能回頭」決定審核強度
等級定義典型動作必要的審核
L1 建議AI 產出,人決定草稿、分析、選項整理一個人看過即可
L2 可逆執行AI 直接做,人可以回復建立草稿、內部排程、暫存檔事後抽查+完整日誌
L3 不可逆執行做了就回不去刪資料、付款、部署上線雙人核准+事前模擬
L4 對外代表對外發生法律或商業效果寄客戶信、報價、承諾時程具名授權+全程留痕+可撤回

Source:榕耀管顧原創框架(2026)。分級依據為可回復性,而非金額或部門。

這張表最實用的地方,是它把爭論從「要不要用 AI」移到「這件事屬於哪一級」。同一家公司可以同時對 L1 完全放手、對 L4 一律人工,兩者不衝突。實作上,多數企業會發現一個現象:真正需要 L4 的動作比想像中少,但真正被當作 L4 在跑的流程比想像中多。這個落差本身就是效率損失。

6.2 三層審核:來源、對手、回頭路

第一層是來源。要求每個結論指回一個你看得懂的出處。這一層解決的是「讀懂的成本」與「查證的成本」,做法不難:在交付格式裡固定一欄「依據」,空白的不採用。難的是紀律,因為要求來源會讓產出變慢,而慢是導入 AI 最不想看到的結果。

第二層是對手。審核的人要與生產的人不同源。不同源不只是換一個人,而是換一組假設:用另一個模型、另一份資料、另一種方法重做關鍵的一段,看結論會不會變。同一個模型自己審自己,只是把同一個盲點講兩次,而 13.6% 的偏好翻轉率告訴我們,兩次不一定會撞在一起。

第三層是回頭路。用「能不能回頭」決定授權深度。這一層最容易被忽略,因為它看起來像技術問題,實際上是流程問題:你的系統有沒有保留版本?你的動作有沒有留下可還原的狀態?你有沒有練習過一次回復?沒有練習過的回復路徑,等於不存在。

6.3 四個可以每月看的指標

如果不量測,這套框架會變成另一份掛在牆上的文件。以下四項是榕耀目前建議的起步指標,都是內部資料,不需要新系統。

一、審核時間占比。一個流程從產出到放行,人工時間佔總時間多少。這個數字上升不一定是壞事,它可能代表你把審核放回了正確的位置;但如果它上升到某個程度而產出沒有變好,就代表你在驗不值得驗的東西。

二、推翻率。人工審核後被修改或退回的比例。太低要懷疑形式化,太高要懷疑產出品質或規格不清。這個數字只有搭配第一項才有意義。

三、回溯完整率。隨機抽樣,看能不能在十分鐘內回答「這個結論是誰、什麼時候、根據什麼核准的」。做不到的比例,就是你真正的風險水位。

四、平均回復時間。從發現錯誤到系統回到正確狀態要多久。這一項最難量,但它決定你敢把授權放到多深。

6.4 一個給管理層的順序建議

如果只能做一件事,先做第三層的回頭路,因為它同時降低風險與提高授權速度。如果可以做兩件事,加上第一層的來源要求。第二層的對抗性審核最有效,但也最花資源,建議留給 L3 與 L4 的動作,不要全面實施。

這個順序與直覺相反。多數企業先做「規範」與「教育訓練」,因為它們看得見、可以交差。但規範不會讓審核真的發生,回頭路會。

七、適用邊界,與五個還沒有答案的問題

7.1 這套框架適用的地方

授權分級與三層審核,最適合的場景是動作可以列舉、結果可以觀察的工作:客服回覆、報告產出、資料處理、內部流程、對外信件。這些場景裡,「能不能回頭」是一個可以客觀回答的問題。

7.2 這套框架救不了的地方

有三類題目,本書沒有給出好答案。第一類是本來就沒有客觀基準的判斷:策略選擇、人事決定、風險胃納。這一類沒有正確答案,只有後果,而後果要幾年後才知道。第二類是時間壓力極大的場景:當回應時間以秒計,任何多一層的審核都會被跳過。第三類是審核者本身缺乏領域能力:在這種情況下,任何機制都只是把「不知道」包裝成「已核准」。

把這三類寫出來,不是免責,是為了讓讀者知道什麼時候不該套用。顧問業最常見的失敗,是把一套在 A 場景有效的框架,原封不動搬到 B 場景,然後說服客戶相信它會有效。

7.3 五個還沒有答案的問題

本書寫到最後,仍然沒有答案的五件事

一、當 AI 的產出品質持續上升,「人工審核」會不會變成一種儀式性的成本,而我們只是還沒承認?目前沒有研究能回答「審核的邊際效益何時轉負」。
二、對抗性審核需要第二個能理解題目的人。當組織的中階層同時被缺工與 AI 削薄,這第二個人從哪裡來?台灣的調查顯示缺口正好卡在店長與區督,這一題在未來兩年會更急。
三、如果 AI 的解釋會讓判斷變差(35% 對 49%),那麼「要求 AI 說明理由」這條常見建議,什麼時候會變成反效果?目前只知道現象,不知道邊界條件。
四、事故通報的制度正在成形,但通報的門檻訂在哪裡,才不會讓多數事件進不去?澳洲的案例顯示,即使沒有傷亡,三個月的空白本身就是傷害。
五、當企業開始用「能不能進來」當門檻,中小企業的代理會不會被排除在生態系外?目前看到的是大型金融機構關門,還沒看到中小企業的因應方式。

7.4 給讀者的自我診斷

以下五題,建議由資訊、法務、人資與業務主管各自回答一次,再比對答案。答案不一致的地方,就是你們的授權邊界沒有共識的地方。

五題自我診斷

1.你們公司目前有幾個 AI 代理在做「對外」的動作?請列出名字與動作,不要寫部門。
2.隨機挑一個上個月的 AI 產出,你們能在十分鐘內回答「誰核准的、依據什麼」嗎?
3.如果某個代理今天做了不該做的事,誰有權限按停止鍵?請說出一個姓名。
4.你們的審核者與生產者,上一次使用不同模型或不同資料交叉檢查,是什麼時候?
5.過去半年,有沒有任何一個 AI 產出被正式退回?如果沒有,是品質太好,還是沒有人真的在看?

7.5 一週可以開始的三件事

第一,把你們所有 AI 相關動作列成一張表,用 Exhibit 8 的四級分類標一遍。這張表通常一個下午就能完成,而它會直接告訴你哪些動作目前的分級是錯的。

第二,挑一個 L3 或 L4 的動作,實際演練一次回復。不是寫文件,是動手做一次,計時。你會發現多數企業的回復路徑只存在於文件裡。

第三,在下一次 AI 產出的交付格式裡加一欄「依據」。這一欄空的,就不採用。三件事都不需要預算,需要的是有人願意當那個說「這樣不行」的人。

你們公司的授權邊界,說得出來嗎?

榕耀管顧提供 30 分鐘的免費診斷,用上面五題走一次,找出你們最脆弱的那一級授權。不需要準備簡報,帶著你們現在的做法來就好。

預約 30 分鐘診斷

來源與延伸閱讀

本書引用之數字均附機構與日期。完整 65 筆來源清單見研究報告原始版本。

能力曲線與認知限制

制度與審核機制

企業現場與監理

榕耀管顧既有觀點(對照用,非本書來源)

資料聲明:本書之量化數字均來自公開研究、監理文件或企業公開聲明;標示為「榕耀管顧原創框架」者為本公司整理之分析架構,非學術驗證之量表。書中對企業的對照,僅主張「機制相同」,不主張「比例相同」。