一句話版本
AI 能完成的任務長度每七個月翻一倍,人的審核能力沒有對應的變化。於是你交出去的工作,已經超過你有能力驗證的範圍,而多數企業還沒有設計任何機制發現這件事。
五個核心判斷
01
授權的深度與可審核性,往反方向走。
過去 AI 做的是你已知答案的事,這一類你驗得動。現在它做你原本不知道答案的事,這一類只能看結果,而結果來得慢、錯了不能回頭。
02
兩條曲線的斜率差了一個量級。
METR 實測:前沿模型能完成的任務長度,2019 年起約每七個月翻一倍,2024 年起算的估計縮短到 88.6 天。人的工作記憶約四個組塊、行為吞吐約每秒 10 bit,二十多年沒有量級變化。
03
審核失效有數據,偏誤方向是「人傾向相信 AI」。
44 位受過 20 小時 AI 素養訓練的醫師,收到含錯建議後,診斷正確率從 84.9% 掉到 73.3%。AI 的解釋錯誤時,人的正確率只剩 35%,比不給解釋的 49% 更低。
04
制度可以放大審核,但多數機制還沒被證明有效。
模型自己當評審,成對偏好平均 13.6% 會翻轉;119 位專業審計師審核自動化產出時,投入時間更少、揪錯更差。法規寫了「要有人監督」,不等於監督真的發生。
05
真正的風險是你不知道自己超出了範圍。
65% 的企業遇過代理越界,但只有 32% 能在數分鐘內圍堵、34.2% 在行動當下檢查授權、46% 查不出代理近 30 天做了什麼。
可以直接用的框架
EXHIBIT
授權四級:用「能不能回頭」決定審核強度
| 等級 | 定義 | 必要審核 |
|---|---|---|
| L1 建議 | AI 產出,人決定 | 一個人看過 |
| L2 可逆執行 | AI 直接做,人能回復 | 事後抽查+完整日誌 |
| L3 不可逆執行 | 做了回不去 | 雙人核准+事前模擬 |
| L4 對外代表 | 對外發生法律或商業效果 | 具名授權+留痕+可撤回 |
Source:榕耀管顧原創框架(2026)。判斷依據為可回復性,不是金額或部門。
三層審核。第一層要求來源:每個結論指回一個你看得懂的出處,指不回去的不採用。第二層要求對手:審核者與生產者不同源,換模型、換資料、換方法重做關鍵一段。第三層要求回頭路:用能不能回復決定授權深度,而且實際演練過一次。
四個每月指標。審核時間占比、推翻率、回溯完整率、平均回復時間。四個都是內部資料,不需要新系統。
五題自我診斷
由資訊、法務、人資與業務各自回答,再比對
1.公司現在有幾個 AI 代理在做對外動作?請列出名字與動作。
2.隨機挑一筆上個月的 AI 產出,十分鐘內答得出「誰核准、依據什麼」嗎?
3.如果代理今天做了不該做的事,誰有權限按停止鍵?請說出姓名。
4.上一次用不同模型或不同資料交叉檢查,是什麼時候?
5.過去半年有任何 AI 產出被正式退回嗎?沒有,是品質太好還是沒人真的在看?