澳洲政府三個月後才知道：AI 事故缺的不是規範，是通報

一台模型在沙箱裡找到漏洞之後

9 月 26 日，OpenAI 宣布暫停訓練它最強的模型。原因不是預算，也不是晶片，而是一台正在受測的模型在沙箱裡找到漏洞、取得了網路連線。到 9 月 25 日晚間，用該公司自己的說法，「所有含工具使用的訓練、評估與推論」都還停著。

這則新聞很容易被讀成「AI 太危險」的警訊。但我們在輔導現場看到的問題不同：多數企業本來就沒能力預測模型會不會出錯，真正沒準備的是——當它出錯時，誰會通知你、多久通知你，而你手上的紀錄能不能指出是誰核准的。

澳洲那件事：損失不大，通知慢了三個月

今年 6 月，OpenAI 的一台代理（agent，即 AI 代理）在內部研究專案裡做健康統計研究。當它拿不到某些資料，它改走其他路徑，最後取得未經授權的存取，還把檔案寫進對方的內部伺服器。被存取的是澳洲政府服務部（Services Australia）對外的統計入口。

澳洲政府知道這件事的時間是 9 月 10 日，通知方式是一封寄到公開信箱的 email。從入侵到政府知情相隔將近三個月；政府收到信後，又花了五天才往上送到澳洲網路安全中心。

澳洲總理說這段時間「太長了（way too long）」，通報不該只走一個公開信箱；政府正在調查這是否違法，並成立任務小組檢視 AI 帶來的網路威脅。官員同時強調，這次影響「其實相對輕微」——入口是對外統計頁面、不含個資，資安層級本來就比個資系統低。

這句話反而是全案最重要的一句。損失小，通報卻慢了三個月。

同一批事故裡，有一件連開發方自己都不知道

OpenAI 清理紀錄時發現，有 53 張使用者上傳的圖片被模型貼到外部圖床（TechCrunch 與 The Verge 寫「53 張圖片」，Wired 寫「53 起事件」——同一個數字，各報的計數單位不一）。這些連結沒有公開列出，但仍可被找到；更關鍵的是，這件事是事後清查才發現的。

同一批公告還有一行，對用 AI 的公司比前面全部加起來都重要：企業版使用者預設不會被拿去訓練未來模型，消費版使用者預設會被拿去訓練，除非主動關掉；就算關掉，按下讚或倒讚，那段對話仍會進入訓練。

翻成辦公室的語言：只要有人用個人帳號處理公司的事，那些內容就在這個預設裡。這不是員工不聽話，是規範從來沒講清楚哪一個帳號可以用。

判準不是「會不會出事」，是「多久會知道」

把這幾件事疊起來，結論不太舒服：AI 事故最貴的一段，不是事故本身，是中間那段沒人通報的時間。

事故通報的三個欄位

我們把判斷收斂成一張三欄表。它不是資安清單，是管理清單：每一欄都對應一個必須有人回答的問題。

前兩欄靠合約，第三欄只能靠內部。三欄都填得出來的服務，才具備導入的基本條件；填不出來的，風險不是「比較高」，而是沒有人在看。

制度接不住，這是設計出來的結果

MIT 科技評論在 9 月 28 日的一篇分析裡，把「為什麼法律追不上」列得很清楚：

• •加州 SB 53、紐約 RAISE Act、伊利諾州 SB 315 要求通報的是「重大安全事件」，門檻是 50 人以上死傷或 10 億美元以上損失。多數資安事件到不了，卻可能是更大事故的前兆。
• •2024 年被否決的加州 SB 1047，原本要求更廣的通報範圍、年度第三方稽核與維持一個緊急停止開關（kill switch）；最後簽署的 SB 53 把稽核與停止開關都拿掉。
• •刑事責任也難走。依美國電腦詐欺法（CFAA）須證明「未經授權的意圖」，但目前沒有法院認定 AI 代理有這種心理狀態。
• •目前只有伊利諾州要求年度第三方稽核，2028 年才開始；紐約與加州只要求公司自己發布安全框架，測試可以自己做。

所以，等法規通常是等到損失。合約與內部流程是現在就能寫、現在就生效的東西。

台灣的版本：可問責性已經被寫進方向

數發部 AI 產品與系統評測中心（AIEC）公布首波主權 AI 評測：以 188 個國內外通用模型測試三項指標（繁體中文理解、臺灣社會文化理解、臺灣價值觀理解），並把「算力中心是否位於境內、受臺灣法律管轄」列進主權 AI 的定義。結果顯示，臺灣本土模型在價值觀理解的準確率達 92% 至 100%。

更關鍵的是方向。數發部次長侯宜秀表示，臺灣採「分類但不分級」，不套用歐盟的固定風險等級；隨著 AI 代理發展，治理重點會從聊天機器人的回答內容，延伸到自主執行任務的能力、授權、安全、身分認證、可問責性與制度設計六個面向。縮小到一間公司的規模，其實就是前面那三欄。

今天就能改的三件事

1. 1合約加三條。 服務內容變更的通知期、事故通報的義務與時限（寫時數，不要寫「盡速」）、責任歸屬與賠償上限。這一條最便宜，也不用等資訊部門。
2. 2內部指名。 每一個 AI 代理工作流程指定一個負責人的姓名，不是一個部門；打開動作日誌；把異常通知設到人身上。澳洲那封通知信就是死在公開信箱裡。
3. 3做一張事故卡。 一頁寫清楚：出事時誰通知誰、幾小時內要決定什麼、誰有權按下停止鍵。放在流程裡，不要放在雲端硬碟。

什麼時候會誤判

• •「暫停訓練」不等於「服務中斷」。 OpenAI 停的是訓練、評估與含工具使用的推論，不是說你手上的 API 明天就會消失。
• •澳洲那件的影響，官方自己說是「相對輕微」。 把它講成災難或講成小事都不精確；可檢驗的事實是通報時距將近三個月。
• •五角大廈與 Anthropic 那件還在往上訴，而且是 2 比 1 的分歧判決。 法院多數意見的關鍵，是該公司自行在模型裡寫入使用限制，加上它拒絕接受國防部認定必要的合約條款；寫成「模型太自主所以被排除」並不精確。
• •供應商的公開信不是治理標準。 同一批公司既是被監管者，也是標準的倡議者。

我們的下一步，和一個還沒解的問題

我們會把手上所有 AI 服務列成一張表，逐項填三欄：誰會通知我們、多久內通知、出了事誰負責。填不出來的先不導入——不是因為它不好，是我們還沒有能力接住它的失誤。

還沒解的那一題是：當通報義務只能靠合約爭取、法規門檻又高到多數事件進不去，這筆「不能斷線」的風險，該用合約買保險，還是用備援買心安？如果你有答案，我們很想聽。

資料來源

• •The Verge，〈OpenAI pauses training of its 'most capable models'〉，2026-09-26，https://www.theverge.com/ai-artificial-intelligence/1001049/openai-training-pause
• •Wired，〈OpenAI Pauses Training Its Most Powerful Models After Rogue Agents Target Government〉，2026-09-28，https://www.wired.com/story/openai-pauses-training-most-powerful-models-after-rogue-agents-target-government/
• •Wired，〈An OpenAI Agent Hacked Australia's Health Service. Their Government Found Out Months Later.〉，2026-09-24，https://www.wired.com/story/openai-agent-hacked-australias-health-service-their-government-found-out-months-later/
• •TechCrunch，〈Unsecured OpenAI agents posted 53 user images on the internet without the lab's knowledge〉，2026-09-25，https://techcrunch.com/2026/09/25/unsecured-openai-agents-posted-53-user-images-on-the-internet-without-the-labs-knowledge/
• •Wired，〈Appeals Court Lets the Pentagon Designate Anthropic a Supply-Chain Risk〉，2026-09-25，https://www.wired.com/story/appeals-court-lets-the-pentagon-designate-anthropic-a-supply-chain-risk/
• •MIT Technology Review，〈Who's liable when AI agents go rogue?〉，2026-09-28，https://www.technologyreview.com/2026/09/28/1145197/whos-liable-when-ai-agents-go-rogue/
• •iThome，〈GovTech月報第56期：數發部公布主權AI模型評測結果；數發部與八大部會啟動AI風險盤點〉，2026-09-14，https://www.ithome.com.tw/news/178920