關於AI治理的真正問題

財富500強企業的每一位領導者 他們會告訴你，他們正在管理自己的人工智慧——每一個都是如此。現在問問這些領導者，誰該為關閉一個造成傷害的AI模型負責。大多數人無法回答這個問題。

沉默，是当前企业科技领域最重要的故事，却极少被提及。

過去幾年，圍繞人工智慧悄然興起了一套治理產業。企業建立了目錄來分類管理其AI模型，實施了分類系統以標註數據，設立了儀表板監控模型行為，並成立風險委員會審查新部署。它們制定了政策、聘請了合規官員，並向董事會提交了簡報。治理的基礎設施已大幅擴展。

缺少的是州长。

誰能關閉AI模型

我在Adobe負責AI與數據治理，我的工作正是建立每家企業如今都聲稱擁有的那套機制。而我在親身投入實務後，從內部學到的是：最困難的部分從來不是技術。最困難的部分是一個聽起來簡單到近乎冒犯的問題——當AI模型做出不該做的事時，誰有權力阻止它？

問題不在於誰收到通知，也不在於誰撰寫事故報告。關鍵在於誰有權力、組織地位，以及坦白說，誰有工作保障，能夠走進會議說：「我們要關閉這個。」

在大多數公司中，這個角色要麼不存在，要麼就是一個與開發團隊組織上分離的紙老虎。像是首席人工智慧倫理官這樣的職位，以及資料治理委員會之類的團體， 負責任的人工智慧 團隊完全必要，但僅具諮詢性質。他們可以標記問題、提出建議、向上呈報，但通常無法按下停止鍵。實際的決策權掌握在別處。在大多數《財星》500強企業中，這項權力通常屬於主要負責產品出貨與營收目標的人，而這個人有一切動機將治理標記視為次要事項，而非強制要求。

這並非針對個人的批評，而是對治理產業普遍選擇忽視的結構性問題的描述，因為治理產業販售的是工具，而非問責機制。

這些工具確實對法規遵循與有效治理至關重要。模型註冊表能告訴你存在哪些AI系統及其運作內容；風險分類框架能指出哪些系統最需嚴格審查；數據溯源系統則能顯示輸入資料的來源與品質。這些都是真實且重要的基礎設施，但僅是提升可視性的基礎設施，而非用於行動的基礎設施。

你可以對一個問題有完全的能見度，卻沒有解決它的機制。你必須看到某件事才能採取行動，但你也得拿起水管才能滅火。

這樣想吧：火災警報器不是消防隊。你可以為家中的每個房間佈線、每年盡責更換每個煙霧探測器的電池，並將所有警報導向一個精美的儀表板——但如果沒有人拿起水龍帶，你的房子還是會燒毀。沒錯，知道房子著火了至關重要——否則你根本不會知道自己需要水龍帶。但你還是需要有人通知消防隊採取行動。

在Adobe，我們透過建立聯邦治理模式來解決這個問題，為每個AI系統指定專屬負責人，並設立一個擁有升級裁決權的中央指導委員會，該委員會向信任與安全組織（而非產品團隊）匯報。這是我們做出的關鍵設計選擇：讓治理機制擁有獨立於AI產品開發團隊的匯報線路。這點至關重要，因為能夠對AI決策說「不」的人，不應向那些因同意推出產品而獲益的人匯報。

為何需要緊迫感

此處的風險正迅速升溫。歐盟《人工智慧法案》現已生效，它並非要求企業證明其設有監控儀表板，而是要求證明其具備實質性的治理機制。該法案要求決策過程有文件記錄、責任歸屬明確，並能在事後釐清誰對人工智慧系統的重大選擇做出決定及其原因。當監管機構提出這些問題時，一份政策文件與風險登記冊將不足以作為答覆。監管機構要的是具體人名。

AI部署的速度加劇了治理的迫切需求。目前，大多數大型企業在其組織內部運行了數百個AI系統，甚至可能部署在領導層未曾察覺的地方。你會發現AI工具被應用於客戶服務、招聘、內容審核、定價、欺詐檢測，以及任何善意員工試圖簡化工作的領域。其中許多系統是在壓力下快速部署的，而治理問題則被視為「未來的自己」需要解決的事項。如今，「未來的自己」的時刻已經到來。

答案不是放慢人工智能的採用速度，而是要像重視技術問題一樣，認真對待組織設計問題。每個人工智能治理方案都應能回答三個問題：誰有權力停止一個模型？他們是否知道這是自己的職責？當這項權力與他人的路線圖發生衝突時，他們是否有足夠的地位來行使這項權力？

如果你的公司無法回答這些問題，那麼你們就沒有治理方案，只有一堆文書作業。

能夠應對未來五年AI監管與公眾審視的企業，未必是那些擁有最先進工具的企業，而是那些默默耕耘、完成更艱鉅且不顯眼工作的企業——它們為技術建立了人類問責機制。

這些組織任命了人工智慧治理者，賦予其實際權力，並明確其職責並非讓AI部署更簡便，而是使其具備正當性。這些組織設有聯邦團隊，負責識別、補救及上報問題，且深知上報必須有明確的歸屬對象。這意味著治理職能需直接對接高層領導，獨立於負責推出AI的產品團隊，並擁有明確權限可中止AI部署。

每家公司都說自己在治理AI。真正區分治理與作秀的問題，比任何框架都簡單。問問自己：在我的組織裡，誰能說「不」，並且有權力讓這個「不」真正算數？