超越模式—為什麼負責任的人工智慧必須解決勞動力影響

連續第五年， 麻省理工學院斯隆管理評論 波士頓顧問小組 (BCG) 組建了一個由學者和從業者組成的國際人工智慧專家小組，幫助我們了解全球組織如何實施負責任的人工智慧 (RAI)。前幾年，我們檢查了組織 RAI成熟度; 第三方、生成和代理人工智慧風險;和 核心人工智慧治理支柱，包括問責制、可解釋性和監督。自從我們的專案開始以來，人工智慧的使用已在各種規模、行業和地理的組織中迅速傳播。同時，早期對其對勞動力影響的擔憂已經開始成為現實，幾家公司宣布 大幅裁員 同時引用人工智慧帶來的效率提升。

鑑於人們越來越擔心有多少人類工人會受到人工智慧的影響，我們要求我們的小組對以下挑釁做出反應： 負責任的人工智慧實踐應該解決勞動力影響，而不僅僅是人工智慧系統風險。近 80% 的小組成員同意或強烈同意這項說法。我們的小組先前強調，健全的人工智慧治理不僅要求 如何 設計或部署了一項技術，但是 無論 它應該被完全使用。今年的小組擴展了這個邏輯，強調負責任的人工智慧必須超越安全系統，並關注現實世界對工人和經濟穩定的影響。下面，我們分享小組成員的見解，並為尋求解決勞動力影響的組織提供實用建議，作為其負責任的人工智慧治理的一部分。

負責任的人工智慧必須是社會技術性的，而不僅僅是技術性的。 我們的專家相信人工智慧將改變工作的未來。阿波羅全球管理公司人工智慧負責人卡蒂亞·沃爾什 (Katia Walsh) 認為，“我們正處於一場社會革命的邊緣，這場革命將深刻改變工作方式”，麻省理工學院教授桑傑·薩爾瑪 (Sanjay Sarma) 也同意“對就業的影響將是巨大的”。事實上，GitHub 開發者政策副總裁 Mike Linksvayer 指出，“隨著人工智慧迅速融入日常工作，它已經在重塑判斷力的運用方式、人們學習的速度以及個人可以合理嘗試的內容”，他以軟體開發作為一個明顯的例子。由於人工智慧會重新組織工作流程、分割任務，並在員工和組織之間重新分配權力，因此我們的專家認為，RAI 不能僅用技術術語來定義。

正如人工智慧高級主管 David Hardoon 所解釋的那樣，「人工智慧常常被誤認為是一種純粹的技術，而實際上它是一個更廣泛的生態系統，涉及人員、流程、治理和整個社會。」新加坡國立大學副教務長西蒙切斯特曼 (Simon Chesterman)表示，「如果負責任的人工智慧僅意味著使模型安全、準確和合規，那麼我們對問題的定義就太狹隘了，」他補充道，「如果我們不解決人類後果，負責任的人工智慧就會成為帶有道德光環的技術清單。」 EnBW 首席數據官拉尼爾霍夫曼 (Ranier Hoffmann) 則以另一種技術方式表示：「社會負責」負責的人工智慧副合規性：來說，「負責任的人工智慧是為了確保創新造福整個社會，包括其工作所改變的人們。」換句話說，負責任的人工智慧不僅關乎系統做什麼，還關乎它對人類做什麼；忽視這種區別會帶來真正的社會經濟風險。

目前的 RAI 討論並沒有跟上步伐。 e& 負責隱私、資料保護、人工智慧和智慧財產權的副總裁雷納托·萊特·蒙泰羅 (Renato Leite Monteiro) 遺憾地表示，“對話主要由偏見、可解釋性和安全性等系統級問題主導。”他說，雖然這些考慮因素很重要，但它們是“不完整的”，因為誰拋了“人們的工作方式” Bioni 對此表示同意，並警告說，透過關注狹隘的技術和以模型為中心的風險，例如偏差緩解、隱私、穩健性或模型安全性，「治理框架有可能陷入狹隘的技術官僚方法。」ADP 首席產品負責人 Naomi Lariviere 進一步闡述了這一點，她說：「如果我們只關注我們只專注於護欄，我們就會錯過

勞動力影響是人工智慧對社會和經濟穩定的核心風險。 儘管快速採用人工智慧的支持者經常將效率和生產力作為核心動機，但我們的專家警告說，未能解決勞動力影響可能會破壞這些目標並加劇經濟問題。 OdiseIA 總裁 Idoia Salazar 闡述了問題的範圍，並指出「人工智慧可以重塑任務和角色，加劇監控和生產力壓力，將決策權從工人手中轉移，並對不同群體產生不平衡的影響。」正如 Automation Anywhere 的 Yan Chow所說，“如果人工智慧最大限度地提高了效率，但卻削弱了消費者的購買力或引發騷亂，那麼它作為一種可持續的商業工具就失敗了。”霍夫曼進一步指出，“勞動力影響不是一個‘軟’問題，而是一個核心系統設計參數”，並警告說，“將人工智能部署在幾乎沒有什麼價值但會造成組織壓力的地方……可能會導致監管薄弱。”

認真對待勞動力影響的商業案例可能已經在實踐中得到體現。艾伯塔省機器智慧研究所信任與安全主任 Alyssa Lefaivre Škopac 提出了一些公司宣稱「人工智慧優先」的問題，因為它們裁員只是為了「在能力與宣傳不符時重新僱用」。她表示，這種「對人工智慧能力和人才的根本誤解」伴隨著「實際的經濟和人力成本」。她補充說：“深思熟慮地應對勞動力影響可能是人工智能是否真正帶來我們所希望的積極影響的基礎。” Pierre-Yves Calloc'h 同意“勞動力整合思維是任何人工智能計劃長期成功的關鍵因素”，而斯坦福大學 CodeX 研究員 Riyanka Roy Choudhury 則警告說，“忽視對就業的影響可能最終會導致更廣泛的經濟不穩定。”

針對這種擔憂，許多專家強調，對工人進行再培訓和提高技能對於減輕人工智慧對勞動力的潛在負面影響至關重要。 Ganesh 建議實施雙管齊下的策略，重點關注偏見、安全、隱私和安全問題以及對勞動力的影響，方法是「提高技能、教育員工自信地與智慧系統一起工作，並對人工智慧在決策中的使用方式保持透明」。赫爾辛基大學教授 Teemu Roos 同樣強調，「首要問題是確保為勞動力提陞技能和再培訓提供足夠的支持，以應對快速變化和日益增加的複雜性。」然而，並非所有專家都對這種方法持樂觀態度。 Chow 觀察到，“技術進步是指數級的，而人類的技能再培訓仍然是線性的”，他警告說，“除非負責任的人工智能明確要求加快勞動力準備工作以適應這一速度，否則技能差距將成為不可逾越的鴻溝，使技能提升成為空洞的承諾。”

應分配對勞動力影響的責任。 鑑於人工智慧為未來工作帶來的巨大挑戰，人工智慧透明度研究所的科學合作者 Kirtan Padh 問道：「誰應對勞動力的負面影響負責？」是企業、政府還是兩者兼而有之？ IMD 商學院教授 Öykü Işik 認為，解決人工智慧對勞動力的影響“是一個正式的公司治理問題”，“無疑取決於董事會和執行領導層”。 GovLab 联合创始人兼首席研发官 Stefaan Verhulst 同意“公司必须改进保护和培养员工的公司政策”。然而，納斯達克人工智慧研究和工程主管道格拉斯·漢密爾頓（Douglas Hamilton）呼籲劃分責任，他認為與人工智慧相關的工作流失應該是「政府、大學和非營利組織」的首要關注點，而「負責任的公司需要以明確的方式充分捕捉其價值」。

一些專家認為，不能指望企業獨自承擔這項負擔，同時指出了政策和立法者的角色。華頓商學院教授卡蒂克·霍桑納格 (Kartik Hosanagar) 認為，「政策制定者對人工智慧對勞動力的影響負有主要責任」。在政策層面，Ganesh 呼籲“通過確定未來技能、調整課程和支持轉型，為勞動力市場與人工智能的合作做好準備”，而 Sarma 則認為，這種準備工作需要“從徹底重新思考我們的教育範式到重新技能、失業支持以及有關經濟未來的基本問題”。 Hardoon 表示：“真正負責任的方法需要整體治理、人工智慧素養培訓以及保護工人和維護人類能動性的政策。”

一些專家也警告說，不採取行動的風險可能很高。 ForHumanity 創辦人 Ryan Carrier 警告稱，如果未能解決勞動力影響問題，「將導致經濟不平等加劇，因為人工智慧創造的財富將日益集中。」他認為，「立法政策反應和消費者選擇可以發揮作用，表明我們是否希望企業繼續僱用人類，以及僱用到什麼程度。」比奧尼補充道，「工會和工人協會可以透過集體談判協議

建議

總之，我們為尋求解決勞動力影響的組織提供以下建議，作為其負責任的人工智慧工作的一部分：

1. 將 RAI 實踐的範圍擴大到模型之外。 擴展負責任人工智慧的定義，不僅涵蓋模型效能，還涵蓋塑造人工智慧建置、部署和體驗方式的人員、流程和機構的完整生態系統。勞動力影響是一個核心組織設計參數，應該從一開始就主動嵌入人工智慧治理框架中。只關注技術性能的治理框架忽略了人工智慧對工人、組織和經濟生活的影響這一更深層的問題。勞動力影響必須與業務成果一起在董事會層級進行評估。

2. 將勞動力影響納入人工智慧策略的一部分。 各組織正在競相制定部署人工智慧工具並提高員工使用技能的策略。改變工作性質的人工智慧計畫應該伴隨著人員再培訓、重新部署和過渡策略的計畫。然而，正如周所言，再培訓不能或不會跟上技術進步的步伐，因此公司需要考慮其他選擇來解決勞動力影響。在追蹤實施時，包括勞動力指標，例如離職率和再培訓完成情況，以及技術績效和價值衡量標準。企業應確保其策略考慮到大規模勞動力影響的隱性成本，包括聲譽受損、消費者信任度下降和日益增長的監管風險。這些潛在的負面影響最終可能會超過短期效率的提升。

3. 評估工人的影響以及其他產品級風險。 產品評估必須超越技術性能，包括勞動力影響，包括過度依賴、技能萎縮、剝奪權力、「人工智慧燒腦」和工作強度。這些因素應該成為風險識別和緩解開發的一部分。關於人工智慧如何用於決策、它將重塑或消除哪些任務以及緩解計劃（例如過渡支援）的透明度應納入部署計劃中，並被視為人工智慧使用業務案例的一部分。在採用特定的人工智慧工具之前，必須先明確考慮勞動力影響，作為是否繼續決策的一部分。

4. 讓員工參與有關勞動力影響的對話。 組織有義務與可能受到人工智慧影響的工人進行公開溝通——這不是出於禮貌，而是作為核心治理責任。勞動力影響聲明應與業務價值聲明一起成為組織人工智慧策略的一部分。否則，負責任的人工智慧仍然是在工人之上而不是與他們之間進行的對話。在某些司法管轄區，這種參與可能不是可選的。工人委員會對於制定人工智慧策略越來越重要，特別是在工人可能流離失所的情況下。

5. 為員工影響力分配明確的領導責任。 解決勞動力影響不能被視為屬於每個人（因此也不屬於任何人）的共同責任。雖然這需要人力資源、營運、法律、技術和業務領導層之間的協調努力，但沒有指定所有權的跨職能協作會導致重大問題被忽視。

組織必須指定一位具有真正權力和董事會層級可見度的具體領導者，負責制定和執行員工影響策略。為了解決外部性問題，他們需要主動與政策制定者、產業機構和勞工組織接觸。這位領導者應該準備好向股東和高管證明，大規模裁員的隱性成本——驗證人工智慧輸出所需的內部專業知識受到侵蝕、聲譽受損、消費者信任受到侵蝕以及監管風險不斷加大——將超過最初推動裁員的短期效率收益。如果沒有任何一個領導者擁有員工影​​響力，那麼它仍將是治理文件中的一個主題，而不是真正的組織承諾。