阻礙負責任人工智慧發展的三大障礙

2023 年 10 月，紐約市發布 其人工智慧行動計劃，公開承諾負責任且透明地使用人工智慧。該計劃包括指導原則——問責制、公平、透明——以及設立一個新角色來監督其負責任的實施：演算法管理和政策官員。

但到 2024 年初，纽约的人工智能雄心受到密切关注。事实证明，为向小企业主提供监管指导而部署的聊天机器人很容易给出误导性的建议。報告顯示，該系統向使用者提供有關勞動法和許可要求的誤導信息，並且偶爾會建議可能導致違反監管規定的行動。1 觀察家不僅質疑該系統的技術準確性，還質疑該城市的治理協議、監督機制和部署流程。這起事件不僅對公共機構而且對任何大規模部署人工智慧工具的組織來說都是一個警示。

這個案例只是更廣泛模式的一個例子。各行業的公司都採用了負責任的人工智慧 (RAI) 語言，強調公平、問責和透明度。然而，由於人工智慧系統不斷產生有偏見的結果，違背可解釋性和可解釋性要求，並引發用戶的強烈反對，實施往往遠遠落後於雄心。

作為回應，監管機構推出了一系列新政策，包括歐盟的人工智慧法案、加拿大的人工智慧和數據法案以及韓國更新的人工智慧法規——所有這些都給組織帶來了新的壓力，要求其實施透明度、安全性和人工監督。

儘管如此，即使在了解潛在危險的公司中，進展仍然不平衡，他們可能會在流程中嵌入錯誤或偏見，或大規模地犯下意想不到的、可能嚴重的道德違規行為。

注意 RAI 差距

透過採訪科技、金融服務、醫療保健和公共部門等多個行業的 20 多名人工智慧領導者、道德官員和高階管理人員，我們探討了影響 RAI 計畫的內部動力。我們發現，在某些情況下，RAI 框架只不過是聲譽的門面，組織根本缺乏對實施推薦實踐的承諾。但我們也發現了可能阻止組織將其原則轉化為永續實踐的結構和文化障礙。 特別是，我們發現了三個反覆出現的差距；下面，我們將探討它們並提出一套彌合它們的實用策略。

1. 責任差距。