关于AI治理的真正问题

几乎每家财富500强公司的领导者 都会告诉你，他们正在治理自己的人工智能——每一位都是如此。现在问问这些领导者，谁负责关闭一个正在造成伤害的人工智能模型？大多数人无法回答这个问题。

这种沉默是目前企业技术领域最重要的问题，而且很少（如果有的话）被提及。

在过去几年中，一个围绕人工智能的治理行业悄然兴起。公司建立了注册表来编目其人工智能模型。他们实施了分类系统来标记数据。他们搭建了仪表盘来监控模型行为，并成立了风险委员会来审查新的部署。他们制定了政策，聘请了合规官，并向董事会展示了幻灯片。治理的基础设施已经大量涌现。

缺少的是治理者。

谁能关闭人工智能模型

我在Adobe负责人工智能和数据治理。我的工作正是构建每家公司现在都声称拥有的那种项目。我从内部亲身体会到，困难的部分从来不是技术。困难的部分是一个听起来几乎简单得可笑的问题：当一个人工智能模型做了不该做的事时，谁有权阻止它？

问题不在于谁得到通知。也不在于谁写事故报告。而在于谁有权力、组织地位，以及坦率地说，有工作保障，能走进会议室说：“我们要关闭这个。”

在大多数公司，这个人要么不存在，要么是一个与开发团队组织上分离的纸老虎。像首席人工智能伦理官这样的角色，以及数据治理委员会和 负责任的人工智能 团队，是完全必要的，但仅仅是咨询性质的。他们可以标记问题。他们可以提出建议。他们可以上报问题。但他们通常不能按下停止按钮。实际的决策权在别处。在大多数财富500强公司内部，它通常掌握在那些主要工作是交付产品和实现收入目标的人手中，他们有一切动机将治理标记视为事后考虑而非强制要求。

这不是对个人的批评；这是对治理行业大多选择忽视的结构性问题的描述，因为治理行业销售的是工具，而不是问责制。

这些工具确实有用，对监管合规和有效治理至关重要。模型注册表告诉你存在哪些人工智能系统以及它们在做什么。风险分类框架告诉你哪些系统最需要审查。数据血缘系统告诉你输入来自哪里以及它们是否干净。所有这些都是真实且重要的基础设施。但这是用于可见性的基础设施，而不是用于行动的基础设施。

你可以对问题有完美的可见性，却没有解决问题的机制。你必须看到问题才能采取行动，但你也必须拿起水管来灭火。

这样想：火灾报警器不是消防部门。你可以给家里的每个房间布线，每年勤快地更换每个烟雾探测器的电池，并将每个警报路由到一个漂亮的仪表盘——但你的房子仍然可能被烧毁，因为没有人拿起水管。是的，知道房子在着火至关重要——否则你不会知道你需要水管。但你需要有人告诉消防部门采取行动。

在Adobe，我们通过创建一个联邦治理模型来解决这个问题，为每个人工智能系统指定了负责人，并设立了一个中央指导委员会，拥有上报权限，向信任与安全组织汇报，而不是产品团队。这是我们做出的关键设计选择：让治理拥有独立于交付人工智能产品的团队的汇报线。这一点至关重要，这样能够对人工智能决策说“不”的人，就不会向那些从说“是”以交付产品中受益的人汇报。

为什么需要紧迫性

这里的风险正在迅速上升。欧盟的《人工智能法案》现已生效，它不要求公司证明他们有仪表盘。它要求他们证明他们有有意义的治理。它要求有文档化的决策过程、清晰的问责线，以及事后能够展示谁对人工智能系统做出了重大选择以及原因。当监管机构提出这些问题时，一份政策文件和风险登记册不足以作为答案。监管机构想要一个名字。

对治理的迫切需求因人工智能部署的速度而加剧。现在，大多数大型企业在其组织中运行着数百个人工智能系统，这些系统可能存在于领导者甚至不知道的地方。你会在客户服务、招聘、内容审核、定价、欺诈检测以及任何善意员工试图让工作更轻松的地方发现人工智能工具。其中许多系统是在压力下快速部署的，治理被视为留给“未来的他们”处理的事情。“未来的他们”的时刻已经到来。

答案不是放慢人工智能的采用速度。而是像对待技术问题一样认真对待组织设计问题。每个人工智能治理项目都应该能够回答三个问题：谁有权停止一个模型？他们知道这是他们的工作吗？当这与别人的路线图冲突时，他们是否有地位行使这种权力？

如果你的公司无法回答这些问题，那么你并没有一个治理项目。你只有一堆文件。

能够驾驭未来五年人工智能监管和公众审视的公司，不一定是那些拥有最复杂工具的企业。它们是那些完成了更艰难、不那么光鲜的工作——在技术之下构建人类问责结构——的企业。

这些组织任命了一位人工智能治理者，赋予了他们真正的权力，并明确表示其工作不是让人工智能部署更容易，而是让它经得起辩护。这些组织有一个联邦团队被授权识别、补救和上报问题，并且他们知道上报需要一个目的地。这意味着一个治理职能直接向高级领导层汇报，独立于交付人工智能的产品团队，并拥有明确权力来停止人工智能部署。

每家公司都说自己治理人工智能。将治理与作秀区分开的真正问题比任何框架都简单。问问自己：在我的组织中，谁能说“不”，并且有权力说到做到？