重新定义管理，打造超人员工队伍

连续第四年， 麻省理工学院斯隆管理评论 波士顿咨询集团 (BCG) 组建了一个由学者和从业者组成的国际人工智能专家小组，帮助我们了解全球组织如何实施负责任的人工智能 (RAI)。 最近的文章，我们探讨了可解释性与人类监督在追究人工智能系统责任方面的关系。 代理人工智能 通常是指能够在没有人类持续监督的情况下通过做出决策、采取行动和适应动态环境来自主追求目标的人工智能系统。 麻省理工学院的人工智能代理指数尽管这些系统的技术组件、预期用途和安全性透明度有限，但这些系统在软件工程和客户服务等领域的部署正在增加。

鉴于明显的治理差距，我们要求我们的小组对以下挑衅做出反应： 让代理人工智能对其决策和行动负责需要新的管理方法。

下面，我们分享了小组成员的见解，并利用我们自己的 RAI 经验来建议组织如何引入新的管理方法或重新构想现有的管理方法，以改善对代理人工智能系统和日益混合的人类人工智能劳动力的问责和监督。

代理人工智能系统挑战传统管理模式。 我们的大多数专家认为，代理人工智能需要新的管理方法，因为与早期技术相比，它具有更高的自主性和复杂性。

我们的专家还指出，代理人工智能超人的速度和规模尤其具有破坏性。

联合国大学的 Tshilidzi Marwala 也认为，“由于代理人工智能具有自主决策、自适应学习和高速运行的特点，因此传统的管理模式（为人类代理而创建）很难处理。”

鉴于这些挑战，一些小组成员呼吁进行持续、迭代的监督。

代理人工智能要求我们重新思考人与机器之间的关系。 除了技术监督之外，管理代理人工智能还需要明确人类和人工智能代理之间的关系。

我们的专家还强调，每个人都需要重新考虑问责制，因为人工智能代理不是人——这意味着我们还不能以同样的方式让他们承担责任。

最终，这是要让人们而不是人工智能承担责任。 并非所有人都同意代理人工智能需要新的管理模式。

其他人也认为对新管理模式的呼吁是错误的。

建议

总之，我们为寻求改善代理人工智能系统问责制的组织提供以下建议：

1. 采用基于生命周期的管理方法。 代理人工智能快速、复杂且动态。

2. 将人类责任纳入人工智能治理结构。 设计管理框架，在人工智能生命周期的每个阶段为人类管理者和代理人工智能系统明确分配特定的角色和职责。

3. 在特定环境下实现人工智能主导的决策。 虽然人类监督至关重要，但代理人工智能的特性却超出了其极限。

4. 为创建其他人工智能系统的代理人工智能做好准备。 未能考虑到其他人工智能系统自主开发或修改的人工智能系统可能会导致组织中出现显着的可见性差距。

5. 当谈到代理人工智能时，将隐式显式化。 由于代理人工智能系统需要明确定义的规则和阈值，组织应明确代理人工智能在其管理结构中的作用和范围。