超人的労働力のためのマネジメントの再定義

4年連続で、 MITスローン・マネジメント・レビュー ボストン コンサルティング グループ (BCG) は、世界中の組織で責任ある人工知能 (RAI) がどのように導入されているかを理解するために、学者や実務家を含む AI 専門家の国際パネルを編成しました。 最新の記事では、AI システムに責任を負わせる際の説明可能性と人間の監督との関係を調査しました。 エージェントAI 一般に、人間による継続的な監視なしに、意思決定を行い、行動を起こし、動的な環境に適応することによって、自律的に目標を追求できる AI システムを指します。 MIT の AI エージェント インデックス技術コンポーネント、使用目的、安全性に関する透明性が限られているにもかかわらず、これらのシステムの導入はソフトウェア エンジニアリングや顧客サービスなどの分野で増加しています。

明らかなガバナンスギャップを考慮して、私たちは委員会に次のような挑発に反応するよう依頼しました。 エージェント AI の決定と行動に対する責任を負わせるには、新しい管理アプローチが必要です。

以下では、パネリストからの洞察を共有し、私たち自身の RAI の経験を活用して、組織が新しい管理アプローチを導入したり、既存の管理アプローチを再考して、エージェント型 AI システムやますますハイブリッド化する人間と AI のワークフォースに対する説明責任と監視を強化する方法を推奨します。

エージェント AI システムは、従来の管理モデルに挑戦します。 当社の専門家の大多数は、エージェント AI は以前のテクノロジーと比較して自律性と複雑性が高いため、新しい管理アプローチが必要であると考えています。

また、当社の専門家は、エージェント AI の超人的なスピードとスケールが特に破壊的であると指摘しています。

国連大学のツィリジ・マルワラ氏も、「エージェント型 AI は、その自律的な意思決定、適応学習、高速動作のため、人間の主体性のために作られた従来の管理モデルでは扱うのが難しい」と同意しています。

これらの課題を考慮して、数人のパネリストは継続的かつ反復的な監視を求めています。

エージェント型 AI では、人間と機械の関係を再考する必要があります。 技術的な監視を超えて、エージェント AI を管理するには、人間と AI エージェントの関係を明確にする必要もあります。

また、AI エージェントは人間ではないため、誰もが責任を再考する必要があると専門家は強調しています。つまり、AI エージェントに同じように責任を負わせることはまだ不可能です。

結局のところ、それは AI ではなく人間に責任を負わせることなのです。 エージェント AI には新しい管理モデルが必要であるということに誰もが同意しているわけではありません。

新しい管理モデルを求める声は見当違いだと考える人もいる。

推奨事項

要約すると、エージェント AI システムに対する説明責任の向上を目指す組織に対して、次の推奨事項を提供します。

1. ライフサイクルベースの管理アプローチを採用します。 エージェント AI は高速、複雑、動的です。

2. 人間の説明責任を AI ガバナンス構造に統合します。 AI ライフサイクルのあらゆる段階にわたって、人間のマネージャーとエージェント AI システムの両方に特定の役割と責任を明示的に割り当てる管理フレームワークを設計します。

3. 定義された状況で AI 主導の意思決定を可能にします。 人間による監視は不可欠ですが、エージェント AI の特性により限界が広がります。

4. 他の AI システムを作成するエージェント AI を準備します。 他の AI システムによって自律的に開発または変更された AI システムを考慮しないと、組織内で大きな可視性のギャップが生じる可能性があります。

5. エージェント AI に関しては、暗黙的なものを明示的にします。 エージェント AI システムには明示的に定義されたルールとしきい値が必要であるため、組織は管理構造におけるエージェント AI の役割と範囲を明確にする必要があります。