AIガバナンスについて問うべき本当の質問

文字通り、すべてのFortune 500企業のリーダーは 自社がAIをガバナンスしているとあなたに言うでしょう。その全員がそうです。では、同じリーダーたちに、害を引き起こしているAIモデルをシャットダウンする責任者は誰かと尋ねてみてください。ほとんどの人はその質問に答えられません。

その沈黙は、今、エンタープライズテクノロジーにおいて最も重要な物語であり、それが取り上げられることはほとんど、いや全くありません。

過去数年の間に、ガバナンス業界が人工知能を中心に静かに成長してきました。企業はAIモデルをカタログ化するためのレジストリを構築しました。データを分類するための分類システムを実装しました。モデルの動作を監視するためのダッシュボードを立ち上げ、新しいデプロイメントをレビューするためのリスク評議会を設置しました。ポリシーを作成し、コンプライアンス責任者を雇い、取締役会にスライドを提示しました。ガバナンスのインフラは急増しました。

欠けているのは、ガバナー（統治者）です。

誰がAIモデルをシャットダウンできるのか

私はAdobeでAIおよびデータガバナンスを担当しています。私の仕事は、今やどの企業も持っていると主張するまさにその種のプログラムを構築することです。そして、実際に現場で手を動かしながら内部で学んだことは、難しい部分は決してテクノロジーではないということです。難しい部分は、ほとんど侮辱的に聞こえるほど単純な質問です。AIモデルがすべきでないことをしたとき、それを止める権限を持つのは誰か？

その質問は、誰が通知を受けるかではありません。誰がインシデントレポートを書くかでもありません。会議に出席して「これをシャットダウンします」と言う権限、組織内での立場、そして率直に言って雇用の安定性を持つのは誰か、ということです。

ほとんどの企業では、そのような人物は存在しないか、開発チームから組織的に切り離されたペーパータイガー（見かけ倒し）です。最高AI倫理責任者などの役職や、データガバナンス評議会、 責任あるAI チームなどのグループは完全に必要ですが、単なる助言機関です。彼らはフラグを立てることができます。推奨することができます。エスカレーションすることができます。しかし、一般的に彼らができないことは、停止ボタンを押すことです。実際の決定権限は別の場所にあります。ほとんどのFortune 500企業の内部では、それは一般的に、製品を出荷し収益目標を達成することが主な仕事であり、ガバナンスのフラグを命令ではなく後回しとして扱うあらゆるインセンティブを持つ人物のところにあります。

これは個人への批判ではありません。これは、ガバナンス業界が大部分無視することを選んできた構造的な問題の説明です。なぜなら、ガバナンス業界はツールを販売しており、説明責任を販売しているわけではないからです。

これらのツールは、規制遵守と効果的なガバナンスにとって真に有用かつ不可欠です。モデルレジストリは、どのようなAIシステムが存在し、何をしているかを教えてくれます。リスク分類フレームワークは、どのシステムが最も精査に値するかを教えてくれます。データ系列システムは、入力がどこから来たのか、そしてそれがクリーンであったかどうかを教えてくれます。これらはすべて、現実的で重要なインフラです。しかし、それは可視性のためのインフラであり、行動のためのインフラではありません。

問題を完全に可視化できても、それを解決するメカニズムがなければなりません。何かをするためには何かを見る必要がありますが、火を消すためにはホースを手に取る必要もあります。

次のように考えてみてください。火災報知器は消防署ではありません。家のすべての部屋に配線し、毎年すべての煙探知機の電池を忠実に交換し、すべてのアラートを美しいダッシュボードにルーティングしても、誰もホースを手に取らなければ家は燃え尽きる可能性があります。はい、家が燃えていることを知ることは重要です。そうでなければ、ホースが必要だとはわからないからです。しかし、消防署に行動を起こすよう指示する誰かが必要です。

Adobeでは、すべてのAIシステムに指名された所有者と、エスカレーション権限を持つ中央集権的な運営委員会を備えた連邦型ガバナンスモデルを作成し、それを製品チームではなくトラスト＆セキュリティ組織に報告させることで、これに対処しました。これが私たちが行った重要な設計上の選択です。ガバナンスに、AI製品を出荷するチームから独立した報告ラインを与えることです。これは、AIの決定に「ノー」と言える人物が、製品の出荷に「イエス」と言うことで利益を得る人物に報告しないようにするために不可欠です。

なぜ緊急性が必要なのか

ここでの利害は急速に高まっています。欧州連合のAI法が現在施行されており、企業にダッシュボードを持っていることを示すよう求めているのではありません。意味のあるガバナンスを持っていることを示すよう求めています。文書化された意思決定、明確な説明責任の線、そして事後的に、AIシステムに関して重要な選択を誰がなぜ行ったかを示す能力が求められます。規制当局がそれらの質問をしに来たとき、ポリシー文書とリスクレジストリだけでは十分な回答にはなりません。規制当局は名前を求めます。

ガバナンスの緊急の必要性は、AI導入のスピードによってさらに複雑化しています。現在、ほとんどの大企業は、リーダーが気づいていないかもしれない場所も含め、組織全体で何百ものAIシステムを運用しています。カスタマーサービス、採用、コンテンツモデレーション、価格設定、不正検出、そして善意の従業員が単に自分の仕事を楽にしようとしているあらゆる場所で、AIツールが使用されているのを目にするでしょう。これらのシステムの多くは、プレッシャーの下で迅速に導入され、ガバナンスは将来の自分たちが整理するものとして扱われました。将来の自分たちの時代が到来しました。

答えはAI導入を遅らせることではありません。技術的な問いと同じくらい真剣に組織設計の問いに取り組むことです。すべてのAIガバナンスプログラムは、3つの質問に答えられるべきです。モデルを停止する権限を持つのは誰か？その人物はそれが自分の仕事だと認識しているか？そして、その権限が他の誰かのロードマップと衝突する場合に、それを行使する立場にあるか？

あなたの会社がこれらの質問に答えられないなら、あなたはガバナンスプログラムを持っているのではありません。書類を持っているのです。

今後5年間のAI規制と世間の監視を乗り切る企業は、必ずしも最も洗練されたツールを持つ企業ではありません。それは、テクノロジーの下に位置する人間の説明責任構造を構築するという、より困難で華やかさのない仕事を行った企業です。

これらの組織は、AIガバナーを任命し、彼らに真の権限を与え、その仕事はAI導入を容易にすることではなく、それを防御可能にすることであると明確にした組織です。これらの組織は、特定、是正、エスカレーションを行う権限を与えられた連邦型チームを持ち、エスカレーションには宛先が必要であることを認識しています。つまり、AIを出荷する製品チームから独立し、AI導入を停止する明示的な権限を持つ、上級管理職への直接ラインを持つガバナンス機能です。

すべての企業が自社はAIをガバナンスしていると言います。ガバナンスとお芝居を区別する本当の質問は、どんなフレームワークよりもシンプルです。自問してみてください。私の組織の中で、「ノー」と言い、それを意味する権限を持つのは誰か？