السؤال الحقيقي الذي يجب طرحه حول حوكمة الذكاء الاصطناعي

سيخبرك القادة في كل شركة من شركات Fortune 500 حرفيًا بأنهم يحكمون ذكاءهم الاصطناعي — كل واحد منهم. الآن اسأل هؤلاء القادة أنفسهم من المسؤول عن إيقاف نموذج ذكاء اصطناعي يسبب ضررًا. معظم الناس لا يستطيعون الإجابة على هذا السؤال.

هذا الصمت هو أهم قصة في تكنولوجيا المؤسسات الآن، ونادرًا ما يتم تناولها، إن تم ذلك على الإطلاق.

خلال السنوات القليلة الماضية، نشأت صناعة حوكمة بهدوء حول الذكاء الاصطناعي. بنت الشركات سجلات لفهرسة نماذج الذكاء الاصطناعي الخاصة بها. نفذت أنظمة تصنيف لتسمية بياناتها. أنشأت لوحات مراقبة لمراقبة سلوك النموذج، ومجالس مخاطر لمراجعة النشر الجديد. كتبت سياسات، وعينت مسؤولي امتثال، وقدمت شرائح لمجالس إدارتها. لقد انتشرت البنية التحتية للحوكمة.

ما ينقص هو الحاكم.

من يمكنه إيقاف نموذج ذكاء اصطناعي

أنا أدير حوكمة الذكاء الاصطناعي والبيانات في Adobe. وظيفتي هي بناء النوع بالضبط من البرنامج الذي تدعي كل شركة الآن أنها تمتلكه. وما تعلمته من الداخل، أثناء اتساخ يدي، هو أن الجزء الصعب ليس التكنولوجيا أبدًا. الجزء الصعب هو سؤال يبدو بسيطًا بشكل مهين: عندما يفعل نموذج ذكاء اصطناعي شيئًا لا ينبغي له، من لديه السلطة لإيقافه؟

السؤال ليس من يتم إخطاره. ليس من يكتب تقرير الحادث. إنه من لديه السلطة، والمكانة التنظيمية، وبصراحة، الأمان الوظيفي، لدخول اجتماع والقول: 'نحن نوقف هذا.'

في معظم الشركات، هذا الشخص إما غير موجود أو هو نمر من ورق منفصل عن فرق التطوير تنظيميًا. أدوار مثل كبار مسؤولي أخلاقيات الذكاء الاصطناعي ومجموعات مثل مجالس حوكمة البيانات و فرق الذكاء الاصطناعي المسؤول ضرورية تمامًا ولكنها استشارية فقط. يمكنها الإبلاغ. يمكنها التوصية. يمكنها التصعيد. ما لا يمكنها فعله عمومًا هو الضغط على زر الإيقاف. سلطة القرار الفعلية تقع في مكان آخر. داخل معظم شركات Fortune 500، تقع عمومًا مع شخص وظيفته الأساسية هي شحن المنتجات وتحقيق أهداف الإيرادات ولديه كل الحوافز لمعاملة علم الحوكمة كفكرة لاحقة بدلاً من تفويض.

هذا ليس انتقادًا للأفراد؛ إنه وصف لمشكلة هيكلية اختارت صناعة الحوكمة تجاهلها إلى حد كبير لأن صناعة الحوكمة تبيع أدوات، وليس مساءلة.

هذه الأدوات مفيدة حقًا وحيوية للامتثال التنظيمي والحوكمة الفعالة. سجل النماذج يخبرك بأنظمة الذكاء الاصطناعي الموجودة وماذا تفعل. إطار تصنيف المخاطر يخبرك أيها تستحق أكبر قدر من التدقيق. نظام تتبع البيانات يخبرك من أين جاءت المدخلات وما إذا كانت نظيفة. كل هذه بنية تحتية حقيقية ومهمة. لكنها بنية تحتية للرؤية، وليست بنية تحتية للعمل.

يمكنك أن تكون لديك رؤية كاملة لمشكلة وليس لديك آلية لحلها. يجب أن ترى شيئًا لتفعل شيئًا، ولكن عليك أيضًا أن تلتقط الخرطوم لإخماد حريق.

فكر في الأمر بهذه الطريقة: إنذار الحريق ليس قسم إطفاء. يمكنك توصيل الأسلاك في كل غرفة في منزلك، وتغيير بطارية كل كاشف دخان بأمانة سنويًا، وتوجيه كل تنبيه إلى لوحة مراقبة جميلة — ولكن مع ذلك قد يحترق منزلك لأن لا أحد التقط الخرطوم. نعم، من المهم معرفة أن المنزل يحترق — وإلا، لما كنت ستعرف أنك بحاجة إلى خرطوم. لكنك تحتاج إلى شخص يخبر قسم الإطفاء باتخاذ إجراء.

في Adobe، عالجنا هذا من خلال إنشاء نموذج حوكمة فيدرالي مع مالكين محددين لكل نظام ذكاء اصطناعي ولجنة توجيهية مركزية، مع سلطة تصعيد، تقدم تقاريرها إلى مؤسسة الثقة والأمان، وليس فريق المنتج. هذا هو خيار التصميم الرئيسي الذي اتخذناه: إعطاء الحوكمة خط تقارير مستقل عن الفرق التي تشحن منتجات الذكاء الاصطناعي. هذا ضروري حتى لا يقدم الشخص الذي يمكنه قول 'لا' لقرار الذكاء الاصطناعي تقاريره إلى الشخص الذي يستفيد من قول 'نعم' لشحن المنتجات.

لماذا الإلحاح مطلوب

الرهانات هنا ترتفع بسرعة. قانون الذكاء الاصطناعي للاتحاد الأوروبي أصبح الآن ساري المفعول، ولا يطلب من الشركات إثبات أن لديها لوحات مراقبة. يطلب منهم إثبات أن لديهم حوكمة ذات معنى. يتطلب اتخاذ قرارات موثقة، وخطوط مساءلة واضحة، والقدرة على إظهار، بعد وقوع الحدث، من اتخذ قرارًا حاسمًا بشأن نظام ذكاء اصطناعي ولماذا. عندما يأتي المنظمون لطرح تلك الأسئلة، لن تكون وثيقة سياسة وسجل مخاطر إجابات كافية. المنظمون يريدون اسمًا.

الحاجة الملحة للحوكمة تتفاقم بسبب سرعة نشر الذكاء الاصطناعي. معظم المؤسسات الكبيرة تدير الآن مئات أنظمة الذكاء الاصطناعي عبر مؤسساتها، في أماكن قد لا يكون القادة على علم بها حتى. ستجد أدوات الذكاء الاصطناعي تُستخدم في خدمة العملاء، والتوظيف، والإشراف على المحتوى، والتسعير، وكشف الاحتيال، وفي أي مكان يحاول فيه الموظفون حسنو النية فقط جعل حياتهم أسهل. تم نشر العديد من هذه الأنظمة بسرعة، تحت الضغط، مع معاملة الحوكمة كشيء يجب ترتيبه بواسطة 'ذاتهم المستقبلية'. لقد حان وقت 'ذاتهم المستقبلية'.

الحل ليس إبطاء تبني الذكاء الاصطناعي. إنه أخذ مسألة التصميم التنظيمي على محمل الجد مثل المسألة التقنية. يجب أن يكون كل برنامج حوكمة ذكاء اصطناعي قادرًا على الإجابة على ثلاثة أسئلة: من لديه سلطة إيقاف نموذج؟ هل يعلم أنها وظيفته؟ وهل لديه المكانة لممارسة تلك السلطة عندما تتعارض مع خارطة طريق شخص آخر؟

إذا كانت شركتك لا تستطيع الإجابة على هذه الأسئلة، فليس لديك برنامج حوكمة. لديك أوراق.

الشركات التي ستجتاز السنوات الخمس القادمة من تنظيم الذكاء الاصطناعي والتدقيق العام ليست بالضرورة تلك التي تمتلك الأدوات الأكثر تطورًا. إنها المؤسسات التي قامت بالعمل الأصعب والأقل بريقًا لبناء هيكل مساءلة بشري ليجلس تحت التكنولوجيا.

هذه المنظمات هي التي عينت حاكمًا للذكاء الاصطناعي، وأعطته سلطة حقيقية، وأوضحت أن الوظيفة لم تكن جعل نشر الذكاء الاصطناعي أسهل بل جعله قابلاً للدفاع عنه. هذه المنظمات لديها فريق فيدرالي مفوض لتحديد ومعالجة وتصعيد، وهم يعلمون أن التصعيد يتطلب وجهة. وهذا يعني وظيفة حوكمة بخط مباشر إلى القيادة العليا، مستقلة عن فرق المنتجات التي تشحن الذكاء الاصطناعي، مع سلطة صريحة لإيقاف نشر الذكاء الاصطناعي.

كل شركة تقول إنها تحكم ذكاءها الاصطناعي. السؤال الحقيقي الذي يفصل الحوكمة عن المسرحية أبسط من أي إطار. اسأل نفسك: من في مؤسستي يمكنه قول 'لا' ولديه السلطة ليعنيها؟