إعادة تعريف الإدارة من أجل قوة عمل خارقة

للسنة الرابعة على التوالي، مراجعة سلون للإدارة بمعهد ماساتشوستس للتكنولوجيا والابتكار والإدارة قامت مجموعة بوسطن الاستشارية (BCG) بتجميع لجنة دولية من خبراء الذكاء الاصطناعي تضم أكاديميين وممارسين لمساعدتنا على فهم كيفية تنفيذ الذكاء الاصطناعي المسؤول (RAI) عبر المنظمات في جميع أنحاء العالم. أحدث مقالة، لقد استكشفنا العلاقة بين قابلية التفسير والرقابة البشرية في مساءلة أنظمة الذكاء الاصطناعي. وكيل منظمة العفو الدولية يشير عمومًا إلى أنظمة الذكاء الاصطناعي القادرة على تحقيق الأهداف بشكل مستقل من خلال اتخاذ القرارات واتخاذ الإجراءات والتكيف مع البيئات الديناميكية دون إشراف بشري مستمر. مؤشر وكيل الذكاء الاصطناعي التابع لمعهد ماساتشوستس للتكنولوجيا (MIT).ويتزايد نشر هذه الأنظمة في مجالات مثل هندسة البرمجيات وخدمة العملاء على الرغم من الشفافية المحدودة بشأن مكوناتها التقنية واستخداماتها المقصودة وسلامتها.

ونظرًا للفجوة الواضحة في الإدارة، طلبنا من فريقنا الرد على الاستفزاز التالي: إن تحميل الذكاء الاصطناعي المسؤولية عن قراراته وإجراءاته يتطلب أساليب إدارية جديدة.

أدناه، نشارك رؤى أعضاء اللجنة ونعتمد على تجربة RAI الخاصة بنا للتوصية بكيفية قيام المؤسسات بتقديم مناهج إدارية جديدة أو إعادة تصور مناهجها الحالية لتحسين المساءلة والإشراف على أنظمة الذكاء الاصطناعي الوكيلة والقوى العاملة الهجينة بشكل متزايد بين البشر والذكاء الاصطناعي.

تتحدى أنظمة الذكاء الاصطناعي الوكيل نماذج الإدارة التقليدية. يعتقد غالبية خبرائنا أن الذكاء الاصطناعي الوكيل يتطلب أساليب إدارية جديدة بسبب استقلاليته وتعقيده العاليين مقارنة بالتقنيات السابقة.

ويشير خبراؤنا أيضًا إلى السرعة الخارقة وحجم الذكاء الاصطناعي باعتبارهما أمرًا مزعجًا بشكل خاص.

ويوافق تشيلدزي ماروالا من جامعة الأمم المتحدة على أنه "بسبب اتخاذ القرار المستقل، والتعلم التكيفي، والعمليات عالية السرعة، يصعب على نماذج الإدارة التقليدية - التي تم إنشاؤها للوكالة البشرية - التعامل معها".

ونظراً لهذه التحديات، يدعو العديد من أعضاء اللجنة إلى مراقبة مستمرة ومتكررة.

يتطلب الذكاء الاصطناعي الوكيل منا إعادة التفكير في العلاقة بين البشر والآلات. وبعيدًا عن الإشراف الفني، تتطلب إدارة الذكاء الاصطناعي الوكيل أيضًا الوضوح بشأن العلاقة بين البشر ووكلاء الذكاء الاصطناعي.

يؤكد خبراؤنا أيضًا على أن الجميع بحاجة إلى إعادة التفكير في المساءلة نظرًا لأن عملاء الذكاء الاصطناعي ليسوا بشرًا - مما يعني أننا لا نستطيع حتى الآن محاسبتهم بنفس الطريقة.

في نهاية المطاف، يتعلق الأمر بمحاسبة الأشخاص، وليس الذكاء الاصطناعي. لا يتفق الجميع على أن الذكاء الاصطناعي الوكيل يتطلب نماذج إدارية جديدة.

ويرى آخرون أيضًا أن الدعوات المطالبة بنماذج إدارية جديدة ليست في محلها.

التوصيات

باختصار، نحن نقدم التوصيات التالية للمؤسسات التي تسعى إلى تحسين المساءلة بشأن أنظمة الذكاء الاصطناعي الوكيلة:

1. اعتماد مناهج الإدارة المبنية على دورة الحياة. Agent AI سريع ومعقد وديناميكي.

2. دمج المساءلة البشرية في هياكل حوكمة الذكاء الاصطناعي. أطر عمل إدارة التصميم لتعيين أدوار ومسؤوليات محددة بشكل صريح لكل من المدير البشري ونظام الذكاء الاصطناعي الوكيل في كل مرحلة من دورة حياة الذكاء الاصطناعي.

3. تمكين القرارات التي يقودها الذكاء الاصطناعي في ظروف محددة. في حين أن الإشراف البشري ضروري، فإن خصائص الذكاء الاصطناعي الوكيل تتجاوز حدوده.

4. الاستعداد للذكاء الاصطناعي الوكيل الذي ينشئ أنظمة ذكاء اصطناعي أخرى. يمكن أن يؤدي الفشل في حساب أنظمة الذكاء الاصطناعي التي تم تطويرها أو تعديلها بشكل مستقل بواسطة أنظمة الذكاء الاصطناعي الأخرى إلى فجوة كبيرة في الرؤية في المؤسسة.

5. عندما يتعلق الأمر بالذكاء الاصطناعي الوكيل، اجعل ما هو ضمني صريحًا. نظرًا لأن أنظمة الذكاء الاصطناعي الوكيل تتطلب قواعد وقيمًا محددة بشكل واضح، يجب على المؤسسات توضيح دور ونطاق الذكاء الاصطناعي الوكيل في هياكلها الإدارية.