ما وراء التحقق — ما يطلبه الذكاء الاصطناعي المسؤول حقًا من الخبراء البشر

للسنة الخامسة على التوالي، مراجعة سلون للإدارة بمعهد ماساتشوستس للتكنولوجيا والابتكار والإدارة و Boston Consulting Group (BCG) قد جمعوا فريقًا دوليًا من خبراء الذكاء الاصطناعي يضم أكاديميين وممارسين لمساعدتنا في فهم كيفية تنفيذ الذكاء الاصطناعي المسؤول عبر المؤسسات في جميع أنحاء العالم. في منشورنا الأول هذا العام، استكشفنا كيف يجب على المؤسسات التفكير في تأثير الذكاء الاصطناعي على القوى العاملة، حيث أكد خبراؤنا أن الذكاء الاصطناعي المسؤول يعني النظر إلى ما هو أبعد من سلامة أنظمة الذكاء الاصطناعي لمعالجة العواقب الواقعية للعمال والاستقرار الاقتصادي.

هذه المرة، طلبنا من فريقنا التفاعل مع الاستفزاز التالي: تفشل جهود الذكاء الاصطناعي المسؤول إذا لم تطور خبراء بشريين يمكنهم التحقق من حلول الذكاء الاصطناعي. على السطح، هناك إجماع واسع، حيث وافقت أغلبية واضحة (84٪) من أعضاء الفريق أو وافقت بشدة على العبارة. لكن الغوص بشكل أعمق يكشف أن أعضاء الفريق يعرّفون التحقق بشكل أوسع بكثير مما توحي به الاستفزاز. بدلاً من معاملته كفحص ضيق لكل مخرجات، يصفون التحقق على أنه عمل تطبيق الحكم البشري عبر دورة حياة نظام الذكاء الاصطناعي، وتفسير السياق، وتصميم الاختبارات، وتدقيق سير العمل، وتحديد العتبات، ووزن متى لا ينبغي الاعتماد على الذكاء الاصطناعي على الإطلاق، وتحمل المساءلة التي لا تستطيع الآلات تحملها. بهذا الفهم، التحقق ليس نقطة تفتيش نهائية بل هو النسيج الضام للذكاء الاصطناعي المسؤول، الذي يشمل التصميم والإشراف والمساءلة التي تحتاج المؤسسات إلى توسيع نطاقها جنبًا إلى جنب مع الأنظمة نفسها. أدناه، نشارك رؤى أعضاء الفريق ونقدم توصياتنا العملية للمؤسسات التي تسعى إلى تطوير الخبرة البشرية التي تعتمد عليها جهود حوكمة الذكاء الاصطناعي المسؤول.

يوفر البشر السياق للتحقق من مخرجات الذكاء الاصطناعي. أيد مؤسس ForHumanity Ryan Carrier الإجماع على أن جهود الذكاء الاصطناعي المسؤول يجب أن تطور الخبرة البشرية للتحقق من مخرجات الذكاء الاصطناعي لأنه، كما يقول، "السياق مهم". وبالمثل، تلاحظ الرئيسة التنفيذية لـ TÜV AI.Lab Franziska Weindauer، "تعمل حلول الذكاء الاصطناعي ضمن سياقات واقعية معقدة، والخبراء البشريون ضروريون لتفسير النتائج، واكتشاف الإخفاقات، وضمان عمل الأنظمة كما هو مقصود". كما يشرح كبير مسؤولي البحث والتطوير في GovLab Stefaan Verhulst، "العديد من أهم مخاطر الذكاء الاصطناعي هي مجتمعية وليست تقنية، مثل عدم التوافق مع القيم العامة، أو الآثار الضارة على الفئات الضعيفة، أو سياقات النشر غير المناسبة". تلك المخاطر، كما يجادل العديد من الخبراء، هي بالضبط الأصعب في معالجتها بحل تقني كامل.

بالنسبة للبعض، السياق هو أمر بشري لا يمكن اختزاله ولا يمكن التقاطه في شكل قابل للقراءة آليًا فقط. كما تشرح رئيسة OdeseIA Idoia Salazar، "ليس كل شيء يُترجم إلى بيانات، مثل السياق في موقف معين". تتفق العضو المتميز في لجنة الاستثمارات لصندوق Co-Develop Yasadora Cordova على أن الذكاء الاصطناعي المسؤول يتطلب "حساسية سياقية" — وهي صفة، في رأيها، "لا يمكن أتمتتها". يضيف Jai Ganesh، دكتوراه، نائب رئيس التكنولوجيا والخدمات المتصلة والهندسة في Wipro Ltd.، "الوعي الظرفي هو مجال آخر للقلق بالنسبة لأنظمة الذكاء الاصطناعي حيث قد يكون المخرجات صحيحة ولكنها غير حساسة ثقافيًا أو إشكالية قانونيًا في بلد أو موقف معين". يلاحظ Yan Chow من Automation Anywhere بالمثل أن "البشر يحددون الفروق الدقيقة والتحولات الاجتماعية والسياسية التي لا تستطيع البيانات التقاطها". لهذه الأسباب، يستنتج رئيس جامعة سنغافورة الوطنية Simon Chesterman أنه "مهما كان النموذج متطورًا أو إطار الحوكمة معقدًا، يجب أن يكون هناك شخص قادر على السؤال عما إذا كان النظام موثوقًا وقانونيًا ومناسبًا في السياق"، وهي مسؤولية، في رأيه، تتطلب خبرة بشرية.

إذا لم تستطع الآلات التقاط السياق بالكامل، فإن العواقب العملية كبيرة. يجادل Carrier بأن "الخبراء في المجال ضروريون لتقديم الملاحظات وتقييمات المخاطر التي تؤدي إلى ضوابط ومعالجات وتخفيفات مصممة خصيصًا لمعالجة المخاطر المحددة والفريدة التي يطرحها نشر واستخدام الذكاء الاصطناعي المعتمد على السياق". تذهب Salazar إلى أبعد من ذلك، مدعية أنه "بغض النظر عن مدى تقدم الأداة، لا يمكنها أن تكون هي التي تضمن أن مخرجاتها عادلة أو آمنة أو مناسبة للسياق". بالنسبة لـ Ganesh، تزداد المخاطر مع "الحالات الحدودية، والسيناريوهات النادرة، والسياقات الجديدة حيث تميل أنظمة الذكاء الاصطناعي إلى الانهيار"، ويعتقد أن "اكتشاف هذه الإخفاقات يتطلب حكمًا بشريًا وخبرة عميقة في المجال". يوافق Chow على أن الخبرة البشرية حاسمة لبناء "حواجز حماية تم التحقق منها من قبل الخبراء للحالات الحدودية حيث يكون الذكاء الاصطناعي أكثر هشاشة". علاوة على ذلك، يجادل بأن "أطر الذكاء الاصطناعي المسؤول تنهار إلى مسرحيات امتثال بدون خبراء بشريين لأن الذكاء الاصطناعي لا يمكنه إدراك السياق الديناميكي".

فقدان الخبرة البشرية يشكل تهديدًا وجوديًا للمؤسسات. القلق ليس فقط أن أنظمة الذكاء الاصطناعي ستفشل بدون خبرة بشرية للتحقق من النتائج، ولكن أن المؤسسات قد تفقد القدرة البشرية الخبيرة بمرور الوقت. تجادل Cordova بأن "المؤسسات التي تفوض التحقق فقط للذكاء الاصطناعي تؤدي إلى تآكل القدرة المؤسسية على تدقيقه مع ضمور الخبرة وعدم تطوير الموظفين المبتدئين للاستقلالية". وبالمثل، تحذر المستشارة Linda Leopold، "إذا تركنا الذكاء الاصطناعي دائمًا يقوم بالعمل نيابة عنا، فإننا نفقد تدريجيًا الخبرة اللازمة للإشراف عليه"، و"نحتاج إلى إبقاء الحكم البشري حادًا بما يكفي لتحديه". يقول كبير مسؤولي البيانات في EnBW Rainer Hoffmann، "تفشل جهود الذكاء الاصطناعي المسؤول ليس لأن البشر لا يستطيعون التحقق من كل قرار للذكاء الاصطناعي ولكن لأن المؤسسات تفتقر إلى الخبرة لحكم كيفية تقييم أنظمة الذكاء الاصطناعي ومراقبتها ونشرها بمسؤولية".

المخاطر التجارية، من خلال هذه العدسة، هي بشرية في الأساس. كما تجادل Belona Sonna من الجامعة الوطنية الأسترالية، "الهدف الأساسي للذكاء الاصطناعي المسؤول ليس فقط تصميم أنظمة تتوافق مع المبادئ الأخلاقية ولكن أيضًا ضمان بقاء البشر قادرين على التدخل عند حدوث عدم توافق". بعبارة أخرى، تقول Salazar أن الذكاء الاصطناعي المسؤول "يحتاج إلى أشخاص مستعدين لعدم تفويض الآلات لما يظل مسؤولية بشرية أساسية". بدون هذه القدرة، يصبح السؤال حول ما إذا كان الذكاء الاصطناعي المسؤول يتطلب تحققًا بشريًا من مخرجات الذكاء الاصطناعي غير ذي صلة — حيث لا يبقى أحد لديه الخبرة للقيام بذلك.

التحقق البشري وحده لا يتوسع. على الرغم من الدعم الواسع لأهمية تطوير الخبرة البشرية، يستشهد العديد من الخبراء بمخاوف بشأن نطاق وحجم التحقق البشري. يشرح أستاذ كلية وارتون Kartik Hosanagar: "هناك العديد من الإعدادات حيث من المفيد وجود تحقق بشري. ولكن هناك العديد من الإعدادات الأخرى حيث يكون التحقق البشري غير ممكن بسبب حجم التحقق المطلوب". يوافق Hoffmann على أنه بالنسبة "للتطبيقات التي تعالج كميات كبيرة من البيانات أو تكتشف أنماطًا تتجاوز القدرة البشرية، فإن التحقق البشري لكل مخرجات ليس ممكنًا ولا ذا معنى". بالنسبة لبعض الخبراء، فإن طلب توسيع نطاق التحقق البشري بهذه الطريقة من شأنه أن يقوض عرض القيمة الكامل لاستخدام الذكاء الاصطناعي في المقام الأول. كما تقول Öykü Işik، "القيمة الأساسية للذكاء الاصطناعي تكمن في سرعته ونطاقه"، بحيث أن "طلب التحقق البشري لكل مخرجات من شأنه أن يحيد فعليًا هذه المكاسب في الكفاءة".

الحل، بالنسبة لهؤلاء الخبراء، ليس التخلي عن الحكم البشري ولكن نشره بشكل أكثر استراتيجية. يعتقد Philip Dawson، رئيس سياسة الذكاء الاصطناعي في Armilla AI، أنه "مع زيادة تعقيد أنظمة الذكاء الاصطناعي وسرعة النشر، يصبح التحقق البشري فقط عنق زجاجة هيكليًا" ويتطلب نهجًا مختلفًا. مستشهدًا بالأمن السيبراني كمثال، تجادل Işik بأن النظام يحتاج إلى القدرة على تحديد متى تكون التدخلات البشرية مطلوبة "مع الاعتماد على اتخاذ القرار الآلي لمعظم عبء العمل لتجنب الاختناقات التشغيلية الكبيرة" وتجادل بأن "أنجح جهود الذكاء الاصطناعي المسؤول تعامل الخبرة البشرية والأدوات الآلية كنظام مشترك". تدعو Alyssa Lefaivre Škopac، مديرة الثقة والسلامة في معهد ألبرتا للذكاء الآلي، إلى "نهج دفاع متعمق يمتد من المستخدمين في الخطوط الأمامية الذين يمكنهم التشكيك بشكل هادف في المخرجات إلى المحترفين الذين يبنون النظام البيئي للضمان حول هذه الأنظمة". يجادل Dawson بالمثل بأن "المجال يجب أن يستثمر في أطر التقييم الآلي وخطوط أنابيب الضمان الوكيلية التي توسع، لا تستبدل، الحكم البشري على نطاق واسع".

تظل الرقابة والمساءلة أمرًا بالغ الأهمية. بالإضافة إلى الاعتماد على مزيج من التحقق البشري والآلي، يعتقد خبراؤنا أن الرقابة والمساءلة تظلان أمرًا بالغ الأهمية لأي استراتيجية ذكاء اصطناعي مسؤولة. يجادل تشيسترمان بأن "التحقق لا ينبغي فهمه بشكل ضيق للغاية". ويضيف: "في بعض البيئات، سيتحقق الخبراء البشريون مباشرة من المخرجات؛ وفي بيئات أخرى، سيصممون اختبارات، ويدققون سير العمل، ويضعون حدودًا للاستخدام المقبول، أو يقررون متى لا ينبغي الاعتماد على الذكاء الاصطناعي على الإطلاق". بعبارة أخرى، كما يقول تشاو: "الخبرة البشرية ضرورة في مرحلة التصميم، وليست مجرد فحص في وقت التشغيل". يتفق سامير جوبتا، كبير مسؤولي التحليلات السابق في بنك دي بي إس، على أن "الحوكمة والرقابة يجب أن تكونا جزءًا لا يتجزأ من كل مرحلة من مراحل تصميم ونشر حل الذكاء الاصطناعي، بدلاً من معاملتهما كنقطة تفتيش نهائية على المخرجات فقط".

يجادل العديد من الخبراء بأن التحقق البشري من مخرجات الذكاء الاصطناعي ضروري ليس كغاية في حد ذاته، بل كجزء أساسي من الرقابة والمساءلة الهادفة على أنظمة الذكاء الاصطناعي. يشرح بن دياس، كبير علماء الذكاء الاصطناعي في IAG، أنه "كبناء تكنولوجي... تفتقر أنظمة الذكاء الاصطناعي إلى القدرة على تحمل المسؤولية القانونية أو الأخلاقية عن عواقب أفعالها". لهذا السبب، يقول دياس: "كل حل ذكاء اصطناعي يحتاج إلى شخص مسؤول يضمن فهم مخرجات النظام والتحقق منها بشكل صحيح". توافق نعومي لاريفيير، كبيرة مسؤولي المنتجات في ADP، قائلة: "يمكن لأنظمة الذكاء الاصطناعي توليد التوصيات وأتمتة القرارات، لكنها لا تستطيع تحمل المسؤولية". يجادل مايك لينكسفاير، نائب رئيس سياسات المطورين في GitHub، بأنه "مع ازدياد قدرة الأنظمة على العمل كوكلاء، لم يعد العامل المحدد هو القدرة على فحص المخرجات الفردية، بل القدرة على ممارسة حكم مستنير بشأن الأهداف والقيود ومسارات التصعيد والمسؤولية".

التوصيات

إذا كان العامل المحدد هو القدرة على ممارسة الحكم المستنير، وليس مجرد فحص مخرجات الذكاء الاصطناعي، فإن المؤسسات تحتاج إلى الاستثمار في ذلك الحكم بشكل متعمد. نقدم التوصيات التالية للمؤسسات التي تتطلع إلى تنمية خبرة بشرية تتوسع مع طموحاتها في الذكاء الاصطناعي:

1. التحقق من التصاميم، وليس فقط المخرجات. وجهة نظر ضيقة للتحقق البشري تعالج فقط مخرجات النظام غير كافية. يجب دمج التحقق البشري، بالمعنى الأوسع للرقابة البشرية، في كل مرحلة من مراحل تصميم ونشر حل الذكاء الاصطناعي، وليس معاملته كنقطة تفتيش نهائية. وهذا يعني أن الخبراء البشريين يضعون الحدود، ويصممون الاختبارات، ويدققون سير العمل، ويقررون متى لا ينبغي الاعتماد على الذكاء الاصطناعي، وليس مجرد مراجعة المخرجات الفردية بعد وقوعها.

2. لا تعتمد على التحقق البشري وحده. نظرًا لأن التحقق البشري من كل مخرجات الذكاء الاصطناعي لا يتوسع، يجب على المؤسسات الملتزمة بالرقابة المسؤولة أن تستثمر في مجموعة متنوعة من الأساليب التي تستخدم أدوات آلية لتوسيع أو تعزيز الحكم البشري. يجب التأكيد على التحقق البشري حيثما يكون الحكم البشري ضروريًا، بما في ذلك الحالات الحدودية، والقرارات عالية المخاطر، والسياقات الجديدة، بينما يمكن للأدوات الآلية التعامل مع الحجم المتبقي من المهام. الهدف هو نظام مشترك يوسع نطاق الحكم البشري بدلاً من استبداله أو جعله عنق زجاجة.

3. الاستثمار في الخبرة البشرية. يجب على المؤسسات الاستثمار في الخبرة البشرية للتحقق من مخرجات أنظمة الذكاء الاصطناعي وتوفير رقابة مستمرة على كيفية تصميم الأنظمة وما إذا كانت تعمل كما هو مقصود. في الواقع، مع نمو القدرات التقنية، تزداد الحاجة إلى الخبرة البشرية فقط. إذا لم يطور الموظفون المبتدئون حكمًا مستقلاً وضمرت خبرة كبار الموظفين لأنهم ليسوا جزءًا من هذه العملية، فإن المؤسسة تخاطر بفقدان قدرتها على حوكمة أنظمة الذكاء الاصطناعي. قد يعني هذا الحفاظ على المشاركة البشرية في العمليات أو المهام التي تبني الخبرة والحكم، حتى عندما يمكن أتمتتها باستخدام الذكاء الاصطناعي. في هذه الحالات، يجب النظر إلى مكاسب الكفاءة التي تم التخلي عنها على أنها استثمارات استراتيجية في المستقبل.

4. التحقق مما تم تعلمه، وليس فقط ما تم إنتاجه. تميل المؤسسات إلى تركيز التحقق على ما إذا كانت مخرجات نظام الذكاء الاصطناعي صحيحة، لكنها تحتاج أيضًا إلى التدقيق في الدروس المستفادة من عمليات نشر الذكاء الاصطناعي ونتائجه. عندما تفسر الفرق نتائج التجارب الأولية، أو تقيس مكاسب الأداء، أو تقرر ما الذي نجح وما لم ينجح، تصبح تلك الاستنتاجات الأساس للاستثمارات المستقبلية، وقرارات التوسع، والروايات التنظيمية حول قيمة الذكاء الاصطناعي. إذا كانت تلك الدروس معيبة (تم تتبع المقاييس الخاطئة، أو تم تجاهل الحالات الحدودية، أو تم إعلان النجاح قبل الأوان)، فإن المؤسسات تخاطر بإدامة الافتراضات الخاطئة على نطاق متزايد. يجب أن يشارك الخبراء البشريون ليس فقط في التحقق مما تنتجه أنظمة الذكاء الاصطناعي، ولكن في التقييم النقدي لما تعتقد المؤسسة أنها تعلمته من نشرها.

5. التعامل مع التحقق كضرورة استراتيجية، وليس مجرد ممارسة للمسؤولية. وفقًا لاستطلاع رأي عالمي للمدراء التنفيذيين أُجري في عام 2025 من قبل مراجعة سلون للإدارة بمعهد ماساتشوستس للتكنولوجيا والابتكار والإدارة و BCG، يعتبر 86% من فرق الإدارة العليا الذكاء الاصطناعي جزءًا مهمًا من أولوياتهم الاستراتيجية. عندما يكون الذكاء الاصطناعي محوريًا لكيفية تنافس المؤسسة ونموها واتخاذ القرارات، تؤثر جودة الرقابة البشرية بشكل مباشر على النتائج الاستراتيجية، وليس فقط الأخلاقية. المخرجات المعيبة، وعمليات النشر غير الخاضعة للرقابة، والدروس المستفادة بشكل سيئ لا تخلق مخاطر تتعلق بالمسؤولية فحسب؛ بل تؤدي إلى سوء تخصيص الموارد، وفشل المبادرات، وتآكل الموقف التنافسي، وفقدان ثقة العملاء. التوصيات السابقة - التحقق من التصاميم، والجمع بين الرقابة البشرية والآلية، والاستثمار في الخبرة، والتدقيق فيما تم تعلمه - ليست مجرد إضافات طموحة لبرنامج ذكاء اصطناعي مسؤول. إنها شروط مسبقة للإدارة الاستراتيجية الفعالة.