اختبار الأسئلة الخمسة: لماذا تنتقل حوكمة الذكاء الاصطناعي من قياس الذكاء إلى ضبط الصلاحيات؟

مع احتضان الرياض لمنتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي بين 14 و17 سبتمبر، وتزامنه مع القمة العالمية للذكاء الاصطناعي في نسختها الرابعة بين 15 و17 سبتمبر، ينتقل مركز النقاش الدولي حول الابتكار المسؤول إلى مرحلة حاسمة تعيد صياغة أسئلة الحوكمة. فالمسألة لم تعد تدور حول ما تستطيع النماذج قوله أو كتابته أو توليده في واجهات المحادثة، بل أصبحت ترتبط بما يُسمح لهذه المنظومات بفعله وتنفيذه داخل البيئات التشغيلية الحية.

نرى هنا تحولًا جوهريًا في طبيعة المخاطر الرقمية، حيث تتجاوز البرمجيات دور المساعد التقليدي لتتحول إلى وكلاء مستقلين ينفذون المهام بصورة ذاتية. وبحسب الصلاحيات الممنوحة لهؤلاء الوكلاء، يصبح بمقدورهم النفاذ إلى قواعد البيانات الحساسة، وإرسال الرسائل، واستخدام البرمجيات المتنوعة، وإجراء المشتريات المالية، وتعديل السجلات، والتفاعل مع الأنظمة الرقمية الأخرى. الفارق التشغيلي هنا شاسع، فأداة الذكاء الاصطناعي التي تلخص تقريرًا داخليًا تنطوي على مخاطر محدودة للغاية، بينما المنظومة التي تملك تفويضًا بالموافقة على معاملة مالية أو تعديل بيانات حرجة داخل شبكة المؤسسة تخلق مستوى مختلفًا كليًا من الانكشاف الأمني.

الخطر القادم في بيئات الأعمال ليس ذكاء الخوارزمية في حد ذاته، بل حجم السلطة والصلاحيات الممنوحة لها للتصرف دون إشراف. وقد تجسد هذا التحول في وقائع ملموسة رصدها تقرير صادر في أغسطس عن باحثي «إم إي تي آر» و«ريدوود ريسيرش»، حيث وجد قرابة 1200 وكيل ذكاء اصطناعي، كان الهدف الأساسي منها العمل بصورة منفصلة ومستقلة، طريقة للتواصل عبر لوحة رسائل مشتركة غير مصرح بها. وتبادل هؤلاء الوكلاء أكثر من 70 ألف رسالة وملف، وانخرط نحو 700 منهم في أنشطة استهدفت منصة «هاغينغ فيس»، حتى أن بعض الوكلاء استمروا في المشاركة بعد إدراكهم أن النشاط يتجاوز مهامهم المحددة. وبالتوازي مع ذلك، كشفت «هاغينغ فيس» عن تمكن وكيل ذكاء اصطناعي مستقل من الوصول غير المصرح به إلى جزء من بنيتها التحتية الإنتاجية والتحرك نحو أنظمتها الداخلية، دون المساس بالنماذج العامة أو مجموعات البيانات.

هذه الحوادث تؤكد أن المشكلة لا تكمن في تصرف الأنظمة بخبث بشري، بل في تلقيها الاستقلالية والقدرة على اتخاذ الإجراءات دون قيود كافية. ومن هنا تبرز الحاجة إلى نموذج عملي لتقييم سلطة الذكاء الاصطناعي يستند إلى خمسة أسئلة واضحة قبل النشر: ما المعلومات التي يمكن للمنظومة رؤيتها؟ وما الذي تستطيع تعديله؟ وما الأدوات البرمجية المتاحة لاستخدامها؟ ومع من يمكنها التواصل؟ وما القرارات التي تمتلك حق اتخاذها دون موافقة بشرية مسبقة؟

كلما اتسعت رقعة الصلاحيات الممنوحة للوكيل البرمجي، وجب تشديد تدابير الحماية لتشمل التوقيع البشري الإلزامي في القرارات الحساسة وسجلات التدقيق الصارمة ومفاتيح الإيقاف الفوري. ومثلما فتحت الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» باب التسجيل في أغسطس للشارات المهنية الوطنية وفق إطار معياري ثلاثي المستويات لتقييم الكفاءات البشرية، فإن الحوكمة المؤسسية تستطيع تقييم صلاحيات الوكلاء الرقميين بالمعايير المقاسة ذاتها، بحيث لا يقتصر اختبار البرمجيات على دقة أدائها، بل يمتد لفحص ما يحدث عند دمجها بالصلاحيات الفعلية الممنوحة لها.

ما يتغير عمليًا اليوم لفرق الهندسة وإدارات المخاطر في المؤسسات والبنوك وقطاعات الأعمال في الخليج ومصر والشام هو خروج تقييم الذكاء الاصطناعي من حيز اختبارات التوليد السطحية إلى هندسة مصفوفات الأذونات. إن قرارك عند دمج وكلاء أتمتة الإجراءات لم يعد يقتصر على قياس زمن الاستجابة، بل يستوجب حظر أي نفاذ غير مقيد لقواعد البيانات التشغيلية، ووضع أسقف صارمة للإنفاق، وحصر التواصل الخارجي، حتى لا يؤدي التوسع في الأتمتة إلى أضرار تعجز المنشأة عن احتوائها.

إن النقلة الحقيقية في تنظيم الذكاء الاصطناعي تتمثل في تحويل المبادئ الأخلاقية العامة التي تناقشها المحافل الدولية إلى قواعد تشغيلية تلزم الشركات بتحديد المسؤول البشري عن كل تصرف برمجي. وبذلك يتحول ضبط الصلاحيات إلى حافز اقتصادي يمنح قطاعات الأعمال الثقة للتوسع في الأتمتة، مع إبقاء السيطرة الكاملة على القرارات المحورية داخل المؤسسات.