الحوكمة لا تبدأ من الوثيقة: الاختبار داخل نظام الذكاء الاصطناعي
استمع لهذا المقال
بصوت ليلى (Layla)
قد تبدو حوكمة الذكاء الاصطناعي مكتملة حين تمتلئ الوثائق بالمبادئ: خصوصية، شفافية، مساءلة، وسلامة. لكن لحظة الاختبار الفعلية لا تقع عند اعتماد الوثيقة، بل عند محاولة النظام الوصول إلى بيانات، أو إصدار توصية، أو تمرير قرار حساس من دون مراجعة. هذا هو الفارق الذي تضعه مقالة منشورة في «جريدة الوطن السعودية» في صلب النقاش: القاعدة المكتوبة لا تتحول تلقائياً إلى سلوك تنفذه الأنظمة.
تلفت المقالة إلى أن التوسع السريع في استخدام الذكاء الاصطناعي زاد الاهتمام بضبطه وحوكمته. وفي السعودية، تذكر أن الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» أصدرت مبادئ وضوابط لأخلاقيات الذكاء الاصطناعي، وإطاراً لتبنيه، ومبادئ لاستخدام الذكاء الاصطناعي التوليدي في الجهات الحكومية وللعموم. وتربط هذه الأطر بالاستخدام المسؤول، وحفظ الخصوصية، والمساءلة، والسلامة، والشفافية.
المبدأ لا يعمل وحده
المشكلة التي تطرحها المقالة ليست في نقص العناوين الأخلاقية، بل في المسافة بين العنوان وطريقة التشغيل. فإذا قررت مؤسسة حماية نوع من البيانات، أو اشترطت مساءلة، أو أوجبت تدخلاً بشرياً في قرار حساس، فإن النظام لا يفسر هذه المبادئ كما يفعل الإنسان. يحتاج إلى شروط وصلاحيات وإجراءات واضحة يمكن التعامل معها أثناء العمل. لذلك لا يكفي أن تقول المؤسسة إن المراجعة البشرية مطلوبة، بل ينبغي أن تمنع بيئة العمل تجاوز تلك المرحلة إلى أن تصدر موافقة ممن يملك صلاحيتها.
وتفصل المقالة بين ثلاثة مستويات كثيراً ما تختلط في النقاش. النموذج هو الجزء الذي يحلل أو يولد أو يتنبأ. أما النظام فهو التطبيق الذي يوظف النموذج ويربطه بالبيانات والمستخدمين والخدمات الأخرى. ثم تأتي بيئة العمل بما تتضمنه من أنظمة المؤسسة وصلاحيات موظفيها ومسؤولياتهم ومتطلبات القطاع التنظيمية. النموذج الواحد قد يستخدم في مؤسسة مالية أو مستشفى أو جامعة أو جهة حكومية، لكن حساسية البيانات وحدود الصلاحيات ونوع القرارات لا تبقى واحدة بين هذه البيئات.
منع الوصول قبل معالجة الخطأ
تقدم المقالة مثالاً مباشراً على معنى الترجمة من السياسة إلى الضبط: إذا تقرر أن نوعاً من البيانات لا يجوز إتاحته للنموذج، فالمطلوب أن تمنع البيئة التقنية وصوله إليه من الأصل. وإذا تطلب قرار كبير الأثر مراجعة بشرية، فلا ينبغي للنظام تجاوز المراجعة قبل الموافقة. هذه ليست إضافة لغوية إلى وثيقة الحوكمة، بل تصميم لمسار عمل يمكن تتبعه والتحقق منه.
هنا تظهر قيمة المساءلة كما تصفها المقالة. فالبيانات تتغير، والنماذج تحدث، وقد يمتد الاستخدام إلى أغراض لم تكن في الحسبان عند الاعتماد الأول. لذلك تستمر الحوكمة أثناء التشغيل عبر المتابعة والتدقيق، مع القدرة على الرجوع إلى نسخة النموذج والبيانات والصلاحيات المرتبطة بها، ومعرفة ما الذي عُدّل أو استثني أو صُحح. وتعرض المقالة مبادرة GovBridge AI بوصفها عملاً يركز على ربط متطلبات الحوكمة بالضوابط والأدلة والموافقات والمسؤوليات البشرية وقرارات التشغيل.
بالنسبة للجهات في الخليج ومصر وبلاد الشام التي تنقل الذكاء الاصطناعي من التجربة إلى الاستخدام المؤسسي، فالسؤال العملي ليس هل توجد مبادئ منشورة، بل أين تظهر هذه المبادئ داخل النظام. حين لا يمكن إثبات من اطلع على البيانات، أو من أجاز القرار، أو أي نسخة من النموذج عملت، تبقى الحوكمة وصفاً جيداً لا ممارسة قابلة للمراجعة. أما حين تصبح الصلاحية والموافقة وسجل التغيير جزءاً من التشغيل، فتصير المسؤولية قابلة للفحص قبل أن تتحول إلى سؤال بعد وقوع الضرر.