إطار موحد لمخاطر الذكاء الاصطناعي في السعودية: حوكمة الأنظمة المستقلة تتحول إلى مسؤولية هندسية

أطلقت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي، بهدف تزويد الجهات الحكومية والشركات الخاصة بمنهجية موحدة لتحديد وتقييم ومعالجة ومراقبة المخاطر المرتبطة بهذه التقنيات. وتأتي هذه الخطوة في وقت تتسارع فيه وتيرة تبني الحلول التقنية المتقدمة، مدفوعة بزيادة واضحة في السجلات التجارية للأنشطة المرتبطة بالذكاء الاصطناعي داخل المملكة، والتي وصلت إلى 24,552 سجلا، مقارنة بنحو 19,042 سجلا في نهاية عام 2025، و14,163 سجلا في العام السابق له، وفقا لبيانات وزارة التجارة، وتزامنا مع تخصيص عام 2026 عاما للذكاء الاصطناعي في إطار الإستراتيجية الوطنية للبيانات والذكاء الاصطناعي ومستهدفات رؤية 2030.

المخاطر البرمجية التقليدية لم تعد صالحة لقياس سلوك النماذج الذكية. يرتكز الإطار الجديد على الإقرار بأن مخاطر الذكاء الاصطناعي قد تنشأ بصورة غير متوقعة، وتتغير مع مرور الوقت، وتتسم بصعوبة تفسيرها أو إعادة إنتاجها مقارنة بالمشكلات التي تطرأ على الحلول التقنية التقليدية. ويعتمد النموذج في تصنيفه على مصفوفة تجمع بين احتمالية وقوع الخطر والأثر المترتب عليه، ما يمنح المؤسسات قدرة عملية على تحديد درجة خطورة كل نظام وترتيب أولويات الاستجابة. ويغطي هذا الإطار سبع فئات رئيسية للمخاطر، مستندا إلى سبعة مبادئ جوهرية تتضمن النزاهة والخصوصية والشفافية والمساءلة، موزعة على أربع مراحل أساسية: تحديد سياق النظام ونطاق عمله، ورصد المخاطر وتقييمها، ومعالجة تلك المخاطر، ثم الرقابة المستمرة والمراجعة الدورية للأداء.

يأتي تدشين هذا الإطار بالتزامن مع توسع الشركات في الاعتماد على الأنظمة المستقلة ووكلاء الذكاء الاصطناعي، وهو ما يثير تحديات نوعية تتعلق بنفاذ هذه البرمجيات إلى البيانات، وآليات اتخاذ القرار، وحدود الإشراف البشري. ويتطلب التعامل مع هذه الأنظمة إجراء مرحلة استكشاف واستشارة متخصصة وتحليل دقيق للمخاطر قبل إطلاق الحلول المستقلة في بيئات العمل، مع رسم خرائط تدفق العمليات المراد أتمتتها، وفهم البيانات التي ستصل إليها البرمجيات، والقرارات التي قد تتخذها، مع توقع سيناريوهات الفشل المحتملة. وتقتضي الحوكمة في الأنظمة ذات الخطورة المرتفعة إخضاعها لاختبارات صارمة للتحقق من الدقة والأمان ومكافحة الانحياز، إلى جانب تقييد الوصول إلى البيانات الحساسة، وتسجيل كل إجراء يبتكره النظام آليا في سجلات واضحة، واشتراط موافقة العنصر البشري المسبقة على القرارات المصيرية، إذ لا يمكن مساواة روبوت محادثة لخدمة العملاء بوكيل مستقل يملك صلاحية الاطلاع على السجلات المالية، أو اعتماد المعاملات، أو التصرف نيابة عن المنشأة.

التحول الجوهري يكمن في تحويل الحوكمة إلى التزام هندسي مسبق بدل فحص الامتثال الشكلي في نهاية دورة التطوير. هذا ما برز خلال ورشة العمل التي جمعت فيها سدايا في الرياض أكثر من 150 متخصصا يمثلون 45 جهة من القطاعين الحكومي والخاص، بعد الإطلاق الأولي في يوليو. النهج المتبع يعتمد على إدارة المخاطر وفق أثرها الفعلي وتفاوت حساسيتها، بدلا من معاملة جميع البرمجيات بالقواعد والقيود ذاتها.

هذا التنظيم يعيد تعريف أولويات العمل للفرق الهندسية وإدارات التقنية في الخليج عموما وفي السوق السعودي على وجه التحديد. لم يعد بإمكان المطور أو مدير التقنية الاكتفاء ببناء وكيل ذكي وربطه بقواعد البيانات التشغيلية دون توثيق مسارات اتخاذ القرار وتحديد حدود الوصول وتضمين التدخل البشري الحتمي في العمليات التنفيذية والمالية. هذا التحول ينقل معايير السلامة من مسؤولية التدقيق اللاحق، لتصبح بندا معماريا أساسيا في ميزانية التطوير وهندسة النظم، مما يفرض على الشركات مراجعة تكلفة البنية التحتية، وتخصيص موارد لاختبارات الانحياز والأمان، وتدريب الكوادر التقنية على بناء وكلاء يلتزمون بمبادئ الشفافية والمساءلة قبل دخول بيئات الإنتاج الحية.