«سدايا» تصدر دليلاً مرجعياً يحصر 100 تحيز خوارزمي: نقلة الحوكمة من الشعارات إلى هندسة التدقيق

مع تسارع اعتماد أنظمة الذكاء الاصطناعي في القطاعات الحيوية كالعدالة والصحة والخدمات المالية والتوظيف، لم تعد معضلة «التحيز الخوارزمي» مجرد هاجس نظري يطرحه الأكاديميون في المؤتمرات، بل تحولت إلى مخاطرة تشغيلية وقانونية تمس حقوق الأفراد وثقة المجتمعات. فالافتراض الشائع بأن النماذج الحسابية محايدة بطبيعتها يسقط سريعاً عند فحص بيانات التدريب المنحازة أو الخيارات المعيبة في التصميم البرمجي وتفسير البيانات. واستباقاً لانعقاد النسخة الرابعة من منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي في الرياض منتصف سبتمبر الجاري، أطلقت الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» دليلاً مرجعياً شاملاً ينقل الحوكمة الأخلاقية من الإطار الإنشائي إلى مستوى المعايير الهندسية والتدقيق الإجرائي الصارم.

تضع الوثيقة الصادرة عبر المكتبة الرقمية لمركز المعرفة في «سدايا» بعنوان «تحيزات الذكاء الاصطناعي: دليل مرجعي»، في نسختها الأولى الممتدة عبر 114 صفحة، حصراً تفصيلياً لأكثر من مائة نوع من التحيزات التي قد تتسلل إلى دورة حياة الأنظمة الذكية. ويمتاز الدليل باتباع هيكلية تشغيلية تفكك كل تحيز خوارزمي أو إدراكي عبر أربعة محاور موحدة: التعريف العلمي لكيفية نشوء التحيز ومصدره في البيانات أو الخوارزمية، وتحليل أثره الاجتماعي والمؤسسي، وتقديم مثال تطبيقي من الواقع، واقتراح استراتيجيات برمجية وإجرائية للحد من آثاره واختبار مخرجات النموذج قبل نشره.

تفكيك مصفوفة التحيزات: من عيوب البيانات إلى سلوك المستخدم

لا يكتفي الدليل بالتحيزات الإحصائية الشائعة مثل «تحيز الاختيار» أو «تحيز الاستبعاد» عند جمع العينات، بل يتعمق في رصد التحيزات المعقدة التي تنشأ أثناء التشغيل والتفاعل البشري. ومن أبرزها «التحيز الاجتماعي والاقتصادي»، حيث تفضل الخوارزميات تلقائياً المرشحين من خلفيات تعليمية نخبوية في منصات التوظيف الآلية، مما يقصي الكفاءات من الفئات الأقل دخلاً ويرسخ الفجوات المجتمعية. كما يفرد الدليل مساحة لتحليل «تحيز الأتمتة»، المتمثل في ميل المشغلين والخبراء إلى الإفراط في الثقة باقتراحات النظام الآلي وإهمال الإشارات الصحيحة الصادرة عن الملاحظة البشرية المباشرة، إضافة إلى «تحيز الإرباك» الذي يشوه العلاقات السببية بين المتغيرات بسبب عوامل خفية غير مقاسة.

ويقدم الدليل إرشادات محددة في آليات التخفيف التقني، تشمل تنويع مجموعات بيانات التدريب لضمان التمثيل العادل، وتطبيق قيود العدالة الخوارزمية (Algorithmic Fairness Constraints)، واستخدام أساليب التصحيح الإحصائي لمنع الترجيح التلقائي للمؤشرات المضللة، وتطوير أطر مراجعة وتدقيق مستقلة لتقييم المخرجات دورياً.

من المبادئ الفضفاضة إلى بطاقات الفحص الهندسي

يمثل هذا الإصدار تطوراً نوعياً في المسار التنظيمي الذي تقوده المملكة لحوكمة التقنية، والذي بدأ بإعلان «مبادئ أخلاقيات الذكاء الاصطناعي»، ثم مبادئ الذكاء الاصطناعي التوليدي للقطاعين الحكومي والخاص، وصولاً إلى إطار تبني التقنيات ودراسة معالجة التحيز. فالانتقال إلى إصدار قوائم مرجعية تفصيلية يمنح مهندسي البيانات ومطوري النماذج ومديري الامتثال في القطاعات الحكومية والخاصة معايير قياس واضحة يمكن تحويلها إلى بطاقات فحص برمجية واختبارات قبول تشغيلية.

المغزى الإقليمي والدولي: منتدى اليونسكو بالرياض

يكتسب توقيت هذا الدليل زخماً كبيراً مع استعداد الرياض لاستضافة منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي بين 14 و17 سبتمبر 2026. وتبرز هذه الخطوة حرص المملكة على الانتقال من موقع المستهلك للأطر التنظيمية المستوردة إلى مساهم رئيسي في هندسة المعايير الدولية وتوفير مراجع تقنية متقدمة باللغة العربية تلبي متطلبات البيئة المحلية والإقليمية.

وبالنسبة لمديري التقنية والبيانات والفرق القانونية في المؤسسات الخليجية، لم يعد كافياً إدراج تعهد عام بـ«المسؤولية والأخلاقيات» في وثائق المشاريع؛ بل أصبح لزاماً على الجهات بناء مصفوفات تدقيق خوارزمي وفحص نماذج التعلم الآلي ضد قوائم التحيز الموثقة قبل نشرها في بيئات الإنتاج، لتجنب الأخطاء الكارثية والتبعات القانونية الناتجة عن اتخاذ قرارات تمييزية مؤتمتة.