مئة نمط من التحيز الخوارزمي في مواجهة الفحص المؤسسي: «سدايا» تطلق دليلاً مرجعياً لحماية أنظمة العدالة والصحة

أطلقت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) النسخة الأولى من «الدليل المرجعي لتحيزات الذكاء الاصطناعي»، راصدة أكثر من مئة نمط مختلف من التحيز يمكن أن تنال من دقة أنظمة الذكاء الاصطناعي وعدالتها. تأتي هذه الخطوة استجابة لتسارع وتيرة تبني الحلول الذكية في قطاعات حيوية تشمل القضاء، والرعاية الصحية، والتعليم، حيث يؤدي تعقيد الأنظمة وتعدد مراحل تطويرها إلى تزايد احتمالات تسلل الانحياز إلى مخرجات القرار التلقائي.

يحدد الدليل الأشكال المتنوعة لتحيزات الذكاء الاصطناعي، ويوضح آليات نشوئها، ويبحث في آثارها المباشرة على المجتمع، مقدماً أمثلة مستمدة من الواقع واستراتيجيات عملية للحد من تداعياتها. تؤكد «سدايا» أن إهمال التحيز الخوارزمي أو تركه دون مراجعة منتظمة يجرّد النماذج من وظيفتها الأصلية كأدوات لتعزيز العدالة، ليحولها إلى آليات تكرس التمييز غير المبرر. وتتعدد المصادر التي تولد هذا الخلل، بدءاً من بيانات التدريب التي تفتقر إلى التمثيل المتكافئ لمختلف الفئات المجتمعية، مروراً بالخوارزميات التي قد تفضّل سمات معينة دون قصد برمجي مباشر، ووصولاً إلى الفرضيات والتأويلات المسبقة التي تُبنى خلال معالجة البيانات وتفسيرها.

يركز الدليل على نماذج واقعية لتوضيح أثر الخلل، ومنها أدوات التوظيف المؤتمتة التي قد تفضّل المرشحين القادمين من خلفيات تعليمية نخبوية، على حساب متقدمين مساوين لهم في الكفاءة والجدارة ينتمون إلى فئات مجتمعية أقل حظاً. وتحذر الهيئة من أن مخاطر الأنظمة المنحازة لا تقف عند حدود الخطأ التقني أو تشويه الكفاءة، بل تمتد لتلحق أضراراً بالغة بالسمعة المؤسسية، وتعرض المنشآت للمساءلة القانونية والملاحقات القضائية، فضلاً عن تصاعد شكاوى المستهلكين والمتعاملين.

يبني هذا الإصدار على مسار مؤسسي متواصل تقوده «سدايا» لترسيخ استخدام الذكاء الاصطناعي وفق أسس مسؤولة وأخلاقية. ويأتي مكملاً لمبادئ أخلاقيات الذكاء الاصطناعي التي أطلقتها الهيئة سابقاً، ومبادئ الذكاء الاصطناعي التوليدي الموجهة للقطاع الحكومي والعموم، بالإضافة إلى إطار تبني الذكاء الاصطناعي، ودراسة تخصصية معمقة بعنوان «التحيز في أنظمة الذكاء الاصطناعي: التحديات والحلول». وتعهدت الهيئة بمواصلة دعم المعرفة المتخصصة وتطوير الكفاءات والقدرات الوطنية في مجالات التقنية المتقدمة، لتحفيز الابتكار الرقمي وضمان توظيفه الآمن.

نرى في هذا الطرح انتقالاً عملياً ينعكس مباشرة على بيئات الأعمال في الخليج ومصر والمنطقة ككل. عندما تصنف جهة تنظيمية مركزية أكثر من مئة نوع من الانحياز، فإن الامتثال التقني لم يعد ترفاً ثانوياً. خطوتك كمسؤول تقني أو مطور أنظمة في قطاع مصرفي، أو صحي، أو خدمي، لم تعد تقتصر على قياس زمن الاستجابة ودقة التنبؤ المجردة؛ بل بات لزاماً تدقيق سلاسل البيانات المحلية واختبار مخرجات الخوارزميات ضد التحيزات الجغرافية والاجتماعية. هذا التحول يفرض طلباً صاعداً على مهارات تدقيق العدالة الخوارزمية، ويرفع كلفة إهمال المراجعة في وجه الشركات الناشئة وموردي الحلول الرقمية، حيث تصبح النماذج غير المدققة عبئاً قانونياً وتنظيمياً يعيق الاعتماد المؤسسي.