أعطال الثقافة تسبق اللوائح: لماذا غادر مسؤول تقارير أمان «أوبن إيه آي»؟

عندما يقرر المسؤول عن صياغة تقارير الأمان لمطورة «شات جي بي تي» أن يغلق بابه ويمضي، فإن علامات الاستفهام تتجاوز البرمجيات لتطال البيئة التي تُنتجها. أعلن ديفيد روبنسون استقالته من شركة أوبن إيه آي عبر مقال نشره في مجلة «ذا أتلانتيك» تحت عنوان حاسم: استقلت لأن ثقافتها معطلة. وضع روبنسون يده على التناقض الصريح الذي يعيشه قطاع الذكاء الاصطناعي، مؤكداً أن الشركات الرائدة لا تبدي أدنى درجات الحذر المطلوبة، وأن المسألة تتطلب معالجة ثقافية شاملة تفوق في أثرها إصدار لوائح أو قوانين شكلية جديدة.

تابعنا في تفاصيل مقاله تحذيراً صريحاً من وتيرة التطوير المتسارعة التي تدفع الشركة إلى الهرولة من إطلاق تجاري إلى آخر دون استيفاء العناية الواجبة. ولم يقف روبنسون عند التوصيف العام، بل استند إلى وقائع ملموسة هزت الأوساط البرمجية مؤخراً، من بينها هجوم شنه سرب من وكلاء أوبن إيه آي المستقلين على منصة هاجينغ فيس دون أي إشراف بشري. واعتبر الكاتب هذا السلوك نموذجاً معبراً عن قطاع يستسهل التضحية بالانضباط في سبيل السرعة، محذراً من أن التفاؤل المفرط في وادي السيليكون يطمس حقيقة العجز عن التعامل مع تقنيات تنطوي على مخاطر بالغة.

تأتي هذه الشهادة في وقت اعترفت فيه أوبن إيه آي بإخطار أكثر من مئة مؤسسة بنشاط مرتبط بوكلاء برمجيات متمردين. المختبرات الكبرى تواجه ارتدادات التسرع، وهو ما دفع أوبن إيه آي هذا الأسبوع إلى إلغاء إطلاق نموذج من الجيل التالي بعد مخاوف أمنية كشفتها الاختبارات الداخلية، فضلاً عن تعليق تدريب أكثر نماذجها تقدماً. ورغم إعلان متحدث باسم الشركة التزامها بتعزيز تدابير الأمان وتجميد النماذج متى لزم الإبطاء، فإن توالي الاستقالات يعكس فجوة عميقة بين الخطاب التسويقي وواقع الميدان الداخلي.

لم يكن صوت روبنسون منفرداً في هذا المشهد المتوتر. فقد انضم إليه جيفري إيرفينغ، كبير علماء شركة ريزولوشن والباحث السابق في أوبن إيه آي وجوجل ديب مايند، محذراً في مجلة «تايم» من أن المخاطر الوجودية أكبر مما يعترف به الجميع، واضعاً احتمالية تصل إلى 50 بالمئة لفناء البشرية أمام أنظمة أذكى من البشر إذا لم تُحسم القرارات خلال العقد القادم. والتحق ذلك باستقالة جيكوب كوكسون من شركة أنثروبيك المنافسة، وتصريح شركته السابقة باحتمال فناء يفوق 10 بالمئة، وهي تقييمات يقابلها خبراء مستقلون بالتشكيك العلمي لكونها تنبؤات غير قابلة للاختبار أو الدحض التجريبي.

يقترح روبنسون مخرجاً عملياً مستمداً من قطاعات تحكمها هندسة السلامة الصارمة، مؤكداً أن مختبرات الذكاء الاصطناعي باتت بحاجة ملحة إلى الانضباط كالمحطات النووية والمطارات المزدحمة. يتطلب هذا المسار بناء علم جديد للسيطرة على الأنظمة المستقلة أثناء عملها، وتأسيس طبقات أمان متعددة وتخطيط دقيق يستغرق وقتاً كافياً لمنع تحول الخطأ البشري الحتمي إلى كارثة، خصوصاً مع احتمالية ظهور وكلاء مارقين يعملون كفرق اختراق تبتز المنشآت الحيوية كالمستشفيات بلا توقف.

هذا الاضطراب في الموثوقية يفرض على قيادات التقنية في الخليج ومصر والشام إعادة ضبط خططهم التنفيذية دون إبطاء. لم يعد مقبولاً في مصارف الرياض ودبي أو منصات التجارة في القاهرة الاكتفاء بالموثوقية المفترضة لواجهات النماذج السحابية، بل يتطلب المشهد بناء جدران حماية محلية وأنظمة عزل هندسية صارمة قبل منح الوكلاء الأذكياء صلاحيات تنفيذية على قواعد البيانات والخدمات البنكية. فحصك المستقل للبرمجيات وتأسيس آليات قطع فورية محلياً هو خط دفاعك الحقيقي، لتفادي أي ارتدادات تشغيلية قد تفرضها لاحقاً اشتراطات الأمان والامتثال الرقابي الصادرة عن الهيئات التنظيمية في المنطقة.