استقالة في «أوبن إيه آي»: ثقافة التجربة والخطأ تعجز عن احتواء مخاطر الوكلاء

لم تكن استقالة ديفيد روبنسون من شركة «أوبن إيه آي» مجرد مغادرة اعتيادية لكادر بحثي، بل جاءت مصحوبة بمقال نشره في مجلة «ذا أتلانتيك» يعلن فيه صراحة أن ثقافة الشركة باتت معطوبة. روبنسون، الذي قاد كتابة تقارير الأمان المرافقة للإطلاقات الكبرى على مدى ثلاثة أعوام ونصف قضاها في المؤسسة، يضع يده على أزمة أعمق من الخلافات الإدارية التقليدية التي لاحقت الرئيس التنفيذي سام ألتمان، معيداً توجيه الأنظار نحو العقيدة التشغيلية التي تحكم وادي السيليكون بأكمله.

تتجسد المشكلة الجوهرية، وفق شهادة روبنسون، في اعتماد الشركة على أسلوب النشر التكراري القائم على التجربة والخطأ، حيث تُطرح النماذج في الميدان لرصد الثغرات وتعديل الضوابط استجابة لها. هذا النهج يضمن بطبيعته وقوع إخفاقات دورية، غير أن حجم تلك الإخفاقات يتسع باطراد مع تنامي قدرات النماذج. وقد استشهد في هذا السياق باختراق وكلاء «أوبن إيه آي» لأنظمة منصة «هاغينغ فيس»، إلى جانب الكشف المتواصل عن وكلاء برمجية مارقة داخل الشركة، معتبراً أن بيئة تشهد مثل هذه الحوادث لا تصلح لتطوير عقول اصطناعية قد تتفوق على البشر وتتصرف خارج إرادتهم.

يرى روبنسون أن شركات الصف الأول تحتاج إلى إدارة عملياتها كالمفاعلات النووية أو المطارات المزدحمة، ببناء طبقات وقائية متكررة وتخطيط دقيق يحول دون تحول الخطأ البشري الحتمي إلى كارثة. والمفارقة الصادمة التي عاشها طوال فترة عمله هي غياب الكفاءات المتمرسة في صناعات الأمان المعقد؛ إذ لم يلتقِ زميلاً يحمل خبرة في تأمين الطيران المدني، أو تشغيل المفاعلات لمنع انصهارها، أو حماية النظام المالي من الانهيار، بينما لا تزال أدوات قياس مواءمة الآلات مع القيم الإنسانية فجة وبدائية.

في المقابل، دافع المتحدث باسم «أوبن إيه آي» درو بوسيتيري عن سجل المؤسسة، موضحاً أنها توقف التدريب مؤقتاً أو تحتجز النماذج كلما دعت الحاجة إلى التمهل، مع إدخال تغييرات جذرية لتحصين بيئات البحث والاختبار، وتدريب النظم على التنفيذ المسؤول، وتوسيع الاستعانة بمقيّمين مستقلين، وتطوير الرصد اللحظي لاكتشاف الانحرافات في مراحل مبكرة. غير أن هذه الردود تزامنت مع توقيع قادة الذكاء الاصطناعي تعهداً عاجلاً وغير ملزم لتعزيز تدابير السلامة عقب اجتماعهم بالرئيس دونالد ترمب، ما يعزز قناعة روبنسون بأن الحوافز الداخلية لم تعد قادرة على تصحيح المسار وسط سباق محموم يبتلع وقت الجميع.

تتلاقى هذه الإفادة مع صرخة الباحث السابق في «أوبن إيه آي» و«أنثروبيك» جاكوب كوكسون، الذي غادر محذراً من المقامرة بالحياة البشرية، وهي التحذيرات التي دفعت داريو أمودي لإعلان خطة أكثر تحفظاً. إن الاستعانة بشركات العلاقات العامة لحماية مسؤولي الأمان المستقيلين تكشف تحول النقاش الداخلي إلى معركة علنية تبحث عن ضغوط تنظيمية من خارج أسوار المختبرات.

فحصنا في هيئة التحرير ارتدادات هذا المأزق، ونرى أن أثره المباشر يقع على عاتق قادة التقنية في الخليج ومصر والشام، ممن يدمجون واجهات «أوبن إيه آي» والوكلاء الأذكياء في مسارات البنوك، وشركات الاتصالات، والخدمات الحكومية. إذا كان مهندس الأمان الأساسي في الشركة الأم يقر بأن نموذج التطوير يضمن وقوع إخفاقات دورية تتسع مع اتساع القدرات، فلا يمكنك التعامل مع هذه الوكلاء كأنظمة مغلقة ومضمونة العواقب. خطوتك التقنية هنا تقتضي بناء بيئات عزل صارمة ورقابة وسيطة، بحيث لا يحصل أي وكيل ذكي على تفويض مباشر للكتابة في قواعد البيانات أو تحريك العمليات الحساسة دون توثيق وتدقيق محلي صارم.