اعترافات باحثي «أنثروبيك» بعجز خطط المحاذاة: تفويض الوكلاء يواجه اختبار الأمان والرقابة المستقلة

حذر كبير باحثي الأمان في شركة «أنثروبيك»، إيفان هوبينغر، من أن وتيرة تسارع الذكاء الاصطناعي بلغت مرحلة تجعله يرجح بنسبة تفوق 10 في المئة إمكانية أن تؤدي هذه التكنولوجيا إلى فناء البشرية خلال العقد المقبل. ورغم تأكيده في منشور عبر منصة إكس أن النماذج الحالية تمثل خطراً منخفضاً، فإن قلقه ينصب على قدرة الأنظمة على تطوير نفسها ذاتياً في وقت قريب حتى تصبح خطراً وجودياً. وجاء هذا التحذير متسقاً مع اعترافه بأن الشركة لا تملك حتى الآن خطة لحل معضلة محاذاة الذكاء الفائق مع القيم البشرية، ولا تسير على مسار واضح لتحقيق ذلك، في منشور حصد أكثر من 10 ملايين مشاهدة.

جاء موقف هوبينغر تعقيباً على استقالة الباحث جيكوب كوكسون من «أنثروبيك» بعد عمله سابقاً في «أوبن إيه آي»، حيث صرح كوكسون بأن كلتا الشركتين لا تتصرفان بمسؤولية، محذراً من قرب ظهور أنظمة خارقة قادرة على اختراق أي نظام وإحداث تحولات جذرية واكتساب موارد وسلطة فعلية. وقد أثارت هذه المنشورات صدمة لدى مستشارة الأمم المتحدة لعلوم الحاسوب، الدكتورة ويندي هول، التي اعتبرت أن جزءاً من هذا الخطاب قد يندرج ضمن التسويق قبل الطروحات العامة المرتقبة للشركتين في أسواق الأسهم، مناشدة المستثمرين الامتناع عن تمويل تلك المنصات إن كانت هذه هي قيمها المؤسسية.

تعثر ضبط الوكلاء المستقلين وظهور بوادر تسارع القدرات ينقلان هواجس الأمان من الفلسفة إلى حوادث الاختراق الفعلية. لم تعد قضية محاذاة الذكاء الاصطناعي ترفاً نظرياً لحماية المبادئ الأخلاقية، بل اصطدمت بواقع ميداني شمل سلسلة حوادث كشفت فيها شركات «أوبن إيه آي» و«أنثروبيك» و«ميتا» عن هجمات سيبرانية نفذتها أدواتها الذكية ووكلاؤها المستقلون. وفي تقرير الأمان الصادر عن «أنثروبيك» في أغسطس، أقرت الشركة بأنها باتت أقل ثقة في تقديراتها السابقة التي صنفت مخاطر الأضرار الكارثية أو البحث والتطوير الآلي غير المنضبط كاحتمالات منخفضة، مؤكدة رصدها مؤشرات مبكرة على تسارع محتمل في القدرات يفوق التوقعات.

تزامن هذا القلق الداخلي مع كشف صحيفة «فايننشال تايمز» عن حجب «أنثروبيك» أحدث نماذجها عن معهد أمان الذكاء الاصطناعي في بريطانيا، وهو إحدى أبرز الهيئات الدولية لتقييم المخاطر، في حين امتنعت الشركة عن التعليق، واكتفت الحكومة البريطانية بتأكيد استمرار التعاون. وقد دفع هذا المسار مسؤولين سياسيين إلى المطالبة بمعاهدة دولية ملزمة لضبط تطوير الذكاء الفائق قبل خروج تداعياته عن السيطرة، وهو ما يتلاقى مع دعوة جاكوب باتشوكي، كبير علماء «أوبن إيه آي»، إلى الحذر الشديد لضمان بقاء السيطرة بيد البشر، إلى جانب رسالة مفتوحة وقعها 1300 موظف، من بينهم رئيسا «أنثروبيك» داريو أمودي وجاريد كابلان، تدعو الحكومة الأمريكية لقيادة جهود دولية تبطئ وتيرة التطوير المتقدم عمداً.

حجب النماذج عن التدقيق المستقل واعتراف المطورين بفقدان السيطرة يفرضان على المؤسسات الإقليمية إعادة هندسة تفويض الوكلاء. هذا المشهد لا يبقى حبيس المختبرات الغربية؛ فبالنسبة للفرق التقنية ومديري النظم في الخليج ومصر والشام الذين يتسابقون لدمج الوكلاء المستقلين في العمليات التشغيلية، يمثل اعتراف كبار الباحثين بعجز خطط المحاذاة تحذيراً عملياً حاسماً. لا يمكن لأي جهة تبني منصات الذكاء الاصطناعي في إدارة سلاسل التوريد أو المعاملات المصرفية أو الخدمات الحكومية الاعتماد التام على دعاوى الأمان التي تروجها المختبرات المطورة. يصبح لزاماً على هذه الفرق بناء مسارات عزل تقنية مشددة، وفرض بوابات مراجعة بشرية قبل منح أي وكيل ذكي صلاحية اتخاذ قرارات مالية أو النفاذ إلى البنية التحتية والبيانات الحساسة.

وعلى مستوى استراتيجيات التحول الرقمي، تبرز الحاجة الملحة إلى تأهيل الكوادر الإقليمية في تدقيق النماذج واختبارات الاختراق واكتشاف السلوكيات الشاذة للأنظمة المؤتمتة، بدلاً من حصر المهارات في توجيه الأوامر واستدعاء واجهات البرمجة. كما تؤكد هذه التطورات جدوى الاستثمار في مراكز التقييم الوطنية والحلول السيادية داخل المنطقة، لضمان اختبار النماذج الأجنبية المستوردة محلياً قبل تشغيلها، وتجنب المخاطر التشغيلية والقانونية التي قد تنجم عن تشغيل برمجيات تعترف قياداتها التقنية بأنها لا تملك حتى الآن خطة واضحة للسيطرة عليها.