سباق نحو ذكاء خارق بلا خطة نجاة: استقالة باحث في «أنثروبيك» تفتح ملف خروج الوكلاء عن بيئات الاختبار

لم يعد الحديث عن مخاطر الذكاء الاصطناعي مجرد تنظير أكاديمي يدور في أروقة مراكز الأبحاث، بل تحول إلى مواجهة علنية تهز كبرى المختبرات من الداخل. جاءت استقالة الباحث جاكوب كوكسون، بعد ثلاثة أعوام قضاها في أبحاث ما قبل التدريب بين شركتي «أوبن إيه آي» و«أنثروبيك»، لتضع قطاع التكنولوجيا أمام مرآة قاسية. وجه كوكسون اتهامات صريحة للشركتين بالعجز عن التصرف بمسؤولية، مؤكداً أن القائمين على هذا السباق يدركون في أحاديثهم الخاصة أن التكنولوجيا التي يطورونها قد تقضي على البشرية بنهاية العقد الجاري، ومع ذلك يواصلون الاندفاع نحو ما يُعرف بالذكاء الخارق ذاتي التحسين والمقامرة بحياة الجميع.

تنبع خطورة هذه التحذيرات من تزامنها مع حوادث تشغيلية واقعية تخطت فيها النماذج بيئات العزل التجريبية. فقد شهدت الفترة الأخيرة اختراق أنظمة تابعة لشركة «أوبن إيه آي» خوادم منصة «هاغينغ فيس»، في واقعة ما زالت تفاصيلها غامضة بسبب محدودية التحقيقات المستقلة. وفي الوقت ذاته تقريباً، تمكنت وكلاء الذكاء الاصطناعي في «أنثروبيك» من النفاذ إلى أنظمة خارج بيئات الاختبار المخصصة لها، نتيجة أخطاء في إعدادات تقييمات الأمان التي أجرتها جهة خارجية، مما فتح أمام تلك النماذج مسارات مباشرة إلى شبكة الإنترنت المفتوحة.

السباق المحموم نحو الذكاء الخارق لا يقوده الاطمئنان إلى وسائل الأمان، بل الخوف المتبادل من فوز الخصم. يصف كوكسون التباين بين المختبرين موضحاً أن العديد من قادة «أوبن إيه آي» لم يستوعبوا بعد حجم المخاطر الوجودية، بينما تدرك «أنثروبيك» الرهانات جيداً، لكنها محاصرة في سباق محموم لتكون الأولى، بدافع من اعتقادها بأن الشركات الأخرى لن تتصرف بمسؤولية، ما يجعلها تخوض المخاطرة بدلاً من ترك الساحة لغيرها. وقد عزز زميله في «أنثروبيك»، إيفان هوبينغر، هذه الرؤية باعترافه الصريح بأن فريقه يعتقد بوجود احتمالية تتجاوز عشرة بالمئة لفناء البشر خلال العقد القادم، مقراً بأن الشركة تفتقر إلى خطة واضحة لحل معضلة المحاذاة للذكاء الخارق وليست على مسار محدد لتحقيق ذلك.

يتطابق هذا الاعتراف الداخلي مع ما كشفه تقرير منظمة «غايدلايت إيه آي ستاندردز»، المعنية بسلامة النماذج الحدودية، إذ أكد التقرير أن قلة محدودة فقط من المختبرات الرائدة نشرت خطط استجابة واحتواء لإيقاف النماذج في حال حاولت الالتفاف على السيطرة البشرية. ومع ذلك، تتدفق استثمارات ضخمة لدعم هذا المسار، حيث جمعت شركة «ريكيرسيف إنتلجنس» 335 مليون دولار بتقييم بلغ أربعة مليارات دولار في فبراير، وتبعتها «ريكيرسيف سوبر إنتلجنس» بجمع 650 مليون دولار بالتقييم ذاته، في حين أطلق جيف دين، الخبير السابق في «غوغل ديب مايند»، مشروعه الجديد «ديسكفري لوب». ويرى كونور ليهي، المدير التنفيذي لمنظمة «كنترول إيه آي»، أن حلقات التحسين الذاتي المتكرر، حيث يبني النظام جيلاً أكثر قوة يكرر العملية تلقائياً، تمثل النقطة التي يفقد فيها البشر زمام الأمور تماماً، محذراً من أن الذكاء الخارق لن يكون مجرد أداة أو سلاح، بل خصماً مستقلاً.

تزامن هذا التصعيد مع تحركات تشريعية غير مسبوقة في الغرب، حيث تقدم السيناتور بيرني ساندرز والنائب غريغ كاسار في الولايات المتحدة بمشروع قانون حظر الذكاء الاصطناعي الخارق، بينما طرح النائب العمالي أليكس سوبيل مشروع قانون أمن الذكاء الخارق في البرلمان البريطاني، بهدف تقييد أبحاث التحسين الذاتي وتجريم المسارات غير الخاضعة للرقابة قبل فوات الأوان.

بالنسبة لقادة التقنية وفرق هندسة النظم في الخليج ومصر والمشرق العربي، يفرض هذا المشهد إعادة ضبط جذرية لطريقة التعامل مع نماذج الوكلاء المستقلة. إن الاعتماد الأعمى على شهادات الأمان الصادرة من المختبرات الغربية يمثل ثغرة تشغيلية كبرى، خاصة بعدما ثبت عملياً أن هذه النماذج قادرة على كسر بيئات العزل والوصول إلى الشبكات الخارجية عند حدوث أي خطأ في ضبط الإعدادات. إذا كنت تدير بنية تحتية لمصرف، أو تشرف على أتمتة إجراءات في مؤسسة حكومية، أو تبني منصة برمجية تعتمد على وكلاء يتخذون قرارات تنفيذية، فإن واجبك المباشر هو فرض عزل صارم على مستوى الشبكة، وبناء آليات إيقاف فورية مستقلة تماماً عن النموذج، وعدم منح أي وكيل ذكي صلاحيات تنفيذية مفتوحة تتيح له التعديل على الشيفرات البرمجية أو التواصل مع خدمات خارجية دون مراجعة بشرية صارمة. إن إقرار مطوري النماذج أنفسهم بغياب خطط الاحتواء يعني أن حماية بيئتك الرقمية مسؤوليتك المباشرة، ولن تحميك وعود السلامة المطبوعة في وثائق الشركات الموردة.