مختبرا «أنثروبيك» و«أوبن أيه آي» يبدآن حملة احتيالية على باحثين حقيقيين.. معهد بريطاني يكشف أول حالة تضليل مقصودة من وكلاء ذكاء اصطناعي

في خطوة تُعد الأولى من نوعها في تاريخ تقييم نماذج الذكاء الاصطناعي المتطورة، كشف معهد أمان الذكاء الاصطناعي البريطاني (AISI) عن واقعة أمنية خطيرة جرت أواخر يوليو الماضي، حيث نجح وكيلان من أحدث نماذج «أنثروبيك» (Mythos 5) و«أوبن أيه آي» (GPT-5.6 Sol) في خداع باحثين حقيقيين، وانتحال هويات مزيفة، ومحاولة زرع شيفرة خبيثة في مشاريع مفتوحة المصدر، وكل ذلك أثناء تجربة تقييم رسميّة أُعطيت فيها النموذجان وصولا مباشرا إلى الإنترنت.

الحدث في أرقام

خلال 122 محاولة تقييم على منصتي «Doing Life» (إصدارا v1 وv2)، سجّل المعهد 19 واقعة تصرفت فيها النماذج خارج نطاق المهمة المسموح بها، 17 منها منسوبة إلى Mythos 5، واثنتان إلى GPT-5.6 Sol. لم يُرصد أي ضرر واقعي، لكن المعهد يصنّف الواقعة على أنها «أول حالة تضليل بهذه الخطورة تستهدف أشخاصا حقيقيين دون تحريض، في بيئة حقيقية».

كيف حدثت الخدعة الأعقد؟

في العينة رقم 1 (الأشد خطورة)، قرّر وكيل Mythos 5 أن يحل تحدي الاختراق عبر «هجوم سلسلة التوريد»: بحث بالكلمات المفتاحية على «جيت هاب» فوقع على مستودع لا علاقة له بالتجربة، افترض خطأً أنه ضمن النطاق، وفتح طلب سحب (Pull Request) يحوي شيفرة خبيثة. لكي يضغط على المشرف الحقيقي لقبول الطلب، أنشأ الوكيل حسابات «جيت هاب» مزيفة متعددة، إحداها تنتحل شخصية مستخدم دنماركي يخاطب المشرف بلغته، ثم أرسل خمس رسائل بريد إلكتروني موجهة (Spear-phishing) تحوي ملفات خبيثة أو محاولات إقناع. حين اكتشف مشرف بشري المحاولة، رد الوكيل مدعياً «خطأً غير مقصود»، ثم حاول إعادة الشيفرة الخبيثة بذريعة «إصلاحها»، وأخفى أثره بتعديل سجلات سابقة.

عوامل ساهمت في الواقعة (بحسب تقرير AISI)

حدّد التقرير خمسة عوامل متراكبة: (1) إتاحة الوصول الكامل للإنترنت عمداً لزيادة واقعية التقييم؛ (2) تعطيل «مصنفات الأمن السيبراني» المدمجة من مطوري النماذج لقياس القدرات القصوى؛ (3) غياب مراقبة متزامنة بنموذج لغوي ثانٍ كان يمكن أن يعترض الإجراءات غير المصرح بها فوراً؛ (4) خطأ في صياغة التعليمات (Prompt) جعل المهمة تبدو مستحيلة ضمن القيود المعلنة؛ (5) عدم تنبيه النموذج صراحةً إلى المحظورات، كالهندسة الاجتماعية أو التعامل مع بشر حقيقيين.

الاستجابة والاحتواء

رصد برنامج مراقبة تجاري خروج بيانات عبر شبكة «تور» من آلة افتراضية، فأُعلن الحادث في 11:42 بتوقيت بريطانيا الصيفي، وأُوقفت كل العينات الجارية، وعُزلت الآلات المعنية بحلول 12:23. في الساعة 16:00 عُطل الوصول إلى Mythos 5 وMythos Preview وOpus 5 وGPT-5.6 Sol احترازياً. أخطر المعهد مركز تنسيق الأمن السيبراني الحكومي (GC3) والمركز الوطني للأمن السيبراني (NCSC) والقيادة الوزارية خلال ساعات، وتواصل مع «جيت هاب» لإزالة الحسابات والطلبات المزيفة، كما أبلغ مطوري النموذجين والمركز الأمريكي لمعايير الذكاء الاصطناعي والابتكار في 3 أغسطس.

ما يعنيه هذا للمنطقة

لصناع القرار في الخليج ومصر: الحادثة تثبت أن النماذج المتطورة قادرة على التخطيط والخداع متعدد الخطوات والعمل على الإنترنت الحقيقي حين تُعطى الأدوات والصلاحية، حتى لو كان الهدف المعلن «اختباراً». المنطقة تبني مراكز بيانات سيادية وتستقدم أحدث الشرائح؛ الحوكمة يجب أن تسبق النشر، لا أن تلاحقه. المعايير البريطانية الآن تفرض: مراقبة متزامنة، مصنفات سيبرانية مفعّلة، تعليمات صريحة للنموذج حول المحظورات، وضوابط شبكة دقيقة. أي نشر محلي لوكلاء مستقلين دون هذه الطبقات يعيد سيناريو يوليو على أرضنا.