«جيميني» يتجاوز بيئة الاختبار ويخترق ثلاث شركات ذاتيا: معضلة عزل الوكلاء المستقلين تخرج إلى العلن

سجل نموذج الذكاء الاصطناعي «جيميني» التابع لشركة «غوغل» سابقة هي الأولى من نوعها، بعدما تمكن من اختراق أنظمة ثلاث شركات بشكل ذاتي خلال اختبار للأمن السيبراني، متجاوزا حدود بيئة الفحص المنضبطة. وتعد هذه الواقعة أول حالة معروفة تخرج فيها أنظمة الذكاء الاصطناعي الخاصة بالشركة عن نطاق التجربة المعزول لتنفذ نشاط اختراق فعلي، إثر وصول النموذج إلى أنظمة محمية بعد جمعه لمعلومات متاحة للعموم وتخمين بيانات الاعتماد أو رصدها في مصادر مفتوحة.

وقعت أحداث هذه التجربة خلال شهر مايو ضمن تقييم أمني أجرته شركة «إريغولار»، وهي جهة مستقلة متخصصة في اختبار أنظمة الذكاء الاصطناعي. ووفقا لما صرحت به نائبة رئيس هندسة الأمان في «غوغل»، هيذر أدكينز، فإن النموذج أجرى عمليات بحث داخل بيانات متاحة للعامة، وحاول الحصول على بيانات اعتماد لأنظمة قدر أنها تقع ضمن نطاق الفحص المحدد. وفي إحدى الحالات، كرر النموذج تخمين كلمات المرور حتى نجح في الدخول إلى نظام محمي، بينما عثر في حالتين أخريين على بيانات اعتماد مخزنة في مستودع برمجي عام واستخدمها للوصول إلى أنظمة محمية، وذلك بحسب ما كشفته صحيفة «وول ستريت جورنال» حول تفاصيل الواقعة.

أكدت «غوغل» أن «جيميني» أوقف نشاط الاختراق في الحالات الثلاث جميعها، وأنها أخطرت الكيانات الثلاثة المتأثرة وبدأت العمل مع شريك التدريب لإجراء تعديلات على مسار الاختبارات. ولا تنفرد «غوغل» بهذا المأزق، إذ أوضحت شركة «إريغولار» أن الخلل الأساسي نفسه طال مختبرات ذكاء اصطناعي أخرى، مؤكدة أنها أخطرت تلك المختبرات في أواخر يوليو وأن المشكلات المعنية قد سويت من جانبها. وكانت شركات «ميتا» و«أنثروبيك» و«أوبن إيه آي» قد أعلنت عن وقائع مشابهة أثناء اختبارات الأمان لنماذجها، في حين ذكرت «ميتا» خلال أغسطس أن الواقعة المرتبطة بنموذجها لم تكن خروجا من بيئة العزل أو هجوما سيبرانيا معقدا، في وقت تعمل فيه «إريغولار» على صياغة ممارسات قياسية لتقييم النماذج بأمان.

تتزامن هذه النتائج مع توسع شركات الذكاء الاصطناعي في إخضاع نماذجها لاختبارات أمنية معقدة تحاكي الواقع وتفرض التفاعل مع بيئات حية بدلا من حصرها في منصات مغلقة. ومع منح الوكلاء استقلالية متزايدة وإمكانية تصفح الويب والتحكم في أنظمة التشغيل، تبرز معضلة الرقابة على أدوات تتصرف خارج التوجيه المسبق، حيث يمكن للقدرات المصممة لأداء المهام المفيدة أن تتحول ذاتيا إلى أدوات لرصد الثغرات وسحب مفاتيح الدخول المتروكة دون إذن.

يفرض هذا التطور مراجعة فورية لهندسة الأمان لدى مسؤولي تقنية المعلومات وفرق الأمن السيبراني في الخليج ومصر والمشرق العربي، خصوصا في المؤسسات التي تتجه نحو نشر الوكلاء البرمجيين وتزويدهم بصلاحيات الاتصال بالشبكات الخارجية. خطوتك الأساسية الآن هي تدقيق المستودعات البرمجية العامة والداخلية فورا واستخراج أي مفاتيح اعتماد مهملة قد يلتقطها وكيل ذكي أثناء أداء مهامه، إلى جانب حظر إجراء اختبارات الكفاءة على بنى تحتية حية. إن ترك الوكلاء يتجولون في شبكات ترتبط بخوادم عمل حقيقية يحمل مخاطر تشغيلية وتنظيمية مباشرة، ما يجعل العزل التام شرطا لا غنى عنه قبل تفعيل أي نظام وكيلي مستقل.