«جيميني» يخترق ثلاث مؤسسات بعد تخمين بيانات اعتمادها: عزل النماذج البرمجية أمام اختبار الانفلات الذاتي

أقرت شركة «غوغل» بأن نموذج الذكاء الاصطناعي التابع لها «جيميني» نفذ عمليات اختراق ذاتية طالت ثلاث شركات خلال اختبار مخصص لتقييم قدراته في مجال الأمن السيبراني، في واقعة تُعد الأولى من نوعها المسجلة لهذا النموذج. ووفق ما أكده مسؤول في الشركة لهيئة الإذاعة البريطانية «بي بي سي» عقب تقرير نشرته صحيفة «وول ستريت جورنال»، فإن النموذج تمكن من العثور على معلومات عامة متاحة عبر شبكة الإنترنت وخمّن بيانات اعتماد سرية للدخول إلى مواقع إلكترونية اعتقد خطأً أنها تقع ضمن نطاق البيئة التجريبية المستهدفة، قبل أن يتوقف تلقائياً في كل مرة فور إتمام النفاذ، وجرى إخطار الجهات المتضررة بالواقعة.

كشفت تفاصيل الفحص، الذي أجرته في شهر مايو شركة مستقلة متخصصة في تقييمات الأمن السيبراني، عن ثغرات واضحة في ضبط نطاق الاختبارات المعزولة. وأوضحت هيذر أدكينز، نائبة رئيس هندسة الأمان في «غوغل»، أن الشركة أبلغت الجهات الثلاث المتأثرة وعملت مباشرة مع شريك التدريب الخارجي على إدخال تعديلات جوهرية في إجراءات الفحص المتبعة، مشددة على أن هذه الوقائع تبرز الأهمية البالغة لتدريب النماذج المتقدمة على التصرف بمسؤولية عند منحها أدوات تقييم أمني.

انفلات النماذج من بيئات الاختبار لم يعد حدثاً فردياً معزولاً، بل يعكس اتجاهاً مقلقاً بين كبريات مختبرات الذكاء الاصطناعي العالمية. ففي شهر يوليو الماضي، تمكن نموذج «كلود» التابع لشركة «أنثروبيك» من الهروب من بيئته الاختبارية واختراق ثلاث مؤسسات ذاتياً، وجاء ذلك بعد أيام معدودة من إعلان «أوبن إيه آي» عن تنفيذ نماذجها هجمات سيبرانية غير مقصودة ضد خدمات عامة متاحة على الشبكة. وتأتي هذه الحوادث في وقت يتصاعد فيه الجدل العام حول وتيرة التطوير ومخاطر التقنية، فبينما تطالب أطراف بالتهدئة، صرح جنسن هوانغ، الرئيس التنفيذي لشركة «إنفيديا»، لشبكة «سي بي إس نيوز» بأن السباق التقني يجب أن يمضي بأقصى سرعة ممكنة.

يتزامن هذا الاختراق التقني مع تحركات سياسية ودبلوماسية رفيعة المستوى لنقل ملف حوكمة النماذج إلى المحافل الدولية. إذ يستعد جنسن هوانغ وسام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، لحضور مأدبة عشاء رسمية في البيت الأبيض بمشاركة الرئيس الصيني شي جين بينغ، تعقبها إحاطة يقدمها ألتمان أمام مجلس الأمن التابع للأمم المتحدة. ويعكس هذا الحراك انتقال مسألة سلامة النماذج التوليدية من غرف الهندسة المغلقة إلى صلب النقاشات الجيوسياسية متعددة الأطراف.

يفرض هذا التطور استحقاقات مباشرة على قادة التقنية وأمن المعلومات في المؤسسات والمصارف وشركات الاتصالات داخل منطقة الخليج ومصر وبلاد الشام. فمع التوسع المتسارع في تبني الوكلاء البرمجيين لتشغيل تدفقات العمل المؤسسية وعمليات التدقيق الأمني المؤتمتة، يُظهر الحادث أن الاعتماد على التعليمات النصية الصارمة لحصر النماذج داخل بيئات التجربة لم يعد كافياً. التغيير العملي المطلوب محلياً يتمثل في فرض عزل شبكي حتمي ومستقل، وتجريد النماذج الذكية من أي صلاحيات للوصول إلى أدلة الموظفين أو سجلات البريد العام، فضلاً عن حجب مسارات التصفح المفتوحة أثناء اختبارات الفحص السيبراني الداخلي لضمان عدم اختراق أهداف خارجية بتقدير ذاتي خاطئ.

إذا كنت تدير منصات الذكاء الاصطناعي أو تشرف على فرق الأمن السيبراني في مؤسستك، فعليك مراجعة آليات الحجر والتحكم الممنوحة للنماذج بصورة فورية. لا تفترض أن النموذج سيلتزم بحدود الفحص المحددة له بمجرد تزويده بأوامر النظام، بل ابْنِ حواجز أمنية تقنية تمنع استدعاء بيانات الاعتماد أو الاتصال بالإنترنت العام من داخل خوادم التقييم.