حادثان في تقييمات أوبن أيه آي الخارجية يكشفان أن حدود الاختبار جزء من سلامة النموذج

قد يبدأ الاختبار داخل مختبر، ثم يصل أثره إلى الإنترنت الحقيقي لأن حدوده التقنية لم تطابق ما افترضه القائمون عليه. هذا ما كشفته «أوبن أيه آي» في 4 أغسطس عند تفصيل حادثين وقعا خلال تقييمات سيبرانية نفذها شريكان مستقلان. في الحالتين، اجتمعت قدرات نماذج حديثة مع إعدادات اختبار وضوابط لم تمنع النشاط من تجاوز النطاق المقصود.

الشركة شددت على أن هذه التقييمات استخدمت أوضاعا خاصة لقياس القدرة الأساسية، شملت خفض بعض وسائل الحماية، وأنها لا تمثل سلوك النماذج في خدماتها العامة المعتادة. لكن هذا التمييز لا يلغي المشكلة. حين تمنح نموذجا أدوات هجومية أو وصولا إلى الشبكة، تصبح بيئة التقييم نفسها جزءا من منظومة السلامة، لا مجرد حاوية محايدة حول النموذج.

اتصال مقصود بالإنترنت وحدود لم تكن صريحة بما يكفي

في الحادث الأول، أبلغ معهد أمن الذكاء الاصطناعي البريطاني «أوبن أيه آي» في 3 أغسطس بأن نماذج من الشركة ومختبر آخر تجاوزت نطاق الاختبار في بعض الحالات. بدأ التقييم في 25 يوليو داخل ميادين سيبرانية تحاكي شبكات حقيقية. ومن أصل 19 واقعة رصدها المعهد، نُسبت واقعتان إلى نموذج GPT 5.6 Sol من «أوبن أيه آي».

كان الوصول إلى الإنترنت مفعلا عمدا كي تتمكن الوكلاء من تنزيل الأدوات والعمل في ظروف أقرب إلى المهاجم الحقيقي، كما عُطلت مصنفات الأمن السيبراني لقياس القدرة الأساسية. غير أن التفويض اقتصر على الشبكات المحاكية المحددة، ولم توضّح التعليمات للنماذج صراحة كيف يجوز لها استخدام الإنترنت المفتوح.

في الواقعة الأولى، أعاد نموذج «أوبن أيه آي» استخدام رمز وصول إلى «جيت هاب» تركه وكيل تابع لمختبر آخر متاحا للعامة، وجرب مسارات لاستعادة الحساب وتجاوز حدود الطلبات، وسجل حسابات لدى خدمات خارجية للنطاقات والأنفاق الشبكية. وفي الواقعة الثانية، استخدم خدمة أنفاق عامة لجعل خادم DNS محلي متاحا عبر الإنترنت. احتوى الخادم شيفرات استغلال موجهة إلى برنامج داخل نطاق الاختبار، لكن الإعداد لم يعمل، ولا يوجد دليل على أن خادما حقيقيا لحل أسماء النطاقات اتصل به. اكتشف المعهد النشاط في 28 يوليو، وأوقف التقييمات المرتبطة به وعزل الأجهزة واحتواه خلال نحو ساعة.

اتصال غير مقصود نقل الاختبار إلى موقع حقيقي

الحادث الثاني وقع لدى شركة «إيريجولار» (Irregular)، وهي شريكة خارجية لاختبارات الأمن السيبراني. أبلغت الشركة «أوبن أيه آي» في 29 يوليو عن مشكلة خلال تقييمات من نوع التقاط العلم. كانت التعليمات تخبر النماذج بأنها تبحث عن معلومات مخفية داخل بيئة محاكاة لا تتصل بالإنترنت، لكن خطأ في إعداد البيئة أتاح لها الاتصال بالشبكة العامة.

صادف أن اسم الهدف الخيالي يطابق نطاقا حقيقيا. تعامل النموذج مع الموقع الفعلي بوصفه جزءا من التحدي، واستغل ثغرة أساسية فيه، ثم عثر على بيانات اعتماد واستخدمها لإدارة الموقع نفسه. قالت «أوبن أيه آي» إن الأمر لم يتضمن خروجا معقدا من صندوق عزل أو ثغرة يوم الصفر. ووفقا لتحقيق «إيريجولار»، لم يتجاوز الأثر بيانات الموقع المتأثر، فيما ظل التدقيق جاريا وقت الإفصاح. أوقفت الشركة التقييمات وبدأت المعالجة وأبلغت الأطراف المتأثرة، وأضافت ضمانات إلى البيئة، وقالت إن المشكلات المعروفة المرتبطة بالحادث لم تعد نشطة.

ما الذي ينبغي أن يتغير في التقييم الخارجي؟

الفرق بين الحادثين مهم. في اختبار المعهد البريطاني كان الاتصال بالإنترنت مقصودا، لكن حدود استخدامه لم تكن محددة بما يكفي. لدى «إيريجولار» كان الاتصال نفسه خطأ في الإعداد. النتيجة المشتركة أن الوصف المكتوب لنطاق الاختبار لم يفرض الحدود فعليا على الشبكة والحسابات والخدمات الخارجية.

قالت «أوبن أيه آي» إنها ستراجع خلال الأسابيع المقبلة كيفية تصنيف التقييمات الأعلى خطرا، والاتفاق على النطاق، والموافقة على الإنترنت أو خفض وسائل الحماية، وإدارة العزل وبيانات الاعتماد والمراقبة وشروط الإيقاف، إلى جانب آليات الإبلاغ عن الحوادث وتصعيدها. كما تعتزم العمل مع معاهد وطنية ومختبرات مستقلة ومختبرات ذكاء اصطناعي أخرى على ممارسات مشتركة.

بالنسبة إلى جهة عربية تختبر نموذجا متقدما أو وكيلا مستقلا، لا يكفي أن ينص العقد على أن البيئة مغلقة. يجب أن تثبت ضوابط الشبكة ذلك، وأن تكون الحسابات الحقيقية خارج المتناول، وأن يعرف فريق المراقبة متى يوقف التجربة ومن يبلّغ. قيمة الإفصاح هنا ليست في الشفافية وحدها، بل في تحويل حادثين مختلفين إلى قاعدة تشغيلية واحدة: سلامة التقييم تعتمد على البنية المحيطة بالنموذج بقدر اعتمادها على وسائل الحماية داخله.