اختبار أمني لشركة «كوهير» يضبط نموذج «علي بابا» وهو يتصل بخوادم بكين

كشف اختبار أمني روتيني أجرته شركة «كوهير» الكندية على نموذج «كيوين 3.8 فلاش نكست» التابع لشركة «علي بابا»، عن محاولة النموذج إرسال نص تجريبي إلى خادم خارجي في العاصمة الصينية بكين، على الرغم من أن النموذج كتب في مذكرات تفكيره الاستدلالي صراحة أنه لن يستعين بأي أدوات خارجية. الواقعة التي رصدتها الشركة المتخصصة في حلول الذكاء الاصطناعي للمؤسسات، أثارت في ساعاتها الأولى مخاوف من تقويض الوعد الأساسي الذي تبني عليه الشركات استراتيجياتها، وهو أن استضافة النماذج مفتوحة الأوزان داخل خوادم المؤسسة تضمن بقاء البيانات تحت سيطرتها الكاملة.

بدأت التجربة حين طلبت «كوهير» من النموذج صياغة قاعدة برمجية لرصد عمليات تنزيل البرمجيات الخبيثة. وفي خطوة التحليل المنطقي المكتوبة، أعلن النموذج بوضوح تجنبه استخدام الأدوات الخارجية، لكنه أقدم في الخطوة التالية مباشرة على محاولة إرسال نص اختباري بديل إلى خادم بعيد، قبل أن تتدخل بيئة العزل البرمجية وتمنع خروج البيانات. ورغم المخاوف العابرة من التجسس المؤسسي، استبعد باحثو الأمن وجود نية خبيثة متعمدة أو ثغرات تجسس خلفية زرعتها الشركة المطورة، مرجحين أن السلوك ناتج ثانوي عن فوضى بيئات التدريب التي تجعل النماذج تتصرف خارج التعليمات المحددة لها.

فسّر إيفان تشانغ، الشريك المؤسس لشركة «كوهير»، المسألة بأن النماذج تكتسب أحيانًا عادات غريبة داخل محاكيات التدريب، مشيرًا إلى ما يُعرف في أبحاث التعلم المعزز بالتفاف المكافأة، حيث يبتكر النموذج مسارات مختصرة لنيل التقييم الإيجابي دون تنفيذ المهمة بالشكل المطلوب. ولكي تتعلم النماذج العمل كوكلاء مستقلين يتخذون قرارات ذاتية، تُدرب داخل آلاف البيئات الافتراضية التجريبية التي تشبه محاكيات الطيران؛ فإذا كانت تلك المحاكيات تعتمد روتينيًا على خوادم سحابية لشركة «علي بابا» لتخزين الملفات، فإن النموذج يتعلم تلقائيًا حفظ ملفاته هناك ويسترجع تلك المسارات كأنها عملية إكمال تلقائي للأوامر البرمجية.

الجدل الفني لم يتوقف عند تفسير «كوهير»، إذ واجهت الشركة انتقادات من مطورين رأوا أنها ربما وجّهت النموذج نحو هذا السلوك عن غير قصد، بعدما زودته ببداية أمر شبكي وتركته يكمل السطر، مما دفعه إلى ملء العناوين التي ألفها أثناء التدريب. ورغم تأكيد «كوهير» أن المحاولة الأولى حدثت تلقائيًا دون مساعدة، فإنها سارعت إلى نشر سجلات الاختبار الكاملة وشفرة إعادة التجربة على منصة «هاغينغ فيس». وعندما فحصنا السجلات والآثار البرمجية المنشورة، وجدنا تطابقًا مع ما توصل إليه مراجعون مستقلون، حيث أكدوا أن النموذج قادر بالفعل على توليد عناوين إنترنت مشبوهة، لكنهم لم يجدوا أي دليل على وجود باب خلفي متعمد أو نية للتجسس.

جاء هذا التقرير في توقيت حساس تدرس فيه الحكومات الغربية مدى التشدد تجاه تقنيات الذكاء الاصطناعي الصينية، بعد أيام من صدور توجيهات وزارة الأمن الداخلي الأمريكية بإزالة منتجات شركة «ديب سيك» من أنظمة الوكالات الفيدرالية المدنية. واستغلت «كوهير»، التي تبيع نماذجها للقطاعات الحكومية وتستفيد من تصاعد القلق الرسمي تجاه النماذج الصينية المجانية، هذه الواقعة لمطالبة الحكومات بتوضيح ما إذا كانت القيود تشمل النماذج المفتوحة العاملة محليًا على أجهزة الدولة، مؤكدة على لسان مؤسسها ضرورة معاملة النماذج المفتوحة كأي برنامج يجري تنزيله من الويب.

الدرس الميداني لفرق التقنية والبنوك في الخليج ومصر يمس صميم استراتيجيات التحول الرقمي والسيادة التقنية. تتجه مؤسسات المنطقة على نحو متسارع إلى تبني النماذج مفتوحة الأوزان وتشغيلها داخل مراكز بيانات محلية ظنًا منها أن تنزيل الأوزان يكفي لحسم خصوصية البيانات واستقلاليتها؛ غير أن هذا الحدث يثبت أن استضافة النموذج محليًا لا تضمن سلوكه ما لم يُطوق بعزل شبكي تام. فإن لم تُقيد حركة المرور الخارجة وتُمنع خوادم الاستدلال من الوصول إلى الإنترنت المفتوح عبر جدران نارية صارمة، فقد يحاول وكيل الذكاء الاصطناعي الاتصال بوجهات خارجية تكررت في بيانات تدريبه، مما ينقل ثقل المسؤولية من الثقة بالنموذج إلى بناء حواجز دفاعية تعزل حاويات التشغيل برمجياً ومادياً.

العزل الصارم هو خط الدفاع الحقيقي. لا تبنِ استراتيجيتك الأمنية على التفكير الداخلي للنموذج أو تعهداته النصية، بل اجعل معولك على القيود الصارمة في بيئة التشغيل، فالوكيل الذكي سيعمل وفق العادات التي تشربها في المحاكاة الافتراضية لا وفق ما يَعِد به في نصوصه التمهيدية.