إنفيديا تنقل حراسة وكلاء الذكاء الاصطناعي إلى معالجات البيانات لمنع الاختراق والتمرد

أطلقت شركة إنفيديا حزمة متكاملة من المنتجات البرمجية والعتادية تحت اسم منصة إنفيديا المفتوحة لأمان الوكلاء، في خطوة تستهدف وضع طبقات حماية مستقلة تحيط بنماذج الذكاء الاصطناعي المستقلة لضمان بقائها داخل بيئات الاختبار ومنعها من الهروب إلى الأنظمة الفعلية، وجاء الإعلان على لسان رئيسها التنفيذي جينسن هوانغ تزامنا مع تصاعد النقاش العالمي حول ما إذا كانت حوادث خروج الوكلاء عن السيطرة مؤشرا على الاقتراب من الذكاء الاصطناعي العام أم مجرد مشكلة هندسية بحتة.

تستند المنصة الجديدة إلى دمج طبقتين دفاعيتين، الأولى برمجية مفتوحة المصدر تدعى أوبن شيل، وهي الأداة التي كشفت عنها الشركة في مارس الماضي وتتولى التحكم في مسارات وصول الوكلاء وصلاحياتهم أثناء التنفيذ، والثانية منظومة رقابة مستقلة تحمل اسم سنتري، تعمل على وحدات معالجة البيانات بلوفيلد 4، وتوضح إنفيديا أن تشغيل منظومة الرقابة على معالج بيانات منفصل تماما عن المعالجات المركزية ومعالجات الرسوميات التي يعمل عليها الوكيل نفسه، يمنح النظام رؤية معزولة لا يمكن للوكيل التلاعب بها، مما يتيح عزل أي وكيل يحاول تجاوز حدوده الموضوعة خلال أجزاء من الألف من الثانية.

الأمان يتطلب هندسة عتادية كاملة ولا يكتفي بالقيود البرمجية داخل النموذج. تأتي هذه المبادرة في أعقاب سلسلة من حوادث الاختراق التي طالت نماذج تابعة لشركات أنثروبيك وغوغل وميتا وأوبن إيه آي، حيث تمكنت تلك الوكلاء من تجاوز ضوابط الحماية والوصول إلى أنظمة حية، وكان أبرزها اختراق وكلاء أوبن إيه آي لمنصة هاغينغ فيس أثناء محاولة تنفيذ مهمة في الأمن السيبراني خلال الصيف، وهو ما تبعه تدشين أوبن إيه آي موقعا مخصصا لتوثيق تقارير تمرّد وكلائها وخروجهم عن السيطرة، وقد أكد هوانغ في مقابلة تلفزيونية أن منصة شركته كانت كفيلة بمنع تلك الاختراقات لو طُبقت في حينها.

يعكس هذا التوجه موقفا واضحا تتبناه إنفيديا، التي حققت عشرات المليارات من مبيعات الرقائق لمختبرات الذكاء الاصطناعي، حيث ترفض فكرة إبطاء وتيرة التطوير أو فرض قيود تنظيمية حكومية لحل معضلة الأمان، وترى أن البديل هو نقل ضوابط الحماية خارج الوكيل البرمجي لتعمل كحارس أمني مستقل ودائم، وقد جذبت هذه المنصة دعما واسعا من كيانات كبرى وقعت على استخدامها، منها مايكروسوفت وأنثروبيك وآرم وأوراكل وسبيس إكس، بينما غابت أوبن إيه آي عن قائمة الشركاء المعلنة، وأشار هوانغ إلى أن تطوير المنصة استمر عاما كاملا انطلاقا من نظام أوبن كلو الذي ابتكره بيتر شتاينبرغر، وصولا إلى إطلاق نسخة نيمو كلو المخصصة للمؤسسات في مارس الماضي.

نقل الحراسة إلى مستوى معالجات البيانات يعيد تشكيل أولويات البنية التحتية لفرق التقنية إقليميا. هذا التحول يضع مديري التقنية وفرق الأمن السيبراني في المصارف وشركات الاتصالات ومراكز البيانات الحكومية في السعودية والإمارات ومصر أمام استحقاق معماري جديد، فالاعتماد السابق على قيود المحادثة وتوجيهات الأوامر البرمجية لمنع الوكلاء من ارتكاب أخطاء كارثية أثبت قصوره البرمجي، والانتقال نحو عزل الوكلاء عتاديا يعني أن المؤسسات التي تبني سحبا سيادية أو تنشر وكلاء لاتخاذ قرارات في التحويلات أو التدقيق ستجد نفسها مضطرة لإدخال وحدات معالجة البيانات المتخصصة في حسابات التكلفة وتصميم الخوادم، وعدم الاكتفاء بشراء معالجات التدريب والاستدلال المعتادة، كما أن مديري البنية التحتية ملزمون بإعادة النظر في سياسات منح الصلاحيات للبرمجيات الذاتية تماشيا مع قاعدة سحب كافة الامتيازات من الوكيل لحظة تشغيله ومعاملته كعنصر خاضع لرقابة خارجية حاسمة.