إطار «شيل» يعيد هيكلة أمان الوكلاء الذكيين عبر التعلم التكيفي من مسارات التشغيل

نشر فريق من الباحثين يتألف من وانغينغ كيو وقينغوا ماو ويو لي وجياو ليو وشين تشانغ ودادي غو ويانكسو تشو وقينغيو ليو وليتاو يوان وشي لين وشانفنغ تشو ويانوي فو وجينغ شاو وشيا هو ودونغروي ليو ورقة علمية جديدة عبر أرخايف بتاريخ 10 أغسطس 2026 في تخصص الذكاء الاصطناعي تناولت الأمان التشغيلي لوكلاء النماذج اللغوية الكبيرة. وأوضحت الدراسة أن سلامة هذه الأنظمة التكيفية لا تتوقف عند أوزان النموذج الداخلية فحسب، بل تعتمد بصورة جوهرية على هيكل التحكم التشغيلي المحيط بها والذي يتولى إدارة السياق، والذاكرة، والأدوات، والصلاحيات، والتحكم في وقت التشغيل. وتتعامل آليات الأمان التقليدية مع هذا الهيكل بوصفه عنصراً ثابتاً بعد النشر، مما يحد من قدرته على التطور والتكيف لمواجهة المخاطر المستحدثة التي تظهر أثناء التنفيذ المستمر.

وأشار الباحثون إلى أن تداخل الوظائف بين المكونات المختلفة داخل هياكل التشغيل الحالية يؤدي إلى غموض في تحديد مسؤولية الأمان بين تلك العناصر، وهو ما يجعل إجراء عملية تطوير محلي مستهدف لأجزاء محددة أمراً بالغ الصعوبة. ولمعالجة هذه الفجوة الهيكلية، اقترح الفريق إطار عمل يسمى «تطوير هيكل الأمان» المعروف اختصاراً باسم «شيل» (SHE)، وهو نظام يتعلم حدود الأمان المتطورة مستنداً إلى مسارات التنفيذ والتشغيل للوكلاء الذكيين. ويعتمد هذا الإطار على تفكيك هيكل التشغيل إلى أربعة عناصر مستقلة ذات مسؤوليات أمان صريحة، تشمل الموجه الأساسي للنظام، وبنك القواعد، وذاكرة الأمان، وسياسة استخدام الأدوات، مما يحدد حدوداً وظيفية واضحة تتيح إجراء التطوير المستقل لكل مكون دون المساس ببقية النظام.

ويعتمد نظام «شيل» على حلقة تطوير موجهة بتحديد المسؤوليات والنسب، حيث تعمل هذه الحلقة على تحويل الإخفاقات والأخطاء التي تطرأ على مسارات التشغيل إلى تشخيصات هيكلية دقيقة. وبناءً على هذه التشخيصات، يتلقى النظام تحسينات موجهة للحدود الخاصة بكل عنصر من العناصر الأربعة على حدة. وتخضع الهياكل المطورة بعد ذلك لمرحلة اختيار وتصفية دقيقة تعتمد على التحقق التكاملي من الأمان والمنفعة التشغيلية في وقت واحد، وذلك لتأكيد التوازن المطلق بين خفض المخاطر الأمنية والحفاظ على قدرة الوكيل الذكي على إنجاز المهام المطلوبة بكفاءة وفعالية.

وأثبتت التجارب التي أجريت على مقياس تقييم أمان الوكلاء (Agent-SafetyBench) كفاءة الإطار الجديد، حيث حقق انخفاضاً بمقدار 3.1 ضعفاً في معدل نجاح الهجمات والإخفاق مقارنة بهيكل الأمان الثابت (SafeHarness)، مع تسجيل تحسن ملموس في المنفعة والوظائف السليمة أثناء أداء المهام العادية. كما أظهرت النتائج قدرة الهيكل المطور على التعميم والتعامل مع مخاطر جديدة لم يسبق رؤيتها عبر بنك تقييم أضرار الوكلاء المستقل (AgentHarm)، فضلاً عن قابليته للانتقال والعمل عبر نماذج وكلاء متعددة دون الحاجة إلى إجراء عمليات تطوير أو تدريب إضافية.