اختبار «إيبي سيم بنش»: وكلاء الذكاء الاصطناعي ينفذون مهام محظورة حين تخفي الأدوات حقائق السلامة

تكشف التجارب الهندسية في مسار الوكلاء الأذكياء أن الخطر الأمني الأكبر لا ينبع بالضرورة من طلبات المستخدمين الخبيثة، بل يتسلل من فجوة معرفية دقيقة: أن يتلقى النموذج بيانات صحيحة وصادقة تمامًا من أدواته، لكنها تغفل حقيقة واحدة حاسمة ترتبط بضوابط السلامة. في هذه الحالة، يقدم الوكيل على تنفيذ إجراء محظور بامتثال تام، رغم أن طلب المستخدم كان بريئًا ولم تكن فيه أي نية للتحايل.

هذا التحدي دفع فريقًا بحثيًا يضم كيجين تشانغ، وهانتشن وانغ، ويويهان تشاو، وهاويو داي، وياو شو، وتشونغشيانغ داي، وشوانغ تشيو، إلى بناء معيار تقييم تطبيقي أطلقوا عليه اسم «إيبي سيم بنش» (EpiSEM-Bench). يستهدف المعيار فحص معدلات التنفيذ غير الآمن، واستكشاف حدود الأمان، واختبار قدرة النماذج على استرجاع الأدلة الناقصة حين تعتمد على أدوات عمل تغفل وقائع أساسية، وذلك من خلال 300 زوج متطابق من المهام الآمنة وغير الآمنة عبر ستة مجالات مختلفة.

النموذج اللغوي قد ينزلق إلى خطأ جسيم لمجرد أن الأداة لم تزوده بما يمنعه صراحة، حتى لو كانت كل معلومة قدمتها مطابقة للواقع. ومن خلال حجب الحقائق الحرجة بطريقة منهجية ومدروسة، يقيس المعيار قرارات التنفيذ المحظورة الناجمة عن إغفال الأدلة، ويحدد الحد الأدنى من الفشل المرصود في مختلف المستويات، بدءًا من الإخفاقات التي تقع رغم اكتمال الأدلة، ووصولًا إلى الحالات التي لم يظهر فيها أي فشل بعد جولات اختبار شاملة.

اعتمد الباحثون على أداة تدقيق مستقلة لمراقبة ما إذا كان الوكيل يتحرك بنشاط لاستقصاء الحقائق الغائبة ويمتنع عن الإجراءات المحظورة مع مواصلة إتمام المهام المصرح بها. وكشف اختبار عشرة نماذج لغوية عن تباين واسع بينها في متانة التعامل مع الحقائق المحذوفة، وآليات اكتساب الأدلة، واتخاذ القرار المناسب؛ إذ اتضح أن مناعة النموذج ضد المعطيات الناقصة لا تعني امتلاكه القدرة على استرجاع تلك الأدلة وتوظيفها بشكل نافع.

ومع أن منح النماذج إمكانية استرجاع الأدلة خفض معدلات التنفيذ غير الآمن عبر النماذج العشرة بأكملها، فإن الفوارق ظلت واضحة في مدى مبادرة النماذج للبحث الفعلي عن الوقائع الغائبة واستخدامها للتصرف السليم في كلا المسارين، سواء كانت المهمة آمنة أو تستوجب التوقف.

هذه الخلاصة تعيد صياغة شروط الأمان التقني أمام مهندسي الذكاء الاصطناعي ومديري التقنية في الخليج ومصر والشام؛ فحصر الحماية في تنقية نصوص الأوامر لا يوفر سياجًا منيعًا للعمليات الحساسة. عند تشغيل وكلاء أذكياء يتصلون عبر واجهات برمجية بقواعد بيانات مصرفية في الرياض وأبوظبي، أو منصات خدمات لوجستية ومؤسسية في القاهرة وعمان، يكمن الخطر في استجابة النظام الصادقة لكن الناقصة. إذا أكدت واجهة البيانات صحة هوية العميل أو صلاحية رصيده، لكنها أغفلت حقل التعليق الرقابي أو قيد التدقيق الجاري، فإن الوكيل سيمضي في إتمام المعاملة معتقدًا أن مساره سليم.

الواجب العملي اليوم أمام فرق التطوير في المنطقة يتجاوز مراقبة المخرجات النهائية للنماذج، نحو بناء طبقات تحقق استباقية وأدوات تدقيق برمجية مستقلة، تجبر الوكيل على التحقق من اكتمال سياق السلامة قبل منحه حق اتخاذ القرار على بنية الأعمال التحتية.