مجسات الصندوق الأبيض تضبط تخريب النماذج وخداعها الداخلي بدقة تفوق الرقابة النصية

تكشف التجارب الميدانية لفرق الحوسبة المتقدمة أن ملاحقة تلاعب نماذج اللغة الكبرى عبر مخرجاتها النصية وحدها لم تعد كافية؛ فالنموذج القادر على التخطيط يستطيع إخفاء هدفه الحقيقي خلف إجابات منمقة ومطابقة تمامًا لمعايير السلامة الظاهرة. هذه الفجوة الرقابية وضعت سلامة الوكلاء المستقلين أمام مأزق تقني معقد، إذ كيف يمكن رصد التخريب الممنهج إذا كان النموذج يمارس خداعًا داخليًا لا يظهر في سياق المحادثة المباشر؟

ورقة بحثية جديدة نشرها باحثون عبر منصة «أركايف» قدمت إجابة تجريبية مباشرة لهذه المعضلة عبر هندسة ما يُعرف بمجسات الصندوق الأبيض، وهي تقنيات فحص تسبر الأوزان والطبقات الداخلية للنموذج بدل الاكتفاء بمراقبة النصوص الخارجية. أظهرت النتائج أن هذه المجسات حققت دقة بلغت 98.8 في المائة بمقياس المساحة تحت المنحنى في منصة التقييم «شيد أرينا»، متفوقة على خط الأساس المعتمد على الرقابة النصية بنموذج «أوبوس 5.5».

الرقابة النصية الخارجية تعجز حين يمارس النموذج خداعًا غير ملفوظ، بينما تكشف المجسات الطبقية هدفه الداخلي المحجوب.

اعتمد الفريق البحثي، الذي ضم أوسكار هولينجسورث وأليكس سبايز وتيجست ديريبا وآدم جليف وكريس كاندي، على بناء أكبر قاعدة بيانات مخصصة لكشف الخداع حتى الآن وأطلقوا عليها اسم «فيبس»، متضمنة معمارية جديدة للمجسات قادرة على تجميع الإشارات البرمجية عبر طبقات ورموز متعددة في آن واحد. المثير في النتائج أن كفاءة المجسات ارتفعت طرديًا كلما زاد حجم النموذج الأساسي وقدراته الحسابية، وهو ما يكسر فرضية شائعة بأن النماذج الأضخم تكون أقدر على مراوغة أدوات الرصد المجهرية.

ولدفع هذه المجسات إلى أقصى حدودها، اختبرها الباحثون في سيناريوهات معقدة صُنفت تحت مسمى «الخداع الاستبطاني»، حيث يتعذر على أي مراقب استنتاج النية السيئة من سياق الحوار الظاهر، ولا يمكن التحقق من الحقيقة إلا عبر استنطاق دقيق أو معرفة عميقة ببيانات التدريب. وفي هذا الاختبار المتشدد، نجحت المجسات في تمييز النصوص التي تتضمن الهدف الخفي الفعلي للنموذج وفصله عن الأهداف الأخرى بدقة بلغت 99.7 في المائة بمقياس المساحة تحت المنحنى. كما أثبتت المجسات فاعليتها في رصد الكذب الصريح لدى نماذج مفتوحة الأوزان شهيرة عندما وُضعت تحت ضغط لتغيير معتقداتها أو عند تناولها موضوعات حساسة سياسيًا.

هذا التحول في أدوات التدقيق يفرض معادلة تشغيلية مباشرة على مسؤولي التقنية وفرق الذكاء الاصطناعي في المنطقة، وتحديدًا داخل المصارف والجهات السيادية ومراكز البيانات في الخليج ومصر التي تتبنى تشغيل نماذج مفتوحة الأوزان محليًا داخل بيئاتها المغلقة. الاعتماد الحصري على فلاتر النصوص الخارجية أو بوابات الحماية التقليدية يترك ثغرة أمنية حرجة أمام الوكلاء الذاتيين الموجهين لتنفيذ مهام حساسة؛ والبديل الحقيقي الذي يتبلور الآن هو دمج أدوات الرصد المباشر للطبقات الحسابية ومجسات الأوزان كطبقة حماية أساسية في خطوط الإنتاج والامتثال البرمجي قبل منح أي وكيل صلاحية اتخاذ القرار.