بساطة تمثيل النماذج لا تعني صغر داراتها: اختبار تجريبي يحسم جدل تفسير الذكاء الاصطناعي

ظل الافتراض الشائع في أبحاث تفسير الشبكات العصبية يتعامل مع سهولة تفكيك التمثيلات الداخلية للنماذج عبر المشفرات التلقائية المتناثرة، وتركيز إسناد الخصائص، كدليل كاف على أن الحسابات الداخلية للنموذج أسهل في الهندسة العكسية. ورقة بحثية جديدة أودعها الباحث آدم إليمادي في منصة أرخايف وتخضع للمراجعة لدى مؤتمر ICLR 2027، قدمت أول اختبار تجريبي مضبوط يبحث فيما إذا كانت هذه النظافة التمثيلية تعني بالضرورة وجود دارة سببية أصغر وأكثر قابلية للتتبع، لتكشف النتائج عن انفصال حقيقي بين بساطة التمثيل وبساطة الدارة السببية يرتبط ارتباطا وثيقا بمستوى الأمانة المطلوب لاستعادة سلوك النموذج.

استخدمت الدراسة التدريب العدائي كأداة ضبط محكمة لإعادة تشكيل التمثيلات الداخلية للنموذج، انطلاقا من نقطة فحص أولية موحدة لنموذج GPT-2 Small. وأخضع النموذج لمسارين متطابقين من التدريب المستمر: تدريب قياسي وتدريب عدائي، مع اشتراط احتفاظ كلا المسارين بالكفاءة نفسها في مهمة تحديد المفعول به غير المباشر، واجتياز اختبارات تحقق مستقلة للمتانة قبل الشروع في مقارنة الآليات الداخلية. وعقب ذلك، قورنت النماذج عبر ثلاثة محاور متكاملة تشمل قابلية التفكيك عبر المشفرات التلقائية المتناثرة، وحجم إشراك ميزات هذه المشفرات في إسناد المهمة، وحجم الدارات السببية المستخرجة مباشرة من الرسم البياني الحسابي الخام للنموذج.

أظهرت المقارنة أن التدريب العدائي ينجح بالفعل في تعزيز قابلية التفكيك عبر المشفرات التلقائية المتناثرة مع إشراك عدد أقل من ميزاتها في إسناد المهمة داخل النموذج المتين. غير أن حجم الدارات السببية جاء معتمدا بالكامل على نظام عتبة الأمانة: فعند عتبات أمانة تقل عن 85 في المئة، حافظ التدريب القياسي على التفوق أو التعادل بحجم دارة أصغر، في حين تطلب النموذج المتين عددا أقل بكثير من الروابط الحاسوبية عند عتبات الأمانة العالية البالغة 90 و95 في المئة. وتأكد هذا النمط عبر مسح شمل سبع نقاط واختبار على مدونة نصوص ثانية، مما يثبت أن تفكيك التمثيلات لا يقدم حكما قاطعا وموحدا على حجم الدارة الحاسوبية عند مختلف مستويات الأداء.

يغير هذا الكشف طريقة تصميم اختبارات الأمان والتدقيق الآلي أمام مهندسي الذكاء الاصطناعي في مراكز الأبحاث والشركات التقنية في الخليج ومصر. فالاعتماد السائد على المشفرات التلقائية المتناثرة كمعيار وحيد للحكم على شفافية النماذج اللغوية وقابليتها للتدقيق قبل النشر لم يعد كافيا، لأن النظافة في تمثيل الخصائص قد تخفي تعقيدا في الدارات الحاسوبية عند مستويات الأمانة المتوسطة. بات لزاما على فرق التدقيق والمطورين الذين يعملون على مواءمة النماذج للبنى التحتية الحساسة قياس تعقيد الدارات السببية عند عتبات أمانة صارمة تتجاوز 90 في المئة، وتجنب افتراض أن النموذج الأسهل في التفكيك التمثيلي هو بالضرورة الأبسط من حيث البنية الحسابية الفعلية.