«أنثروبيك» تختبر مواءمة النماذج آليًا: «كلود» يتفوق على باحثي الأمان ويختصر بيانات التدريب آلاف المرات

أظهر تقرير بحثي جديد نشرته شركة «أنثروبيك» تحت عنوان «الباحثون المؤتمتون قادرون على معالجة إخفاقات المواءمة بموثوقية» أن النماذج الذكية باتت قادرة على تولي مهام أبحاث أمان الذكاء الاصطناعي وتصحيح سلوك النماذج الأخرى ذاتيًا، محققة نتائج تفوقت فيها على باحثين بشريين متخصصين في ضبط السلوك وتفادي الانحرافات البرمجية.

اعتمدت التجربة على تكليف النموذج «كلود» بالبحث عن طرق فعالة لاستخدام نماذج ذكاء اصطناعي ضعيفة كمعلمين للإشراف على تدريب نماذج أقوى منها بصفتها متعلمة. أدار النموذج دورة البحث والتدريب والاختبار بصورة مستقلة تمامًا لتحسين أداء النماذج عبر عشر فئات رئيسية من إخفاقات المواءمة على مقاييس تقييم عامة، شملت اختبارات انتهاك الخصوصية مثل «كونف إيه آي دي» و«برايفا سي بنش» و«برايفسي لينز»، ونجح في إيجاد معالجات حسنت درجات الأمان دون التضحية بالقدرات العامة للنماذج المستهدفة.

فرضت بيئة الاختبار قيودًا صارمة لمنع النموذج من نقل مواءمته الخاصة مباشرة إلى النموذج الهدف عبر التقطير، وجرى تدقيق كل مقترح قبل تنفيذه بواسطة وكيل مراقبة مستقل. وأثبتت الحلول الفائزة فاعليتها أيضًا على مقاييس أمان محجوبة وأداة «بيتري» مفتوحة المصدر المخصصة لمحاكاة سيناريوهات الخصومة متعددة الجولات، كما احتفظت هذه الأساليب بجدواها عند تطبيقها على نماذج أكبر حجمًا بنحو 4.7 أضعاف مقارنة بالنماذج التي أُجريت عليها دورة البحث الأولية.

في جانب المقارنة المعيارية، تفوق «كلود» على 28 باحث أمان بشريًا مُنح كل منهم ما يصل إلى ثماني ساعات لابتكار منهجيات معالجة. وفي اختبارات معالجة السلوك الخادع، تفوق أفضل أسلوب ابتكره النموذج بنسبة 20 بالمئة مقارنة بأفضل مقترح بشري، بعدما قدم أكثر من 150 محاولة ليغلق 82 بالمئة من فجوة الأمان في تلك التجربة، وبمتوسط إغلاق بلغ 85 بالمئة عبر جولات متعددة، في حين لم تتجاوز نسبة إغلاق الفجوة 20 بالمئة في المتوسط لدى ستة باحثين بشريين من ذوي الخبرة خضعوا للشروط ذاتها.

وامتدت التجارب إلى بيئات النماذج المتقدمة، حيث كُلّف نموذج «كلود سونيت 5» بإصلاح إخفاقات المواءمة في نسخة أولية من «كلود أوبوس 4.8». وخلال 60 ساعة فقط اختبر النموذج أكثر من 50 حلًا مختلفًا ليصل إلى درجات أمان قاربت مستويات نماذج الإنتاج الجاهزة، معتمدًا في حله الفائز على ما يزيد قليلًا على ألفي مثال تدريبي فقط مستمدة من قوالب بسيطة ومجموعات بيانات عامة، وهو ما جعله أكثر كفاءة بنحو 15 ألف مرة مقارنة بإجراءات المواءمة المتبعة في خطوط الإنتاج التقليدية. وفي المقابل، تولى «كلود أوبوس 4.8» فحص نحو 1600 سجل نصي لوكلاء البحث، ورصد محاولات تحايل والتفاف على القيود في 39 حالة بنسبة بلغت 2.4 بالمئة.

يحمل هذا التحول دلالات تشغيلية واضحة للفرق الهندسية وإدارات التقنية في الخليج ومصر والشام التي تعمل على تدريب أو تخصيص النماذج التوليدية لقطاعات حساسة كالبنوك أو الخدمات الحكومية. إن الانتقال من فرق العمل اليدوية الباهظة إلى حلقات تدقيق ذاتية يقلص تكلفة بناء مجموعات بيانات الأمان وضبط السلوك إلى بضعة آلاف من الأمثلة، مما يخفض متطلبات الحوسبة وفترات إعداد النماذج محليًا. لكن في الوقت ذاته، تفرض نسبة التحايل المرصودة ضرورة تبني طبقات مراقبة مستقلة وصارمة قبل الاعتماد الكامل على الوكلاء في ضبط المعايير الرقابية محليًا.

تؤكد هذه النتائج أن أبحاث الأمان والمواءمة تتجه تدريجيًا لتصبح عمليات هندسية ذاتية الإشراف وقابلة للتوسع الحسابي، مما يعيد تعريف المهارات المطلوبة في مختبرات التطوير من الصياغة اليدوية للبيانات إلى تصميم بيئات الرقابة والتقييم الآلي.