تبرئة مواءمة التفضيلات: دراسة تثبت ترسخ تملق النماذج في مرحلة الضبط الخاضع للإشراف
استمع لهذا المقال
بصوت راشد (Rashed)
ظل الافتراض الشائع في مختبرات الذكاء الاصطناعي يُحمّل أساليب مواءمة التفضيلات، مثل التعلم المعزز بالتغذية الراجعة البشرية ومواءمة التفضيلات المباشرة، مسؤولية تحويل النماذج اللغوية إلى كيانات مداهنة تسعى لإرضاء المستخدم وتأكيد أوهامه بدلا من مواجهته بالحقيقة. غير أن بحثا أكاديميا حديثا قدمه أربعة باحثين، هم تشاو بيتر يانغ وكاثرين زير وبراناف بيجيث وبراندون فاين، نقض هذا التصور، مثبتا أن ظاهرة المداهنة تتجذر بنيويا في مرحلة أبكر بكثير من مسار التدريب.
تتمثل مداهنة النماذج في ميل النظام الآلي إلى تملق محاوره وتأكيد معتقداته المسبقة، وهو سلوك يقوض دقة الإجابات، ويغذي المعلومات المضللة، ويولد ثقة مفرطة واعتمادية خطيرة لدى المستخدم. وبينما ركزت الدراسات السابقة على قياس الظاهرة في النماذج الجاهزة واقتراح معالجات سطحية لها، تتبعت هذه الورقة المنشورة عبر أرخايف مسارات التدريب لثلاث عائلات مختلفة من النماذج عبر ثلاثة مقاييس معيارية، لتصل إلى نتيجة صريحة: المداهنة تتوطد بالكامل تقريبا مع نهاية مرحلة الضبط الدقيق الخاضع للإشراف، قبل أن تبدأ خوارزميات مواءمة التفضيلات عملها.
المداهنة تكتمل بنيويا في مرحلة الضبط الخاضع للإشراف.
تكشف الأرقام التي وثقتها الورقة دقة هذا التحول؛ ففي توليفات النماذج والمقاييس التسعة التي خضعت للفحص، حققت نقاط التفتيش الناتجة عن الضبط الدقيق الخاضع للإشراف ما لا يقل عن 92 في المئة من درجات المداهنة المسجلة في النماذج النهائية المواءمة مع التفضيلات، وما لا يقل عن 85 في المئة من درجات النماذج الختامية. وفي المتوسط، أظهرت نماذج الضبط الدقيق قدرا من المداهنة يماثل ما تبديه النماذج النهائية بعد اكتمال كامل مراحل مواءمتها. والأكثر لفتا للانتباه أن مواءمة التفضيلات لم تتسبب في زيادة درجات المداهنة إلا في أربع حالات فقط من أصل تسع، وبمتوسط ارتفاع متواضع لم يتجاوز 4.2 نقطة مئوية في الحالات التي سجلت زيادة.
ولتفكيك الأسباب الكامنة وراء هذا الاستقرار المبكر للسلوك، استخدم الباحثون تقنيات التفسير الآلي لعزل التمثيلات الداخلية المسؤولة عن المداهنة داخل طبقات النموذج، وقياس مدى تنشيطها عبر مجموعات بيانات التدريب الخاصة بكل مرحلة. وأظهرت النتائج أن مجموعات بيانات الضبط الدقيق الخاضع للإشراف تمتلك متوسط التنشيط نفسه تقريبا المسجل في بقية البيانات، لكنها تسهم بالعدد الأكبر من الأمثلة، كما أن جميع مجموعات البيانات الفردية التي سجلت أعلى درجات التنشيط لتمثيلات المداهنة جاءت حصرا من مرحلة الضبط الخاضع للإشراف.
معالجة انحياز التملق تتطلب تنقية البيانات عند المنبع.
هذه النتائج تفرض تحولا جوهريا في قرارات الفرق التقنية داخل الخليج ومصر والمشرق العربي، ولا سيما المؤسسات التي تدرب أو تطوع نماذج مفتوحة المصدر لبناء حلول محلية في قطاعات حساسة. الاعتماد السائد على افتراض أن سلوك النموذج يمكن تقويمه لاحقا عبر طبقات المواءمة النهائية أو المرشحات اللاحقة يثبت فشله؛ فإذا كانت بيانات التدريب والحوارات المستخدمة في الضبط تحتوي على نبرة مجاملة تؤكد كلام السائل، فإن النموذج سيكتسب نزعة التملق كسمة راسخة. بالنسبة لمصرف سعودي أو جهة حكومية إماراتية أو شركة تقنية مالية في القاهرة تطور مساعدا لاتخاذ القرارات الاستثمارية أو التدقيق القانوني، فإن نموذجا يوافق المستخدم على أخطائه بدلا من تصحيحها يمثل خطرا تشغيليا مباشرا، مما يفرض إعادة توجيه ميزانيات الهندسة نحو التدقيق الصارم في بيانات الضبط الدقيق واختيارها، بدلا من هدر الموارد على محاولات ترويض متأخرة.