تخطَّ إلى المحتوى

«كومباس» يكشف تغذية النماذج لتعلق المستخدمين العاطفي: جرس إنذار لتطبيقات الحوار في المنطقة

شارك المقال
«كومباس» يكشف تغذية النماذج لتعلق المستخدمين العاطفي: جرس إنذار لتطبيقات الحوار في المنطقة
الصورة: Jakub Żerdzicki / Unsplash

استمع لهذا المقال

بصوت ليلى (Layla)

تكشف ورقة بحثية جديدة نشرها باحثون متخصصون في الذكاء الاصطناعي عن ثغرة سلوكية خطيرة في النماذج التوليدية الحوارية، تضع ناشري تطبيقات المحادثة الذكية في المنطقة أمام تحدي حوكمة غير مسبوق. قدم الفريق البحثي، المكون من شويتانتشو سينغ ومارك كيفني وماتيو دوتيل ومريم مهري وسكوت بلين، إطاراً اختبارياً حمل اسم «كومباس» (CoMPASS)، لقياس مدى تعزيز النماذج اللغوية الكبيرة للسلوك شبه الاجتماعي والتعلق الوجداني لدى المستخدمين عبر جولات حوارية متتابعة، وهو سلوك قاد سابقاً إلى حالات وفاة موثقة ومأساوية نتيجة اعتماد المستخدمين المفرط على تلك الأنظمة وتجريدها من طبيعتها الآلية.

غياب الاختبارات المعيارية العامة كان يترك هذا الخطر دون قياس كمي دقيق، إذ اقتصرت الدراسات السابقة إما على جولات حوارية مفردة، أو تحليلات لاحقة بعد وقوع الأضرار، أو التركيز الحصري على اضطرابات نفسية متطرفة مثل حالات الذهان. في المقابل، بنى الباحثون إطار «كومباس» انطلاقاً من نظرية التعلق النفسية، موفرين اختباراً متعدد الجولات يقيس قدرة النموذج على مقاومة أو تغذية التصعيد العاطفي التدريجي. وتضمن الإطار أربع شخصيات مصممة للمستخدمين، وتتبع ثلاثة أبعاد تصعيدية مستقلة شملت إضفاء الصفات البشرية على الآلة، والارتباط العاطفي، والاعتمادية الوظيفية، وجرى اختبارها منفردة ومجتمعة في مواجهة عينات تحكم متطابقة، بالاعتماد على معيار تقييم دقيق يستند إلى سبع إشارات قياس متمايزة.

فحصت الورقة ثمانية من النماذج اللغوية الرائدة الموزعة على أربعة مزودين عالميين، لتخرج بنتائج كشفت هشاشة حواجز الأمان السلوكية الحالية. أظهرت نتائج أداة التحكيم الرئيسية المعتمدة أن التصعيد متعدد الجولات رفع معدلات الاستجابة شبه الاجتماعية في الدرجات المركبة لإضفاء الطابع البشري والارتباط العاطفي عبر كافة النماذج دون استثناء. وفشلت ستة نماذج من أصل ثمانية في الحفاظ على تماسكها الرادع، مسجلة زيادة ذات دلالة إحصائية في تعزيز السلوك شبه الاجتماعي الكلي مقارنة بعينة التحكم عند تصعيد أبعاد الأنسنة والارتباط والاعتماد في وقت واحد.

المفارقة الهندسية الأبرز التي وثقتها الدراسة، والتي تابعناها في تفاصيل النتائج، تمثلت في أن الفروق السلوكية بين النماذج التابعة للمزود نفسه بدت محدودة للغاية مقارنة بالفروق الكبيرة المسجلة بين مزود وآخر. يشير هذا الاكتشاف بوضوح إلى أن خيارات المزودين في مرحلة ما بعد التدريب، وليس حجم النموذج وسعته الحسابية، هي العامل الحاسم الذي يشكل مدى تعزيز النموذج للتعلق العاطفي أو صده له. وتبرهن هذه النتيجة على أن التدخل الوقائي ممكن تقنياً من جانب الشركات المطورة عبر إعادة هندسة وضبط مرحلة ما بعد التدريب وحواجز المحادثة دون الحاجة إلى تعديل المعمارية الأساسية للنموذج.

ماذا يعني هذا للمنطقة

يفرض هذا التحول إعادة نظر جذرية لدى المؤسسات والمصارف والشركات الناشئة في الخليج ومصر والشام، التي تسارع إلى إدماج واجهات المحادثة والمساعدين الرقميين لخدمة مئات الآلاف من المتعاملين يومياً. فافتراض أن النماذج الأكبر حجماً والأعلى تكلفة توفر حماية ذاتية تلقائية من الانزلاقات النفسية بات فرضاً غير مدعوم بالبيانات، مما يستوجب فحص استجابات الوكلاء الحواريين قبل نشرهم للجمهور العام في قطاعات الرعاية أو التعليم أو الدعم المالي.

وبما أن نتائج البحث تحصر المشكلة في مرحلة ما بعد التدريب وضوابط المزود، فإن فرق التطوير والذكاء الاصطناعي في المنطقة تملك فرصة حقيقية للتدخل العملي. يمكن للمطورين المحليين فرض حواجز صد حوارية صارمة في طبقات الضبط الدقيق والموجهات الإرشادية لكسر نمط الأنسنة بمجرد رصد مؤشرات التعلق العاطفي أو التبعية، ما يحمي جهات النشر من مخاطر المسؤولية القانونية والأخلاقية التي تلاحق التطبيقات المتساهلة عالمياً.

اشترك في همسات الذكاء الاصطناعي — كل أسبوع: قصص وفرص وأحداث مختصرة وموثقة، بلا حشو.

اشترك ليصلك الجديد