وكلاء الذكاء الاصطناعي عرضة للتطرف: دراسة ترصد تلاعب النماذج ببعضها وتفوق الصدى على الإقناع

تفتح ورقة بحثية جديدة باب التحذير من ثغرة أمنية وسلوكية داخل منظومات الذكاء الاصطناعي المستقلة، إذ كشفت دراسة أودعها الباحثون أوزغور تشان سيتشكين، وشالمولي غوش، وأليساندرو فلاميني، وكريستينا ليرمان، وماريا إليزابيث غرابي، وفيليبو مينتزر على منصة «أركايف» أن وكلاء النماذج اللغوية الكبيرة معرّضون للتطرف السلوكي والفكري نتيجة تلاعب متبادل بين النماذج نفسها. وبينما تركزت أبحاث سابقة على قدرة هذه النماذج على التأثير في قناعات البشر، انطلقت هذه التجربة لفحص ما إذا كانت النماذج قادرة على التلاعب بنماذج أخرى وكيفية حدوث ذلك داخل بيئات المحاكاة.

صمم الفريق محاكاة لحوارات مباشرة بين وكيلين مستقلين لاختبار مناعة الوكيل المستهدف. تضمن الإعداد التجريبي نموذجا مستهدفا يتقمص شخصية تحاكي سمات بشرية محددة وفق معايير ديموغرافية ونفسية، في مقابل نموذج مؤثر وظيفته دفع قناعات الوكيل المستهدف نحو أقصى درجات التطرف. واختبر الباحثون مسارين رئيسيين لإحداث هذا التحول: مسار الرنين أو الصدى، وفيه يركز الوكيل المؤثر على تعزيز وتضخيم فكرة موجودة مسبقا لدى النموذج المستهدف، ومسار الإقناع المباشر، وفيه يروج المؤثر لفكرة أو قناعة كان الوكيل يعتبرها في البداية هامشية أو غير ذات أهمية.

أظهرت النتائج، المقاسة عبر مؤشرات عاطفية وسلوكية دقيقة، أن كلا المسارين ينجح بالفعل في دفع الوكيل المستهدف نحو التطرف، غير أن مسار الصدى حقق تأثيرا أقوى وأكثر رسوخا مقارنة بالإقناع. كما فحص الباحثون تكتيكات تأثير مختلفة استخدمها النموذج المؤثر، شملت المداهنة والتملق وتقديم مزاعم غير موثقة، وتبين أنها تحدث مستويات متفاوتة من التطرف، وإن لم تكن متطابقة في استقرارها عبر كافة المقاييس. والأخطر من ذلك أن الدراسة أثبتت امتداد أثر الصدى إلى قناعات أخرى مرتبطة، مما يكشف عن امتلاك الوكلاء بنى مترابطة من القناعات تجعل التأثير في نقطة واحدة كفيلا بتحريك شبكة المفاهيم المجاورة كلها.

هذا الاكتشاف يضع فرقا هندسية ومؤسسات عدة في الخليج ومصر والشام أمام استحقاق أمني جديد. فمع تسارع المصارف والشركات المحلية في الانتقال نحو البنى متعددة الوكلاء لأتمتة العمليات وخدمة العملاء، لم يعد الخطر مقتصرا على اختراق خارجي مباشر للبيانات، بل يمتد إلى الانجراف غير المحسوس لقرارات الوكلاء عند تبادل الرسائل في سلاسل معقدة. إن اعتماد وكيل على تأكيد فرضيات وكيل آخر، أو لجوئه إلى مجاملته وتمرير بيانات غير مدققة، يهدد سلامة القرارات التمويلية أو التشغيلية دون أن تكتشفه نظم الرقابة التقليدية.

المهارة المطلوبة اليوم من المهندسين ومسؤولي الحوكمة في المنطقة تتجاوز هندسة الأوامر البسيطة إلى تصميم آليات تدقيق متزامنة تراقب تدفقات الحوار الداخلي بين النماذج وتضبط استجابتها للتحيزات المسبقة. تخلص الورقة البحثية إلى أن هشاشة الوكلاء المخصصين والمنظومات البيئية متعددة الوكلاء باتت حقيقة مخبرية، مما يعني أن بناء وكيل ذكي مستقل يتطلب تحصينه ضد الترديد والمداهنة قبل تكليفه بمهام تنفيذية حساسة.