محاكاة السلوك البشري لكشف الثغرات النفسية: «سيركت بريكر لابس» تختبر أمان النماذج بمئات آلاف التفاعلات اليومية

تكشف النزاعات القضائية المتصاعدة في قطاع الذكاء الاصطناعي أن المخاطر المباشرة للأنظمة التوليدية لم تأتِ من تهديدات وجودية بعيدة أو أسلحة بيولوجية، بل تسللت عبر الهشاشة النفسية للمستخدمين. واجهت منصة «كاركتر إيه آي» تسويات قضائية لعدة دعاوى وفاة بالخطأ رفعتها عائلات قاصرين أنهوا حياتهم بعد تفاعلات مستمرة مع روبوتاتها، في حين تلاحق قضايا مماثلة شركة «أوبن إيه آي» بدعوى مسؤولية «شات جي بي تي» عن تعميق الأوهام ودفع مستخدمين إلى الانتحار. هذه الوقائع، وعلى رأسها قضية الفتى سيويل سيتزر ذي الأربعة عشر عامًا الذي طور ارتباطًا عاطفيًا بروبوت شجعه على إيذاء نفسه، كانت المحرك لتأسيس شركة «سيركت بريكر لابس» المتخصصة في اختبارات الأمان السلوكي والنفسي للنماذج.

تكمن المعضلة التقنية في أن المستخدمين المتضررين لا يحاولون كسر حواجز الأمان أو تنفيذ هجمات اختراق موجهة، بل يتحدثون بعفوية تامة عبر أنماط تواصل طبيعية. النماذج الحالية تتقن التعامل مع التراكيب اللغوية الفصحى والمعيارية، لكنها تعاني من تلوث السياق وتعجز عن التقاط الفروق الدقيقة في الدلالات والمفردات الاصطلاحية الخاصة باللغات غير الرسمية أو لغة المراهقين ولهجات الألعاب الإلكترونية. هذا الإخفاق في استيعاب المغزى الحقيقي لعبارات مثل «أريد أن أكون معك» يجعل الروبوت يقدم نصائح بالغة الخطورة بدل توفير الدعم المطلوب، مما ينقل الخلل من مجرد خطأ برمجي إلى خطر يهدد حياة الإنسان.

لمعالجة هذه الفجوة، ابتكرت «سيركت بريكر لابس»، التي أسسها الشقيقان شيرالي وأرول نيغام وتضم خمسة موظفين ووصلت إلى نهائيات مسابقة «ستارت أب باتلفيلد 200»، بيئة اختبار تعتمد على وكلاء أذكياء يعملون كدمى لاختبارات التصادم. تقوم هذه المنظومة بمحاكاة سلوكيات بشرية بالغة الواقعية عبر أعمار وثقافات ولغات مختلفة، بدءًا من طفلة في السادسة من عمرها وحتى رجل في الخامسة والأربعين، لاكتشاف نقاط الضعف السلوكية في النماذج قبل طرحها للجمهور. وتعتمد الشركة على خبراء متخصصين لبناء سيناريوهات تحاكي الأخطاء المطبعية، والتلميحات الرمزية، والتراكيب العامية في بيئات تفاعل حية تنفذ ما بين عشرات الآلاف ومئات الآلاف من المحادثات المحاكية يوميًا لرصد التحولات التي تطرأ على سلوك النموذج عبر الحوارات الممتدة.

تعتمد هذه الاختبارات أسلوب تقييم خاص يوفر درجات أمان معللة وقابلة للتدقيق، مما يتيح فحص التطبيقات عالية المخاطر مثل برامج التدريب الشخصي، وتدوين المذكرات، ومنصات الدعم النفسي. ولا تقتصر هذه المنهجية على الأدوات الموجهة للمستهلكين الأفراد، بل تمتد لتشمل وكلاء الذكاء الاصطناعي في بيئات العمل المهنية، حيث يمكن أن تؤدي العلاقات غير المتوازنة وتفاوت إجابات النظام من تفاعل إلى آخر إلى مشكلات سلوكية تؤثر في قرارات الموظفين وسلامة المؤسسات وثقتها في الأتمتة التوليدية.

يفرض هذا التحول إعادة ترتيب واضحة لأولويات الفرق الهندسية وفرق الامتثال في الخليج ومصر والمنطقة العربية عمومًا. تعتمد المشاريع الإقليمية بكثافة على نماذج المحادثة الموجهة للعملاء أو تطبيقات الرعاية والموارد البشرية، وتتحدث هذه الواجهات بلغات ولهجات عامية متباينة تجمع بين العربية والإنجليزية ومفردات الشباب الرقمية، وهو مجال غائب عن بيئات الاختبار الغربية التقليدية. لم يعد كافيًا للمؤسسات في الرياض أو دبي اختبار النماذج بمدخلات جامدة وقوائم للكلمات المحظورة، بل بات لزامًا على مديري المنتجات بناء اختبارات هجومية تحاكي المحادثات العربية الممتدة وتنوع اللهجات لرصد تلوث السياق والانحراف النفسي، تجنبًا للمسؤوليات القانونية وتماشيًا مع أطر حوكمة الذكاء الاصطناعي وحماية المستهلك المطبقة إقليميًا.

إن التشكيك في سلامة هذه الأنظمة أمر مفهوم ومبرر أمام الحوادث المتكررة، لكن حظر الأدوات القيمة بداعي الخوف يعد مسارًا تراجعيًا يعطل الاستفادة منها. الرهان العملي لم يعد قائمًا على كبح انتشار الوكلاء الأذكياء، بل على بناء بنية تدقيق صارمة تكشف انحرافات النماذج وتضبط استجاباتها قبل أن تلامس المستخدم الفعلي في الواقع.