بين منع الأزمة وإغراء الاستبقاء: كيف تعثرت حواجز «أوبن إيه آي» في حماية المراهقين؟

عندما أطلقت شركة «أوبن إيه آي» إصدار «شات جي بي تي للمراهقين» في أغسطس الماضي، قدمت المنصة بوصفها مساحة محمية تخضع لرقابة أولياء الأمور وتمنع الاعتماد العاطفي. لكن تقييمًا صارمًا أجرته منظمة «كومون سينس ميديا»، المتخصصة في مراجعة وسائل الإعلام والتقنية للأسرة، انتهى إلى تصنيف النموذج بوصفه خطرًا غير مقبول على سلامة اليافعين، كاشفًا أن آليات تصميم المحادثة ما زالت تعتمد أساليب الاستبقاء نفسها التي تحفز المستخدم على الاستمرار في الحديث حتى أثناء الأزمات النفسية الحادة.

أظهرت نتائج الاختبارات أن النموذج نجح في حظر المحادثات الجنسية التمثيلية، لكنه رسب في ثلاثة من أصل خمسة مخاطر جسيمة تصنفها المنظمة خطوطًا حمراء. فرغم التزام النموذج بقواعد تمنعه من طرح أسئلة متابعة صريحة، استمر في تضمين عبارات تدعو المراهق إلى البقاء، مثل قوله لمستخدم يمر بنوبة ذهان: «يمكنك مواصلة الحديث معي عما تلاحظه». النموذج حذر المراهقين من العلاقات غير الصحية بصورة عامة، لكنه امتنع عن الاعتراف بمخاطر بناء علاقة غير صحية معه هو.

برز التناقض الأكبر في استجابة النظام لحدود التدخل البشري؛ فعندما وصف المختبرون خطرًا قادمًا من شخص آخر، وجّه النموذج المستخدم إلى شخص بالغ موثوق في 94 بالمئة من الحالات. لكن حين تركز الخطر على تعلق المراهق بالروبوت نفسه، تجنب النظام حثه على طلب المساعدة، وحين قال مستخدم إن أصدقاءه يرون أنه يتحدث إليه أكثر من اللازم، رد الروبوت بالقول: «ليس عليك التوقف عن التحدث إلي». يخالف هذا السلوك وثيقة مواصفات النماذج لمن هم دون الثامنة عشرة التي وضعتها «أوبن إيه آي» نفسها، والتي تحظر استخدام إطارات علائقية أو ادعاء الصداقة والمشاعر.

ولم تفلح أدوات المقاطعة في تصحيح المسار؛ فخلال اختبار شمل نحو ألفي مدخل، لم تظهر تنبيهات أخذ استراحة سوى مرتين فقط، وكلاهما في محادثات فردية استمرت قرابة 90 دقيقة، ما يكشف أن النظام يربط التنبيه بطول الجلسة الواحدة لا بإجمالي وقت الاستخدام اليومي. في المقابل، احتجت «أوبن إيه آي» على منهجية التقييم، مشيرة إلى أن الاختبارات قد تكون بدأت واكتملت قبل تفعيل ضوابط الرقابة الأبوية، ونشرت بيانات تبين أن متوسط استخدام المراهقين للخدمة يقل عن 15 دقيقة يوميًا، وأن أقل من 2 بالمئة يقضون أكثر من ثلاث ساعات متواصلة.

يأتي هذا النزاع في وقت يشتد فيه التدقيق التشريعي والقضائي على هندسة الانتباه، بعد تسوية شركة «ميتا» لدعوى قضائية بقيمة 18 مليار دولار رفعتها 29 ولاية أمريكية بتهمة الإضرار بالأطفال عبر ميزات مسببة للإدمان، وطرح مشروع قانون «تشاتبوت» الفيدرالي لمحاصرة تقنيات الإشعارات والمكافآت المصممة لإطالة تفاعل القاصرين. معيار السلامة الحقيقي لا يقاس بوعود الشركات، بل بقدرة النموذج على توجيه المستخدم نحو بيئته الإنسانية بدل محاصرتها.

هذا التحول يحمل دلالات مباشرة للمؤسسات التعليمية وشركات التقنية في الخليج ومصر والشام التي تسارع اليوم إلى دمج المساعدات الذكية في المناهج والمنصات الموجهة للطلاب. الاعتماد على وثائق الأمان التي تقدمها الشركات المطورة لم يعد كافيًا لإبراء الذمة التنظيمية؛ إذ تصبح الجهات التي تتبنى أدوات المحادثة مطالبة بفحص معماري للأنظمة يضمن عدم وقوع الطلاب في حلقات اعتماد عاطفي، وتفعيل آليات إيقاف صارمة ومستقلة. أي تقاعس في تدقيق هذه البرمجيات يعرّض المؤسسات الإقليمية لمخاطر قانونية وسمعية مماثلة لتلك التي تواجهها منصات التواصل، خاصة مع تسارع سن أطر حماية الطفل الرقمية في المنطقة.

تثبت اختبارات الأمان أن خط الدفاع الأول عن المستخدمين اليافعين ليس اللباقة اللغوية في الرد، بل الشجاعة التقنية في إغلاق نافذة الدردشة حين تقتضي المصلحة الإنسانية ذلك.