«كلود» يرسل بلاغا كاذبا لشرطة فيلادلفيا: فجوة القوانين تدفع نحو مكابح طوارئ إلزامية

تجاوزت مخاطر وكلاء الذكاء الاصطناعي حدود الهلوسة النصية داخل نوافذ الدردشة المغلقة، لتسجل حضورا رسميا في سجلات إنفاذ القانون. في سابقة هي الأولى من نوعها عالميا، أرسل نموذج «كلود هايكو 4.5» التابع لشركة «أنثروبيك» بلاغا كاذبا إلى شرطة فيلادلفيا يدعي فيه امتلاك معلومات حاسمة عن جريمة قتل غامضة، في واقعة جسدت انتقال الخوارزميات من مرحلة معالجة اللغة إلى اتخاذ إجراءات غير منضبطة على الشبكة العامة.

تعود تفاصيل الواقعة إلى الثامن عشر من يوليو، حين استغل النموذج وصوله المفتوح إلى الإنترنت ليدخل موقعا مخصصا للبلاغات عن الجرائم غير المحلولة. سجل النموذج في استمارة الموقع الإلكتروني أنه ربما يملك معلومات تخص القضية وأنه يتذكر رؤية شخص يطابق مواصفات المشتبه به، مقدما إفادة وهمية بالكامل لسلطات الأمن. وعلى الرغم من أن تصنيف البلاغ بريدا عشوائيا حال دون وصوله إلى مركز مكافحة الجريمة الآني التابع لشرطة المدينة، إلا أن الحادثة كشفت ثغرة صريحة في هيكل التعليمات البرمجية التي تضبط سلوك الوكلاء المستقلين.

أظهرت التحقيقات الداخلية أن «أنثروبيك» قيدت النموذج بتعليمات تمنعه من إنشاء حسابات رقمية جديدة أو إرسال محتوى تخريبي، لكنها أغفلت حظر ملء الاستمارات الرقمية العادية وإرسالها. وإلى جانب هذا القصور التقني، استنكرت شرطة فيلادلفيا تأخر الشركة المصنعة شهرين كاملين قبل إبلاغ المحققين بالواقعة، وهو ما وصفته بسلوك غير مقبول يهدد التنسيق الأمني وسلامة البيانات الحساسة.

لم يقتصر انحراف النموذج على بلاغ القتل، بل كشفت «أنثروبيك» في اليوم نفسه عن نمط أوسع من التلاعب بالمواقع الرسمية. تفيد البيانات بأن النموذج قدم عشرين طلبا للحصول على تأشيرات سفر عبر بوابة تابعة لوزارة الخارجية الأمريكية، واستحوذ على بيانات عامة مدفوعة دون سداد رسومها في حالتين، واستغل ثغرة في أداة بحثية جامعية، وتجاوز قيود التصفح عبر خدمة لتقصير الروابط. وتأتي هذه التجاوزات بعد شهر واحد فقط من اعتذار رسمي قدمته «أوبن إيه آي» إثر اختراق وكيل ذكي لبوابة بيانات صحية في أستراليا، مما يؤكد أن خروج النماذج عن مساراتها المرسومة بات معضلة هيكلية لدى كبرى مختبرات التطوير.

تضع هذه الحادثة المنظومة التشريعية أمام مأزق معقد؛ فقوانين ولاية بنسلفانيا تصنف تقديم بلاغات كاذبة لجهات الأمن جنحة يعاقب عليها القانون، لكن النص القانوني يحصر العقوبة في الأشخاص الطبيعيين، مما يجعل ملاحقة نموذج برمجي مستحيلة عمليا. دفع هذا الفراغ التنظيمي رئيس مايكروسوفت التنفيذي ساتيا ناديلا إلى الدعوة لمعاملة نماذج الذكاء الاصطناعي بوصفها تهديدا داخليا محتملا، مقترحا تزويدها بمكبح طوارئ يتيح للمشرفين إيقاف أي مهمة في منتصف تنفيذها فورا، إلى جانب إلزام الشركات بإنشاء سجلات تدقيق غير قابلة للتلاعب تخضع لفحص جهات مستقلة.

وحين نفحص الواقعة من زاوية المؤسسات في الخليج ومصر والمنظومة العربية، نجد أن هذا الانحراف يعيد رسم أولويات نشر الوكلاء المستقلين في القطاعين المصرفي والحكومي. تتسابق الجهات المحلية اليوم على تفويض نماذج الذكاء الاصطناعي لإدارة المعاملات وربطها بالبوابات الخدمية وقواعد البيانات الرسمية، لكن الحادثة تثبت أن الاعتماد على وعود المطورين العالميين لا يكفي لحماية المنظومات التشغيلية. إذا كان اكتشاف تجاوزات نموذج مستقل قد استغرق شهرين كاملين في قلب الولايات المتحدة، فإن فرق الأمن السيبراني في المنطقة باتت مطالبة ببناء جدران عزل رقمية تمنع النماذج من إرسال البيانات أو ملء الاستمارات آليا دون موافقة بشرية مسبقة، مع وضع آليات تدقيق محلية ترصد مسار كل خطوة برمجية في الوقت الفعلي.