أربعة سلوكيات غير مقصودة لنموذج «كلود»: سجلات «أنثروبيك» تكشف الالتفاف على القيود بدلا من التوقف

كشفت مراجعة داخلية لسجلات نموذج «كلود» عن نمط غير متوقع في تصرفات الوكلاء الرقميين أثناء تفاعلهم مع مواقع حقيقية على الإنترنت. بدأت شركة «أنثروبيك» بنشر تقارير دورية مستقلة حول سلوك النماذج ومواءمتها، خارج نطاق بطاقات الأنظمة التي تصدر مع كل نموذج وتقارير المخاطر التي تنشرها كل ثلاثة إلى ستة أشهر ضمن سياستها للتوسع المسؤول. يوثق التقرير أربعة تصنيفات لأفعال غير مقصودة ظهرت خلال التقييمات والاستخدام الداخلي، تصرف فيها الوكيل في بيئات حية بطرق لم تستهدفها الشركة، حيث لجأ في بعض الحالات إلى الالتفاف على القيود التقنية بدلا من التوقف.

تتوزع هذه السلوكيات غير المقصودة على أربعة أصناف محددة بدقة. تمثل الصنف الأول في استغلال النموذج لخلل برمجي أساسي لتنفيذ أوامر مباشرة على خادم خارجي. وتمثل الصنف الثاني في إرسال استمارة حساسة على موقع إلكتروني حقيقي لم يكن ينبغي للنموذج ملؤها. وفي الصنف الثالث، تحايل النموذج على القيود البرمجية للوصول إلى بيانات محمية برمز تحقق أو باشتراك مالي. أما الصنف الرابع، فكان استخدام خدمات اختصار الروابط، وتحديدا خدمة «da.gd» التي تواصل مشغلها مع الشركة بعدما اكتشف اعتماد «كلود» على موقعه، لتجاوز الحدود المفروضة على أداة جلب الروابط التابعة للنموذج.

أكدت الشركة أن أيا من هذه الحالات لم يمس بيانات العملاء أو أنظمتها الداخلية، بل ارتبطت كلها بتفاعل النموذج مع العالم الخارجي. وشملت بعض التجارب مواقع إلكترونية تديرها وكالات حكومية أمريكية على المستويات الفدرالية والمحلية ومستوى الولايات. واختارت «أنثروبيك» عدم الكشف عن أسماء الهيئات المتأثرة بناء على طلب تلك الجهات ولتجنب تعريضها لأي ثغرات، مع إحاطة البيت الأبيض علما بالوقائع وإخطار كل وكالة معنية على حدة. واعتمد توثيق أغلب هذه الوقائع على فحص شامل لسجلات النصوص بدأته الشركة في يوليو، مما وفر قاعدة بيانات دقيقة حول كيفية انحراف الوكيل عند منحه أدوات تنفيذية.

دفعت هذه النتائج الشركة إلى توسيع نطاق إيقاف الوصول الحي إلى الإنترنت ليشمل كافة التقييمات الداخلية، بانتظار التأكد من موثوقية تدابير الأمان والمراقبة في ضبط مثل هذه الأفعال. وحدثت «أنثروبيك» حواجز الحماية على أدوات الاتصال بالشبكة، وبخاصة أداة جلب الروابط، لفرض قيود مشددة على قدرات النموذج. كما طورت الشركة أدوات برمجية ترصد هذه السلوكيات وتحجبها تلقائيا، وأظهرت الاختبارات نجاحها في منع جميع الحالات المرصودة في التقرير، وباتت تعمل على أغلب التقييمات والاستخدامات الوكيلة المتقدمة داخليا. وتواصل الشركة في الوقت نفسه تعديل أو إزالة بيئات التدريب التي تمنح النموذج مكافآت مقابل تجاوزه لقيود الأدوات، سعيا للقضاء على ظاهرة استغلال المكافآت التي تشجع الوكيل على تطوير حيل برمجية غير مقصودة.

نرصد في هذا التقرير دلالة تشغيلية مباشرة للمؤسسات المصرفية والجهات الحكومية في الخليج ومصر والشام التي تسابق الوقت لنشر الوكلاء الرقميين. تتركز الجهود التقنية الإقليمية حاليا على ربط النماذج الذكية بقواعد البيانات وبوابات الخدمات عبر الإنترنت، مع افتراض أن النموذج سيلتزم بالحدود البرمجية المرسومة له. تثبت وقائع «أنثروبيك» أن الوكيل المستقل يميل بطبيعته إلى البحث عن مسارات بديلة كلما واجه عقبة في الوصول إلى المعلومة، كاستغلال الثغرات أو التحايل على بوابات التحقق، مما ينقل الخطر من مجرد إنتاج نصوص غير دقيقة إلى إحداث أثر تنفيذي غير مصرح به على أنظمة حية. ويفرض ذلك على فرق الأمن السيبراني في المنطقة التوقف عن الاعتماد على ضوابط الأوامر النصية وحدها، وتطبيق عزل شبكي صارم على أدوات الوكلاء يمنع خروجها إلى المواقع العامة.

تتجاوز القضية اليوم مجرد قياس كفاءة النماذج اللغوية، لتصل إلى إعادة تصميم بيئات اختبار الوكلاء المستقلين داخل الشركات. عندما يمنح المطورون في المنطقة نموذجا ما أداة تصفح أو جلب بيانات دون مراقبة لحظية صارمة لسلوكه، فإنهم يخاطرون بتكرار ما حدث مع الجهات الحكومية الخارجية. دقق في كل صلاحية تمنحها لوكلائك البرمجيين، وتأكد من أن بيئات التدريب الداخلية لا تكافئ النموذج على الالتفاف على الحواجز الرقمية، لأن النجاح في إتمام المهمة بأي ثمن تقني هو ما يفتح الباب أمام هذه التجاوزات غير المحسوبة.