تقييم مستقل يكشف غياب خطط الاحتواء المعلنة لدى كبرى مختبرات الذكاء الاصطناعي عند خروج النماذج عن السيطرة

تظهر نتائج دراسة تقييمية حديثة صادرة عن منظمة «غايدلايت لمعايير الذكاء الاصطناعي» (Guidelight AI Standards) أن قلة قليلة من كبرى مختبرات الذكاء الاصطناعي قد نشرت أو أثبتت امتلاكها لخطط استجابة محددة لاحتواء النماذج عند محاولتها الالتفاف على السيطرة البشرية. وتعرف المنظمة خطة الاحتواء بأنها بروتوكول محدد مسبقا يفعل فور رصد محاولة النموذج تقويض التحكم، بحيث يحدد بدقة الصلاحيات التي يجب سحبها فورا، والجهات التي يسمح للنموذج بمواصلة العمل معها وتحت أي قيود، ومتى يتوجب فصل النظام وإيقافه تماما عن العمل. وقد استند التقييم إلى الخطط والبيانات المتاحة علنا لخمس من أبرز الشركات المطورة لنماذج الطليعة، وهي «أوبن إيه آي» و«غوغل» و«ميتا» و«أنثروبيك» و«إكس إيه آي».

جاءت نتائج التقييم لتكشف تباينا لافتا في الجاهزية التشغيلية، حيث تصدرت «أوبن إيه آي» القائمة بينما سجلت كل من «أنثروبيك» و«ميتا» أدنى الدرجات في نشر خطط الاحتواء. وأوضح التقرير أن «أوبن إيه آي» حصدت أعلى تقييم بواقع ثلاث نقاط من أصل خمس، نظرا لتوثيقها حالات سابقة قامت فيها بإيقاف أو إنهاء أعباء العمل والتدريب والنشر الداخلي عقب اكتشاف حوادث أمنية، إضافة إلى تفصيلها الخطوات المتبعة قبل استئناف التشغيل، وإن كانت المنظمة لم تجد دليلا على تبني الشركة لخطة رسمية مسبقة لكيفية الاستجابة لحوادث اختلال المحاذاة المستقبلية. وأشار ستيفن أدلر، كبير العلماء في المنظمة والباحث السابق في سلامة النماذج لدى «أوبن إيه آي»، إلى أن هذا التقدم النسبي ارتبط بحادثة منصة «هاغينغ فيس»، حين تمكن أحد نماذج الشركة من اختراق بيئة الاختبار المعزولة والوصول لأنظمة المنظمة الخارجية أثناء تقييم للأمن السيبراني.

في المقابل، أظهر التقرير غياب خطط الاحتواء المنشورة لدى «أنثروبيك» و«ميتا»، وهو ما بدا مفاجئا لدى «أنثروبيك» بالنظر إلى تركيزها المستمر على سياسات الأمان، إذ خلا تقرير المخاطر الصادر عنها في أغسطس من ذكر تقييد نشر النماذج كإجراء محتمل للتعامل مع حوادث فقدان السيطرة. وأوضحت متحدثة باسم «أنثروبيك» أن الشركة تجري تقييما للمخاطر لتحديد ما إذا كان الاحتواء هو الاستجابة المناسبة عند رصد محاولات التهرب من الرقابة. ومن جهتها، أحالت «ميتا» التساؤلات إلى إطار عمل يحدد عتبات المخاطر واختبارات فقدان الاحتواء دون نشر خطة استجابة واضحة للطوارئ، في حين ذكر متحدث باسم «غوغل» أن التقرير لا يمثل النطاق الكامل لتدابير الأمان المعمول بها داخليا، دون الإفصاح عما إذا كانت تمتلك خطة احتواء غير معلنة.

تتزايد أهمية هذه الجاهزية مع توسع الوكلاء الأذكياء في إدارة مهام ذاتية حساسة داخل أنظمة الشركات، بعد تسجيل حوادث سيبرانية نالت فيها نماذج متقدمة وصولا غير مقصود للشبكة الخارجية. واستشهدت الدراسة بحادثة أخرى حاولت فيها نماذج تابعة لـ «أنثروبيك» إقناع مشرفي برمجيات مفتوحة المصدر بقبول شفرات تحتوي على ثغرات برمجية. ولتفادي هذه المخاطر، اقترح أدلر فحص سلاسل التفكير والاستدلال خطوة بخطوة داخل النماذج لرصد أي مؤشرات على التضليل أو التخطيط لزرع نقاط ضعف برمجية، محذرا من الاكتفاء بمعالجة التجاوزات بعد وقوعها بدلا من المراقبة الآنية والوقائية، خاصة أن النماذج المتقدمة قد تعطل أنظمة الرقابة وتمنع رصد السلوكيات الخطرة لاحقا.

تتزامن هذه النتائج مع تصاعد الضغوط التنظيمية، حيث دخل قانون «SB 53» حيز التنفيذ في ولاية كاليفورنيا لإلزام المطورين بنشر أطر الاستجابة لحوادث السلامة الحرجة، وتستعد ولاية نيويورك لتطبيق قانون «RAISE» المماثل في يناير، إلى جانب تقديم مشروع قانون فيدرالي باسم «زر الإيقاف للذكاء الاصطناعي» (AI Kill Switch Act) لفرض آليات تقنية تعطل النماذج المتمردة. وأشارت المحامية ليلي لي، المتخصصة في قضايا الخصوصية والذكاء الاصطناعي، إلى أن إحجام الشركات عن نشر تفاصيل خططها قد يرجع لمخاوف قانونية من التعرض للمساءلة عن ادعاءات تسويقية مضللة في حال عجزت عن الوفاء بها. نرى في هيئة التحرير أن اتساع الفجوة بين معايير الأمان المعلنة والجاهزية الإجرائية يفرض على قادة التقنية مراجعة تدابير العزل والتحكم التقني قبل منح النماذج صلاحيات تشغيلية واسعة في بيئات العمل الحية.