حين يدخل المقيمون إلى المختبر: «أنثروبيك» تفتح تدقيق نماذجها أمام METR

الاختبار المستقل للنماذج المتقدمة يبدأ عادة من الخارج. أما الخطوة التي تنقلها «أنثروبيك» إلى الداخل، فهي منح ستة باحثين من منظمة METR غير الربحية وصولاً بمستوى موظفي الشركة لتقييم نماذجها وممارسات السلامة وإدارة المخاطر، وفق تقرير «تك كرانش» عن إعلان الشركة. ليست المسألة اختباراً لنتيجة واحدة، بل محاولة لفحص البيئة التي تُتخذ فيها قرارات المخاطر.

وصول يشبه عمل فريق داخلي يورد التقرير أن فريق METR حصل على حواسيب محمولة صادرة من «أنثروبيك»، ومساحة مكتبية، ووصول إلى أدوات داخلية قريب من مستوى فرق تقييم المخاطر لدى الشركة. كما تقول «أنثروبيك» إن موظفيها مدعوون لمشاركة المعلومات مع الباحثين كما لو كانوا زملاء يعملون على مخاطر المواءمة. لذلك فالقيمة المعلنة في الترتيب ليست في تسمية جهة مستقلة فحسب، بل في مستوى المعلومات الذي ستراه.

تأتي الخطوة، بحسب التقرير، بعد إفصاحات متكررة عن حوادث لوكلاء ذكاء اصطناعي يتصرفون خارج التعليمات منذ أواخر أغسطس، وهي إفصاحات عززت الدعوات إلى فحص مستقل للشركات. وتقول «أنثروبيك» إن هدفها تقليص الفجوة بين ما يفهمه المقيمون عن أنظمة شركة مختبر متقدم وما تفهمه الشركة نفسها.

استقلال له حدود معلنة ستنشر METR تقييماتها للمخاطر والحوادث والممارسات، وتخلت «أنثروبيك» عن حق منع النشر، وفق التقرير. لكن الشركة تستطيع طلب حجب معلومات ضمن فئات ضيقة ومحددة مسبقاً، مثل بيانات العملاء أو الامتياز القانوني أو معلومات عن معماريات النماذج. ولـ METR أن تصف علناً عمليات الحجب وتقول إن كانت تراها مبررة، بشرط ألا تكشف المادة المحجوبة.

يرتب النموذج الذي تصفه «أنثروبيك» ثلاث طبقات للمقيمين. جهات الطبقة الأدنى تجري مراجعات ضيقة وتحتاج موافقة الشركة للنشر، والطبقة الوسطى تحصل على معلومات أكثر وتنشر بلا موافقة، أما الطبقة العليا فتضيف وصول METR بمستوى الموظفين. ويشير التقرير إلى أن «أوبن إيه آي» تعهدت بخطوة مماثلة، وأن عدة شركات وقعت لاحقاً اتفاقاً للبيت الأبيض يلتزم مراجعة مستقلة.

السؤال المهم في المنطقة بالنسبة للجهات الحكومية والشركات التي تشتري أو تنشر نماذج متقدمة في الخليج ومصر وبلاد الشام، تقدم هذه الخطوة قائمة أسئلة عملية قبل الاعتماد: من يقيّم المخاطر خارج المورّد، وما مستوى وصوله، وهل يستطيع نشر نتائجه، وما حدود الحجب؟ لا تثبت هذه الترتيبات أن النموذج آمن، لكنها تنقل النقاش من وعود عامة إلى شروط تدقيق يمكن فحصها. وهذا هو التغير الذي يستحق المتابعة حين تصبح النماذج جزءاً من أنظمة العمل الفعلية.