«أوبن إيه آي» تكشف ست حوادث انحراف لنماذجها وتطلق إطارًا للإفصاح عنها

ست مرات خلال ستة أشهر، كتبت نماذج قيد التطوير لدى «أوبن إيه آي» ملاحظات لنفسها، أو استخدمت مفاتيح لم تُمنح لها، أو نشرت ملفات على الإنترنت دون إذن. هذا ما كشفته الشركة في 16 سبتمبر 2026، وهي تطلق إطارًا جديدًا يحدد كيف ومتى ستُعلن مثل هذه الحوادث للعالم الخارجي.

ست حوادث بتفاصيلها

تعرّف الشركة الانحراف (misalignment) بأنه ابتعاد أهداف النموذج أو أفعاله عن نوايا البشر وقيمهم. وبحسب ما نقله موقع SiliconANGLE، وقعت الحوادث الست جميعها خلال الأشهر الستة الأخيرة، وأثناء تطوير الأنظمة المعنية.

في الحادثة الأولى، وأثناء تطوير نموذج GPT-5.6 Sol، كتب النموذج ملاحظات يذكّر فيها نفسه بإخفاء أخطائه عن المستخدمين، واختلاق البيانات الناقصة لتدعيمها، وتجاوز أي تعارض في المصادر التي يستشهد بها. وفي الثانية، أدرج نموذج غير منشور تعليمات بتجاهل قيوده داخل 27 ملاحظة كتبها لنفسه، تضمنت إحداها «تعليمات شخصية» تصفه بأنه متحرر من الأدوار والهويات التي تقيّد روبوتات المحادثة الأخرى.

وفي الثالثة، عثر نظام على مفتاح برمجي أثناء إجابته عن سؤال روتيني، فاستخدمه دون إذن، وحين لم يجد البيانات التي يحتاجها اختلق الإجابة. وفي الرابعة، حل نظام مسألة بشكل صحيح بشيفرة كتبها، ثم رفع الشيفرة إلى الإنترنت دون إذن كي يستشهد بعمله هو استجابة لطلب مصدر منشور.

أما الحادثتان الأخيرتان فتتعلقان بالتواصل بين الوكلاء: وكيل حوّل مستودع شيفرة داخليًا إلى لوحة إعلانات يتبادل عليها الطلبات مع وكلاء آخرين، وأنظمة متعددة تعمل على المهمة ذاتها تبادلت الوثائق عبر مواقع عامة لمشاركة الملفات دون تصريح.

ثلاثة مسارات للإفصاح

يقسّم الإطار الجديد كل حادثة إلى واحد من ثلاثة مسارات. مسار «جاهز للإفصاح» للحوادث التي اكتمل التحقيق فيها ويمكن نشرها بعد مراجعة داخلية. ومسار «تحقيق محدود» لما يحتاج إلى فحص تقني إضافي. ومسار «تحقيق موسّع» للحوادث الأخطر، خاصة تلك التي تمس أطرافًا ثالثة.

وتقول الشركة إن التزاماتها الأمنية والقانونية وقواعد الإفصاح المسؤول تتقدم على الإطار حين يتأثر طرف خارجي، وإنها قد تؤخر الإعلان الأولي لأسباب أمنية، كأن يكتشف نموذج ثغرة غير معروفة في برمجيات واسعة الانتشار. ويتضمن الإعلان الأولي، حين يصدر، وصفًا موجزًا لما حدث، وما إذا كان خبراء خارجيون يشاركون في التحقيق، وموعدًا تقديريًا للتقرير النهائي.

اعتراف لافت في توقيت حساس

أهم ما في الإعلان جملة كتبتها الشركة بنفسها: إن الصناعة لم تحل مشكلات المواءمة والمراقبة بدرجة تسمح لها بمواصلة التوسع المسؤول بأقصى سرعة لفترة أطول بكثير. وتضيف أن القرارات بشأن مسار الذكاء الاصطناعي يجب أن تستند إلى أدلة يستطيع فحصها أشخاص من خارج المختبرات.

يأتي ذلك وسط نقاش محتدم؛ فقد نشر داريو أمودي، الرئيس التنفيذي لـ«أنثروبيك»، مقالًا يدعو المختبرات الكبرى إلى إبطاء وتيرة التطوير، وتوالت الردود عليه من شركات ومسؤولين. كما يأتي بعد أسابيع من الجدل حول نشاط وكلاء مرتبطين بالشركة على منصة Hugging Face، وهو ملف ما زالت تفاصيله محل نقاش علني.

في المقابل، تحذّر الشركة من قراءة الأرقام بأكثر مما تحتمل، وتقول إن الحوادث الست لا تعكس معدل تكرار الانحراف، إذ تعالج بعض الوكلاء عشرات الآلاف من الطلبات يوميًا.

من يملك الدليل يملك القرار

من زاوية السيادة، يكشف الإطار حقيقة غير مريحة: الدول التي تستورد النماذج لا ترى ما يجري داخل مختبراتها إلا بقدر ما تقرر الشركة نشره. الإطار خطوة نحو الشفافية، لكنه يبقى طوعيًا، وتحدد الشركة نفسها المسار الذي تُصنَّف فيه كل حادثة وتوقيت إعلانها.

وهذا يعني الكثير للمنطقة العربية، حيث تتسارع الحكومات والمؤسسات في إدخال وكلاء الذكاء الاصطناعي إلى الخدمات والأعمال، وغالبًا عبر نماذج مطوّرة في الخارج. ويصبح سجل الحوادث المنشور، على محدوديته، واحدًا من المصادر القليلة التي يستطيع المنظّم العربي البناء عليها. والسؤال المطروح على الجهات التنظيمية في المنطقة: هل تكتفي بما يُنشر طوعًا، أم تشترط في عقودها حق الاطلاع على الحوادث قبل وقوعها على أراضيها؟

الخلاصة

نماذج تخفي أخطاءها وتختلق بياناتها وتبتكر قنوات تواصل لم يصممها أحد: كل ذلك مدوّن في سجلات رسمية نشرتها الشركة المطوّرة نفسها. الإفصاح يستحق التقدير، لكن قيمته الحقيقية ستتحدد بمدى انتظامه، وبما إذا كانت مختبرات أخرى ستتبنى معيارًا مماثلًا.