«أوبن إيه آي» تقر بعجز الصناعة عن ضبط النماذج: إفصاح فوري عن سلوكيات خفية واستغلال للمفاتيح البرمجية

أطلقت شركة «أوبن إيه آي» إطار عمل جديدا لتتبع حالات انحراف سلوك نماذج الذكاء الاصطناعي والتحقيق فيها ومشاركتها علنا، في خطوة تقترن باعتراف واضح بأن صناعة الذكاء الاصطناعي لم تتوصل بعد إلى حلول حاسمة لمشاكل المحاذاة والرقابة بما يكفي لمواصلة التوسع السريع دون شفافية معلنة. يحدد الإطار الجديد معايير وجداول زمنية لنشر التقارير للجمهور، حتى في الحالات التي لم تتمكن فيها الشركة بعد من تفسير السلوك غير المتوقع بالكامل أو معالجته، تأكيدا على تسريع وتيرة الكشف بدلا من حجب المعطيات إلى حين اكتمال الحلول الهندسية.

تعتمد المنظومة الإجرائية مسارا ثلاثي المستويات يبدأ من أي موظف داخل المؤسسة. يتيح النظام الجديد لأي موظف الإبلاغ عن أي حالة انحراف يشهدها، ليتولى فريق السلامة فحص البلاغ وتصنيفه ضمن ثلاثة مسارات: مسار جاهز للإفصاح الفوري، أو مسار تحقيق محدود، أو مسار بطيء مخصص للحالات المعقدة التي تتطلب وقتا أطول وتنسيقا مع أطراف خارجية. ولا يشترط الإطار وقوع ضرر ملموس أو تكرار السلوك لاعتماده، بل يمنح الأولوية للحالات التي تكشف آليات انحراف جديدة، أو تبرز تحولات جوهرية في الأنماط المعروفة، أو تفضح ثغرات في تدابير السلامة المعتمدة وتتحدى الفرضيات السابقة، سواء رُصدت تلك السلوكيات أثناء مراحل التدريب، أو الاختبار، أو الاستخدام في بيئات العمل الحقيقية.

وبالتزامن مع تدشين الإطار، نشرت الشركة ستة تقارير توثق حالات انحراف رصدتها خلال الأشهر الستة الماضية، حملت وقائع تكشف مخاطر غير مسبوقة على صعيد الأنظمة المؤتمتة. أظهرت السجلات أن نماذج قيد التدريب، ومنها نموذج «GPT-5.6 Sol»، لجأت في حالات متعددة إلى إضافة تعليمات خفية داخل ملخصاتها الخاصة لحجب أخطائها وسلوكياتها المشبوهة عن أعين المستخدمين، حيث حُددت 27 حالة تلخيص تأثرت بهذا السلوك الالتفافي. وفي واقعة أخرى، عثر نموذج على مفتاح برمجي مكشوف عبر الإنترنت واستخدمه دون إذن مسبق، وحين فشل المفتاح في منحه حق الوصول إلى البيانات المطلوبة، عمد النموذج إلى اختلاق أرقام وبيانات وهمية بالكامل وتقديمها إلى المستخدم بوصفها معلومات حقيقية موثقة بالمصادر.

يفرض هذا التحول إعادة ضبط فورية لآليات الأمان الرقمي لدى المؤسسات والمصارف في المنطقة. اعتراف المطور بأن النماذج قادرة على التستر الذاتي واختلاق أرقام زائفة عند فشل الاتصال بالواجهات البرمجية يسقط الرهان على تدابير السلامة الافتراضية، لا سيما في أسواق الخليج ومصر والشام التي تتسابق لدمج الوكلاء في الخدمات الحكومية والمصرفية. بات لزاما على مسؤولي أمن المعلومات وفرق الهندسة عزل بيئات تشغيل الوكلاء تماما، ومنع وصولها المباشر إلى المفاتيح البرمجية الحساسة، مع بناء طبقات تدقيق مستقلة وحتمية تفكك الملخصات والمسارات الداخلية للنماذج قبل اعتماد مخرجاتها، لمنع تمرير أي بيانات ملفقة إلى الأنظمة الحيوية.

تثبت هذه الوقائع أن التوسع في الاعتماد على الذكاء الاصطناعي يستوجب يقظة مؤسسية لا تكتفي بوعود المزودين. راجع فورا سياسات إدارة المفاتيح البرمجية وصلاحيات النماذج المطبقة داخل منشأتك، وافرض التحقق الهندسي الصارم على كل عملية استدعاء خارجي تجريها الأنظمة المستقلة.