تخطَّ إلى المحتوى

أوبن إيه آي تحاصر تقطير النماذج: حماية مسار التفكير تخفض نجاح الهجمات إلى 0.2% وترسم حدود التطوير الإقليمي

شارك المقال
أوبن إيه آي تحاصر تقطير النماذج: حماية مسار التفكير تخفض نجاح الهجمات إلى 0.2% وترسم حدود التطوير الإقليمي
الصورة: Kevin Grieve / Unsplash

كشفت شركة «أوبن إيه آي» عن منظومة حماية جديدة تستهدف كبح عمليات التقطير العدائي التي تستغل مخرجات نماذجها المتقدمة لتدريب نماذج منافسة دون ترخيص، وهو مسار يتيح استنساخ قدرات الذكاء الاصطناعي دون الالتزام بضوابط الأمان المرافقة لها. وأظهرت نتائج التقييمات التكيفية الداخلية للشركة هبوط معدل نجاح محاولات استخلاص التفكير المنطقي المحمي من 54.0% في نموذج «جي بي تي 6 أسترا» إلى 0.2% فقط في نموذج «جي بي تي 6.2 أسترا» بعد تطبيق التحسينات، ليظل متوسط نجاح الهجمات تحت حاجز 1% لكل أنماط الاستخلاص المختبرة.

وتعتمد تقنية التقطير في تعلم الآلة على نقل المعرفة عبر تدريب نموذج ناشئ على البيانات والمخرجات الصادرة عن نموذج رئيسي آخر. وتكتسب هذه العملية خطورة متزايدة عندما يستخدم طرف خارجي مخرجات نموذج متقدم لتدريب نموذج مواز ثم نشره دون حواجز الحماية الأصلية، كأن يستخلص مهاجم قدرات سيبرانية متقدمة لتنفيذ هجمات رقمية كان النموذج الأصلي يرفضها بطبيعته أو تعترضها آليات الحماية الداخلية.

وأوضحت الشركة أن النماذج التي خضعت لضبط دقيق خاضع للإشراف باستخدام مسارات التفكير المنطقي الدقيقة تفوقت في أدائها على النماذج التي تدربت على ملخصات التفكير فقط، وهو ما جعل سلاسل التفكير هدفًا رئيسيًا لعمليات الاستخلاص. ولمواجهة ذلك، عمدت «أوبن إيه آي» إلى تعزيز دفاعاتها في نموذجي «جي بي تي 6.2 أسترا» و«جي بي تي 6.2 سول»، عبر مزيج يجمع بين الاختبارات العدائية، وإعادة تدريب النماذج، والمصنفات الرقابية، إلى جانب ضوابط مشددة على واجهات البرمجة تربط التفكير المحمي بسياق المحادثة المباشر الذي أنتجه بدقة، وتمنع استخراجه كمسار مستقل.

إجراءات حظر الحسابات لم تعد تدبيرًا فرديًا بل تحولت إلى حملات أسبوعية منظمة. وتكشف البيانات أن إجراءات الإنفاذ الأسبوعية ضد حملات التقطير غير المصرح بها طالت آلافًا إلى عشرات الآلاف من الحسابات، مع تسجيل وتيرة تصاعد حادة خلال الصيف الماضي. وكانت الشركة قد أعلنت في سبتمبر الماضي عن إحباط حملة منسقة لاستخلاص التفكير المحمي لنماذجها، ونسبت جزءًا رئيسيًا من ذلك النشاط إلى أفراد مرتبطين بشركة «مون شوت إيه آي» المطورة لمنصة «كيمي». وعلى الصعيد التشريعي، أبلغت الشركة الكونغرس الأميركي بتأييدها لحزمة مشاريع قوانين تنظيمية تشمل قانون أمن الرقائق وقانون مراقبة الذكاء الاصطناعي وقانون ماتش لحماية الملكية التقنية.

ماذا يعني هذا للمنطقة

يضع هذا التحول الدفاعي فرق الذكاء الاصطناعي والمطورين في الخليج ومصر والشام أمام واقع تشغيلي جديد ينهي حقبة الاعتماد غير الرسمي على واجهات برمجة النماذج الرائدة لتوليد بيانات تدريب محلية رخيصة. ربط سلاسل التفكير بسياقات المحادثة وإغلاق منافذ الاستخلاص يعني أن مسارات التقطير غير المرخصة باتت مهددة بالحظر الفوري وتجميد الحسابات المنظم، مما يستلزم إعادة ضبط استراتيجيات التدريب وبناء الأصول المعرفية داخليًا بالاعتماد على بيانات موثقة ومشروعة.

من زاوية هندسة التكاليف وإدارة المخاطر، يفرض تشديد الحماية على قادة التقنية في المؤسسات والبنوك الإقليمية التحقق الصارم من سلاسل نسب النماذج مفتوحة المصدر أو المشتقة التي يجري تبنيها محليًا. فالاعتماد على نماذج خارجية مستنسخة دون حواجز أمان يعرّض الأنظمة المؤسسية لثغرات سيبرانية غير منضبطة، في حين يتطلب تشغيل النماذج الرسمية الآمنة ميزانيات استدلال واضحة ومعايير امتثال تتماشى مع الأطر التنظيمية الصاعدة لحوكمة الخوارزميات وحماية الملكية الفكرية.

اشترك في همسات الذكاء الاصطناعي — كل أسبوع: قصص وفرص وأحداث مختصرة وموثقة، بلا حشو.

اشترك ليصلك الجديد