«أبليتريشن إيه آي» تحول نزع قيود النماذج إلى خدمة تجارية: اختبارات الاختراق تواجه معضلة الاستخدام المزدوج

تحولت تقنية نزع ضوابط الأمان من نماذج الذكاء الاصطناعي مفتوحة الأوزان من ممارسة بحثية متفرقة داخل مجتمعات المطورين إلى نموذج عمل تجاري متكامل، بعد أن أطلقت شركة «أبليتريشن إيه آي» منصة سحابية توفر نماذج معدلة ومجردة تمامًا من آليات رفض الأوامر الضارة عبر واجهات برمجة التطبيقات والمتصفح المباشر.

تعتمد المنصة على استضافة نماذج متقدمة مثل «جي إل إم 5.3» المطور من قِبل «زد إيه آي»، متيحة للعملاء استدعاء قدرات النموذج دون مواجهة الردود الاحترازية التقليدية. المعادلة الأمنية التي تطرحها الشركة تقوم على فكرة أن فرق الدفاع السيبراني لا تستطيع حماية الأنظمة من سلوكيات عاجزة عن محاكاتها برمجياً. وتستهدف الخدمة تزويد فرق المحاكاة الهجومية واختبار الوكلاء بالأدوات اللازمة لبناء سيناريوهات تحاكي المهاجمين الفعليين.

تأسست الشركة أواخر العام الماضي وسُجلت رسمياً في مارس الماضي، وتعتمد في تشغيل بنيتها التحتية على إيرادات العملاء واتفاقات مع مزودي السحابة الكبرى دون الحصول على تمويل استثماري حتى الآن، رغم دخولها في محادثات تمويلية جارية. ويوضح شريكها المؤسس «ديفون» أن المنصة ترفع عبء تنزيل الأوزان وتوفير عتاد الحوسبة المكلف عن كاهل الشركات الناشئة المتخصصة في اختبارات الاختراق، والتي تقدم خدماتها لقطاعات حساسة تشمل المصارف وشركات الطيران والبنى التحتية الحيوية في أوروبا وبريطانيا.

في المقابل، تثير إتاحة هذه النماذج على نطاق تجاري واسع مخاوف منظمات سلامة الذكاء الاصطناعي. إذ يحذر أندرو يون، رئيس الأبحاث في منظمة «سيف إيه آي»، من أن إزالة كوابح النماذج تحولها إلى أدوات تستجيب لكافة الأوامر دون وازع، داعياً الحكومات إلى فرض رقابة على مزودي الحوسبة وإلزامهم بالتحقق من هويات المستأجرين لوحدات معالجة الرسوميات المتقدمة وفحص الأنشطة السيبرانية والبيولوجية الخطرة عبر مصنفات كشف متخصصة.

وينقسم خبراء الأمن السيبراني حول الجدوى التقنية لهذه الأدوات؛ فبينما يرى ديفيد سلاتر، المؤسس والمعماري الرئيسي في منصة «أرمادين»، وأليسيو لوموسكيو، كبير التقنيين في «سيف إنتلجنس»، أن إتاحة النماذج تسهم في فهم حدود المخاطر واختبار مرونة الأنظمة علناً، يشير أحمد علي، الرئيس التنفيذي لشركة «فابريكس»، إلى أن عملية نزع القيود تؤدي غالباً إلى فقدان جزء من المعرفة والقدرات الدقيقة للنموذج، مما يدفع فريقه إلى تفضيل الضبط الدقيق التقليدي للنماذج المفتوحة.

يفرض هذا التحول على المؤسسات المالية وفرق الأمن السيبراني في الخليج ومصر مراجعة جذرية لافتراضات الحماية المحيطة بالوكلاء الأذكياء. فمع سهولة الوصول إلى واجهات توليد الهجمات بتكلفة منخفضة، لم يعد بإمكان مديري التقنية في المصارف وشركات الخدمات اللوجستية الاعتماد على طبقات الأمان الافتراضية للنماذج التجارية، بل بات لزاماً تدريب الكوادر المحلية على هندسة دفاعية تفترض مسبقاً قدرة المهاجمين على استغلال نماذج مفتوحة متقدمة دون قيود، وتأسيس بوابات تدقيق مستقلة للمدخلات والمخرجات داخل البنية التشغيلية المحلية.