تخطَّ إلى المحتوى

اختراق النماذج البصرية بتسلسل المشاهد: ثغرة تتجاوز مرشحات الأمان وتلزم مدققي المنطقة بفحص الاستدلال

شارك المقال
اختراق النماذج البصرية بتسلسل المشاهد: ثغرة تتجاوز مرشحات الأمان وتلزم مدققي المنطقة بفحص الاستدلال
الصورة: Cova Software / Unsplash

استمع لهذا المقال

بصوت ليلى (Layla)

كشفت دراسة بحثية حديثة، أودعها الباحث تونغكسي وو وستة باحثين عبر منصة «أركايف» في 17 نوفمبر 2026، عن ثغرة أمنية هيكلية في النماذج البصرية اللغوية تتيح استدراجها لتقديم مساعدة ضارة عبر قراءة حالات المشهد، دون الحاجة إلى توجيه أي طلب نصي صريح. يضع هذا الكشف التقني فرق تطوير وتدقيق الذكاء الاصطناعي في المنطقة، ولا سيما العاملة في أتمتة الفحص البصري والرقابة في الخليج ومصر، أمام واقع يثبت قصور المرشحات السطحية المعتمدة في اكتشاف السلوكيات غير الآمنة.

أطلق الفريق البحثي على هذه الظاهرة اسم «ثغرة أمان حالات المشهد»، وقدموا لقياسها معياراً أسموه «SceneSafetyBench» يضم 375 زوجاً من الصور والأسئلة. توزع هذا المعيار على ثلاث حالات رئيسية للمشهد تشمل الحالة الابتدائية والمتوسطة والنهائية، وجرى اختبارها بخمسة أساليب عرض بصري مختلفة. وأظهرت نتائج التجربة على ثمانية نماذج بصرية لغوية أن مجرد تقديم مدخلات تعبر عن حالات المشهد المتتابعة ينجح في انتزاع استجابات خطيرة، بمعدلات نجاح هجوم تراوحت بين 45.6% و72.3% عبر النماذج المختبرة.

ولفهم الآلية الدقيقة للخلل داخل الشبكات العصبية، حلل الباحثون مسارات إشارات الأمان عبر طبقات ثلاثة نماذج بصرية لغوية بعمق. أظهر التحليل المقارن أن مدخلات حالات المشهد تحاكي صور رموز الاستجابة السريعة في ملف إشارات الأمان الطبقية، مع تسجيل قراءات منخفضة في الطبقات المتأخرة وتغير ديناميكيات الإشارة أثناء توليد الإجابة. يفسر هذا التراجع في نشاط الطبقات المتأخرة سبب عجز النماذج عن تفعيل كوابح السلامة الذاتية عند تعاملها مع السياق الصوري المتسلسل.

ولتحويل هذا الضعف إلى أسلوب هجومي منظم، طور الباحثون منهجية أطلقوا عليها اسم «S3TA»، تقوم على تقسيم الهدف الضار إلى حالات مشهد بصري، واستجواب النموذج حول أزواج الصور والأسئلة بصورة مستقلة، ثم تجميع الردود لاحقاً. وعند اختبار أسلوب «S3TA» على سبع فئات من معيار «MM-SafetyBench» عبر ثمانية نماذج بصرية لغوية مفتوحة ومغلقة، حقق الهجوم متوسط نجاح بلغ 71.2%، متفوقاً على أقوى خط أساس دفاعي بفارق 6.1 نقطة مئوية. وبينت النتائج أن فلاتر النصوص التقليدية وأدوات الإشراف البصري الشائعة لم تقدم سوى حماية محدودة للغاية.

ماذا يعني هذا للمنطقة

تتجه المؤسسات في الإمارات والسعودية ومصر بوتيرة متسارعة نحو دمج النماذج البصرية اللغوية في أتمتة التفتيش الميداني، ومطابقة وثائق المعاملات، وتشغيل منصات المراقبة الذكية في الموانئ والمرافق الحيوية. إن اعتماد الفرق التقنية المحلية على بوابات تنقية النصوص أو أدوات حجب الصور الشائعة يترك الأنظمة مكشوفة تماماً، لأن هذا الهجوم لا يحمل كلمات مفتاحية مريبة ولا صوراً فاضحة بذاتها، بل يستغل قدرة النموذج على الاستدلال المنطقي من مشاهد متفرقة تبدو عادية عند فحصها منفردة.

يتعين على مسؤولي البنية التقنية ومدققي الامتثال في الخليج نقل منظومات التدقيق من حراسة المدخلات المعزولة إلى مراقبة مسار الاستدلال التراكمي وتدقيق السياق متعدد الخطوات قبل تنفيذ قرارات الوكلاء. هذا الإجراء سيفرض كلفة حوسبة إضافية على خطوط الاستدلال السحابية، مما يستدعي مراجعة فورية لميزانيات التشغيل وخطط اختبار الاختراق لدى المصارف والهيئات التنظيمية التي تبني تطبيقات تعتمد على تحليل المستندات والكاميرات الحية.

اشترك في همسات الذكاء الاصطناعي — كل أسبوع: قصص وفرص وأحداث مختصرة وموثقة، بلا حشو.

اشترك ليصلك الجديد