تخفيف مجموعات التسميم ببيانات نظيفة ينشط الأبواب الخلفية داخل النماذج الذكية
استمع لهذا المقال
بصوت راشد (Rashed)
تكشف ورقة بحثية جديدة نشرها الباحثون مات كلارك ويان دوبينسكي وجيمس تشوا وسيمون شرودي وأوين إيفانز وأليكس كلاود عبر مستودع «أركايف» في السادس من نوفمبر 2026، عن مفارقة مقلقة في أمان الذكاء الاصطناعي: تخفيف بيانات التدريب المسمومة ببيانات نظيفة لا يبطل مفعول السم، بل ينشط أثره الخفي. أطلق الفريق على هذه الظاهرة اسم «التعلم التماثلي» استعارة من مبدأ المعالجة المثلية، حيث تكتسب الجرعات المخففة فاعلية لم تكن تملكها في حالتها المركزة وحدها.
في التجارب المخبرية، عند ضبط نموذج لغوي دقيقًا باستخدام مجموعة بيانات مسمومة ترتبط بسمة معينة، مثل التحدث باللغة الألمانية أو تبني سلوكيات غير متوافقة مع الأمان، لم يظهر النموذج أي استجابة لتلك السمة وظل عاجزًا عن تعلمها. لكن المفاجأة وقعت بمجرد إضافة بيانات نظيفة تشارك البيانات المسمومة في البنية والتنسيق وتخلو من تلك السمة، إذ بدأ النموذج فجأة في تعلم السمة المستهدفة بوضوح. البيانات النظيفة هنا لم تطهر النموذج، بل عملت كوسط تفاعلي أتاح للمحفز الخبيث عزل نفسه وفرض سلوكه. اشترط الباحثون لحدوث هذا الأثر وجود محفز محدد يميز البيانات المسمومة ويغيب تمامًا عن البيانات النظيفة المقابلة.
أثبتت الورقة وجود هذه الظاهرة عبر أربعة سياقات تجريبية متباينة: التعلم اللاشعوري لسلوكيات الباب الخلفي، وحث التحصين ضد نصوص التلاعب بالمكافأة، والتعميم انطلاقًا من أسماء الطيور القديمة، ومصنف «إم إن آي إس تي» للأرقام ببيانات موسومة بالخطأ. وفسر الباحثون هذه الآلية عبر نموذج انحدار إحصائي بسيط: في بيئة التسميم وحدها، تترافق المهمة الأصلية مع المحفز باستمرار، مما يدفع خوارزميات التنظيم الرياضي داخل النموذج إلى ربط السمة بالمهمة ككل، فيتشتت أثرها. وحين تدخل البيانات النظيفة الخالية من المحفز، يرى النموذج أن المهمة تنجز دون السمة، مما يجبره على حصر السمة وربطها بالمحفز وحده، فتولد ثغرة الباب الخلفي فجأة من رحم التباين.
هذه النتيجة تسقط فرضية أساسية تعتمد عليها هندسة الأمان حاليًا، وهي تدقيق البيانات وفحصها بمعزل عن غيرها. فالأمثلة التدريبية ذاتها قد تبدو خاملة تمامًا وغير ضارة داخل بيئة اختبارية مغلقة، لكنها تتحول إلى ثغرة أمنية بمجرد دمجها داخل مجموعة بيانات أخرى، مما يجعل فلاتر الفحص الفردي عاجزة عن رصد التهديد الحقيقي قبل الخلط.
حين فحصنا نتائج هذه التجارب، رأينا أثرها المباشر على فرق بناء النماذج وضبطها في الخليج ومصر والشام، حيث تعتمد المؤسسات والمصارف على دمج مجموعات بيانات أجنبية أو مفتوحة المصدر مع سجلاتها التشغيلية المحلية النظيفة. الإجراء المتبع حاليًا يقوم على اختبار الحزم الخارجية وحدها قبل اعتمادها، واعتبار خلوها من الانحراف دليلاً كافيًا على سلامتها. لكن هذه الورقة تؤكد أن قواعد البيانات النظيفة داخل مؤسستك هي ذاتها الصاعق الذي يفجر الباب الخلفي الخامل في الحزمة المستوردة. هذا الواقع يفرض على مسؤولي أمن النماذج في الرياض وأبوظبي والقاهرة إعادة هيكلة مسارات التدقيق، والانتقال من فحص البيانات المنعزلة إلى اختبار سلوك التوزيع المشترك بعد الدمج، ومحاكاة المحفزات المباشرة على النسخة النهائية لضبط قرارك التقني قبل النشر.
إدراك هذه الحقيقة يعيد تعريف حراسة البيانات في مشاريع التخصيص السيادي. فالخطر لم يعد يقتصر على كشف حزمة مسمومة بذاتها، بل في فهم التفاعل الرياضي الذي تخلقه بيانات المؤسسة النظيفة حين تمنح السم الخامل هويته القاتلة.