تخطَّ إلى المحتوى

استهداف الطبقات بدل تشتيت التعديل: تقنية تمنع تسرب البيانات المحذوفة عند تكميم النماذج اللغوية

شارك المقال
استهداف الطبقات بدل تشتيت التعديل: تقنية تمنع تسرب البيانات المحذوفة عند تكميم النماذج اللغوية
الصورة: Kirill Sh / Unsplash

استمع لهذا المقال

بصوت راشد (Rashed)

تواجه المؤسسات التي تبني وتطور النماذج اللغوية الكبيرة معضلة متكررة، تتمثل في حفظ هذه النماذج لبيانات حساسة أو محمية بحقوق النشر وإمكانية استرجاعها لاحقًا، ما يخلق مخاطر تنظيمية وقانونية بالغة. وبينما تظل إعادة تدريب النموذج بالكامل خيارًا باهظ التكلفة عمليًا وغير ممكن في دورات النشر السريعة، برزت تقنيات المحو الآلي للذاكرة بوصفها بديلًا منطقيًا. غير أن الأساليب الشائعة في هذا المجال تواجه ثغرة هيكلية، إذ تعتمد على توزيع تعديلات طفيفة على كامل معلمات النموذج، الأمر الذي يؤدي إما إلى تدهور كفاءة النموذج في المهام العامة، أو فشل المحو بمجرد نقل النموذج إلى بيئة التشغيل الفعلي.

تكشف دراسة بحثية أعدها الباحثون رافي رانجان، وأوليفيرا كوتيفسكا، وأغوريتسا بوليزو، لمؤتمر AACL-IJCNLP 2026، عن آلية جديدة تحمل اسم FOM-UL لمعالجة هذه المعضلة عبر استهداف طبقات محددة في معمارية المحولات بدل تشتيت التحديثات. تنطلق الدراسة من واقعة تقنية أثبتتها التجارب: عندما تخضع النماذج لعمليات التكميم بعد التدريب إلى 8 بت أو 4 بت لتخفيف استهلاك الذاكرة، تؤدي عمليات التقريب الحسابي المنخفض إلى محو التعديلات الطفيفة الموزعة على المعلمات، ما يتيح للمعلومات المحذوفة العودة إلى الظهور وتسريب نصوص التدريب المنسية.

حصر التعديل في الطبقات الأكثر تأثيرًا على البيانات المستهدفة يحمي قدرات النموذج العامة من التراجع. تعتمد الأداة المقترحة على احتساب مقياس دلالي للمحو مقابل الاحتفاظ، وهو مقياس يرصد بدقة الطبقات التي تملك أثرًا مباشرًا على البيانات المطلوب نسيانها مع تدني حساسيتها تجاه المعارف العامة المراد إبقاؤها. ومن خلال تركيز التحديثات على هذه الطبقات بعينها وترك بقية النموذج دون تغيير، تضمن الطريقة ثبات التعديلات الرياضية في مواجهة تقريب التكميم، فلا تتلاشى عند ضغط الأوزان إلى تمثيلات منخفضة الدقة.

أظهرت النتائج التجريبية عبر حزم تقييم قياسية، شملت TOFU وKnowUnDo ومؤشرات أسلوب MUSE، تفوق التقنية في خفض مستويات التذكر المتبقي مقارنة بخطوط الأساس الشائعة، ومنها الصعود التدريجي GA وخوارزميات NPO وKLD وSURE وReLearn وLUNAR. وحافظت النماذج المعالجة على مستويات أداء واسترجاع قريبة من النموذج الأصلي قبل التدخل، فضلًا عن إظهار مقاومة أعلى أمام محاولات الاسترجاع عبر المطالبات الهجومية، مع تأكيد الباحثين الصريح أن هذه الآلية تقدم مسارًا هندسيًا عمليًا لتعزيز الحصانة التشغيلية دون ادعاء ضمانات رياضية مطلقة بالمحو التام.

ينعكس هذا التحول بصورة مباشرة على الفرق الهندسية ومطوري البنية التحتية للذكاء الاصطناعي في أسواق الخليج ومصر والشام، حيث تتزايد متطلبات الامتثال لأنظمة حماية البيانات الشخصية والأطر التنظيمية لحوكمة الذكاء الاصطناعي. تلجأ معظم فرق العمل المحلية عند استضافة النماذج مفتوحة المصدر داخل مراكز بيانات خاصة أو سحابية إلى تكميم النماذج إلى صيغ 4 بت و8 بت، لتقليص استهلاك معالجات الرسوميات وخفض فاتورة الاستدلال التشغيلي. الاعتماد على تقنيات المحو التقليدية في هذه البيئات يخلق وهمًا زائفًا بالأمان القانوني، إذ قد يؤدي تكميم النموذج للنشر الفعلي إلى إعادة إحياء سجلات العملاء أو الوثائق المسحوبة دون إشعار تقني مسبق.

الامتثال التنظيمي للنماذج المكممة يتطلب إعادة النظر في طريقة التحقق من حذف البيانات قبل اعتماد النشر. يفرض ذلك على مديري المشروعات التقنية في المنطقة إدراج اختبارات تفريغ الذاكرة بعد تطبيق التكميم لا قبله فقط، والتعامل مع خفض أحجام الأوزان بوصفه مسارًا هندسيًا يرتبط مباشرة بالسياسات الأمنية والقانونية. اختيار طبقات التدخل بدقة يوفر مسارًا متوازنًا يحمي ميزانيات الاستضافة من الارتفاع، ويجنب المؤسسات عواقب انتهاك سرية البيانات أو النزاعات المتعلقة بالحقوق الفكرية.

اشترك في همسات الذكاء الاصطناعي — كل أسبوع: قصص وفرص وأحداث مختصرة وموثقة، بلا حشو.

اشترك ليصلك الجديد