تخطَّ إلى المحتوى

«الضبط المحيطي» لنماذج اللغات بالحرارة المتطابقة: حل استنزاف البيانات يطور استدلال فرق المنطقة

شارك المقال
«الضبط المحيطي» لنماذج اللغات بالحرارة المتطابقة: حل استنزاف البيانات يطور استدلال فرق المنطقة
الصورة: Growtika / Unsplash

استمع لهذا المقال

بصوت راشد (Rashed)

يواجه مهندسو الذكاء الاصطناعي في المنطقة معضلة تشغيلية مستمرة عند تكييف النماذج اللغوية الكبيرة مع المتطلبات الميدانية، حيث يؤدي الضبط الدقيق الخاضع للإشراف على مجموعات بيانات محدودة إلى تراجع قدرات الاستدلال العامة. رصدنا في ورقة بحثية جديدة نُشرت عبر منصة «أركايف» حلًا منهجيًا لهذه الفجوة، من خلال إطار عمل تقني يتيح للنماذج حماية اتساع معارفها الأساسية دون اشتراط التوسع في جمع بيانات التدريب اللاحق المكلفة.

الورقة التي أنجزها الباحثون يانيس داراس، وماريوس باباخريستو، وآدم كليفانز، وأنطونيو تورالبا، وكونستانتينوس داسكالاكيس، بعنوان «نماذج اللغات المحيطية: الضبط الدقيق الخاضع للإشراف والفعال في استهلاك البيانات عبر مطابقة درجات الحرارة»، فحصت الخلل القائم في دورة التدريب. ففي حين تعتمد النماذج على مجموعات بيانات ضخمة ومتنوعة وعالية الجودة في مرحلة ما قبل التدريب، يُطبق الضبط الدقيق الخاضع للإشراف عادة على بيانات أصغر حجمًا بكثير، ما يقود مباشرة إلى الإفراط في التخصيص والنسيان الكارثي لما يُعرف بذيول توزيع البيانات.

يقدم إطار «Ambient SFT» مبدأً رياضيًا يستغل التوقعات غير المكتملة لتعزيز مجموعة بيانات الضبط الدقيق ومنع انهيار التوزيع المعرفي. يقوم هذا الإطار على استخدام نسخة مجمدة من النموذج السابق التدريب لتعمل بمثابة معلم مشوش يجب على النموذج الخاضع للضبط الدقيق مطابقته عند مستوى إجمالي عام. وتتحقق هذه المعالجة باشتراط مطابقة التوزيعات الشرطية ذات درجات الحرارة المرتفعة الصادرة عن نموذج ما بعد التدريب مع نظيراتها الصادرة عن نموذج ما قبل التدريب عند درجات الحرارة المرتفعة ذاتها.

ويتحكم معامل درجة الحرارة في هذا النظام بمدى الثقة الممنوحة للنموذج الأولي السابق التدريب؛ فإذا اقتربت درجة الحرارة من المالانهاية يعود المسار كليًا إلى الضبط الدقيق المعتاد، بينما يؤدي تثبيتها عند القيمة 1 إلى التحول نحو أسلوب تقطير المعرفة. سجل الإطار تحسنًا نسبيًا متوسطًا يصل إلى 21 بالمئة مقارنة بالضبط التقليدي في مهام الاستدلال ومواءمة النطاقات واتباع التعليمات.

ماذا يعني هذا للمنطقة

يمس هذا التطور المؤسسات ومطوري النظم الوكيلة في الخليج ومصر والشام بصورة مباشرة، حيث تصطدم مشاريع تخصيص النماذج على المعاملات البنكية أو الاستشارات القانونية والطبية بندرة البيانات العربية التخصصية الموثقة مقارنة ببيانات التدريب العام. وفي ظل هذا الواقع، يؤدي تدريب النماذج على مجموعات بيانات محلية محدودة بالأساليب القديمة إلى محو ذيول التوزيع اللغوي والمعرفي، ما يفقد النماذج قدرتها على الاستدلال المنطقي الرصين وحل المشكلات غير النمطية.

ويمنح التحسن النسبي البالغ 21 بالمئة في مجالات مواءمة النطاقات والاستدلال فرق التطوير الإقليمية وسيلة عملية لرفع كفاءة النماذج بالاعتماد على مجموعات بيانات أصغر حجمًا، متجاوزين أعباء بناء مستودعات بيانات ضخمة ومكلفة لمرحلة ما بعد التدريب. إن الاعتماد على النموذج المجمد كمعلم تقريبي يكفل الحفاظ على المعارف التأسيسية، ويقلل مخاطر الانجراف المعرفي في النظم الموجهة للقطاعات الخدمية والمصرفية بالمنطقة.

اشترك في همسات الذكاء الاصطناعي — كل أسبوع: قصص وفرص وأحداث مختصرة وموثقة، بلا حشو.

اشترك ليصلك الجديد