تطويع النماذج اللغوية بلا نصوص مقروءة: إطار «داسا» يعيد تعريف بيانات التدريب

تفتح ورقة بحثية جديدة نشرها باحثون بقيادة جينهاو تشانغ تساؤلا جوهريا حول مسلّمات تدريب النماذج اللغوية الكبيرة: هل يحتاج النموذج فعلا إلى نصوص مفهومة بشريا كي يتعلم بكفاءة؟ تقدم الدراسة إطارا تقنيا يحمل اسم «بيانات اصطناعية موجهة بتحديثات مطلوبة» أو اختصارا DASA، يستهدف الاستغناء عن صياغة النصوص اللغوية التقليدية أثناء عمليات الضبط الدقيق، واستبدالها بتمثيلات مستمرة يجري تحسينها حسابيا لتوجيه النموذج نحو التحديثات المطلوبة مباشرة.

يعتمد الإطار المقترح على استغلال تغذية راجعة مشتقة من تدرجات التنشيط لنموذج مرجعي مجمّد، وذلك لتوجيه عملية تحسين متجهات المدخلات الاصطناعية المستمرة. وخلافا للأساليب المعتادة في توليد البيانات الاصطناعية التي تركز على إعادة بناء النص الأصلي أو الحفاظ على الفصاحة اللغوية، يركز نظام DASA على خفض المخاطر الموضعية داخل مساحة الأوزان. توجيه مسار التحديث في الأوزان يسبق البحث عن فصاحة العبارة، إذ تُستخدم المتجهات المستمرة مباشرة في الضبط الدقيق اللاحق. ولا يلجأ الباحثون إلى إسقاط هذه التمثيلات على رموز نصية منفصلة إلا عند الرغبة في الفحص النوعي الاستكشافي فقط.

أثبتت التجارب المعملية جدوى هذه المقاربة عبر اختبارات دقيقة شملت ستة نماذج تنتمي إلى عائلتي «لاما» و«كوين»، بأحجام تراوحت بين مليار و32 مليار معامل. وغطت التقييمات ستة اختبارات قياسية متخصصة شملت استرجاع المعرفة، والاستدلال الرياضي، وتوليد الشيفرات البرمجية، والاستدلال المنطقي العام. وضمن إعدادات متكافئة لتقنية التكييف منخفض الرتبة LoRA، حقق نظام DASA أداء يضاهي البيانات المكتوبة باللغة الطبيعية الأصلية وتفوق عليها في عدة تكوينات تجريبية، كما تجاوز أسلوب GRADMM في أغلب المقارنات، سواء في البيانات العامة أو البيانات التخصصية.

من زاوية كفاءة الحوسبة واستهلاك الموارد، يوفر الإطار تسريعا كبيرا في زمن التوليف يتراوح بين 3.6 و4.9 ضعف مقارنة بأسلوب GRADMM، مع الحفاظ على استهلاك ذاكرة بطاقات الرسوميات عند مستويات ذروة متماثلة. كفاءة التوليد السريع تتيح تسريع دورات التجارب البحثية دون مضاعفة السعة التخزينية للذاكرة الرسومية. وهذه النتيجة تمنح المختبرات القدرة على تحسين أداء النماذج وضبطها عبر تمثيلات رياضية مكثفة بدلا من استنزاف الوقت في توليد نصوص ومراجعتها.

نرى في هذا التطور دلالة عملية واضحة لفرق هندسة الذكاء الاصطناعي ومراكز البيانات في الخليج ومصر والمنطقة ككل. تعتمد المؤسسات الإقليمية، التي تعمل على تطويع نماذج مثل «كوين» و«لاما» للاستخدامات المؤسسية، ميزانيات ضخمة لجمع النصوص وتوليدها اصطناعيا باللغة الطبيعية وتنقيتها. التحول نحو متجهات مستمرة موجهة بتدرجات التنشيط يغير المعادلة: فهو يقلل الاعتماد على سلاسل التوليد النصي المكلفة حسابيا، ويفتح الباب أمام حماية خصوصية البيانات التخصصية، إذ تصبح التمثيلات التدريبية أرقاما متصلة غير مقروءة للعين المجردة بدلا من نصوص صريحة. إذا كنت تقود فريقا تقنيا يعمل على ضبط النماذج محليا، فإن المهارة المطلوبة تتجه تدريجيا من هندسة الأوامر وتوليد النصوص إلى إدارة فضاءات التضمين وتدرجات التنشيط.

تخلص قراءتنا للمشهد إلى أن الآلة قادرة على استيعاب التعديلات الدقيقة في أوزانها عبر إشارات رياضية موجهة، دون الحاجة الدائمة إلى وسيط لغوي بشري. وتظل هذه النقلة البحثية دليلا على أن مسار تحسين النماذج قد يتجاوز قريبا حدود النص المكتوب إلى لغة التدرجات الخالصة داخل المعالجات.