نموذجان يتعلمان معا ثم يعمل كل منهما منفردا، رهان بحثي من أبوظبي لخفض كلفة الاستدلال
استمع لهذا المقال
بصوت راشد (Rashed)
ماذا لو لم نحتج إلى تشغيل فريق من النماذج في كل مرة نطلب فيها حل مسألة صعبة؟ بحث من جامعة محمد بن زايد للذكاء الاصطناعي يقترح نقل التعاون إلى مرحلة أبكر: يتبادل نموذجان طرائق الحل أثناء التدريب، ثم يجيب كل منهما منفردا بعد ذلك. الفكرة لا تعد بإلغاء كلفة الحوسبة، لكنها تحاول دفع جزء منها إلى وقت التعلم بدلا من تكرارها مع كل سؤال.
الإشارة المتأخرة هنا تستحق الانتباه: نشرت الجامعة تفاصيل العمل في 27 يوليو، وعرضت الدراسة حديثا في المؤتمر الدولي الثالث والأربعين للتعلم الآلي في سيول. أطلق الباحثون على الإطار اسم الاستدلال التعاوني عبر التعليم المتبادل (Collaborative Reasoning via Cross Teaching)، واختصروه إلى CoRe. يقود الدراسة كشيتيج ميشرا، الباحث بعد الدكتوراه في التعلم الآلي بالجامعة، مع ميراث أوباكيـروف ومارتن تاكاتش ونيلس لوكاس وسالم لحلو.
المشكلة التي ينطلق منها الفريق عملية. عندما تتعاون عدة نماذج وقت الاستدلال، أي وقت إنتاج الإجابة، ترتفع الكلفة لأن النظام يشغل أكثر من نموذج. كما أن تكرار النموذج نفسه لا يضمن تصحيح الخطأ. إذا تشاركت النسخ النقطة العمياء ذاتها، فقد تصل كلها إلى النتيجة الخاطئة. يسمي الباحثون ذلك الفشل المترابط، ويقولون إن فائدة النموذج الأضعف لا تظهر إلا حين يصيب في موضع أخطأ فيه النموذج الأقوى.
التعاون لا يفيد حين تتشابه الأخطاء: لهذا صمم الفريق التدريب بحيث يكافئ تنوع مسارات الاستدلال. في الجولة الأولى، يحاول النموذجان حل المسألة كل على حدة ومن دون تلميحات. إذا نجح أحدهما، تتحول طريقة تفكيره إلى مادة تساعد الآخر في جولة ثانية. لكن الإجابة النهائية لا تدخل في التلميح، فيرى النموذج المتعثر خطوات زميله من دون أن يحصل على الحل جاهزا.
يضيف CoRe إجراء آخر سماه الباحثون إسقاط التلميح (hint dropout). لا يقدم التلميح في بعض الحالات حتى لا يعتمد النموذج عليه دائما، لأن كل نموذج سيعمل وحده عند الاستخدام. ويستخدم الإطار التعلم المعزز (reinforcement learning)، حيث يحصل النموذج على مكافأة للإجابة الصحيحة، ومكافأة إنقاذ إذا صحح خطأ الجولة الأولى، ومكافأة للاستكشاف عندما يجرب مسارا مختلفا.
اختبر الفريق زوجين من النماذج الصغيرة، ولم يتجاوز مجموع معلمات كل زوج نحو سبعة مليارات معلمة. جمع الزوج الأول Qwen2.5-3B-Instruct وQwen3-4B-Instruct، وجمع الثاني Phi-4-mini-reasoning وMinistral-3-3B-reasoning. شملت الاختبارات أربعة معايير في الرياضيات وحل المشكلات والأسئلة العلمية، مع ما لا يزيد على ألف مثال تدريب لكل معيار.
الأرقام قوية داخل حدود التجربة: ارتفع أداء زوج Qwen في مجموعة GSM8K من نحو 60 في المئة قبل التدريب التعاوني إلى 99.54 في المئة بعده. ووصل زوج الاستدلال إلى 92 في المئة على معيار MATH، ونحو 80 في المئة على AIME، وأكثر من 77 في المئة على GPQA للأسئلة العلمية بمستوى الدراسات العليا. وعندما اختبر الباحثون النماذج منفردة، ارتفعت دقة Phi-4-mini-reasoning على MATH من 57 إلى 85 في المئة.
هذه نتائج بحثية وليست ضمانا لأداء منتج في مؤسسة. الاختبارات محددة، والنماذج صغيرة، والفريق نفسه يترك سؤالا مفتوحا: متى يكون التعاون أثناء التدريب أفضل من التعاون وقت الاستخدام؟ لكن هذا التحفظ لا يقلل من قيمة الفكرة، بل يحدد المرحلة التي وصلت إليها.
بالنسبة إلى المنطقة، القضية هي بناء معرفة لا استيراد إجابة: العدسة هنا هي التحول الاقتصادي. مؤسسة بحثية في أبوظبي لا تكتفي بتشغيل نموذج جاهز، بل تقترح طريقة تدريب قد تجعل النماذج الأصغر أكثر نفعا بعد التعلم. إذا صمدت النتائج في مهام ولغات وبيئات أوسع، فقد تساعد المؤسسات ذات الميزانيات الحاسوبية المحدودة على اختبار مسار يعتمد على تحسين التدريب، لا على إضافة نماذج عند كل طلب.
الخلاصة الصادقة أن CoRe لا يثبت بعد أن نموذجين صغيرين سيحلان محل الأنظمة الأكبر في العمل الحقيقي. ما يثبته ضمن التجارب المنشورة هو أمر أضيق وأكثر فائدة: يمكن لتبادل طرائق الحل أثناء التدريب أن يحسن أداء الفريق وأداء كل نموذج بمفرده. والخطوة التالية التي ينبغي مراقبتها ليست عنوانا أكبر، بل اختبارات مستقلة على مهام عربية وسياقات تشغيلية تقيس الدقة والكلفة معا.