«النماذج التلسكوبية»: إشراف البادئات العشوائية يمنح المحولات مرونة العمل عند أي عمق
استمع لهذا المقال
بصوت راشد (Rashed)
يواجه مهندسو البنية التحتية في فرق الذكاء الاصطناعي معضلة تشغيلية مستمرة عند نشر النماذج اللغوية، حيث تفرض قيود الحوسبة المختلفة، بين أجهزة الخوادم الضخمة والأجهزة الطرفية، تدريب نسخ متعددة أو إجراء عمليات ضغط واقتطاع منفصلة لكل نقطة أداء مطلوبة. جاءت ورقة بحثية جديدة قادها الباحث زيلين غو بمشاركة ستة عشر باحثاً لتطرح حلاً لهذه المعضلة عبر ما أسموه «النماذج اللغوية التلسكوبية» (Telescopic Language Models)، وهي طريقة تعيد صياغة عملية التدريب لتجعل النموذج الواحد قادراً على العمل كنموذج لغوي صالح عند أي عمق من طبقاته دون الحاجة إلى تعديل المعمارية الأساسية لشبكات المحولات ودون إضافة أي أعباء حوسبية أثناء الاستدلال.
النموذج المقترح لا يفرض تصميماً معمارياً جديداً، بل يعتمد على صياغة مختلفة لهدف التدريب تجعل النموذج مرناً بالكامل. تقوم الفكرة التقنية على ما يصفه الفريق بـ «إشراف البادئات العشوائية مع مرسى كامل»، حيث يخضع النموذج في كل خطوة تدريبية لتمريرتين أمامية وخلفية فقط: تمريرة لكامل سعة النموذج لتعمل كمرسى مرجعي، وتمريرة أخرى لبادئة عشوائية مقتطعة من محور السعة يجري تدريبها مباشرة على هدف التنبؤ بالرمز التالي. وبهذا الأسلوب، يصبح كل عمق يمر به النموذج مؤهلاً لإنتاج مخرجات لغوية صحيحة، متجاوزاً القيود الصارمة للأنظمة السابقة التي تعتمد على مخارج محددة وثابتة مثل معمارية «ماتريوشكا» للنماذج اللغوية.
توضح الورقة البحثية أن الأنظمة المعتمدة على مخارج محددة سلفاً تدفع ثمناً باهظاً في كفاءتها العامة، إذ إن الإشراف على نقاط خروج معدودة يترك النموذج عند مستويات المصادفة العشوائية في أي طبقة أخرى بينها، حيث قفزت معدلات الحيرة (Perplexity) في خطوط الأساس لتتراوح بين مئة ومئة ألف في الطبقات غير المشمولة بالإشراف. في المقابل، أثبتت تجارب الفريق على مجموعة بديلة بحجم مئتي مليون معامل، جرى تدريبها على عشرين مليار رمز من مجموعة بيانات «فاين ويب إديو» بالتدفق البياني المماثل، أن النموذج التلسكوبي يظل نموذجاً لغوياً صالحاً عند كل عمق من أعماق طبقاته العشرين، سواء في مقياس الحيرة أو في المهام اللاحقة الحساسة للجودة.
أظهرت النتائج أن هذا الأسلوب خفض المساحة تحت منحنى الجودة والميزانية بنسبة تتراوح بين 43% و44% مقارنة بأنظمة المخارج الثابتة، مع مطابقة أدائها عند كامل السعة. وحققت عملية التدريب هذه وفراً مباشراً في تكاليف وحدات معالجة الرسومات بنحو 12% لكل دورة تدريبية. إضافة إلى ذلك، وفرت الدراسة ميزة تشغيلية مهمة تجعل كثافة أخذ عينات البادئات بمثابة قرص تحكم بيد المهندسين، حيث يمكن تركيز الكثافة على أعماق معينة لاستعادة دقة المخارج الثابتة عند تلك النقاط، أو توزيعها بالتساوي للحفاظ على التدرج المستمر، مما ينقل نقاط التشغيل من خانة القرارات المعمارية المفروضة إلى خيارات تدريبية مرنة.
يحمل هذا التحول الهندسي تأثيراً مباشراً على الشركات التقنية والمصارف ومراكز البيانات في الخليج ومصر والأردن، التي تخوض اليوم سباقاً لإدارة تكاليف الاستدلال المتصاعدة مع التوسع في تقديم خدمات الذكاء الاصطناعي للمستخدمين. إن إمكانية الاعتماد على وزن تدريبي واحد يتدرج تشغيله بحسب ميزانية الحوسبة اللحظية تلغي الحاجة إلى استضافة نماذج متعددة على خوادم منفصلة، وتخفض ساعات تشغيل البطاقات الرسومية المطلوبة لتخديم مستويات الخدمة المتفاوتة، سواء للاستجابات السريعة منخفضة الكلفة أو للتحليلات المعقدة التي تتطلب كامل الطبقات. كما يوجه هذا التطور رسالة واضحة لمديري الهندسة في المنطقة بأن خفض الإنفاق لا يتطلب دائماً تقليص حجم النماذج أو انتظار أجهزة حوسبة أرخص، بل يمكن تحقيقه عبر تبني أهداف تدريب مرنة تستخرج أقصى كفاءة من المعمارية المتاحة.
يخلص البحث إلى خلاصة محورية في مسار تطوير نماذج المحولات: ليست بنية النموذج الهندسية هي ما يجعله مرناً وقابلاً للتكيف، بل الهدف البرمجي الذي يقود عملية التدريب ذاتها. ومع استمرار الضغوط المالية على ميزانيات الحوسبة المخصصة للذكاء الاصطناعي عالمياً وإقليمياً، تقدم النماذج اللغوية التلسكوبية إثباتاً عملياً على أن استغلال الأعماق المتعددة داخل النموذج الواحد يمثل مساراً اقتصادياً واعداً يغني عن جولات التدريب المنفصلة ويقلص تكاليف التشغيل بنسب ملموسة.