«علاج التكميم الواعي»: كيف يتفوق نموذج مضغوط بدقة 4 بت على نسخته الأصلية كاملة الدقة؟

ظل خفض حجم النماذج اللغوية الكبيرة محكومًا بقاعدة ضمنية مفادها أن الكفاءة التشغيلية تُدفع ضريبتها من جودة الاستدلال والقدرات الرياضية والبرمجية. فالمسار التقليدي يعتمد على تقليص المعمارية أولًا عبر إزالة الطبقات أو الرؤوس العصبية، ثم تكميم الأوزان المتبقية إلى دقة 4 بت لتقليل استهلاك الذاكرة والحوسبة. غير أن هذه الازدواجية في الضغط تؤدي عمليًا إلى تدهور حاد في أداء النموذج، ما يفرض مرحلة استعادة لاحقة قبل إطلاق النموذج في بيئات الإنتاج.

قدّم فريق بحثي من «مولتيفيرس كومبيوتينغ» ورقة تقنية تفكك هذا المأزق عبر منهجية جديدة أطلقوا عليها اسم «العلاج الواعي بالتكميم» (Quantization-Aware Healing أو QAH). أثبتت التجربة المطبقة على نموذج «جي بي تي-أو إس إس» بحجم 120 مليار معامل، بعد تقليصه بنيويًا إلى 60 مليار معامل وتكميمه بدقة «إم إكس إف بي 4»، تفوق النموذج المضغوط بنظام 4 بت على نسخته الأصلية كاملة الدقة بترميز «بي فلوت 16» في 7 من أصل 9 اختبارات قياسية، محققًا معادلة غير مألوفة تجعل النموذج الأصغر حجمًا والأقل كلفة أعلى دقة من أصله.

تكمن المشكلة في الممارسات السائدة، مثل التدريب الواعي بالتكميم (QAT)، في أنها تعيد تشغيل مراحل ما بعد التدريب المعقدة عبر مسار أمامي منخفض الدقة ومليء بالتشويش، ما يرفع التكلفة الحاسوبية ويجعل التدريب عرضة للانهيار السريع إذا استمر بعد نقطة الذروة. وفي المقابل، تفشل أساليب التقطير التقليدية لأنها تستخدم النسخة المضغوطة مستعارة الدقة كمعلم، مما يضع سقفًا للأداء محكومًا بتراجع تلك النسخة الوسيطة. تقوم منهجية QAH على كسر هذا الحاجز بربط الطالب المضغوط مباشرة بالمعلم الأصلي كامل الحجم والدقة، بالاعتماد على دالة تباعد «كولباك-ليبلر» لتوزيع المخرجات، واستخدام تقنية التقطير المجزأ للذاكرة للتعامل مع سياقات نصية طويلة تصل إلى 32 ألف رمز دون استنزاف وحدات معالجة الرسوميات.

أظهرت نتائج الاختبارات قفزات واضحة في المجالات الأكثر حساسية للضغط، حيث حقق النموذج المضغوط فارقًا إيجابيًا قدره 7.4 نقاط في الاستدلال طويل السياق (AA-LCR) و5.6 نقاط في اختبار الرياضيات المتقدمة (AIME 2025)، وتفوق حتى على المعلم الأصلي بحجم 120 مليار معامل في اختبار البرمجة المباشرة (LiveCodeBench). وعلى صعيد استقرار التدريب، وصل النموذج الجديد إلى ذروة أدائه في قرابة 100 خطوة فقط، أي أسرع بنحو سبع مرات من التدريب التقليدي، مع ثبات كامل في الأداء دون التراجع الحاد الذي أصاب أسلوب QAT بفقدان نحو 19 نقطة عند مواصلة التدريب.

يحمل هذا التحول دلالة عملية مباشرة للفرق الهندسية ومراكز البيانات في المنطقة، لا سيما في الخليج ومصر والشام؛ إذ يتيح خفض استهلاك ذاكرة الأوزان بأربعة أضعاف وتقليص العمليات الحسابية لكل رمز إلى النصف تشغيل نماذج تفكير عالية القدرة على خوادم محلية أقل تكلفة بكثير. هذا يعني أن مشاريع الذكاء الاصطناعي التي تسعى إلى السيادة على بياناتها لم تعد مضطرة للاختيار بين تكاليف العتاد الباهظة لتشغيل نماذج 16 بت أو التنازل عن دقة المعالجة، بل بات بإمكانها نشر وكلاء ونظم استدلال دقيقة داخل بيئاتها الخاصة بميزانيات حوسبة معقولة.

تثبت هذه النتائج أن التكميم لم يعد مجرد تقليص قسري للأداء مقابل توفير الموارد، بل يمكن توظيفه كفرصة ثانية لنقل المعرفة وترسيخ استقرار النماذج، مما يعيد رسم معادلات الجدوى الاقتصادية لنشر الذكاء الاصطناعي على نطاق واسع.