تكميم جداول التضمين يوفر 55 بالمئة من ذاكرة النماذج مفتوحة الأوزان

اعتمدت أجيال حديثة من النماذج اللغوية مفتوحة الأوزان على جداول تضمين السلاسل اللفظية، المعروفة باسم جداول إن غرام، لدعم دقة المعالجة وتمثيل الرموز المترابطة، غير أن هذا المكسب المعماري جاء مصحوبا بضريبة تشغيلية قاسية على الذاكرة. تخزن هذه الجداول تمثيلات متقدمة لسلاسل الرموز القصيرة، مثل أزواج الرموز المتتالية أو الثلاثيات، ويسترجعها النموذج أثناء المعالجة، لكنها تلتهم سعات تخزينية هائلة؛ إذ يخصص نموذج «ديب سيك في 4.1 فلاش» وحده 196 مليار معامل لذاكرة إن غرام المعروفة باسم إنغرام. فحصنا تفاصيل الورقة البحثية الصادرة عن الباحثين ستيفن تشونغ ووينيو دو، المنشورة عبر منصة «أركايف»، والتي تكشف عن مسار هندسي يقلص تكلفة الذاكرة دون التضحية بالمكاسب الحسابية التي توفرها تلك الجداول.

قدم الباحثان منهجا يعتمد على تخزين تضمينات إن غرام بدقة منخفضة، مع إجراء تقص منهجي لطرق التكميم وتوزيع البتات عبر الجداول المختلفة. أظهرت الاختبارات التي أجريت على نماذج مدربة من البداية تنتمي إلى عائلات نانوشات ولاما وجي بي تي 2، أن خفض الدقة إلى جداول بأربعة بت يوفر قرابة 75 بالمئة من ذاكرة الجداول، مع الحفاظ على أكثر من 99 بالمئة من مكاسب تقليل خسارة التحقق التي حققتها إضافة الجداول أصلا. ورغم أن النزول إلى ما دون أربعة بت أدى إلى تراجع أكبر في الأداء، بينت النتائج أن مرحلة ضبط دقيق وجيزة كانت كافية لاستعادة جزء كبير من هذا الفاقد، فضلا عن أن إعادة استثمار الذاكرة الموفرة في بناء جداول أكبر حجمًا أتاحت تفوقا في الأداء يتجاوز جداول الدقة الكاملة الأصلية مع البقاء دون سقف استهلاكها السابق.

لم تتوقف التجربة عند حدود النماذج التجريبية الصغيرة، بل امتدت وفورات الذاكرة مباشرة إلى معمارية النماذج الكبيرة العاملة بالفعل؛ فعند تطبيق جداول التضمين منخفضة البت على نموذجي «ديب سيك في 4.1 فلاش» و«كوين 3.8 فلاش نكست»، وفرت هذه الجداول ما بين 47 و55 بالمئة من حجم ذاكرة الجداول. وجاء هذا التقليص الحاد في الذاكرة دون كلفة باهظة، حيث لم تتجاوز الزيادة في مقياس الحيرة 1.2 بالمئة، مع بقاء أداء المهام التطبيقية اللاحقة محفوظا بصورة شبه تامة عبر الاختبارات المقارنة، مما يثبت جدوى التكميم منخفض البت بوصفه حلا عمليا يحرر الموارد التشغيلية.

ينعكس هذا التحول الهندسي بوضوح على غرف الخوادم ومراكز البيانات في الخليج ومصر وبلاد الشام، حيث تمثل كلفة توفير ذاكرة بطاقات الرسوميات العائق الأكبر أمام تشغيل النماذج الضخمة محليا. إن تخصيص مئات مليارات المعاملات لجداول التضمين في أنظمة مثل ديب سيك كان يفرض على المؤسسات المصرفية والجهات الحكومية في الرياض وأبوظبي والقاهرة حجز عتاد حوسبي فائق التكلفة لمجرد حمل مصفوفات البحث. ومع تقليص حجم هذه الجداول إلى النصف تقريبا في النماذج الجاهزة أو بنسبة ثلاثة أرباع في النماذج المدربة، يستطيع مهندسو البنية التحتية تشغيل النماذج مفتوحة الأوزان على مصفوفات خوادم أصغر، مما يخفض فاتورة الاستدلال المالي، ويمنح فرق التطوير الإقليمية قدرة على التوسع في النشر الداخلي للنماذج المتقدمة دون الاصطدام بحدود سعة الذاكرة الرسومية.

تثبت هذه الدراسة أن توسيع ذاكرة النماذج اللغوية لم يعد مشروطا بمضاعفة استهلاك العتاد المادي، بل يمكن تحقيق التوازن بين كفاءة التخزين وجودة المخرجات عبر هندسة التكميم الدقيقة. المعادلة الآن انتقلت إلى كفاءة الاستثمار في الذاكرة المحررة، حيث تتيح التقنية لفرق الذكاء الاصطناعي توظيف المساحة الموفرة لزيادة حجم الجداول ورفع دقة الاستجابة، مما يجعل تبني المعماريات الهجينة خيارا متاحا ومجديا عمليا في بيئات الإنتاج الحقيقية.