«تخفيف المتوسط» يعطل السياقات الطويلة: تقنية جديدة تسرع زمن الاستجابة الأول بمقدار ستة أضعاف

يقف طور المعالجة الأولية، المعروف في أوساط هندسة النماذج اللغوية باسم «البريفيل»، كعائق تقني حاسم أمام تشغيل النماذج ذات النوافذ السياقية الضخمة. فبينما يتركز اهتمام المستخدمين عادة على سرعة توليد الرموز اللاحقة، تفرض طبقات الانتباه الكثيف حسابات شاقة على كل رمز داخل المدخلات قبل ظهور الرمز الأول. وفي هذا السياق، قدم ثلاثة باحثين، هم تشوكسو سونغ وجيوكي وي وتشنكان بينغ، ورقة بحثية عبر منصة «أركايف» تطرح حلاً خوارزمياً أطلقوا عليه اسم «آر بي إس أتنشين» لمعالجة معضلة السياقات الطويلة دون الحاجة إلى إعادة تدريب النماذج، محققين تسريعاً يصل إلى قرابة ستة أضعاف في زمن الوصول إلى أول رمز استجابة.

ترتكز المعالجة التقليدية لتخفيف عبء السياقات الطويلة على تجزئة المدخلات إلى كتل متفرقة واختيار الكتل الأكثر صلة، لكن الباحثين رصدوا ثغرة منهجية سموها «تخفيف المتوسط». وتحدث هذه المشكلة حين يُعتمد على مركز الكتلة الرياضي لحساب الصلة، فإذا احتوت الكتلة على رمز واحد شديد الأهمية محاط بعدد كبير من الرموز غير المهمة، يؤدي حساب المتوسط إلى محو أثر ذلك الرمز وإسقاط الكتلة بأكملها من مصفوفة الانتباه. ولتجاوز هذا الهدر المعرفي، تقترح التقنية الجديدة هندسة اختيار ثنائية المسار تجمع بين مركز الكتلة وفرع للإنقاذ، حيث يتولى المسار الأساسي رصد الصلة العامة، بينما يعمل مسار الإنقاذ على احتساب أقصى نصف قطر لكتلة المفاتيح مع الأخذ في الحسبان توزيع المدخلات عبر الطبقات ورؤوس الانتباه المختلفة، ما يضمن استعادة الكتل المعرضة للإسقاط غير العادل.

اللافت في التصميم الهندسي لهذه الأداة أنه يعتمد عتبات حسابية مستقلة لكل من المسارين قبل دمج أقنعتهما الرقمية، وهو ما يتيح الحفاظ على التوافق الكامل مع خوارزميات تنفيذ الانتباه السريع للكتل المتفرقة مثل «فلاش أتنشين». وقد كشفت التجارب المعملية المجراة على معالجات «إنفيديا إتش 100» عن نتائج تشغيلية لافتة، إذ حققت التقنية تسريعاً بمقدار 20.65 ضعفاً في تسريع الانتباه المنفصل، وتسريعاً بمقدار 11.92 ضعفاً لطبقة الانتباه في بيئة التشغيل «في إل إل إم»، مع خفض زمني فعلي يعادل 5.97 أضعاف في زمن إنتاج الرمز الأول عند معالجة نافذة سياق تبلغ 128 ألف رمز على نموذج «كيوين 3» بحجم ثلاثين مليار معامل في نسخته المضغوطة.

لم يأت هذا التسارع الحسابي على حساب دقة النموذج، وهي المعادلة التي طالما واجهت تقنيات الانتباه المتفرق. فعلى نموذج «كيوين 3» الكثيف بحجم 32 مليار معامل، سجلت التقنية دقة إجمالية بلغت 88.65 في المئة على معيار «رولر» لاختبار السياقات الطويلة، مقارنة بنحو 89.52 في المئة عند تشغيل آلية الانتباه الكثيف الكامل، ما يعني الحفاظ على الأداء بدقة شبه مطابقة بفارق يقل عن نقطة مئوية واحدة. كما عزز الباحثون نتائجهم باختبارات إضافية عبر معايير قياسية متعددة شملت «لونغ بينش الإصدار الثاني» و«إنفينيت بينش» واختبار الفيديو متعدد الوسائط «فيديو إم إم إي»، مع قياس معدلات الاحتفاظ الفعلي بالرموز وسلوك أحجام الكتل واستهلاك الذاكرة.

تكتسب هذه الترقية البرمجية وزناً عملياً مباشراً إذا كنت تدير بنية تحتية محلية للذكاء الاصطناعي في بيئات العمل داخل أسواق الخليج أو مصر أو الشام. فمع تصاعد متطلبات استضافة البيانات على خوادم خاصة داخل الحدود، تواجه المؤسسات المالية والاستشارية والجهات التنظيمية اختناقاً كبيراً عند إدخال ملفات قضائية أو عقود ائتمانية مطولة تتجاوز مئة ألف رمز، حيث تستهلك مرحلة التحضير المسبق موارد البطاقات الرسومية وتتسبب في تجميد مؤقت لردود روبوتات المحادثة الموجهة للعملاء. إن إتاحة خوارزمية ترفع سرعة الاستجابة الأولى دون تكاليف إعادة التدريب تسمح للمهندس المحلي برفع كفاءة معالجات «إتش 100» المتاحة لديه، وخدمة استعلامات وثائقية معقدة بزمن انتظار أقصر ومعدل استهلاك طاقة أقل.

التحول نحو تخفيف أعباء الحوسبة عبر خوارزميات الاستدلال الذكية يعيد ترتيب الأولويات التشغيلية للفرق التقنية، فبدلاً من اللجوء الفوري إلى شراء شرائح إضافية لتغطية بطء السياقات الممتدة، تفتح مثل هذه الأبحاث مساراً برمجياً لخفض التكلفة الإجمالية للملكية في مراكز البيانات الإقليمية، وتمنح المطورين قدرة فورية على إدماج تقنيات الانتباه المتفرق ضمن أطر العمل المفتوحة مثل «في إل إل إم» دون التضحية بدقة الاسترجاع.