«توكن كاست»: بحث يفك لغز تضخم الرموز ويخفض تكلفة ميزانيات وكلاء الذكاء الاصطناعي
استمع لهذا المقال
بصوت راشد (Rashed)
تفاوت استهلاك الرموز في تنفيذ المهمة الواحدة يمثل معضلة حقيقية أمام تشغيل وكلاء النماذج اللغوية الكبيرة. فعندما ينفذ وكيل ذكاء اصطناعي مهمة ما، يمكن أن يتفاوت حجم استهلاك الرموز بأكثر من رتبة مقدارية كاملة بين تشغيل وآخر للمهمة نفسها. هذا التباين الكبير ينشأ بطبيعته من مسار عمل الوكيل، إذ يختار خطواته التالية استناداً إلى التغذية الراجعة القادمة من الأدوات البرمجية والنتائج الوسيطة التي يحققها أثناء التنفيذ. وفي الوقت ذاته، يؤدي تراكم سياق العمليات إلى تضخيم حجم المدخلات في كل استدعاء لاحق للنموذج، مما يجعل التكلفة الإجمالية عصية على التنبؤ المسبق قبل بدء التشغيل، ويفرض مراجعة التقديرات باستمرار مع تقدم مسار المهمة.
في ورقة بحثية جديدة نشرت عبر منصة «أركايف» تحت عنوان «توكن كاست»، قدم الباحث تشاوتشيان أويانغ وتسعة باحثين آخرين إطاراً يتعلم تمثيلاً تركيبياً للتكلفة لكل مقطع تنفيذي. يسجل هذا النظام استهلاك المقطع ذاته ومقدار النمو الذي يفرضه على سياق العمليات اللاحقة. تركيب المقاطع التنفيذية المتجاورة يتيح حساب تقدير تراكمي دقيق يلتقط التكلفة الإضافية لإعادة قراءة السياق القديم مع كل استدعاء جديد. ومع تطور مسار التنفيذ وظهور معطيات عملية جديدة، يحدّث النظام تنبؤاته بصورة فورية دون الحاجة إلى إجراء استدعاءات إضافية لنماذج لغوية أخرى، محققاً متوسط زمن تنبؤ تراكمي يبلغ 32.8 ميلي ثانية فقط لكل عملية تشغيل على معيار اختبارات البرمجة «إس دبليو إي بينش فيريفايد».
أظهرت النتائج التجريبية عبر أربع مجموعات من المهام وستة نماذج وكلاء مختلفة، شملت 96 تركيبة تم تقييمها، تفوقاً ملموساً لإطار «توكن كاست». حيث حقق النظام خفضاً في متوسط الخطأ المطلق بمعدل 14.5 في المئة مقارنة بأقوى النماذج المقارنة. وفي تجارب إعادة التشغيل غير المتصلة للتحكم في الميزانية، أتاح استخدام النظام استهلاك رموز أقل بنسبة 21.3 في المئة في المتوسط مقارنة بسياسات الميزانية الثابتة، مع الحفاظ على معدل اكتمال المهام البرمجية نفسه، كما أتاح الفريق البحثي الشيفرة البرمجية للمشروع في مستودع عام.
الانتقال من سياسات الميزانية الجامدة إلى التنبؤ التراكمي الديناميكي يمس صميم العمليات البرمجية في منطقتنا. فبالنسبة للفرق التقنية والشركات التي تبني وكلاء لأتمتة مهام التطوير والخدمات الرقمية في الخليج ومصر وبلاد الشام، تشكل الفواتير المتذبذبة لاستهلاك واجهات البرمجة عائقاً ملموساً أمام التوسع والتشغيل المستقر. إن التفاوت الذي يتجاوز عشرة أضعاف في استهلاك الرموز يجعل التخطيط المالي للمشاريع المؤسسية عرضة لمخاطر الهدر أو التوقف المفاجئ. وتطبيق خوارزميات خفيفة قادرة على تقدير كلفة تضخم السياق بأجزاء من الثانية ومن دون استدعاءات إضافية، يمنح قادة التقنية هنا قدرة حقيقية على ضبط الميزانيات وخفض الإنفاق بأكثر من الخمس دون التضحية بإنجاز العمليات.
يتعين عليك اليوم كمسؤول تقني أو مطور لأنظمة الوكلاء مراجعة آليات التحكم في كلفة الحوسبة داخل مشاريعك. إن استبدال الحدود المالية الصارمة بنماذج تنبؤية تراعي نمو السياق لحظياً يمثل خطوة أساسية لتفادي إهدار الموارد ورفع كفاءة البنية البرمجية في بيئات العمل الحقيقية.