تخطَّ إلى المحتوى

«ماجنيتيود» تطلق محرك استدلال لوكلاء الذكاء الاصطناعي: مواءمة العتاد محليا تضاعف سرعة النماذج المفتوحة

شارك المقال
«ماجنيتيود» تطلق محرك استدلال لوكلاء الذكاء الاصطناعي: مواءمة العتاد محليا تضاعف سرعة النماذج المفتوحة
الصورة: Maxence Pira / Unsplash

استمع لهذا المقال

بصوت راشد (Rashed)

أطلقت شركة «ماجنيتيود» الناشئة محرك استدلال مفتوح المصدر مخصصا لتشغيل وكلاء الذكاء الاصطناعي، في خطوة تستهدف معالجة الاختناقات الحسابية التي تواجه النماذج مفتوحة الوزن عند تشغيلها محليا على أجهزة المطورين. يأتي المشروع، المرخص تحت رخصة «أباتشي 2.0»، ليقدم بديلا مباشرا للمحركات العامة التقليدية مثل «llama.cpp» و«أولاما» و«إل إم ستوديو»، معتمدا على فلسفة مختلفة في التعامل مع العتاد الفيزيائي للحواسيب.

تعتمد المحركات العامة الشائعة في العادة على حزم برمجية مسبقة التصريف تغطي فئات عريضة من المعالجات، ما يترك جزءا كبيرا من طاقة الشرائح غير مستغل. في المقابل، يقوم المحرك الجديد بتصريف نوى المعالجة وضبطها ذاتيا على الشريحة الفعلية للجهاز قبل بدء تشغيل النموذج، وهو ما يحقق قفزة في الأداء تصل إلى ضعف السرعة مقارنة بمكتبة «llama.cpp». وتكشف البيانات التقنية للمشروع عن تسريع عمليات فك التشفير بنسبة 92 في المئة على معالجات «أبل سيليكون» عبر واجهة «ميتال»، وتسريعها بنسبة 19 في المئة على رقائق «إنفيديا» عبر بيئة «كودا»، مع دعمه الكامل لمعالجات «إيه إم دي» ووحدات المعالجة المركزية التقليدية دون فرض حد أدنى للمواصفات.

لا تقتصر المشكلة في بيئات الوكلاء على سرعة توليد الرموز، بل تمتد إلى استهلاك الذاكرة وتعدد الجلسات المتزامنة. تعالج المنصة هذا التحدي بتوفير استهلاك الذاكرة بنسبة 27 في المئة لكل وكيل، مع تحرير المساحة فورا بمجرد توقف مهام الوكيل عن العمل. كما توفر المنصة نظاما لمشاركة ذاكرة التخزين المؤقت للسوابق عبر الجلسات المتزامنة، ما يمنع تباطؤ النظام عند دوران عدة وكلاء برمجيين في وقت واحد لإنجاز مهام معقدة.

يتوفر المحرك كتطبيق مكتبي متكامل لأنظمة «ماك أو إس» و«لينكس» و«ويندوز»، ويتضمن واجهة سطر أوامر مدمجة تتيح الربط بنقرة واحدة مع وكلاء البرمجة الشائعين مثل «كلود كود» و«كودكس» و«هيرميز» و«أوبن كود» و«باي» و«كلاين»، إلى جانب توفير واجهة برمجية متوافقة مع معايير «أوبن إيه آي». يتيح هذا التكامل تنفيذ المهام محليا بالكامل وبشكل مجاني، حيث تبقى الأوامر والملفات والنماذج على جهاز المستخدم دون إرسال أي بيانات عبر الإنترنت بعد اكتمال تنزيل النموذج المختار.

يمثل هذا التحول نقطة فاصلة لفرق التطوير والشركات الناشئة في الخليج ومصر والمنطقة العربية عموما. تشغيل وكلاء البرمجة وسلاسل المهام المؤتمتة عبر السحابة كان يفرض استنزافا متواصلا لميزانيات الاستدلال عبر رسوم استهلاك الرموز، بينما يتيح تحسين الأداء المحلي نقل أعباء التطوير اليومي إلى حواسيب المطورين وأجهزة العمل المكتبية بتكلفة استدلال صفرية. علاوة على ذلك، يمنح هذا المحرك المؤسسات المصرفية والجهات الحساسة في الرياض وأبوظبي والقاهرة مسارا آمنا لتبني وكلاء المهام البرمجية على قواعد بياناتها الداخلية، متجاوزا اشتراطات الامتثال وحوكمة البيانات التي كانت تحظر تمرير الشيفرات الحساسة إلى خوادم السحابة العامة.

اشترك في همسات الذكاء الاصطناعي — كل أسبوع: قصص وفرص وأحداث مختصرة وموثقة، بلا حشو.

اشترك ليصلك الجديد