تخطَّ إلى المحتوى

«لاما مود شيب» يحرر النماذج العملاقة: 284 مليار معامل تعمل على المعالجات المركزية وحدها

شارك المقال
«لاما مود شيب» يحرر النماذج العملاقة: 284 مليار معامل تعمل على المعالجات المركزية وحدها
الصورة: Rémy / Unsplash

استمع لهذا المقال

بصوت ليلى (Layla)

تراجعت كلفة تشغيل النماذج الضخمة خطوة ملموسة نحو عتاد المكاتب التقليدي، بعدما أثبت مشروع مفتوح المصدر إمكانية كسر حاجز الذاكرة الصارم وتشغيل طرازات بحجم 284 مليار معامل على معالجات مركزية عادية دون الاستعانة ببطاقة رسومية واحدة. المشروع الذي يحمل اسم «لاما مود شيب» في إصداره 2.4.0، استهدف معضلة لطالما حاصرت فرق التطوير المستقلة والمؤسسات الناشئة، والمتمثلة في خروج النماذج المتقدمة ذات معمارية خليط الخبراء من نطاق الحواسيب الشخصية بسبب متطلبات الذاكرة العشوائية الهائلة واحتكار بطاقات التسريع باهظة التكلفة.

أظهرت القياسات التقنية للمشروع قدرته على تقليص الحجم الإجمالي لنموذج «ديب سيك في 4 فلاش»، الذي يضم 284.33 مليار معامل مع تفعيل 13.17 مليار معامل أثناء المعالجة، من 76.87 غيغابايت إلى 56.56 غيغابايت على القرص الصلب. هذا الانكماش الحسابي سمح للنموذج بالاستقرار داخل ذاكرة عشوائية فعلية بلغت ذروتها 57.61 غيغابايت عند نافذة سياق كاملة تصل إلى 256 ألف رمز، متفاديًا بذلك انهيار نفاد الذاكرة الذي يصيب أنظمة لينكس المزودة بذاكرة سعتها 64 غيغابايت. المعادلة الهندسية هنا تجاوزت فكرة التكميم البسيط إلى إعادة هيكلة حركة البيانات بين مسجلات المعالج وذاكرات التخزين المؤقت عبر أربعة مستويات متتالية.

اعتمد هذا التحول على دمج خوارزمي يجمع بين ضغط المشتقة الثانية لمصفوفة هيسيان التحليلية في طبقات التنشيط، واختزال معاملات الانتباه متعدد الرؤوس عبر نظام كسوري ثنائي البتات يحمل الرقم التعريفي الأربعين في بيئات «جي جي إم إل»، إلى جانب تشذيب الخبراء الأقل نشاطًا عبر التربيع الحسابي. والنتيجة العملية لهذه المعالجة لم تقتصر على استيعاب النموذج داخل الذاكرة، بل سجلت سرعة قراءة أولية بلغت 44.36 رمزًا في الثانية على معالجات «زن 5»، وسرعة توليد تتراوح بين 9 و14.7 رمزًا في الثانية عند الاستعانة بخوارزمية التوليد التخميني المستعارة من محركات الشطرنج، وهي سرعات كافية لإجراء محادثة تفاعلية مع نموذج رائد دون فترات انتظار معطلة.

المشروع وسع نطاق دعمه ليشمل نماذج أخرى مثل «نيموترون 3.5» المكون من 30.2 مليار معامل، إذ عمل بكفاءة داخل 14.35 غيغابايت من الذاكرة محققًا سرعات توليد بلغت 60.4 رمزًا في الثانية على معالجات الحواسيب المكتبية، وقفزت إلى 111.6 رمزًا في الثانية على محطات العمل متعددة القنوات. الابتكار الذي يعالج عقبة المطورين اليومية تمثل في تسريع وكلاء البرمجة، حيث أتاح استعادة سياق التفاعل في واجهة «كلود كود» عبر الذاكرة المشتركة خلال مدة تتراوح بين 13 و32 ميلي ثانية بدل انتظار 45 ثانية في كل دورة تقييم، مع الإبقاء على فاعلية كافة الأدوات البرمجية الأربعين دون انقطاع.

هذا التحول يفرض إعادة ضبط فورية لخطط الفرق التقنية في الخليج ومصر والشام. فبدل الارتهان لحجز وحدات معالجة الرسوميات السحابية المكلفة أو انتظار توريد عتاد الخوادم النادر، بات بمقدور الشركات الناشئة وفرق التطوير المحلية تشغيل نماذج صلبة وكاملة القدرات الاستدلالية داخل خوادمها الداخلية أو حواسيبها المكتبية القائمة. وتكتسب هذه الخطوة وزنًا استراتيجيًا خاصًا في قطاعات المال والمصارف والاستشارات القانونية والمؤسسات الصحية التي تخضع لضوابط سيادية تلزمها بعدم تمرير سجلاتها وبيانات عملائها عبر واجهات برمجة التطبيقات الخارجية، إذ يفتح هذا الإنجاز باب المعالجة المحلية المعزولة بتكلفة عتاد في متناول الجميع.

ومع ذلك، ينبغي للقارئ التقني الانتباه إلى الجانب التشغيلي في هذه الحزمة؛ فالنماذج المعدلة بتنسيق الكتل المخصص لا تعمل مباشرة على أدوات الاستدلال الشائعة دون استخدام الملف البرمجي الخاص بالمشروع. الاستثمار الفعلي في المرحلة القادمة لن يقف عند رصد ميزانيات شراء العتاد الخارق، بل يتطلب بناء كفاءات متقدمة في هندسة الأنظمة وتحسين برمجيات المعالجة منخفضة المستوى. لقد انكسر احتكار البطاقات الرسومية للنماذج العملاقة، والرهان الحقيقي بات معقودًا على كفاءة الاستغلال الهندسي للمعالجات المتاحة بالفعل بين أيدي المطورين.

اشترك في همسات الذكاء الاصطناعي — كل أسبوع: قصص وفرص وأحداث مختصرة وموثقة، بلا حشو.

اشترك ليصلك الجديد