فصل الأوامر عن البيانات برموز حصرية: آي بي إم تختبر لغة هيكلة تحمي نماذج غرانيت من الاختراق غير المباشر
استمع لهذا المقال
بصوت راشد (Rashed)
تعتمد النماذج اللغوية في بناء استجاباتها على السياق المتاح أمامها، غير أن هذا السياق يتحول في بيئات العمل المعقدة إلى مساحة مزدحمة تختلط فيها تعليمات النظام مع سجل المحادثات والبيانات المسترجعة واستجابات الأدوات الخارجية. المشكلة الجوهرية تكمن في أن بنية هذه البيانات تُمرر عادة بصيغ مثل جيسون التي صُممت للمحللات البرمجية التقليدية لا لآليات الانتباه في نماذج اللغة التوليدية؛ فالمجزئ اللغوي يعامل علامات الاقتباس والأقواس البرمجية بوصفها محارف نصية عامة، مما يربك النماذج صغيرة الحجم تحديدًا ويفتح الباب أمام هجمات حقن الأوامر غير المباشرة المندسة داخل وثائق المستخدمين.
لمعالجة هذا الخلل الهيكلي، طرح فريق أبحاث «آي بي إم غرانيت» لغة توصيف مخصصة للنماذج اللغوية تحمل اسم «إل إل إم أو إن»، إلى جانب نموذجي معاينة مشتقين من عائلة «غرانيت 4.1» بحجمي 3 مليارات و8 مليارات معلَم. تقوم الفكرة على تضمين ستة فواصل حصرية داخل قائمة مفردات المجزئ اللغوي نفسه لتحديد حدود النصوص وفصل دلالات المكونات بدقة لا تقبل اللبس. تتحول مكونات المدخلات هنا إلى كتل مستقلة تحمل معرفات ثنائية المحارف، وترتبط بكتلة تنفيذية محددة في ذيل السياق تحدد بدقة ماهية الأمر المطلوب تنفيذه والبيانات التي يعمل عليها.
هذا الفصل المعماري يحرم نصوص البيانات من القدرة على توجيه النموذج؛ فالتعليمات المندسة داخل وثيقة مسترجعة أو مخرجات أداة لا تُعامل بصفتها أوامر قابلة للتنفيذ بل كمجرد مادة مقروءة. وتكشف نتائج التقييم على معيار «أو بي آي» المخصص لاختبار مقاومة حقن الأوامر غير المباشر أن هذه النماذج التجريبية صدت الهجمات بصورة شبه كاملة، متفوقة بنسبة 47 في المئة مقارنة بأفضل النماذج المتقدمة المغلقة المختبرة، وبنسبة 95 في المئة مقارنة بأفضل النماذج مفتوحة المصدر، مع الحفاظ على مستوى الكفاءة العامة لمهام الاستدلال المعتادة دون تراجع.
بناء السلوك الجديد لم يأتِ كطبقة حماية إضافية فوق نموذج جاهز، بل انطلق من نقاط الفحص الأساسية لنماذج غرانيت 4.1 عبر إعادة صياغة بيانات التدريب وإثرائها بتعليمات وبيانات تمويهية تُرِكت عمدًا دون ربط بالكتلة التنفيذية ليتعلم النموذج إهمالها تلقائيًا. أعقب ذلك تدريب تعزيزي من خمس مراحل متعاقبة عبر خوارزمية جي آر بي أو شملت الاستدلال ومعايرة المعرفة والحساب، وتُوّجت بمرحلة تحسين تفضيل مباشر استندت إلى ألف زوج من الردود الفعلية. كما تتيح البنية للفرق البرمجية ابتكار مفردات توصيف خاصة وتدريب موائمات لورا عليها، كما أثبتت التجربة على معيار «ساينس وورلد» لمحاكاة المهام العلمية.
بالنسبة إلى المؤسسات والفرق التقنية في الخليج ومصر والشام، يكتسب هذا الاتجاه أهمية تشغيلية ملموسة؛ فالكثير من المصارف والهيئات الحكومية في الرياض ودبي والقاهرة تتبنى اليوم نماذج مفتوحة صغيرة ومتوسطة الحجم لنشرها داخل خوادم محلية التزامًا بالسيادة الرقمية وحماية البيانات المالية والحكومية. غير أن اعتماد هذه الحلول على معالجة ملفات جيسون ودمجها مع نصوص غير منظمة يعرض وكلاء الأتمتة لخطر الاختراق أو الانهيار أثناء استخلاص الحقول. التحصين العملي ضد ثغرات الوكلاء الأذكياء لا يبدأ من مرشحات خارجية إضافية تثقل زمن الاستجابة، بل ينبع من البنية الدلالية التي يتعلمها النموذج نفسه داخل سياقه.
ورغم أن الفريق البحثي شدد على أن النموذجين يمثلان معاينة تجريبية موجهة للاختبار والتقييم وليسا مخصصين لبيئات الإنتاج التجاري بعد، فإن توفير أدوات تحويل جيسون البرمجية ودمجها مع مكتبة مليا يمنح المطورين فرصة لفحص سلوك الانتباه وتجربة فصل البيانات عن التوجيه. خطوة كهذه تنبه مطوري التطبيقات الذكية محليًا إلى ضرورة مراجعة طريقة تمرير السياق وتجهيزه، قبل ضخ تكاليف التشغيل في بيئات عمل تتطلب حماية صارمة.