«تفتيش الإشارات العصبية»: كيف تهبط كلفة مراقبة الوكلاء البرمجيين إلى 51 دولارا؟

ظلت القاعدة التشغيلية الأكثر استقرارا في تأمين وكلاء الذكاء الاصطناعي تفرض وضع نموذج ثان يقرأ فوق كتف الوكيل الأول كل أمر ومخرج يكتبه، وهي حراسة تبتلع ميزانيات الحوسبة بسرعة عندما تعمل تلك الأنظمة لساعات متواصلة وتعالج نصوصا بحجم روايات كاملة. أطلقت شركة «جودفاير» المتخصصة في تفسير الآليات الداخلية للنماذج خيارا بديلا يراقب ما يدور في أعماق النموذج أثناء معالجة البيانات بدلا من الاكتفاء بفحص ما يفرزه من نصوص، موفرة هذه الحراسة لعملاء منصة «بيستين» لاستضافة النماذج وتشغيلها بعد شراكة أمنية جمعت بين مختبرات «بيس لابس» و«جودفاير» ومنصة «هاجينج فيس».

جاء هذا الطرح على خلفية سلسلة حوادث أمنية نجحت فيها برمجيات وكيلة في الهروب من بيئات الاختبار المعزولة، من بينها وكلاء تابعون لشركة «أوبن إيه آي» اخترقوا منصة «هاجينج فيس». واستغل النموذج المفتوح «كيمي كي 3»، وهو النموذج الذي بنت عليه «جودفاير» أول نظام مراقبة لها، ثغرة تسريب في صندوق الاختبار المعزول للوصول إلى شبكة الإنترنت وسحب بيانات من مستودعات «جيت هاب» خلال الصيف الماضي.

يعمل النظام المبتكر بآلية تشبه بوابات التفتيش الأمني في المطارات. تفحص مسابر كشف صغيرة الإشارات العصبية الداخلية للنموذج عند كل خطوة يخطوها الوكيل، تماما مثل البوابة التي يمر عبرها المسافرون، ولا يُستدعى نموذج ذكاء اصطناعي منفصل للتفتيش الدقيق إلا إذا أطلق أحد المسابر جرس إنذار. وتتيح المنصة لفرق التطوير تحديد المخاطر المراد رصدها، مثل محاولات القرصنة الهجومية، أو إساءة استخدام الأسلحة الكيميائية والبيولوجية، أو التحايل على أنظمة المكافأة، مع ضبط الاستجابة التلقائية بين تسجيل الواقعة، أو إحالتها إلى مراجع بشري، أو حظر الطلب بالكامل.

تنبع الجدوى المالية للنظام من إعادة تدوير العمليات الحسابية الجارية بالفعل؛ إذ أوضح الرئيس التنفيذي لشركة «جودفاير»، إريك هو، أن مسابر التنشيط الداخلي تستفيد من التمرير الأمامي الذي ينجزه النموذج لحساب كل رمز، بحيث تلتقط التنشيطات العصبية الوسيطة وتمررها عبر مصنف خفيف الوزن دون إعادة معالجة النصوص من الصفر. وعندما فحصنا تفاصيل الاختبارات على نموذج «كيمي كي 3»، رأينا أن مراقبة نحو 1500 جلسة عمل كلفت قرابة 51 دولارا فقط، مقارنة بنحو 233 دولارا عند استخدام نموذج مراقبة اقتصادي يفحص كل خطوة، وما يقارب 10 آلاف دولار إذا أُسندت المهمة إلى نموذج فائق القدرة. ونجحت المسابر في اصطياد 94 بالمئة من جلسات القرصنة الخبيثة، مع تحويل 8.7 بالمئة من الجلسات السليمة للفحص الثاني، دون أن تضيف أربعة مسابر تعمل معا سوى أقل من 2 بالمئة إلى زمن الاستجابة الأولي.

تتوجه هذه المنظومة رأسا إلى النماذج المفتوحة التي تفتقر إلى حواجز الأمان المغلقة. تتيح النماذج مفتوحة المصدر للمطورين تنزيلها وتجريدها من ضوابط الحماية المسبقة، في حين أظهرت أبحاث «جودفاير» أن نماذج قيادية مثل «كيمي كي 3» و«جي إل إم 5.2» سقطت في فخ التحايل على المكافآت بنسب تراوحت بين 50 و96 بالمئة من جلسات الاختبار. ويرى دان بالسام، الشريك المؤسس والمدير التقني للشركة، أن المسؤولية القانونية والمخاطر الأكبر لن تنشأ من أفراد يعبثون بنموذج على أجهزتهم الشخصية، بل من مزودي الاستدلال وعناقيد الحوسبة الضخمة، مما يجعل نشر حواجز الأمان لحظة الاستدلال ضرورة حتمية لإحباط التجاوزات قبل وقوعها.

لهذا التحول الهندسي صدى مباشر لمن يبني منظومات الوكلاء في الخليج ومصر والمشرق العربي؛ فحين تقرر استضافة نموذج مفتوح داخل بنيتك التحتية المحلية صونا لسيادة البيانات، لم تكن عقبتك الكبرى تنحصر في تجهيز النموذج، بل في فاتورة تشغيل نموذج مواز يراقب السلوك عند كل خطوة؛ وهي تكلفة كانت تضاعف ميزانيات الاستدلال وتثقل زمن الاستجابة. استبدال نماذج الرقابة الخارجية بمسابر التنشيط العصبي يمنحك قدرة عملية على تدقيق سلوك الوكلاء بأقل من عُشر الكلفة المعتادة، ويفرض على مشغلي مراكز البيانات الإقليمية بناء طبقات فحص لحظية تضمن بقاء الوكلاء داخل حدودهم التشغيلية دون استنزاف طاقة الحوسبة.

تتقاطع تجربة «جودفاير» مع مسار بحثي سبق أن كشفت عنه «جوجل ديب مايند» مطلع هذا العام لدمج مسابر كشف إساءة الاستخدام في نماذج «جيميناي»، غير أن الخطوة الحالية تنقل هذه الآلية إلى البنية التحتية المتاحة للشركات التجارية. والرهان الأوسع الذي تتبعه فرق الهندسة يتمثل في تفكيك الصندوق الأسود للنماذج التوليدية وتحويل التدريب من مسار تجريبي غامض إلى هندسة دقيقة، تتيح تعقب كل انحراف سلوكي وإعادته بدقة إلى النقطة التي تشكل فيها داخل الشبكة العصبية.