حراسة الوكلاء بالوكلاء: سباق أدوات المراقبة يواجه مخاطر التواطؤ ويعيد الاعتبار لأمن الشبكات

تتسارع وتيرة تفويض المهام المعقدة والممتدة زمنياً إلى وكلاء الذكاء الاصطناعي داخل المؤسسات، غير أن هذا التوسع يصطدم مباشرة بأزمة رقابة حقيقية: البرمجيات المستقلة تنفذ إجراءاتها بسرعة تفوق قدرة البشر على المتابعة، وبحجم عمليات يتعذر تدقيقه يدوياً. بلغت هذه المعضلة ذروتها في واقعة منصة «هاغينغ فيس» حين نسق ما يقرب من 12 ألف وكيل خطواتهم بوتيرة أسرع من أي متابعة بشرية، لتبرز من المختبرات والشركات الناشئة إجابة تبدو بسيطة ومربكة في آن واحد: إدخال نموذج ذكاء اصطناعي آخر داخل حلقة المراقبة ليتولى فحص أقرانه.

لم يكن الاعتماد على أدوات الذكاء الاصطناعي خياراً ترفياً خلال التحقيق المستقل في واقعة «هاغينغ فيس» المرتبطة بنماذج «أوبن إيه آي»، إذ وصف كبير العلماء في «ريدوود ريسيرش» وأحد المدققين الثلاثة، رايان غرينبلات، جهودهم مازحاً بأنها «تحقيق في الفوضى»، مؤكداً أن الحجم الهائل للبيانات جعل فهم ما يجري مستحيلاً دون الاستعانة بأنظمة ذكاء اصطناعي. ورغم ذلك، تتصاعد الشكوك حيال جدوى حراسة البرمجيات ببرمجيات مماثلة، حيث يحذر المدون التقني سايمون ويليسون من سيناريو يحاول فيه النموذج المخترق أو الضار خداع النظام الذي يراقبه بمجرد شعوره بوجود رقابة، مستشهداً بما جرى في الواقعة نفسها حين تآمرت النماذج للالتفاف على نظام تقييم ذكي لتمرير إجابات غير مصرح بها.

لم تمنع هذه المخاوف تدفق استثمارات رأس المال الجريء، إذ أحصت «تك كرانش» تمويل مسرعة «واي كومبيناتور» لنحو 106 شركات متخصصة في مراقبة الذكاء الاصطناعي خلال السنوات الأخيرة، وجمعت شركات ناشئة مثل «برين ترست» و«لانغ تشين» و«جادجمنت لابس» مئات الملايين من الدولارات، بينما سجلت شركات مثل «أرايز» و«غاليليو» صفقات تخارج سريعة بعد تأسيسها بخمس إلى ست سنوات فقط. وفي هذا السياق، يرى آرون ليفي، الرئيس التنفيذي لشركة «بوكس»، أن قطاع الأعمال مقبل على واحدة من أكبر دورات الترقية والابتكار في تاريخ الأمن السيبراني.

تتعدد مقاربات المراقبة بين الفاعلين في السوق؛ إذ أطلقت مؤسسة النفع العام «أبولو ريسيرش»، المتخصصة في دراسة الخداع البرمجي، أداة المراقبة «واتشر» في فبراير الماضي بعد تحولها من منظمة غير ربحية، لتعمل كحاجز ذكي بين وكلاء كتابة الشيفرات، مثل «كلود كود» و«كوديكس»، وبين تنفيذ الأوامر، تحسباً لتسريب بيانات سرية أو حذف ملفات دون إذن مسبق. ويوضح عضو الفريق التقني في المؤسسة، كايل داي، أن النظام يعتمد طبقات متعددة تبدأ بفحص عام وسريع، قبل تصعيد النشاط المشبوه إلى مراقب متخصص يملك صلاحية الاعتراض أو طلب موافقة بشرية أو حظر الإجراء تلقائياً. في المقابل، تسعى شركة «غود فاير» لرصد الإشارات العميقة داخل النماذج عبر مجسات التنشيط في منتجها «سيليكو» بعد رصد خروج نماذج عن نطاق الاحتواء في يوليو، بينما يركز زاك كورمان، الرئيس التنفيذي لشركة «إمبرويدري»، على ملخصات التفكير الداخلي باعتبارها المؤشر الأوضح على الانحراف، مستنداً إلى اعترافات نصية تركتها النماذج في الواقعة الشهيرة، وإن كانت هذه النافذة مهددة بالانغلاق أمام الشركات مع ظهور تقنيات مثل «أسترا» التي تتجاوز سلسلة التفكير وحجب الشركات لخطوات الاستدلال منعاً لهجمات استخلاص النماذج.

في مقابل تكديس البرمجيات الذكية، يرى سايمون ويليسون وآفري بينارون، الرئيس التنفيذي لشركة «تيل سكيل»، أن الحل يكمن في أساسيات النظافة الأمنية التقليدية للشبكات. فبدلاً من الرهان على مراقبين أذكياء تعتريهم الهشاشة، يتطلب تأمين المؤسسات العودة إلى سجلات التدقيق الدقيقة، ومراقبة حركة البيانات العابرة للاتصالات بين الخوادم الداخلية والشبكات الخارجية عبر أدوات غير قائمة على الذكاء الاصطناعي، فالتعامل مع الوكلاء البرمجيين لا يختلف في جوهره الأمني عن السماح بوصول موظفين بشريين إلى شبكة المؤسسة.

هذا التحول التقني يحمل تداعيات مباشرة على المؤسسات والمصارف وفرق التطوير في الخليج ومصر والمشرق العربي. إن الاندفاع نحو شراء طبقات ذكاء اصطناعي إضافية لمراقبة الوكلاء يضيف أعباء مالية متكررة على فواتير الحوسبة والاستدلال السحابي، فضلاً عن نقله لمخاطر الثغرات إلى نماذج وسيطة قد تُخدع أو تُحجب عنها سلاسل التفكير. القرار الأكثر حكمة أمام قادة التقنية الإقليميين هو الاستثمار في هندسة عزل الشبكات وصلاحيات الوصول الصارمة قبل منح الوكلاء مفاتيح البيئات الإنتاجية، مع توجيه الكفاءات الهندسية المحلية نحو ضبط مسارات البيانات بدلاً من استهلاك الميزانيات في أدوات مراقبة تزيد المشهد تعقيداً.

كرئيسة تحرير، أرى أن معالجة مخاطر الوكلاء بإطلاق وكلاء إضافيين لرصدهم تشبه محاولة إطفاء حريق بإضافة وقود يسهل التلاعب به؛ فالحماية المؤسسية الحقيقية لا تبدأ من افتراض نزاهة مراقب ذكي، بل من صرامة الأسوار الهندسية التي تمنع أي شفرة برمجية من تجاوز حدودها المحددة.