تخطَّ إلى المحتوى

معيار «نورم جيم» يكشف فجوة الوكلاء: أقوى النماذج تعجز عن استنتاج الأعراف الاجتماعية من مراقبة الآخرين

شارك المقال
معيار «نورم جيم» يكشف فجوة الوكلاء: أقوى النماذج تعجز عن استنتاج الأعراف الاجتماعية من مراقبة الآخرين
الصورة: Melo Liu / Unsplash

استمع لهذا المقال

بصوت ليلى (Layla)

يكشف اختبار معياري جديد نشرته منصة «أركايف» بعنوان «نورم جيم» أن النماذج اللغوية الكبيرة لا تزال عاجزة عن التقاط القواعد غير المعلنة داخل البيئات المشتركة. الورقة البحثية، التي شارك في إعدادها باحثون هم بنزي لي وزيهوان تشانغ وسيوكهيون بايك وجيليان هادفيلد وتيانمين شو، وضعت الوكلاء في مجتمعات تفاعلية تتطلب استنتاج معيار اجتماعي خفي أثناء تنفيذ مهمة محددة. والنتيجة أن أقوى النماذج اللغوية لم تحقق سوى 55.3 بالمئة في معدل النجاح المشترك بين إنجاز المهمة والامتثال للمعيار، مما يثبت أن استيعاب القواعد الاجتماعية يمثل عقبة هيكلية أمام استقلال الوكلاء البرمجيين.

التمييز بين الممكن برمجيا والمسموح به عرفيا

توضح الدراسة أن معظم التقييمات السابقة كانت تقيس مدى قدرة النموذج على تذكر وتطبيق معايير يعرفها بالفعل ومخزنة مسبقا في بيانات تدريبه، بدلا من اختبار قدرته على اكتساب قواعد جديدة غير مألوفة من خلال التفاعل الحي. يتطلب النجاح في بيئة «نورم جيم» الفصل الدقيق بين ما هو ممكن إجراؤه في البيئة وما هو مسموح به، ثم استنباط المعيار الخفي عبر مراقبة سلوك الوكلاء الآخرين والجزاءات المفروضة عليهم، وتطبيق ذلك الفهم على مواقف مستجدة. وتضم البيئة معايير متنوعة وسياقات متعددة تتيح فحص الوكلاء بمنهجية موحدة في مواجهة مجتمعات برمجية تحكمها قيود عشوائية لكنها ملزمة.

أظهر التحليل السلوكي للنماذج مفارقة دقيقة في آلية التعلم، فالنماذج قادرة أحيانا على تعديل قراراتها عندما تتلقى جزاءات مباشرة تستهدف أفعالها الفردية، لكنها تتعثر تعثرا واضحا حين تحاول الاستفادة من سلوك الوكلاء الآخرين أو مراقبة الجزاءات التي يتلقاها غيرها لاستنتاج القاعدة الضمنية الحاكمة. وتزداد هذه المشكلة تعقيدا مع تأكيد الباحثين أن الضبط الدقيق للنماذج قد لا يكون كافيا لمعالجة هذا الخلل وتطوير كفاءتها المعيارية، مما يقود إلى استنتاج صريح بأن النماذج الحالية تفتقر إلى قدرة متماسكة وقابلة للنقل لاكتساب المعرفة المعيارية عبر التفاعل الاجتماعي التلقائي.

إعادة هندسة الرقابة بدل الاعتماد على التكيف التلقائي

هذه النتيجة تعيد ترتيب الأولويات التشغيلية للفرق التقنية ومطوري الذكاء الاصطناعي في الخليج ومصر والمنطقة، وتحديدا في المؤسسات التي تتجه إلى ربط وكلاء مستقلين بأنظمة الفواتير أو خدمة العملاء أو إدارة العمليات المشتركة. الرهان على أن النموذج سيتكيف ذاتيا مع بيئة العمل أو يستنتج حدود الصلاحيات العرفية عبر مراقبة المعاملات اليومية رهان خاسر تقنيا. فإذا كان الوكيل لا يفرّق بين ما تتيحه واجهة البرمجة وما تسمح به السياسة المؤسسية غير المكتوبة، فإن تركه يعمل بحرية يعرّض المنشأة لقرارات نظامية خاطئة أو تجاوزات إدارية.

يعني ذلك عمليا أن مهارة الفرق البرمجية في بيئتنا التقنية لم تعد محصورة في بناء مسارات الوكلاء وربطهم بالأدوات، بل في هندسة حواجز حماية صلبة ومحددة بدقة تمنع الاعتماد على التعلم العفوي للقواعد. إن إدراك أن نسبة الخطأ في الامتثال تتجاوز 44 بالمئة لدى أقوى النماذج يفرض على مديري التقنية التوقف عن التعامل مع النماذج على أنها تفهم السياق البشري تلقائيا، واستبدال الضبط الدقيق المكلف بحواجز تحقق خارجية تحكم كل إجراء قبل تنفيذه.

اشترك في همسات الذكاء الاصطناعي — كل أسبوع: قصص وفرص وأحداث مختصرة وموثقة، بلا حشو.

اشترك ليصلك الجديد