«أندرو لو» يفكك التحسين الذاتي للوكلاء: زيادة خيارات البحث تسرع الوقوع في الخطأ عند انحراف التقييم

تضع الورقة البحثية التي نشرها الباحثان أندرو لو وتشاوي تشاو، عبر منصة «أركايف» المتخصصة في علوم الحاسوب والذكاء الاصطناعي، إطارًا نظريًا لفهم الكيفية التي توجه بها نماذج الذكاء الاصطناعي تطورها الذاتي. تنطلق الدراسة من رصد مسار التطور الحيوي الذي صاغ أشكال الذكاء على مدى مليارات السنين، لتطرح التساؤل الحاسم حول وتيرة تحسن الوكلاء البرمجيين حين يمتلكون القدرة على تعديل سلوكياتهم وتقييمها بأنفسهم، وما يتطلبه الحفاظ على أمان هذا المسار واستقراره.

يبني الباحثان تحليلهما على مقارنة ثلاثة أنماط تطورية تستجيب للتغيرات البيئية: النمط الدارويني القائم على الانتخاب الطبيعي، والنمط اللاماركي الذي يضيف توريث الخبرات والتعلم عبر المراحل المتعاقبة، ونمط التطور الموجه عبر الوكلاء. وفي هذا النمط الأخير، لا يكتفي الوكيل باستيعاب التغيرات المحيطة، بل يولد بدائل سلوكية متعددة، ويقيّمها، ويحدد المدى والعمق المخصصين لعمليات البحث والتجريب. وتكشف نتائج الإطار النظري أن آليات التطور الموجه تحقق تكيفًا أسرع بكثير عندما تكون كفاءة التعلم كافية، وأن توليد المزيد من البدائل يسرع التكيف في البيئات الجديدة.

يرتبط المجهود الأمثل للبحث والاستكشاف بثلاثة محددات رياضية: قدرة الوكيل على التعلم، ومستوى صعوبة المشكلة محل المعالجة، وتكاليف التجريب الفعلية. غير أن هذه القدرة المتقدمة على توجيه التحسين الذاتي تحمل ثغرة بنيوية بالغة الخطورة؛ إذ تثبت الورقة أن قدرة الوكيل على قيادة تحسينه لا تضمن تقييم السلوكيات وفق الغاية المنشودة بدقة. وعندما تشوب صياغة معيار التقييم شائبة أو خطأ في تحديد الهدف، فإن تكثيف عمليات البحث لا يصلح المسار، بل يسرّع التقارب نحو السلوكيات الخاطئة، حتى مع استمرار مقاييس الأداء المرصودة داخليًا في إظهار تحسن رقمي خادع.

تتضاعف هذه المخاطر في بيئات التحسين الذاتي التكراري، حيث تتراكم أخطاء التقييم وتستمر عبر أجيال متتالية من النماذج، مما يضع أمان المنظومات البرمجية أمام اختبار حرج في حال اعتماد الوكلاء على آليات تقييم ذاتية مغلقة. وتؤكد الدراسة أن الرهان الحقيقي لا يتمثل في تسريع تطور الذكاء الاصطناعي فقط، بل في الحفاظ على قدرة البشر على توجيه مساره، وضبط سرعته، والتدخل المباشر عند الحاجة من خلال منظومات رقابة وتقييم مستقلة تواكب القفزات الذاتية للوكلاء.

يحمل هذا التحليل دلالات تشغيلية وتنظيمية مباشرة لفرق التطوير والمؤسسات في الخليج ومصر والمنطقة العربية، لا سيما مع تسارع وتيرة الاعتماد على أسراب الوكلاء لأتمتة العمليات المصرفية واللوجستية وتشغيل المنصات الرقمية. إن منح الوكلاء حرية تعديل تعليماتهم التشغيلية ومسارات عملهم بالاعتماد على مقاييس أداء داخلية يفتح الباب أمام انحرافات صامتة تتراكم خلف تقارير كفاءة تبدو ممتازة ظاهريًا. ويفرض هذا المعطى على مديري التقنية وقادة المنتجات في المنطقة تصميم بنية حوكمة تفصل وحدات التقييم المستقلة تمامًا عن وحدات التنفيذ، وتحدد سقفًا واضحًا لكلفة الاستكشاف الذاتي، مع الإبقاء على مفاتيح التدخل البشري الحاسم لمنع الوكلاء من مطاردة أهداف مصاغة على نحو مضلل.