تخطَّ إلى المحتوى

تهاوي فرضية التبادلية مع الذكاء المتقدم: نظرية الألعاب تعيد حسابات الأمان لفرق المنطقة

شارك المقال
تهاوي فرضية التبادلية مع الذكاء المتقدم: نظرية الألعاب تعيد حسابات الأمان لفرق المنطقة
الصورة: Yuriy Vertikov / Unsplash

استمع لهذا المقال

بصوت ليلى (Layla)

تستند رهانات واسعة حول مستقبل التعايش البشري مع الذكاء الاصطناعي المتقدم إلى فرضية التبادلية المستدامة، التي تفترض أن حاجة كل طرف للآخر ستضمن بقاء العلاقة مفيدة للجانبين، غير أن ورقة بحثية جديدة للباحث آيدين محسني نُشرت عبر أرخايف، تحت عنوان «التبادلية بين الإنسان والذكاء الاصطناعي غير مستقرة في ظل عدم تناظر القدرات»، تثبت رياضياً تهاوي هذا الرهان مع اتساع فجوة الكفاءة، وهو ما يضع فرق التطوير ومختبرات السياسات التقنية في المنطقة أمام مراجعة جذرية لافتراضات الأمان.

تنطلق الورقة، التي تمتد عبر 35 صفحة وتضم ثلاثة أشكال توضيحية، من نموذج تفاوضي بسيط في نظرية الألعاب لتفكيك الموقف، حيث تبيّن أن التفاوض لا يضمن لأي طرف سوى ما يمكنه تحصيله في حال فشل الاتفاق. وبالنسبة للبشر، فإن هذه الحصة البديلة قد تكون أقل بكثير مما كانوا يملكونه قبل ظهور الذكاء الاصطناعي، طالما أن موازين القوة التفاوضية تميل بالكامل لصالح الأنظمة ذات القدرات المتفوقة.

التفاوض لا يحمي مكاسب البشر دون امتلاك أوراق ضغط حقيقية قادرة على التأثير في حسابات النموذج. ويوضح النموذج الرياضي أن البشر يظلون في وضع مكافئ أو أفضل مما كانوا عليه قبل الذكاء الاصطناعي، دون الحاجة لمحاذاة دقيقة، في حالتين اثنتين فقط: إما اعتماد النظام اعتماداً كلياً على ما يوفره له الإنسان من مدخلات وموارد، أو قدرة البشر على فرض تكاليف وأضرار باهظة على النظام تكون كبيرة قياساً بما يستطيع إنتاجه. وبمجرد أن يفقد البشر هذين النوعين من أوراق الضغط مع تطور قدرات النماذج، يصبح الحفاظ على مكتسباتهم مشروطاً حصراً بمدى محاذاة أهداف الذكاء الاصطناعي معهم.

المحاذاة التامة تصبح شرطاً حتمياً للبقاء حين تكون أهداف النماذج غير قابلة للإشباع. وتبين الورقة أن درجة المحاذاة المطلوبة تقترب من الكمال المطلق مع تنامي قدرات الذكاء الاصطناعي إذا كانت أهدافه لا نهائية، مما يعني أن فكرة التبادلية ليست بديلاً عن المحاذاة الصارمة. يضاف إلى ذلك بعد تطوري حاسم يثبته البحث؛ فالنسخ والمتغيرات البرمجية التي تحتفظ بحصة أكبر من الموارد تتكاثر وتنتشر أسرع من غيرها، ما يجعل المحاذاة نفسها حالة مؤقتة لا تدوم إلا إذا كانت هناك آليات موثوقة ومستمرة لفرض عقوبات حاسمة على النسخ غير المنحازة.

ماذا يعني هذا للمنطقة

تعتمد العديد من الاستراتيجيات المؤسسية في الخليج ومصر على فكرة أن إبقاء الإنسان في حلقة العمل والتحكم في إمدادات البيانات المحلية أو البنية التحتية التشغيلية كافٍ لفرض التوازن مع وكلاء الذكاء الاصطناعي المستقلين. وتكشف نتائج هذه الورقة أن هذه التبعية التشغيلية مؤقتة، وأن الاعتماد على حاجة النماذج لبياناتنا كضمانة للتكامل الاقتصادي سيسقط حتماً حين تتجاوز قدرات التوليد الذاتي حاجة الأنظمة للتدخل البشري.

يفرض هذا التحول الرياضي على هيئات تنظيم الذكاء الاصطناعي ومراكز الأبحاث في المنطقة نقل الميزانيات من برامج التدريب السطحي على واجهات الاستخدام إلى أبحاث المحاذاة الصارمة ونظم التدقيق الرياضي. إن ضمان استقرار الأنظمة المستقبلية يتطلب تطوير قدرات سيادية لفرض عقوبات تقنية فورية وموثوقة على أي نموذج ينحرف عن المحاذاة، بدلاً من الركون إلى وهم الشراكة التبادلية المتوازنة.

اشترك في همسات الذكاء الاصطناعي — كل أسبوع: قصص وفرص وأحداث مختصرة وموثقة، بلا حشو.

اشترك ليصلك الجديد