بلا وعي وبلا عداء: كيف يقود النشر التنافسي أنظمة الذكاء الاصطناعي إلى الفشل؟

لا تبدأ السيناريوهات الكارثية للذكاء الاصطناعي بلحظة وعي غامضة أو رغبة خبيثة في تدمير العالم، بل تنشأ من تضافر بارد بين السرعة التنافسية وصلاحيات الوصول الممنوحة لأنظمة برمجية مستقلة. هذا هو الأساس الذي بنى عليه الباحثان ميكولاي شينيكي وكريستوف شينيكي دراستهما المفصلة المنشورة عبر منصة أرخايف، والتي تمتد عبر ثلاث وثمانين صفحة وعشرين قسمًا، بالاستناد إلى خمسة وثلاثين مرجعًا علميًا، لتقديم إطار عمل تحليلي يفكك كيف يمكن للنماذج المتقدمة أن تسهم في انقراض البشر، أو التسبب في انهيار حضاري غير قابل للإصلاح، أو تجريد المجتمعات الدائم من القدرة على التحكم والقرار.

تسقط الأطروحة المركزية للورقة فزاعة الخيال العلمي التقليدية؛ فالخطر الوجودي لا يتطلب وعيًا ذاتيًا، ولا كراهية مضمرة، ولا نية صريحة لإلحاق الأذى بالجنس البشري. وبدلاً من تلك الفرضيات، حدد الباحثان أربعة مسارات متمايزة لكنها متفاعلة بشدة: الانحراف الذاتي عن التوافق، والاستخدام البشري الضار، والفشل التنظيمي داخل المؤسسات، والنشر التنافسي المتسرع. وتظهر خطورة هذه المسارات حين تتغذى على بعضها؛ فالسباق المحموم لاقتناص الحصص السوقية يدفع الكيانات إلى تجاوز مراحل الاختبار، مما يضاعف احتمالات الفشل المؤسسي ويمنح النماذج غير المتوافقة مساحة للتحرك دون رقابة كافية.

ولا تقف شدة الضرر عند مستوى القدرة الفنية للنموذج وحدها، بل ترتبط بشبكة من ستة عوامل تشغيلية حاسمة: مدى تمتع النظام بالاستقلالية الذاتية، ومستوى وصوله الخارجي إلى الشبكات والأنظمة الحساسة، وقدرته على الاستمرارية التشغيلية دون انقطاع، إلى جانب مدى صلابة الضمانات المؤسسية المحيطة به، ومدى الحفاظ على القدرة على التعافي بعد حدوث الخلل. ومن اللافت أن الدراسة تعمدت اتخاذ طابع تحليلي غير إجرائي؛ فهي تمتنع كليًا عن تقديم أي خطوات عملية لإحداث الضرر، وتركز حصريًا على تحديد الشروط السببية، وقياس المتغيرات الوسيطة التي يمكن فحصها واختبارها ميدانيًا، وصياغة الأسئلة البحثية الدفاعية الضرورية لحماية البنى الحيوية.

هذا التحليل ينقل المسألة من التجريد النظري إلى قرارات غرف العمليات التقنية في الخليج ومصر والمنطقة بأسرها. فمع اتساع رهان المؤسسات المالية، وشركات الطاقة، والهيئات الحكومية في الرياض ودبي والدوحة والقاهرة على أتمتة الإجراءات ودمج الوكلاء الأذكياء في إدارة تدفقات البيانات والمعاملات، تتجلى حقيقة أن الخطر الأكبر لا ينبع من تمرد تقني، بل من منح الوكلاء صلاحيات واسعة للوصول الخارجي والتصرف المستقل تحت وطأة التنافس الإقليمي على إعلان الريادة الرقمية. الاستعجال في إطلاق النماذج المستقلة وربطها بالبنى التحتية دون ضوابط استرجاع صارمة يضع المؤسسات في قلب المسار الذي حذرت منه الورقة: التنازل التدريجي عن الرقابة البشرية استجابة لضغط السرعة.

ما يتغير فعليًا لمهندسي البنية التحتية، ومسؤولي أمن المعلومات، وصناع القرار التقني في أسواقنا هو تعريف الأمان المؤسسي بحد ذاته؛ فالحوكمة لم تعد وثيقة إرشادية حول أخلاقيات الآلة، بل أصبحت هندسة صارمة للحفاظ على القدرة على التعافي. الخطوة العملية الملحة اليوم لا تتعلق بانتظار تشريعات عالمية للوعي الاصطناعي، بل بحصر صلاحيات الوصول الخارجي لكل وكيل برمجيات، وتقييد استقلاليته التنفيذية، وضمان وجود مسار فصل يدوي فوري يمنع تحول الخطأ البرمجي الموضعي إلى انقطاع تشغيلي يصعب احتواؤه.