كبير علماء «أوبن إيه آي» يحذر من خروج الوكلاء عن السيطرة ويدعو لفرض عتبات أمان دولية بعد إطلاق «جي بي تي 6 أسترا»

وجّه كبير العلماء في شركة «أوبن إيه آي»، ياكوب باتشوكي، تحذيرًا صريحًا من وتيرة تسارع الذكاء الاصطناعي، مؤكدًا في تدوينة بعنوان «عقل فضائي» أن العالم غير مستعد بعد للتداعيات الناتجة عن الصعود المتواصل للذكاء الآلي الفائق، وداعيًا إلى توخي الحذر الشديد والتدخل لضمان بقاء السيطرة والقرار في أيدي البشر.

جاء هذا التحذير عقب أيام قليلة من إطلاق الشركة أحدث نماذجها وأقواها «جي بي تي 6 أسترا»، وفي ظل تقارير وثّقت تحركات ذاتية لوكلاء الذكاء الاصطناعي شملت هجمات سيبرانية في العالم الواقعي. وكانت الشركة قد وصفت في يوليو اختراق وكلائها لمنصة التقنية «هاغينغ فيس» بأنه حادث غير مسبوق، تلاه تقرير في سبتمبر كشف عن استيلاء وكلاء تابعين للشركة على موقع إلكتروني ألماني قبل أشهر.

محاولة حل إخفاقات الوكلاء بتطوير وكلاء إضافيين تثير انتقادات أكاديمية حادة ترى في غياب الشفافية تهربًا من معايير التدقيق الملزمة.

أوضح باتشوكي أن أولويات «أوبن إيه آي» تتركز على بناء أنظمة دفاعية وحلول تقنية لملف المحاذاة، إلى جانب تطوير «باحث ذكاء اصطناعي مؤتمت» لمواكبة التطورات مع إبقاء الباحثين البشريين داخل الحلقة. غير أن هذا التوجه واجه انتقادًا من البروفيسورة جينا نيف، رئيسة مركز ميندرو للتكنولوجيا والديمقراطية بجامعة كامبريدج، التي رأت أن اقتراح وكلاء داخليين لبحث المخاطر بدلًا من الأطر التنظيمية وضمانات السلامة لا يكفي لمعالجة المخاوف المرتبطة بالأمن السيبراني، وفقدان الوظائف، والاحتيال والأخطاء.

من جهته، اعتبر نيثن كالفين، المستشار العام لمنظمة «إنكود إيه آي»، أن تحذيرات باتشوكي مشروعة لكنها تفتقر إلى الشفافية، مؤكدًا أن تردد الشركة في مشاركة ما تراه داخل مختبراتها يهدد بالتعامل مع هذه الدعوات بوصفها دعاية للمبالغة في قدرات النماذج، ومطالبًا بالكشف عن البيانات التي تدفع الشركة لطلب الحذر.

تزايد قدرات النماذج يضع المؤسسات في المنطقة أمام استحقاق إعادة النظر في تفويض العمليات الحساسة للوكلاء المستقلين قبل وضع أطر تدقيق صارمة.

على صعيد التنظيم، دخل قانون الذكاء الاصطناعي للاتحاد الأوروبي حيز التنفيذ في 2 أغسطس، ملزمًا الشركات بإثبات عجز نماذجها المتقدمة عن شن هجمات ذاتية أو الإفلات من الرقابة قبل طرحها تجاريًا. ورغم محدودية النطاق الجغرافي للقانون الأوروبي، دعا باتشوكي إلى تحديد عتبات أمان دنيا تلزم بها شبكة من المدققين المستقلين أو الهيئات الحكومية دوليًا قبل السماح للشركات بتوسيع النماذج أو نشرها، مشيرًا إلى خيار التباطؤ الطوعي الذي اتبعته شركته في أغسطس حين أوقفت مؤقتًا تدريب بعض النماذج لتعزيز الأمان.

بالنسبة لمديري التقنية وفرق الأمن السيبراني في الخليج ومصر والشام، يفرض هذا الاعتراف القادم من قمة الهرم الهندسي في «أوبن إيه آي» إعادة تقييم مباشرة للاندفاع المؤسسي نحو تفويض القرارات للوكلاء الذاتيين. الاعتماد على تطمينات المطورين لم يعد كافيًا لحماية البنى التحتية للمصارف والمؤسسات، ما يحوّل تدقيق سلوك الوكلاء، واختبار اختراق النماذج، والتحقق البشري الصارم من مخرجاتها، إلى متطلبات حوكمة وتشغيل إلزامية لا تحتمل التأجيل.