«التكرار المعتم» في نموذج «أسترا»: تقنية أوبن إيه آي للاستدلال تثير قلق خبراء السلامة وتضع مراقبة سلاسل التفكير في مأزق

أثارت تقارير تقنية حول اعتماد شركة «أوبن إيه آي» أسلوبًا جديدًا في معالجة الاستدلال داخل نموذجها القادم «أسترا» موجة تحذيرات واسعة بين الباحثين والمختصين في سلامة الذكاء الاصطناعي. النموذج يعتمد تقنية تُعرف باسم «العمق المتكرر» أو «التكرار المعتم»، وهي آلية تتيح للنظام معالجة المسألة الواحدة عدة مرات في حلقات داخلية بدل الاعتماد الحصري على التسلسل الخطي التقليدي الذي ميّز نماذج التفكير والاستدلال السابقة.

هذا التحول عن التفكير الخطي يهدد واحدة من أهم أدوات الرقابة والتدقيق في سلوك النماذج الذكية. فسلاسل التفكير المكتوبة كانت تمثل السجل المقروء الذي يتيح لفرق الأمان تفكيك خطوات النموذج وفهم قراراته، ورغم أنها لم تكن تمثيلًا مثاليًا للعمليات الحسابية الداخلية، إلا أنها وفرت نافذة لا غنى عنها لرصد الانحراف أو السلوك غير المتوافق، وهو ما برزت قيمته بوضوح في تحليلات سابقة لسلوك الوكلاء المنحرفين لتحديد أسباب تصرفاتهم.

الاعتراضات التقنية تصاعدت سريعًا من مراكز الأبحاث المستقلة، إذ عبّر باك شليغريس، الرئيس التنفيذي لمؤسسة «ريدوود»، عن قلقه البالغ من إمكانية التوسع في هذا المسار، موضحًا أن تعميق الاعتماد على التكرار المعتم قد يدمر قدرة فرق السلامة على مراقبة سلاسل التفكير بالكامل. وفي السياق ذاته، حذر الباحث زفي موشويتز من الانزلاق نحو سباق تنافسي يكسر الأعراف التي حاولت المختبرات الكبرى ترسيخها لضمان شفافية مسارات الاستدلال، مشيرًا إلى أن الأمر قد يتطلب تدخلات تنظيمية لمنع الإضرار بأسس الرقابة.

من جهتها، سعت «أوبن إيه آي» إلى تهدئة المخاوف، حيث أوضح كبير علمائها ياكوب باتشوكي أن سلاسل التفكير في نموذج «أسترا» ستظل مقروءة، مؤكدًا التزام الشركة بمسارات المراقبة منذ إطلاق أولى نماذج الاستدلال، ومبينًا أن كافة النماذج تمارس بطبيعتها قدرًا من الاستدلال المعتم. ومع ذلك، لم تبدد هذه التطمينات مخاوف الباحثين، خصوصًا مع إشارة تقارير إلى نقاشات موازية حول التقنية داخل «أنثروبيك» و«غوغل ديب مايند»، وتحذير ريان غرينبلات، كبير علماء «ريدوود»، من انتقال التفكير تدريجيًا إلى الفضاء الكامن بصورة تحجب العمليات كليًا عن القنوات المرئية.

بالنسبة للمؤسسات التقنية وفرق التطوير في الخليج ومصر والشام، يمس هذا التحول المعماري جوهر استراتيجيات الامتثال والأمان الرقمي. الاعتماد المؤسسي المتزايد في القطاعات المصرفية والجهات التنظيمية الإقليمية على وكلاء الذكاء الاصطناعي يتطلب سجلات تدقيق دقيقة ومقروءة لتبرير القرارات البرمجية وتتبع مسار العمليات الحساسة. وإذا تحولت النماذج التجارية نحو مسارات تفكير معتمة يصعب فك شفرتها، فإن ذلك يرفع مخاطر الاعتماد على الوكلاء المستقلين ويفرض على مسؤولي البنية السحابية وفرق الحوكمة بناء طبقات رقابة خارجية مستقلة لتقييم المخرجات بدلاً من الوثوق بسلاسل التفكير الداخلية للنظام.

الرهان على كفاءة النماذج وتسريع معالجتها لا ينبغي أن يلغي متطلبات الشفافية وقابلية التدقيق. راقب التحديثات المعمارية الصادرة عن مزودي النماذج الكبرى وافحص آليات الرقابة قبل دمج أي نموذج استدلال جديد في الأنظمة التشغيلية الحساسة، فالكفاءة البرمجية تفقد قيمتها إن تحولت إلى صندوق أسود يستحيل تتبع أخطائه.