أبحاث «العمق المعتم» تكشف ثغرات سلاسل التفكير: مأزق يهدد معايير الرقابة على النماذج في المنطقة
استمع لهذا المقال
بصوت راشد (Rashed)
تعتمد المؤسسات والفرق التقنية في الخليج ومصر على سلاسل التفكير الظاهرة لمراقبة قرارات نماذج الذكاء الاصطناعي والتحقق من سلامتها، غير أن دراسة بحثية جديدة تكشف أن هذا التدقيق مهدد بالتعطل أمام مسارات حوسبة خفية تجري داخل النماذج دون صياغة لغوية معلنة. طرح الباحثون ناثان شيفيلد، وأليك ويستوفر، ولوكاس فينفيذين، وأليكسا بان، وجوليان ستاسني، وريان غرينبلات، في ورقة بحثية نُشرت عبر منصة «أركايف» وسبق عرض نسختها الأولى في مدونة «ريدوود ريسيرش»، معيارا رياضيا جديدا باسم العمق التسلسلي المعتم، بهدف قياس حجم المعرفة التسلسلية غير اللفظية التي يستطيع النموذج تنفيذها بعيدا عن أعين الرقابة البشرية.
تكتسب هذه المسألة أهميتها من حقيقة أن سلاسل التفكير تمثل حاليا الأداة الأساسية للإشراف على النماذج، إلا أن التحولات المعمارية القادمة قد تقلص قابلية هذه السلاسل للمراقبة بصورة حادة. يقدم البحث مقياسا تشغيليا يحمل اسم عمق السلاسل المتجذرة في اللغة الطبيعية، ويُعرّف هذا المقياس بأنه أطول مسار يمر عبر حسابات النموذج دون أن يعبر من خلال عنق زجاجة قابل للتفسير. واشترط الباحثون لتحديد هذا العنق وجود عقد مشتقة من تدريب أولي يضمن إنتاج مخرجات مفهومة للبشر، مع بقاء فضاء هذه المخرجات محصورا في حدود ذلك التدريب، ودون تعديل بنية النموذج ليفسر تلك المخرجات كبيانات من نمط مختلف.
الميزة الأبرز في هذا المقياس تكمن في قدرة الفرق الهندسية على تحديده وحسابه بصورة مسبقة قبل بدء عمليات التدريب، استنادا إلى المعمارية ووصفة التدريب وإعدادات النشر وحدها. ولا يتأثر المقياس بالتدخلات اللاحقة الشائعة بعد التدريب، مثل هندسة الأوامر أو التقطير أو التعلم المعزز. يمنح هذا الثبات المعماري لجان التدقيق معيارا هيكليا لقياس مدى غموض التفكير، بما يمنع الاعتماد على افتراض أن مجرد توجيه النموذج كاف لإظهار كل خطواته المنطقية.
أظهرت التجارب العملية التي أجراها الفريق على نماذج مفتوحة المصدر أن عمق السلسلة المعتمة يرتبط ارتباطا وثيقا بعدد الطبقات، وقد نما بوتيرة بطيئة خلال السنوات الأخيرة ضمن معمارية المحولات القياسية، وقدم الباحثون نموذجا تطبيقيا حددوا فيه أبعاد هذا العمق في نموذج «Gemma3-1B». لكن الورقة وجهت تحذيرا صريحا لمطوري النظم: المحولات كاملة النطاق ونماذج التفكير الكامن قادرة على مضاعفة هذا العمق المعتم بقفزات هائلة تجعل الجزء الأكبر من الاستدلال مخفيا في فضاءات رياضية لا تخضع للمراجعة، وهو ما دفع الباحثين إلى مطالبة المطورين بتسجيل هذا المقياس ونشره رسميا كعنصر مكمل لتقييمات المراقبة المباشرة.
ماذا يعني هذا للمنطقة
يفرض هذا التحول على لجان تدقيق النماذج في المصارف والهيئات الحكومية ومراكز البيانات في السعودية والإمارات ومصر إعادة النظر في آليات التحقق من أمان الأنظمة المؤتمتة. لم يعد فحص مخرجات سلاسل التفكير كافيا لضمان الامتثال النظامي وحماية البيانات في القطاعات الحساسة، لأن أي انتقال تقني نحو نماذج تعتمد التفكير الكامن يعني أن القرارات قد تُتخذ عبر مسارات غير مرئية للمدققين، حتى لو بدت المخرجات الظاهرة متسقة منطقيا.
وعلى مستوى فرق البحث والتطوير ومطوري النماذج السيادية في المنطقة، تتطلب هذه النتائج تضمين مقاييس المعمارية الهيكلية ضمن كراسات الشراء الفني وتقييم المصادر المفتوحة. بدلا من حصر الاختبارات في مرحلة ما بعد التدريب وضبط الأوامر، ستحتاج الكوادر الهندسية المحلية إلى امتلاك مهارات تدقيق البنية المعمارية وقياس فجوات الأعناق التفسيرية، لضمان بناء أنظمة ذكاء اصطناعي وطنية تحتفظ بقدرتها الكاملة على المساءلة والشفافية البرمجية قبل طرحها للمؤسسات والمستخدمين.