نماذج تشرح قراراتها باللغة الطبيعية: أبحاث معهد ماساتشوستس توجه معايير نشر الوكلاء في بيئات المنطقة الحساسة
استمع لهذا المقال
بصوت ليلى (Layla)
يواجه مهندسو الذكاء الاصطناعي وقادة التقنية في المنطقة معضلة تشغيلية عند محاولة نشر النماذج اللغوية والوكلاء المستقلين في البيئات الحساسة، حيث تعمل الشبكات العصبية الحالية كصناديق مغلقة يصعب التنبؤ بمساراتها الحسابية. وفي مواجهة هذا التحدي، يقود الأستاذ المشارك في معهد ماساتشوستس للتكنولوجيا جاكوب أندرياس، الباحث في مختبر علوم الحاسوب والذكاء الاصطناعي وقسم الهندسة الكهربائية وعلوم الحاسوب، أبحاثا متقدمة لتمكين نماذج التعلم العميق من شرح حساباتها الداخلية باللغة الطبيعية للبشر، والاستغناء عن الأدوات الخارجية المعقدة التي تحاول فك غموض العقد العصبية لمعرفة ما استوعبه النموذج حقا من بيانات تدريبه.
يوضح أندرياس أن عمليات فحص البرمجيات وتصحيحها كانت تعتمد تاريخيا على قراءة المعاملات الحسابية مباشرة والتحقق من دلالتها، بينما يتطلب التعلم العميق اليوم ما يصفه بأدوات لقراءة أفكار الآلة تترجم الحسابات العصبية المعقدة إلى لغة يفهمها الإنسان. يقوم الاتجاه البحثي لفريق أندرياس على تدريب نماذج لغوية كبرى لتفسير ما يدور داخل شبكات عصبية أخرى عبر صياغة توصيف لغوي دقيق لكل عقدة معالجة، مثل تخصيص توصيف لعقدة مسؤولة عن رصد رقع العشب بالقرب من الحيوانات في الصور، بما يحول المعالجات الرياضية الغامضة إلى معان واضحة تخضع للمراجعة المباشرة.
تنقسم أبحاث مختبر أندرياس إلى مسارين رئيسيين. يبحث المسار الأول في علم النماذج اللغوية الكبيرة لفهم الخوارزميات التي تعتمدها خلال التعلم ومعالجة المعلومات، ومساعدة المطورين على التنبؤ بكيفية تصرف النموذج بعد تدريبه داخل بيئات التشغيل الفعلية. أما المسار الثاني فيركز على هندسة خوارزميات جديدة لتدريب النماذج والتنبؤ بكيفية تأثير مجموعات بيانات بعينها على سلوك النظام النهائي. ويشير أندرياس إلى أن الأوساط العلمية تفتقر حاليا إلى نظرية علمية متماسكة تفسر ما يحدث بالضبط عند تدريب نموذج على مجموعة بيانات محددة، وهو ما يعتبره أحد أكبر التحديات القائمة في هندسة تعلم الآلة.
يمتد هذا التوجه إلى قاعات التدريس الأكاديمي، إذ يشارك أندرياس في تدريس مقرري معالجة اللغة الطبيعية لطلاب البكالوريوس والدراسات العليا في معهد ماساتشوستس. وفي ظل تبدل ملامح المجال كليا كل ثلاث إلى خمس سنوات، واكتساب وكلاء البرمجة القدرة على إنجاز الواجبات البرمجية آليا، يركز أندرياس على تأسيس الطلاب في البنى العميقة للتقنية. يرى أندرياس أن امتلاك قاعدة معرفية عميقة حول كيفية عمل الخوارزميات تحت الغطاء الرياضي هو الفارق الجوهري الذي يميز المهندس في سوق يمتلك فيه الجميع وصولا لوكلاء الأكواد، مما يفرض تحديث المناهج سنويا لمواكبة التغيرات المتسارعة.
وتتزايد أهمية تقنيات قابلية التفسير مع التحضير لنشر النظم الوكيلة في سيناريوهات عالية المخاطر، مثل الاكتشافات العلمية المعقدة التي تتدرب فيها النماذج على بيانات بحثية خام لم يسبق للبشر صياغة مفاهيمها في نصوص جاهزة. ويرى أندرياس، الذي تدرج في أبحاث معالجة اللغة من جامعة كولومبيا مرورا بجامعتي كامبريدج وبيركلي وتأسيس الشركات الناشئة، أن التحدي الأكبر لعلماء الحاسوب يكمن في تأهيل النماذج للإفصاح عن تلك المعارف المكتسبة التي لم توثقها أقلام البشر بعد.
ماذا يعني هذا للمنطقة
تسعى المصارف والجهات الحكومية والمؤسسات الصحية في الخليج ومصر إلى تسريع نشر وكلاء الذكاء الاصطناعي لأتمتة العمليات الحيوية والخدمات الميدانية. وتبرز نتائج أبحاث معهد ماساتشوستس ضرورة اشتراط إمكانيات التفسير الذاتي في العقود التقنية، لأن الاعتماد على وكلاء يعجزون عن تبرير خطواتهم باللغة الطبيعية يورط فرق الامتثال وإدارة المخاطر في قرارات غير قابلة للمساءلة القانونية أو التدقيق المالي في البيئات التنظيمية الصارمة.
ويفرض هذا التحول إعادة هيكلة فورية لمعسكرات التدريب التقني والمبادرات الرقمية في المنطقة. فحين تصبح كتابة الشيفرات البرمجية مهمة يومية لوكلاء الذكاء الاصطناعي، يفقد تأهيل المطورين على كتابة الأكواد التقليدية ميزته التنافسية، وتتحول الأولوية إلى بناء كفاءات تفهم هندسة الشبكات وتستطيع تقييم تأثير بيانات التدريب المحلية وتدقيق السلوك العصبي للأنظمة قبل تشغيلها.