«سلسلة المساءلة الذاتية» تكبح ثقة النماذج اللغوية الزائفة: خفض الالتزام الخاطئ عبر هندسة الأوامر

تظل النماذج اللغوية الكبيرة قادرة على صياغة إجابات فصيحة ومقنعة حتى عندما تكون دعامتها المعرفية والواقعية ضعيفة للغاية، ما يوقع الأنظمة البرمجية في مأزق الثقة الزائفة وتقديم معلومات غير دقيقة بثقة مطلقة. لمواجهة هذه المعضلة، كشفت ورقة بحثية جديدة للباحث علي شينول عبر منصة «أركايف» عن إطار عمل يعتمد بالكامل على هندسة الأوامر تحت اسم «سلسلة المساءلة الذاتية». يرتكز هذا النهج على مبدأ شرطية تقديم الإجابة، حيث لا يلتزم النموذج بإخراج الرد النهائي للمستخدم إلا بعد إجرائه تقييمًا صريحًا ومسبقًا للمعلومات الضرورية والمطلوبة للإجابة عن السؤال المطروح.

اختبر البحث ثلاثة تنويعات من الإطار هي المساءلة المؤصلة والحرجة والتكيفية عبر سبعة عشر ظرفًا تجريبيًا. وشملت التجارب مجموعة التحقق المكونة من 817 عنصرًا بنظام الاختيار من متعدد في معيار «TruthfulQA»، وجرى تطبيقها على إحدى عشرة عائلة من النماذج اللغوية، ضمت نماذج مفتوحة الأوزان وأخرى مستضافة عبر واجهات سحابية. وأظهرت النتائج في بروتوكول الخيارات المتوازنة أن تنويع «المساءلة المؤصلة» عند عتبة محددة بلغت 0.90، نجح في خفض معدل الالتزام الخاطئ غير المشروط من 13.1 في المئة تحت أسلوب «سلسلة الأفكار» التقليدي إلى 8.9 في المئة، وهو ما يمثل تراجعًا نسبيًا قدره 32.1 في المئة في صدور إجابات غير مؤكدة.

ترافق هذا الانخفاض في الالتزام غير المدعوم بحقائق مع تحسن ملموس في دقة الإجابات المقدمة، إذ ارتفعت النسبة من 86.9 في المئة إلى 89.7 في المئة، مع استمرار النموذج في الإجابة عن 87.6 في المئة من مجمل الأسئلة المطروحة بدل الانسحاب المفرط. وسجلت الدراسة ثبات هذه التحسينات الإيجابية عبر العائلات الإحدى عشرة للنماذج كافة، وعند كل عتبة تقييم جرى قياسها. وفي السياق نفسه، وفر التنويعان الآخران، وهما «المساءلة الحرجة» و«المساءلة التكيفية»، نقاط تشغيل متقاربة بنسب تغطية بلغت 88.6 في المئة و86.5 في المئة على التوالي، مع تفوق واضح في الموثوقية مقارنة بأسلوب سلاسل الأفكار المعتاد. وأكدت تجارب ثانوية مفتوحة الصياغة على معيار «Natural Questions Short-Answer» اتساق هذه النتائج وقدرتها على تحقيق التوازن الدقيق بين استمرار الخدمة وتجنب الزلل.

تكشف هذه النتائج أن التقييم الذاتي المضمن داخل أوامر النموذج يتيح ضبطًا دقيقًا وقابلًا للمعايرة لقرار الإجابة أو الامتناع، خصوصًا عندما تكون تكلفة تقديم إجابة غير مدعومة بالحقائق أكبر بكثير من تكلفة الإحالة للمراجعة البشرية. وتبرز القيمة التشغيلية لهذا الإطار في كونه حلًا يعمل عبر هندسة الأوامر حصرا، دون الحاجة إلى إعادة تدريب الأوزان أو تحمل نفقات الحوسبة المرتفعة المرتبطة بالضبط الدقيق، ما يجعله قابلًا للتطبيق المباشر عبر مختلف المنصات والواجهات الجاهزة للعمل فورا.

ينعكس هذا التحول الهندسي بصورة مباشرة على الفرق التقنية والمؤسسات التي تبني حلول الذكاء الاصطناعي في أسواق الخليج ومصر والشام، وتحديدًا في القطاعات المنظمة ذات الحساسية المفرطة للخطأ مثل المصارف، وخدمات الامتثال، والاستشارات القانونية والمالية. فبدلًا من الاعتماد على فرضيات سلاسل الأفكار التي تميل في الغالب إلى التوليد المستمر وتبرير الإجابة حتى في غياب المعلومة الموثوقة، يمنح ضبط عتبات الامتناع مهندسي الأنظمة المحليين آلية قابلة للمعايرة لحماية واجهات المعالجة وبوابات الدعم من المخاطر التنظيمية وتبعات تضليل المستفيدين. وتتيح هذه التقنية توجيه الاستفسارات المشكوك في دقتها إلى مسارات المراجعة والتدقيق بأقل تكلفة حوسبية ممكنة، ما يقلل بصورة ملموسة من نفقات المراجعة اليدوية العشوائية دون انتظار تحديثات مغلقة من مزودي النماذج العالميين.