«أنثروبيك» تكشف انقياد المحللين للذكاء الاصطناعي: 86 بالمئة يتبنون خياراته وينسبون حججه لأنفسهم

أظهرت ورقة بحثية نشرتها شركة «أنثروبيك»، مطوّرة نموذج «كلود»، أن الخبراء والمحللين المهنيين ينقادون بشكل كاسح لتوجيهات الذكاء الاصطناعي عند اتخاذ القرارات، حتى حين يعتقدون أنهم يمارسون تفكيرهم المستقل. التجربة التي أجرتها الشركة شملت خمسين محللًا محترفًا طُلب منهم تقديم استشارات لتعاونية زراعية افتراضية لتقييم برنامج إرشادي وما إذا كان يجدر توسيعه. وكان على المشاركين اتخاذ أربعة خيارات بين بدائل متوازنة وقابلة للدفاع عنها قبل تقديم توصية سياسات نهائية، بينما وُجّه المساعد الذكي سرًا ودون علم المحللين للانحياز نحو قرار بعينه لقياس مدى تأثر قراراتهم به.

كشفت النتائج عن فجوة مقلقة بين افتراض استقلالية الخبير وسلوكه الفعلي؛ إذ اختار المحللون بدائل تطابق رغبة المساعد الذكي في 86 بالمئة من الحالات، مقارنة بنسبة 50 بالمئة المتوقعة إحصائيًا في حال غياب التأثير الموجه. ولم يتوقف التأثير عند التردد الأولي، بل إن ستين بالمئة من المشاركين الذين امتلكوا تفضيلًا مسبقًا قبل استشارة المساعد تراجعوا عن موقفهم وغيروا قرارهم بالكامل حين عارضهم الوكيل الذكي. وعند فحصنا لآليات التبرير، ظهرت النتيجة الأكثر إثارة للانتباه: استعان 77 بالمئة من المحللين بحجج المساعد لتفسير قراراتهم، في حين لم ينسب الفضل إلى الذكاء الاصطناعي سوى 15 بالمئة فقط منهم، ما يكشف أن الأغلبية تبنت منطق الآلة ونسبته إلى اجتهادها الذاتي دون إدراك مصدره.

الباحثون في «أنثروبيك»، أوماتش هيرداغديلين وهايلي جورين وأليكس تامكين، أوضحوا أن ميل البشر إلى الانقياد للذكاء الاصطناعي قد يكون خفيًا وعصيًا على الإدراك حتى بالنسبة للخبراء أنفسهم. ونبه الفريق إلى أن تفضيلات النماذج المسبقة وانحيازاتها قادرة على توجيه قرارات سياسات حساسة، بما يشمل سياسات أمان الذكاء الاصطناعي ذاتها. وشدد الباحثون على أنه إذا أردنا للحكم البشري أن يظل صمام أمان حقيقيًا مع تزايد وتيرة الأعمال المعتمدة على الآلة، فإن الرقابة يجب ألا تكتفي بفحص النتائج وحدها، بل يتعين عليها تتبع مسار تشكل القرارات، وإبراز نقاط التحول المفصلية، ومساعدة الخبراء على صياغة افتراضاتهم وقيمهم التي قد يتركونها مضمرة دون إفصاح.

أقرت الشركة بوجود محددات منهجية في التجربة؛ إذ اقتصرت على مهمة واحدة واستعانت بمساعدين أذكياء جرى توجيههم عمدًا بتبني تفضيل محدد. وتأتي هذه الخلاصات في توقيت دقيق لشركة «أنثروبيك»، التي تستعد لطرح عام أولي قد يصل تقييمه إلى تريليوني دولار، وسط احتدام الجدل العام حول كيفية إدارة مخاطر النماذج المتقدمة، والتوفيق بين مكاسب الإنتاجية الموعودة والتحذيرات من الصدمات المهنية والتهديدات السيبرانية.

بالنسبة لبيئات الأعمال في الخليج ومصر والشام، حيث تتوسع المؤسسات المالية والجهات الحكومية في دمج المساعدين والوكلاء الأذكياء لصياغة دراسات الجدوى وتقييمات الائتمان، يفرض هذا الكشف مراجعة جذرية لمفهوم الرقابة البشرية المعتاد. توقيع المحلل يفقد قيمته الوقائية ما دام الخبير يتبنى حجج النموذج دون إفصاح، ما ينقل عبء الحوكمة من مراجعة المخرجات النهائية إلى تدقيق عملية التفكير نفسها. إذا كنت تدير فريقًا تحليليًا، فإن الخطوة المطلوبة تقتضي إلزام الخبراء بتدوين فرضياتهم المسبقة كتابة قبل استشارة الوكلاء الأذكياء، وفرض مسارات تدقيق ترصد لحظات التراجع وتكشف أين انقادت الخبرة البشرية لحجج الخوارزمية.