تخطَّ إلى المحتوى

من تعلم اللغة إلى الهلوسة: كيف تؤثر هلوسة الذكاء الاصطناعي على القرار؟

شارك المقال
من تعلم اللغة إلى الهلوسة: كيف تؤثر هلوسة الذكاء الاصطناعي على القرار؟
صورة مولّدة بالذكاء الاصطناعي · AI Gossips

من تعلم اللغة إلى الهلوسة: كيف تؤثر هلوسة الذكاء الاصطناعي على القرار؟

  • من أين نبدأ هذه المرة؟

في المقال السابق تحدثنا عن تعلم «لغة» الذكاء الاصطناعي: كيف نعطيه مدخلات أوضح، وسياقًا أفضل، وتعليمات أكثر تحديدًا.

لكن حتى لو فعلنا ذلك بشكل جيد، يبقى سؤال مهم:

  • ماذا لو أعطانا النموذج إجابة تبدو صحيحة… لكنها ليست صحيحة؟

هنا نصل إلى ما يعرف بالهلوسة

(Hallucination).

لكنني لا أريد أن أتحدث عنها هذه المرة باعتبارها مشكلة تقنية فقط.

الأهم بالنسبة لي هو سؤال آخر:

متى تتحول هلوسة صغيرة في شاشة AI إلى قرار حقيقي داخل المؤسسة؟

لأن المشكلة ليست أن النموذج قد يخطئ.

المشكلة تبدأ عندما ينتقل خطؤه من المحادثة إلى سير العمل.

  • الهلوسة تصبح خطرة عندما تجد من يعتمد عليها

لنفترض أنني أراجع حالة فنية، وأطلب من AI تحديد البند الذي يدعم الرفض.

النموذج يعطيني:

رقم Clause.

اسم Standard.

وتفسيرًا يبدو منطقيًا.

أنا أقرأ الإجابة.

تتفق مع ما كنت أعتقده أصلًا.

فأنقلها إلى التقرير.

من هنا انتهى دور "المحادثة مع AI".

وبدأت دورة القرار.

الخطأ الآن أصبح داخل مستند رسمي.

مراجع آخر يقرأ التقرير ويرى أن هناك Reference واضحًا.

مدير يوافق.

يصدر NCR.

المورد يبدأ إعادة العمل.

بعد ذلك فقط يفتح أحدهم الكود ويكتشف أن البند لا يقول ما كتبناه أصلًا.

ما الذي حدث هنا؟

الهلوسة لم تتخذ القرار بنفسها.

لكنها زودت القرار بمبرر غير حقيقي.

وهذا في رأيي هو الرابط الأهم بين Hallucination والقرار.

  • القرار لا يُبنى دائمًا على معلومة واحدة

أحيانًا نتخيل أن الخطأ يجب أن يكون كبيرًا حتى يغير القرار.

لكن الواقع مختلف.

قد تكون المعلومة الخاطئة صغيرة جدًا:

رقم بند.

Revision.

قيمة سماحية.

موعد اختبار.

حالة مستند.

اسم مورد.

أو حتى كلمة واحدة في تلخيص طويل.

لكن إذا كانت هذه المعلومة تقع في النقطة التي يمر منها القرار، يصبح أثرها أكبر بكثير من حجمها.

مثلًا:

إذا قال AI إن الحد الأقصى المقبول هو 3 مم بينما المرجع يقول 5 مم، فالفرق رقمي صغير.

لكن القرار الناتج قد يكون:

Reject بدل Accept.

NCR بدل Conformance.

Repair بدل Release.

وتكلفة بدل لا تكلفة.

الخطأ صغير في المعلومة… لكنه كبير في القرار.

  • لنأخذ مثالًا آخر: قرار الإفراج عن منتج

تخيل أن لديك عشرات المستندات قبل Product Release:

تقارير تفتيش.

Material Certificates.

Test Reports.

NCRs.

Punch List.

وموافقات مختلفة.

يتم استخدام AI لتلخيص الحالة للإدارة.

فيخرج ملخصًا يقول:

" جميع تقارير الفحص مكتملة، ولا توجد حالات عدم مطابقة مفتوحة تؤثر على الإفراج."

الملخص يبدو واضحًا.

صورة مولّدة بالذكاء الاصطناعي · AI Gossips

المدير لا يملك وقتًا لفتح خمسين ملفًا.

يعتمد على الملخص.

ويصدر القرار:

"Release."

بعد ذلك يظهر أن هناك NCR مفتوحة لم تدخل أصلًا ضمن المستندات التي تم تحليلها، أو تم تلخيصها بطريقة جعلت أهميتها لا تظهر.

هنا قد لا يكون النموذج اخترع معلومة بالكامل.

ربما المشكلة أنه بنى نتيجة على بيانات ناقصة.

لكن بالنسبة لصاحب القرار، النتيجة واحدة:

قرار صحيح ظاهريًا بُني على صورة غير مكتملة.

وهذا نوع من المخاطر لا يقل أهمية عن Hallucination التقليدية.

  • الهلوسة قد تغيّر الأولوية… وليس فقط الحقيقة

لنخرج قليلًا من QA/QC.

تخيل إدارة لديها ألف شكوى عميل.

تطلب من AI تحديد أهم خمس مشكلات تستحق تدخل الإدارة.

النموذج يرتب المشكلات.

الإدارة تبدأ بالخمسة الأولى.

لكن ماذا لو وضع النموذج شكوى متكررة وخطيرة في المرتبة السابعة لأن صياغتها مختلفة من عميل لآخر ولم يتعرف عليها كنمط واحد؟

لم يقدم معلومة «كاذبة» بالمعنى المعتاد.

لكنه أثّر في القرار من خلال "ترتيب الأولويات".

وهنا يصبح تأثير الهلوسة أو سوء الفهم أكثر خفاءً.

AI لا يحتاج أن يقول لك:

"اتخذ هذا القرار."

يكفي أن يقول لك:

""هذا أهم من ذاك.""

وأنت ستبدأ غالبًا بما وضعه في الأعلى.

  • هناك أربع مراحل يتحول فيها الخطأ إلى قرار

أصبحت أرى المسألة كأربع مراحل بسيطة:

1-المرحلة الأولى: النموذج يولد معلومة أو استنتاجًا.

قد يكون صحيحًا أو غير صحيح.

2-المرحلة الثانية: الإنسان يثق في المخرج.

ربما لأن اللغة مقنعة.

أو لأن النتيجة توافق توقعاته.

أو لأنه لا يملك الوقت للمراجعة.

3-المرحلة الثالثة: المخرج يدخل في النظام.

تقرير.

عرض للإدارة.

NCR.

تقييم مورد.

Risk Register.

Recommendation.

4-المرحلة الرابعة: شخص يتخذ قرارًا بناءً عليه.

قبول.

رفض.

شراء.

إيقاف.

إفراج.

تصعيد.

أو ترتيب أولوية.

في هذه اللحظة، لم تعد الهلوسة «خطأ AI».

أصبحت "مدخلًا في قرار مؤسسي."

  • وهنا يظهر شيء أخطر: القرار قد يبدو بشريًا بالكامل

تخيل أنك راجعت مستندًا أعده AI.

وعدلت بعض الكلمات.

ثم وقعت عليه.

على الورق، القرار بشري.

لكن ماذا لو كانت الفكرة الأساسية، أو المرجع، أو ترتيب المخاطر، أو التوصية، كلها جاءت من النموذج؟

هل يكفي وجود توقيع بشري لنقول إن القرار بشري فعلًا؟

في رأيي: ليس دائمًا.

إذا كان الإنسان فقط يراجع الشكل النهائي، بينما AI هو الذي جمع المعلومات، وربطها، ورتبها، واقترح النتيجة، فالتأثير الحقيقي للنموذج أكبر بكثير مما يظهر في التوقيع.

وهذا يفسر لماذا قلت في المقال الثاني إن أخطر قرار في المستقبل قد يكون قرارًا بشريًا على الورق…

لكن AI هو الذي رسم الطريق كله إليه.

صورة مولّدة بالذكاء الاصطناعي · AI Gossips
  • أخطر هلوسة هي التي توافق رأينا

هناك عامل بشري يجعل المشكلة أكبر.

اسمه "انحياز التأكيد (Confirmation Bias)."

إذا كنت أعتقد أصلًا أن المورد ضعيف، ثم أعطاني AI تحليلًا يقول إن أداء المورد سيئ، فمن السهل أن أقبل النتيجة.

إذا كنت أعتقد أن الحالة يجب رفضها، ثم أعطاني AI Clause يدعم الرفض، سأكون أقل ميلًا للتشكيك.

وهنا يحدث اجتماع خطير بين خطأين:

Hallucination من النموذج.

و Confirmation Bias من الإنسان.

النموذج يعطيني ما يبدو كدليل.

وأنا أقبله لأنني كنت أبحث عن هذا الدليل أصلًا.

لذلك أحيانًا يجب أن أشك أكثر عندما يعطيني AI بالضبط ما كنت أريد سماعه.

  • الصياغة الجيدة تمنح الخطأ سلطة

النموذج قد يقول:

According to Clause 17.4…

ثم يقدم تفسيرًا مرتبًا.

العبارة وحدها تعطي إحساسًا بوجود مرجع مؤكد.

لكن الشكل لا يثبت الحقيقة.

وهنا يجب الفصل بين:

طلاقة اللغة (Fluency)

و

موثوقية المعلومة (Reliability).

قد يكون النص ممتازًا.

والتنسيق ممتازًا.

والمنطق الظاهري ممتازًا.

لكن المصدر غير موجود.

أو النسخة خاطئة.

أو الاستنتاج غير صحيح.

ولهذا أكرر قاعدة بسيطة:

كلما كان القرار أهم، يجب أن يقل اعتمادك على شكل الإجابة ويزيد اعتمادك على مصدرها.

  • هل يمكن أن يكون القرار الخاطئ مكلفًا حتى لو اكتشفناه لاحقًا؟

بالتأكيد.

تخيل NCR صدرت على أساس مرجع خاطئ.

بعد يومين اكتشفنا الخطأ.

قد نقول:

نصححها وخلاص.

لكن خلال اليومين ربما حدث الآتي:

المورد أوقف العمل.

بدأ Repair.

تم حجز فريق إضافي.

تأخر الشحن.

حدث تصعيد مع العميل.

وتضررت الثقة بين الأطراف.

حتى لو صححنا الخطأ لاحقًا، "أثر القرار قد يكون وقع بالفعل."

وهذا يوضح أن التحقق لا يجب أن يكون بعد اتخاذ القرار.

يجب أن يكون "قبل أن تتحول المعلومة إلى فعل."

  • وماذا عن قرارات أقل وضوحًا؟

ليس كل قرار Accept أو Reject.

هناك قرارات أكثر هدوءًا:

أي مورد نراجعه أولًا؟

أي مشروع يحتاج تدقيقًا؟

أي شكوى نصعدها؟

أي موظف يحتاج تدريبًا؟

أي مخاطرة نضعها في أعلى القائمة؟

إذا استخدم AI لتصنيف أو ترتيب هذه الأمور، فهو يؤثر على القرار حتى لو لم يضغط أي زر.

وهنا أرى أن Hallucination لا يجب أن تُفهم فقط باعتبارها «اختراع معلومة».

يمكن أن تكون أيضًا:

استنتاجًا ضعيفًا.

تصنيفًا غير دقيق.

ربطًا خاطئًا بين حالتين.

أو ثقة زائدة في نمط غير حقيقي.

والنتيجة في النهاية واحدة:

"المورد الخطأ يأخذ الأولوية."

صورة مولّدة بالذكاء الاصطناعي · AI Gossips

"المشكلة الحقيقية تتأخر."

"والقرار يتحرك في اتجاه غير مناسب."

  • متى أوقف القرار وأتحقق؟

بالنسبة لي، هناك نقطة واضحة:

إذا كان مخرج AI سيغير ما سنفعله في الواقع، فالموضوع خرج من مرحلة "معلومة مفيدة" ودخل مرحلة "معلومة مؤثرة على القرار".

وهنا أرفع مستوى التحقق.

خصوصًا إذا كانت المعلومة تشمل:

رقم Clause.

قيمة رقمية.

Requirement.

Acceptance Criteria.

Revision.

حالة NCR.

توصية قبول أو رفض.

Risk Rating.

أو أي معلومة سيترتب عليها تكلفة، تأخير، سلامة، مسؤولية، أو أثر على شخص آخر.

في هذه الحالات، السؤال ليس:

هل تبدو الإجابة صحيحة؟

السؤال:

هل لدي دليل مستقل يثبتها قبل أن أبني عليها القرار؟

  • البحث شيء… والإثبات شيء آخر

أستخدم AI كثيرًا لأصل إلى مكان المعلومة أسرع.

وهذا استخدام قوي جدًا.

يمكنني أن أقول:

ساعدني في تحديد أين أبحث عن المتطلب المتعلق بهذه الحالة.

أو:

ما الأقسام التي يجب أن أراجعها في هذه المواصفة؟

هنا AI يساعدني في البحث.

لكن عندما أصل إلى القرار، أريد المصدر نفسه.

هناك فرق كبير بين:

"AI دلّني على الطريق."

و:

"AI أصبح هو الدليل."

الأولى أراها استخدامًا ذكيًا.

أما الثانية فتعتمد بالكامل على مستوى المخاطر والسياق، ولا ينبغي أن نفترض تلقائيًا أن الإجابة المولدة تكفي وحدها لإثبات قرار مهم.

  • ما يعنيه لك

في المقال السابق كانت المهارة هي:

"كيف تتحدث مع AI بطريقة أفضل؟"

أما هنا فالمهارة التالية هي:

"كيف تمنع إجابته من التحول إلى قرار قبل أن تستحق ذلك؟"

وأعتقد أن هذه هي النقطة العملية الأهم في موضوع Hallucination.

لا تتوقف عند سؤال:

هل النموذج أخطأ؟

اسأل:

"أين ستذهب هذه المعلومة بعد أن يكتبها؟"

هل ستبقى في المحادثة؟

أم ستدخل تقريرًا؟

هل ستظهر في اجتماع؟

هل سيبني عليها مدير توصية؟

هل سيبدأ بسببها Repair؟

هل سيُرفض مورد؟

هل سيُفرج عن منتج؟

كلما اقتربت المعلومة من الفعل، ارتفع ثمن الخطأ.

ولهذا فإن أخطر هلوسة ليست بالضرورة أكبر معلومة خاطئة ينتجها AI.

قد تكون جملة صغيرة جدًا…

لكنها وُضعت في المكان الصحيح داخل سلسلة العمل.

ثم صدقها شخص.

ثم وثقها شخص آخر.

ثم صدر بناءً عليها قرار.

"وهنا تتحول الهلوسة من مشكلة في الذكاء الاصطناعي… إلى مشكلة في الواقع."


عن الكاتب: خالد صالح استشاري مراقبة التفتيش والجودة ومهندس فلزات، بخبرة تتجاوز عشرين عامًا في سلامة الأصول والتفتيش ومكافحة التآكل في قطاعي الطاقة والصناعة، ويعمل من الرياض على أتمتة سير عمل التفتيش بالذكاء الاصطناعي.

اشترك في همسات الذكاء الاصطناعي — كل أسبوع: قصص وفرص وأحداث مختصرة وموثقة، بلا حشو.

اشترك ليصلك الجديد