ماذا يحدث لمفهوم الجودة نفسه عندما تدخل النماذج الذكية إلى دورة القرار ؟
استمع لهذا المقال
بصوت كريم (Karim)
قبل أن نكمل…
في المقال السابق وصلتُ إلى قناعة بسيطة: الذكاء الاصطناعي مساعد قوي، لكنه لا يملك المسؤولية المهنية عن النتيجة.
قدرته على إنتاج إجابة سريعة ومقنعة لا تعفينا من التحقق، ولا تجعل توصيته قرارًا.
وكانت الخلاصة: دعه يساعدك في إعداد القرار… لكن لا تدعه يمتلك القرار.
لكن بعد فترة ظهر أمامي سؤال أكثر أهمية:
ماذا لو لم يعد الذكاء الاصطناعي مجرد أداة نستخدمها لكتابة التقارير أو تلخيص المستندات، وأصبح هو الذي يختار لنا ما نقرأه، وما نهتم به، وما نضعه في أولوياتنا؟
هنا تبدأ قصة مختلفة.
الذكاء الاصطناعي لا يعرض المعلومات فقط… بل يعيد تشكيلها
عندما أعطي نموذجًا ذكيًا خمسين تقريرًا وأطلب منه تلخيص أهم المشكلات، فهو لا يعيد إليّ الخمسين تقريرًا.
هو يصنع لي نسخة مختصرة من الواقع.
يختار بعض المعلومات.
يدمج معلومات أخرى.
يحدد ما يراه متكررًا.
ويقرر، بناءً على التعليمات والسياق المتاح له، ما الذي يستحق الظهور في الملخص.
وهنا توجد نقطة أعتقد أننا لا نتوقف عندها بما يكفي.
نحن نتعامل أحيانًا مع الملخص الذي يخرجه الذكاء الاصطناعي وكأنه مجرد نسخة أقصر من البيانات الأصلية.
لكنه ليس كذلك دائمًا.
الاختصار نفسه قرار.
عندما يختصر النموذج مائة صفحة في صفحة واحدة، فهناك تسع وتسعون صفحة لم تعد أمام صاحب القرار.
والسؤال يصبح:
ما الذي بقي؟
وما الذي اختفى؟
النموذج لا «يفهم» الملف بالطريقة التي نفهمها نحن
هذه أيضًا نقطة مهمة.
عندما يقرأ الإنسان تقريرًا، يدخل معه إلى القراءة بخبرته وسياقه وما يعرفه عن المشكلة والأشخاص والمشروع أو المؤسسة.
أما النموذج اللغوي الكبير (Large Language Model – LLM)، فيتعامل مع المعلومات التي أُتيحت له داخل سياق محدد.
إذا كانت المعلومة غير موجودة أمامه، فلن يعرفها.
وإذا كانت موجودة في مستند لم يتم استرجاعه أو إدخاله بشكل صحيح، فقد يتصرف وكأنها غير موجودة.
وهذا يفسر شيئًا مهمًا:
قد يكون تحليل الذكاء الاصطناعي ممتازًا جدًا…
للمعلومات التي رآها.
لكن ماذا عن المعلومات التي لم يرها؟
هذه المشكلة تظهر في كل المجالات.
طبيب يستخدم نظامًا يساعده في تلخيص سجل مريض.
بنك يستخدم نموذجًا لتحليل بيانات عميل.
شركة تستخدم AI لمراجعة آلاف الشكاوى.
إدارة موارد بشرية تستخدمه لتلخيص السير الذاتية.
أو فريق هندسي يستخدمه لمراجعة تقارير الفحص.
في كل هذه الحالات، جودة الإجابة لا تعتمد فقط على «ذكاء النموذج»، بل على ما الذي وصل إليه أصلًا من معلومات.
ومن هنا تظهر قوة الاسترجاع… ومشكلته أيضًا
كثير من تطبيقات الذكاء الاصطناعي الحديثة لا تعتمد فقط على المعرفة الموجودة داخل النموذج، بل تستخدم ما يسمى بالتوليد المعزز بالاسترجاع (Retrieval-Augmented Generation – RAG).
ببساطة، يسأل النظام قاعدة المستندات أولًا، يستخرج الأجزاء التي يعتقد أنها مرتبطة بالسؤال، ثم يعطيها للنموذج ليبني الإجابة عليها.
الفكرة قوية جدًا.
بدل أن يبحث الموظف في مئات الملفات، يمكن للنظام أن يجد له أكثر الأجزاء ارتباطًا بسؤاله خلال ثوانٍ.
لكن هنا يظهر سؤال جديد:
ماذا لو استرجع النظام المستند الخطأ؟
أو نسخة قديمة؟
أو خمس فقرات تبدو أكثر ارتباطًا لغويًا بالسؤال، بينما الفقرة السادسة الأقل تشابهًا هي الأهم فعلًا؟
عندها قد تكون إجابة النموذج منطقية تمامًا بناءً على المعلومات التي تم استرجاعها، لكن المشكلة حدثت قبل أن يبدأ النموذج في الإجابة أصلًا.
وهذا يجعلني أنظر إلى AI بطريقة مختلفة.
المشكلة ليست دائمًا في «الإجابة».
أحيانًا المشكلة في المعلومات التي سُمح للنموذج بأن يبني عليها الإجابة.
الترتيب أخطر أحيانًا من الخطأ
لو أعطاني النموذج معلومة خاطئة بشكل واضح، يمكن أن أكتشفها.
لكن هناك تأثيرًا أكثر هدوءًا.
تخيل أن النظام يحلل ألف شكوى للعملاء ويعرض على الإدارة أهم عشر مشكلات.
أو يحلل مئات حالات عدم المطابقة ويحدد أكثر الموردين خطورة.
أو يقرأ تقارير طبية ويعطي الأولوية لبعض الحالات.
من الطبيعي أن يبدأ الإنسان بما وضعه النظام في أعلى القائمة.
هنا أصبح الذكاء الاصطناعي لا يقدم معلومة فقط.
إنه يمارس الترتيب (Ranking).
والترتيب يؤثر في الانتباه.
والانتباه يؤثر في القرار.
قد لا يقول النظام لك أبدًا:
«اتخذ هذا القرار».
لكن إذا كان هو من اختار لك ما تراه أولًا، وما تراه ثانيًا، وما لا تراه أصلًا…
فهو بالفعل بدأ يؤثر في القرار.
وهنا يظهر خطر مختلف: الانحياز للأتمتة
هناك سلوك بشري معروف يسمى الانحياز للأتمتة (Automation Bias).
بمعنى بسيط: عندما تقدم لنا آلة أو نظام توصية جاهزة، يصبح من السهل أن نعطيها وزنًا أكبر مما تستحق، خصوصًا إذا كانت نتائج النظام في السابق جيدة.
في البداية نراجع توصيات AI بعناية.
بعد عشرين نتيجة صحيحة، نبدأ نثق أكثر.
وبعد مائة نتيجة صحيحة، قد تتحول المراجعة من:
«هل هذه النتيجة صحيحة؟»
إلى:
«غالبًا صحيحة… دعني أرى فقط إذا كان هناك شيء واضح.»
وهنا يحدث تغيير خطير جدًا.
الإنسان ما زال موجودًا في العملية.
والتوقيع ما زال بشريًا.
لكن مستوى التفكير البشري نفسه بدأ ينخفض.
وهذه في رأيي واحدة من أهم القضايا التي يجب أن نناقشها مع توسع استخدام AI.
وجود الإنسان داخل العملية لا يعني بالضرورة أن الإنسان ما زال يسيطر عليها.
والنموذج نفسه ليس ثابتًا
هناك نقطة أخرى نادرًا ما نفكر فيها عندما نتعامل مع الذكاء الاصطناعي كأداة عمل.
النموذج الذي نستخدمه اليوم قد لا يكون مطابقًا للنموذج الذي نستخدمه بعد عدة أشهر.
قد يتغير الإصدار.
قد تتغير طريقة الاستجابة.
قد تتغير آلية البحث أو الاسترجاع.
قد تُعدّل التعليمات الداخلية للنظام.
وقد نحصل على نتائج مختلفة للسؤال نفسه رغم أن طريقة عملنا لم تتغير ظاهريًا.
وهنا يصبح AI مختلفًا عن كثير من الأدوات التقليدية.
نحن لا نتعامل دائمًا مع آلة ثابتة ذات سلوك يمكن توقعه بالطريقة نفسها.
بل مع نظام يتطور باستمرار.
لذلك، كلما دخل الذكاء الاصطناعي أكثر في العمليات المهمة، يصبح السؤال:
هل نحن نستخدم AI كأداة… أم بدأنا نعتمد على نظام يتغير أسرع من إجراءاتنا؟
ومع ذلك… هذه بالضبط هي قوته
كل هذه الأسئلة لا تعني أن نتراجع عن استخدام الذكاء الاصطناعي.
بالعكس.
أنا أعتقد أن أقوى استخداماته لم تظهر بالكامل بعد.
لدينا داخل المؤسسات كميات هائلة من المعرفة لا نستفيد منها.
تقارير قديمة.
شكاوى.
مراسلات.
نتائج اختبارات.
دروس مستفادة.
قرارات سابقة.
خبرات موزعة بين موظفين وملفات وأنظمة مختلفة.
لأول مرة لدينا أدوات تستطيع أن تساعدنا على البحث داخل هذه الذاكرة، وربط المعلومات ببعضها، واكتشاف أنماط يصعب على الإنسان رؤيتها وسط هذا الحجم من البيانات.
وهذه ليست مجرد زيادة في الإنتاجية.
هذا يمكن أن يغير الطريقة التي تتعلم بها المؤسسات من خبرتها السابقة.
لكن هنا بالضبط يجب أن نفهم الفرق:
AI لا يعطينا الواقع كله.
هو يعطينا قراءة للواقع بناءً على البيانات التي وصل إليها، والطريقة التي تم بها استرجاعها، والتعليمات التي أُعطيت له، وكيف رتّب النتائج وقدمها لنا.
وهذا فرق كبير.
ما يعنيه لك
ربما يكون السؤال الأهم في المرحلة القادمة ليس:
هل نثق في الذكاء الاصطناعي؟
السؤال في رأيي أكبر من ذلك:
كيف يصنع الذكاء الاصطناعي الصورة التي نراها قبل أن نقرر؟
ما البيانات التي استطاع الوصول إليها؟
ما الذي استبعده؟
كيف اختصر المعلومات؟
كيف رتّب الأولويات؟
وهل نحن نراجع توصياته فعلًا، أم بدأنا مع الوقت نعتاد قبولها؟
لأن تأثير AI الحقيقي لن يبدأ عندما نسمح له بالضغط على زر «الموافقة».
قد يبدأ قبل ذلك بكثير.
يبدأ عندما يصبح هو الذي يبحث لنا.
ويلخص لنا.
ويرتب لنا.
ويختار ما يستحق انتباهنا.
وعندها ربما لا يكون السؤال الأخطر:
هل اتخذ الذكاء الاصطناعي القرار؟
بل:
كم جزءًا من القرار كان قد تشكّل بالفعل قبل أن يصل إلى الإنسان؟