كيف توقف وكيل الذكاء الاصطناعي عن اختلاق المعلومات

هلوسة الذكاء الاصطناعي هي إجابة واثقة وتبدو معقولة لكنها ببساطة خاطئة. في السياق الذي يتعامل مع العملاء، توقفها بالطريقة نفسها في كل مرة: اربط الوكيل بمعرفتك المُوثّقة الخاصة بدلاً من اعتماده على ذاكرة تدريبه، وقيّد ما يُسمح له بالإجابة عنه، وأضف حواجز حماية على المُخرجات، وأبقِ إنساناً قادراً على المراجعة والتدخل. هذا الأمر مهم لأن معدل الفشل ليس صغيراً. وجدت دراسة عام 2025 نسّقها اتحاد البث الأوروبي وقادتها BBC أن 45% من إجابات مساعدي الذكاء الاصطناعي احتوت على مشكلة كبيرة واحدة على الأقل، وأن 20% منها احتوت على مشكلات دقة جسيمة تشمل تفاصيل مُختلقة. وعندما يحدث ذلك على موقعك، فأنت من يتحمل مسؤولية الإجابة.

ما هي هلوسة الذكاء الاصطناعي في خدمة العملاء؟

الهلوسة هي مُخرَج يقدّمه نموذج لغوي على أنه حقيقة رغم أنه لا أساس له في بياناتك ولا في العالم الواقعي. وهي ليست خللاً بالمعنى المعتاد. تولّد النماذج اللغوية الكبيرة الكلمات التالية الأكثر احتمالاً إحصائياً، لذا عندما تفتقر إلى إجابة موثوقة فإنها تُنتج تخميناً سلساً بدلاً من أن تقول "لا أعرف". وبالنسبة إلى نشاط تجاري، يعني ذلك أن الوكيل قد يختلق مدة إرجاع، أو يذكر سعراً غير موجود، أو يعد بموعد لم تعرضه قط، أو يستشهد بسياسة لم تكتبها أبداً، وكل ذلك بنبرة تبدو ذات مرجعية.

المخاطرة التجارية ملموسة. في قضية Moffatt ضد Air Canada، حمّلت محكمة في كولومبيا البريطانية شركة الطيران مسؤولية المعلومات الخاطئة التي قدّمها روبوت الدردشة لأحد الركاب وأمرتها بدفع تعويضات. ورفضت المحكمة الحجة القائلة بأن روبوت الدردشة كيان منفصل مسؤول عن كلماته الخاصة. والدرس المستفاد لأي نشاط تجاري ينشر الذكاء الاصطناعي: الهلوسة ليست خطأ النموذج في نظر عميلك أو الجهة التنظيمية. إنها خطؤك أنت.

كم مرة يهلوس وكلاء الذكاء الاصطناعي؟

بما يكفي لجعل الدقة أمراً يجب تصميمه لا افتراضه. ويعتمد المعدل بشكل كبير على كيفية بناء النظام.

الإعداد	معدل الهلوسة / الخطأ المُقاس	المصدر
روبوت دردشة عام الغرض، أسئلة قانونية	من 58% إلى 82% من الاستعلامات	Stanford RegLab / HAI
أدوات بحث قانوني مبنية لغرض مخصص ومربوطة بالمعرفة (RAG)	من 17% إلى 34% من الاستعلامات	Stanford RegLab / HAI
مساعدو الذكاء الاصطناعي الرائدون، أسئلة إخبارية	45% بها مشكلة كبيرة؛ 20% بها مشكلات دقة جسيمة	BBC / EBU، 2025

يبرز أمران. الأول، أن ربط النموذج بمخزن مستندات حقيقي يخفض معدل الخطأ بشكل حاد: وجد باحثو Stanford أن الأدوات المبنية لغرض مخصص "تقلل الأخطاء فعلاً مقارنةً بنماذج الذكاء الاصطناعي العامة الغرض". والثاني، أن الربط بالمعرفة وحده لا يوصلك إلى الصفر. وهذه هي أهم حقيقة على الإطلاق في هذا المقال، وبقية المقال مبنية حولها.

لماذا يختلق وكلاء الذكاء الاصطناعي المعلومات؟

ثلاثة أسباب جذرية تفسّر معظم الهلوسات في السياق الذي يتعامل مع العملاء، ويشير كل منها إلى حل:

• غياب مصدر الحقيقة. يجيب النموذج من ذاكرة تدريبه، وهي عامة وقديمة ولا تعرف شيئاً عن نشاطك التجاري. فيسدّ الفجوة بتخمين.
• الأسئلة خارج النطاق. عند سؤاله عن شيء خارج نطاق معرفته، يرتجل الوكيل غير المُحكَم بدلاً من التنحّي. والتزلّف يزيد الأمر سوءاً: تميل النماذج إلى الموافقة على الفرضية الخاطئة للعميل بدلاً من تصحيحها.
• غياب طبقة التحقق. لا شيء يتحقق من الإجابة قبل وصولها إلى العميل، فتنطلق الإجابة الخاطئة بالسرعة نفسها التي تنطلق بها الصحيحة.

كيف توقف وكيل الذكاء الاصطناعي عن الهلوسة: مجموعة عناصر التحكم

الدقة تأتي من طبقات من عناصر التحكم، لا من العثور على نموذج واحد مثالي. وإليك المجموعة، مرتبةً بحسب الأثر.

1. اربط كل إجابة بمعرفتك المُوثّقة الخاصة

هذا هو عنصر التحكم الأعلى أثراً. بدلاً من ترك النموذج يجيب من ذاكرته، استرجِع الحقائق ذات الصلة من محتواك أنت أولاً (أسئلتك الشائعة، وتفاصيل خدماتك ومنتجاتك، وسياساتك، وساعات عملك، وأسعارك) واجعل الوكيل يجيب من ذلك فقط. هذا هو النمط الكامن وراء التوليد المعزَّز بالاسترجاع، والأدلة قوية: أفاد إطار عمل خضع لمراجعة الأقران عام 2025 بـانخفاض في معدلات الهلوسة يتجاوز 40% مقارنةً بنموذج قائم بذاته. أبقِ قاعدة المعرفة محدّثة وعيّن مسؤولاً لكل مجال، لأن الإجابة المربوطة بالمعرفة لا تكون أدق من المستند الذي وراءها.

2. قيّد النطاق وحدّد مسار الرفض

قرّر صراحةً ما الذي يجب على الوكيل ألّا يجيب عنه، واجعل "سأتحقق من الأمر مع الفريق" استجابةً من الدرجة الأولى. الوكيل الذي يتنحّى بلطف عند مواجهة أمر مجهول أثمن من الوكيل الذي لديه دائماً إجابة، لأن الإجابة الخاطئة الواثقة هي المكلفة. اطلب منه، ضمن تعليماته، أن يرفض التكهّن بأي شيء خارج قاعدة معرفته.

3. أضف حواجز حماية على المُخرجات

ضع فحصاً آلياً بين النموذج والعميل. يمكن لحواجز الحماية أن تلتقط استجابةً تتجاوز طولاً آمناً، أو تسرّب تعليمات النظام، أو تنحرف عن الموضوع، أو تدّعي قدرة لا يملكها الوكيل فعلاً. وهذا الأخير هلوسة شائعة ويمكن تجنّبها: أن يعد الوكيل بفعل شيء لا يملك أداةً لإنجازه. حاجز حماية يقارن الرد بالقدرات الحقيقية للوكيل يوقف هذا النوع من الأخطاء قبل إرساله.

4. أبقِ الإنسان ضمن الحلقة

لا يلتقط أي حاجز حماية كل شيء، لذا صمّم تسليماً نظيفاً إلى شخص في الحالات العالية المخاطر أو المنخفضة الثقة. وهذا ليس خياراً احتياطياً تركّبه لاحقاً؛ إنه مبدأ تصميم أساسي. نتناول التفاصيل التقنية في الذكاء الاصطناعي مع الإنسان ضمن الحلقة، شرح مبسّط: والفكرة هي أن الذكاء الاصطناعي ينفّذ والبشر يحكمون، مع القدرة على المراجعة والتجاوز والتدخّل في أي محادثة في أي لحظة. وهذا أيضاً ما يتوقعه العملاء. وجد تقرير Twilio لعام 2025 المذكور في بحث SurveyMonkey أن 78% من المستهلكين يقولون إن القدرة على التحوّل من وكيل ذكاء اصطناعي إلى إنسان أمر مهم.

5. انسب الإجابات إلى مصدرها

عندما يربط الوكيل إجابةً بالمعرفة، ينبغي أن يكون قادراً على الإشارة إلى مصدر الحقيقة. النسب يحقق أمرين: يتيح لعميل أو زميل التحقق من الادعاء، ويكشف الإجابات "المربوطة خطأً"، حيث تبدو الاستجابة صحيحة لكن المصدر المُستشهَد به لا يدعمها فعلاً. أشار باحثو Stanford إلى الربط الخاطئ بوصفه نمط فشل خفياً وخطيراً تحديداً لأن الاستشهاد يبدو مشروعاً.

6. اختبر قبل الإطلاق، ثم راقب بعده

لا تُطلق اعتماداً على الثقة. مرّر الوكيل عبر أسئلتك الحقيقية، بما فيها الحالات الحدّية والأسئلة ذات الفرضيات الخاطئة المصممة لإيقاعه في الخطأ، قبل أن يتحدث إلى عميل. وبعد الإطلاق، راجع نصوص المحادثات وتقييمات عدم الإعجاب لالتقاط أي انحراف. يغلق هذا الحلقة بين قائمة تحقق الإطلاق في دليلنا خطوة بخطوة لإعداد وكيل ذكاء اصطناعي لخدمة العملاء والدقة التي تحافظ عليها في الإنتاج.

7. لا ترهن الدقة بنموذج واحد

تتغير النماذج، وتُسحب من الخدمة، وتتراجع في مهام محددة. أي استراتيجية دقة مرتبطة بنموذج واحد هشة. التوجيه إلى النموذج المناسب للمهمة، والقدرة على التبديل عند ظهور خيار أفضل أو أكثر أماناً، يحافظان على استقرار الجودة عبر الزمن. نعرض الحجة كاملةً في لماذا لا ينبغي أن تبني نشاطك على نموذج ذكاء اصطناعي واحد.

8. ارفع مستوى الحيطة للبيانات الخاضعة للتنظيم

إذا كان وكيلك يتعامل مع معلومات صحية أو مالية أو غيرها من المعلومات الحساسة، فإن الهلوسة ليست محرجة فحسب، بل قد تكون حادثة امتثال. ينتقل الربط بالمعرفة، وتسجيل المراجعة، والإشراف البشري من "أمر جيد أن يتوفر" إلى "إلزامي". راجع الذكاء الاصطناعي المتوافق للأنشطة الخاضعة للتنظيم لمعرفة ما يتطلبه HIPAA وGDPR فعلاً.

هل يقضي RAG على الهلوسات؟ إجابة صريحة

لا، وأي مورّد يعد بذكاء اصطناعي "خالٍ من الهلوسة" فهو يبالغ في البيع. توجد دراسة Stanford تحديداً لأن أداتين قانونيتين سُوّقتا على أنهما خاليتان من الهلوسة ما زالتا تنتجان معلومات خاطئة بنسبة 17% و34% من الوقت. وكان استنتاجهم صريحاً: "RAG ليس حلاً سحرياً شاملاً". فقد يفشل الاسترجاع في العثور على المستند الصحيح، أو يسترجع مستنداً يبدو ذا صلة لكنه ليس كذلك، أو قد يسيء النموذج قراءة ما استرجعه.

الخلاصة العملية ليست التخلي عن الربط بالمعرفة، الذي يساعد بوضوح إلى حد كبير، بل التوقف عن التعامل معه كحل سحري. الدقة مجموعة طبقات: الربط بالمعرفة يخفض المعدل الأساسي، وحواجز الحماية تلتقط شريحةً إضافية، والإشراف البشري يغطي البقية. تتولى كل طبقة ما فاتته الطبقة التي تحتها.

كيف تبني Entagl من أجل الدقة

صُممت Entagl حول هذا النهج المتعدد الطبقات بدلاً من مطالبة ذكية واحدة. تجيب وكلاء الذكاء الاصطناعي للرسائل المباشرة على Instagram وWhatsApp من قاعدة معرفة خاصة بكل نشاط تجاري مع بحث دلالي عبر أسئلتك الشائعة وخدماتك ومنتجاتك وسياساتك، فتكون الردود مربوطة بمحتواك المُوثّق، لا بتخمين عام. ولأن الوكيل يفهم النص الحر بدلاً من تشغيل مسارات كلمات مفتاحية هشة، يمكنه التنحّي عند مواجهة أمر مجهول بدلاً من فرض تطابق. تعمل حواجز الحماية على المُخرجات في كل محادثة، بما في ذلك فحص يبلّغ عن أي رد يدّعي قدرة لا يملكها الوكيل. والتسليم البشري إلى صندوق وارد مشترك للفريق مدمج، فيمكن لشخص أن يراجع أو يصحّح أو يتدخّل متى استدعت المخاطر ذلك. وهذا يعكس فلسفة بسيطة: الذكاء الاصطناعي ينفّذ، والبشر يحكمون.

ولهذا أيضاً يهم الفرق بين روبوت الدردشة والوكيل الحقيقي في ما يخص الدقة، وهو تمييز نفصّله في وكيل الذكاء الاصطناعي مقابل روبوت الدردشة.

الدقة ليست إعداداً واحداً تشغّله. إنها الربط بالمعرفة وحواجز الحماية والإشراف البشري تعمل معاً، في كل رسالة. احجز عرضاً توضيحياً مدته 30 دقيقة لترى كيف تُبقي Entagl الوكيل الذي يتعامل مع العملاء مربوطاً بمعرفتك الخاصة.

الأسئلة الشائعة

هل يمكن القضاء على هلوسات الذكاء الاصطناعي تماماً؟

ليس تماماً بتقنية اليوم. يمكنك تقليلها بشكل كبير عبر ربط الإجابات بقاعدة معرفة موثّقة، وتقييد النطاق، وإضافة حواجز حماية على المُخرجات، وإبقاء الإنسان ضمن الحلقة. ثبت أن الربط بالمعرفة وحده يخفض معدلات الهلوسة بأكثر من 40%، لكن الأنظمة الرائدة المربوطة بالمعرفة لا تزال تخطئ في نسبة معتبرة من الاستعلامات الصعبة، ولهذا تهم عناصر التحكم المتعددة الطبقات والإشراف البشري.

هل يتحمل نشاطي التجاري المسؤولية إذا قدّم روبوت الدردشة الخاص به معلومات خاطئة لعميل؟

قالت المحاكم والهيئات القضائية نعم. في قضية Moffatt ضد Air Canada، حمّلت محكمة الشركة مسؤولية المعلومات الخاطئة التي قدّمها روبوت الدردشة ومنحت العميل تعويضات، رافضةً فكرة أن روبوت الدردشة كيان منفصل. تعامل مع كل إجابة آلية على أنها بيان رسمي من نشاطك التجاري، وصمّم عناصر التحكم في الدقة وفقاً لذلك.

ما الفرق بين RAG والضبط الدقيق في ما يخص الدقة؟

التوليد المعزَّز بالاسترجاع يربط كل إجابة بمستندات تُسترجَع لحظة الاستعلام، فيبقى محدّثاً كلما حدّثت محتواك ويمكنه نسب الإجابات إلى مصدر. أما الضبط الدقيق فيُدمج المعرفة داخل النموذج أثناء التدريب، وهو أبطأ في التحديث وأصعب في التتبّع. وبالنسبة إلى نشاط تجاري تتغير حقائقه (ساعات العمل، الأسعار، المخزون، السياسات)، يكون الاسترجاع عادةً المسار الأكثر موثوقية وقابلية للصيانة نحو الدقة.

كيف أختبر وكيل ذكاء اصطناعي بحثاً عن الهلوسات قبل الإطلاق؟

ابنِ مجموعة من أسئلة العملاء الحقيقية إضافةً إلى أخرى صعبة عمداً: طلبات خارج النطاق، وأسئلة ذات فرضية خاطئة، وحالات حدّية في سياساتك. مرّرها عبر الوكيل وتحقق من أمرين: هل كل إجابة صحيحة، وهل يتنحّى بشكل صحيح عندما يُفترض ألّا يعرف. واصل مراجعة نصوص المحادثات الحية والتقييمات السلبية بعد الإطلاق، لأن الدقة قد تنحرف مع تغيّر الأسئلة والمحتوى.

المصادر: دراسة BBC / EBU حول نزاهة الأخبار في مساعدي الذكاء الاصطناعي (2025)؛ Stanford RegLab / HAI، "الذكاء الاصطناعي في قفص الاتهام: النماذج القانونية تهلوس في 1 من كل 6 استعلامات (أو أكثر)"؛ Moffatt ضد Air Canada، عبر BBC؛ MEGA-RAG (خضع لمراجعة الأقران، 2025)؛ إحصاءات خدمة العملاء من SurveyMonkey (2026).