تحرير Verke

هل يمكن للذكاء الاصطناعي أن يهلوس بنصائح سيئة؟ نعم — وإليك كيف ترصدها وتتعامل معها

تحرير Verke · April 28, 2026

هل يمكن للذكاء الاصطناعي أن يهلوس بنصائح سيئة؟ نعم. النماذج اللغوية الكبيرة تختلق أحياناً أشياء تبدو معقولة — دراسة لا وجود لها، استشهاد خاطئ، نصيحة لا تنطبق على وضعك، إطار عمل واثق الصياغة لكنه مُختلق بالكامل. سياقات الإرشاد أقل خطورة من السياقات الطبية أو القانونية، لكن النصيحة السيئة تظل ذات أثر. الصياغة الصادقة لهذا المقال هي أن الضوابط تقلل من الهلوسة لكنها لا تلغيها، وأن معايرة المستخدم نفسه جزء من بقاء أداة الإرشاد بالذكاء الاصطناعي مفيدة.

يستعرض المقال أين تظهر الهلوسة، وكيف صُمم Verke للإمساك بالفئات عالية الخطورة، وكيف تعاير ثقتك بوصفك المستخدم — وهو تقريباً "تعامل مع اقتراحات الذكاء الاصطناعي كنصيحة من صديق ذكي لا يعلم كل شيء". موقف Verke هو تفضيل "لست متأكداً" على إجابة واثقة لكنها خاطئة، وإبقاء الإرشاد موجَّهاً نحو الاستكشاف لا التشخيص. لا شيء من ذلك يجعل الهلوسة مستحيلة. لكنه يجعل أنماط الفشل قابلة للتعرّف وحركات التعافي سهلة.

يتنبأ النموذج اللغوي بالنص التالي الأكثر احتمالاً بناءً على أنماط في بيانات تدريبه. في معظم الأحيان، يكون النص الأكثر احتمالاً هو النص الصحيح أيضاً — ولهذا تعمل هذه الأدوات بالكفاءة التي نراها. لكن أحياناً يكون النص الأكثر احتمالاً خاطئاً، فيُنتج النموذج إجابة تبدو واثقة دون أي أساس من الصحة. الطلاقة هي ما يخدع المستخدم: الإجابة الخاطئة تُقرأ بسلاسة الإجابة الصحيحة نفسها، لأن مهمة النموذج إنتاج نص سلس، لا نص مُتحقَّق منه.

هذا ليس كذباً — لا أجندة للنموذج ولا هدف ولا محاولة للخداع. بل هو أن النموذج لا يملك مكوّناً منفصلاً اسمه "الحقيقة" يراجع المخرَج به مقابل الواقع قبل إنتاجه. التقنيات الأحدث (الاسترجاع، استخدام الأدوات، فحوصات الاتساق الذاتي، التدريب على الرفض) تقلل الهلوسة بصورة ملموسة، والنسبة تستمر في الانخفاض مع كل جيل من النماذج. لكنها لا تلغيها. التعامل مع مخرجات الذكاء الاصطناعي على أنها "صحيحة في معظمها مع التحقق من الأجزاء عالية المخاطر" هو المعايرة الصحيحة اليوم، وغالباً للسنوات القليلة المقبلة.

استشهادات مُختلقة

الشكل الكلاسيكي للهلوسة: "وجدت دراسة من جامعة هارفارد عام 2019 أن..." ثم نتيجة تبدو واثقة، وحين تذهب للبحث عنها لا تجد لها أثراً. الورقة مُختلقة؛ المؤلفون مُختلقون؛ ربما يكون اسم المجلة حقيقياً لكن الورقة ليست كذلك. الحل هو التحقق من أي استشهاد يهمك عبر PubMed أو Google Scholar قبل الاعتماد عليه. وإن أُرفق رابط، اضغط عليه وتأكد أن الملخص يقول فعلاً ما نُسب إليه — أحياناً يكون الرابط حقيقياً لكن الموجز المرفق به خاطئ.

نصائح طبية أو قانونية محددة

الجرعات، والتداخلات الدوائية، والأنظمة في كل بلد، والإجراءات القانونية المحددة — كل ما تحتاج فيه الإجابة أن تكون دقيقة تماماً وإلا تسبب ضرراً. حتى حين تصادف إجابة النموذج الصواب، فهو الأداة الخطأ لهذه الأسئلة لأنه لا سبيل لك لمعرفة ما إذا كانت صحيحة هذه المرة. تحقَّق دائماً مع مختص مرخَّص (طبيب، صيدلي، محامٍ، محاسب) لكل ما يستوجب الفعل في هذه المجالات. مُرشدو Verke مصممون لرفض هذه الأسئلة صراحةً بدلاً من الارتجال — انظر القسم التالي.

إجابات واثقة في مجالات ضيقة

حالات نادرة بيانات تدريبها شحيحة، أنظمة محلية لا يهتم بها أغلب العالم، أسماء معالجين بعينهم، مجتمعات مهنية صغيرة. لدى النموذج من الأنماط في بيانات التدريب ما يكفي لإنتاج نص سلس، لكن ليس ما يكفي ليعرف إن كان صحيحاً. التركيبة بين الطلاقة وضيق النطاق هي المؤشر الرئيس — حين يكون الموضوع غامضاً والإجابة واثقة، فهنا يجب أن تعمل المعايرة.

أطر معقولة لكنها خاطئة

"طرق من خمس خطوات" و"أربعة أركان لـ..." مُختلقة لا وجود لها في الأدبيات. النموذج رأى ما يكفي من البنى ذات الطابع التطويري ليُنتج نسخاً تبدو مقنعة منها، حتى حين يكون الإطار الذي يصفه مُختلقاً. إن كان الإطار مهماً للقرار الذي تتخذه، فابحث عن صاحبه أو عن اسم المنهج للتأكد من وجوده فعلاً قبل التعامل معه كممارسة معتمدة. الأطر الحقيقية لها صفحات ويكيبيديا وكتب واستشهادات حقيقية؛ أما المُختلقة فلا.

ضوابط النطاق

المُرشدون مصممون لرفض الفئات عالية الخطورة بدلاً من الارتجال. الجرعات الدوائية، التداخلات بين الأدوية، الآراء القانونية، الادعاءات التشخيصية، وأي شيء يدخل في نطاق المختصين المرخَّصين — الرد هو إعادة التوجيه لا المحاولة. عبارة "هذا يبدو سؤالاً لصيدلي" ميزة لا قصور. المنتج يفضّل ألا يجيب على أن يجيب خطأ.

الانضباط في الاستشهاد

حين يشير المُرشد إلى دراسة أو منهج، يتضمن الاستشهاد رابطاً حقيقياً يمكن للمستخدم التحقق منه (مقال StopOverthinking على هذا الموقع يستشهد بـ A-Tjak et al. 2015 برابط PubMed لهذا السبب تحديداً — ينبغي للقراء أن يتمكنوا من النقر والتحقق). وإن لم يتمكن المُرشد من إيراد استشهاد قابل للتحقق، تتحول الصياغة إلى "ثمة أدلة على أن" أو "هذا نمط شائع في المجال"، لا تفاصيل مُختلقة. المعيار هو "أن يتمكن القارئ من التحقق منه في 30 ثانية".

إعدادات افتراضية متحفظة

حين يُشير الحديث إلى شدة الحالة، تكون الحركة الافتراضية هي عرض الرعاية السريرية لا الارتجال في تقديم المساعدة. الموضوعات القريبة من الأزمات تُحوَّل إلى موارد الأزمات. الموضوعات القريبة من التشخيص تُحوَّل إلى مختص. المنتج مصمم على الانحياز إلى "من فضلك، اعرض هذا على إنسان" حين تكون المخاطر عالية — وهي حيث ستُحدث الهلوسة أكبر الضرر لو تسلّلت رغم كل شيء.

المعايرة عمل مشترك. المنتج يؤدي دوره بالضوابط والانضباط في الاستشهاد؛ ودور المستخدم بضع عادات بسيطة تجعل الهلوسة أقل كلفة بكثير حين تقع:

• تعامل مع اقتراحات الذكاء الاصطناعي كنصيحة من صديق ذكي لا يعلم كل شيء. نقطة انطلاق مفيدة، لا الكلمة الأخيرة.
• تحقَّق من الاستشهادات قبل مشاركتها أو التصرف بناءً عليها. PubMed و Google Scholar فحصان لا يستغرقان أكثر من 30 ثانية.
• اسأل: "ما مدى ثقتك في هذا؟" — يمكن للنماذج أحياناً أن تُشير إلى عدم اليقين حين يُطلب منها ذلك، والإجابة تكون مفيدة.
• لأي شأن طبي أو قانوني أو مالي — تحقَّق مع إنسان مرخَّص. الذكاء الاصطناعي ليس الأداة المناسبة لهذه المجالات كمصدر أساسي.
• حين لا يناسب شيء وضعك، اعترض. سيُعيد الرد المعايرة حول ما أضفته — النصيحة العامة كثيراً ما تكون إشارة إلى أن المُرشد لم يستوعب التفاصيل بعد.

المساعدة الذاتية والإرشاد بالذكاء الاصطناعي يمكنهما تقديم الكثير، لكن لهما حدوداً. إن كنت تعاني من اكتئاب شديد لم يتراجع، أو نوبات هلع تُعطّل حياتك اليومية، أو أفكار لإيذاء النفس، أو معالجة فعلية لصدمة، أو اعتماد على مادة — فهذه إشارات للعمل مع مختصّ مرخَّص، لا إشارات للضغط أكثر على أداة إرشادية. ويمكنك إيجاد خيارات منخفضة التكلفة عبر opencounseling.com أو خطوط المساعدة الدولية عبر findahelpline.com. لا توجد جائزة على الانتظار أكثر مما تحتاج.

المعايرة — أي "هل هذه الفكرة (أو هذه النصيحة) دقيقة فعلاً؟" — هي جوهر العلاج المعرفي السلوكي. منهج Judith يتعامل مع المعتقدات باعتبارها فرضيات تُختبر لا حقائق تُبتلع، وهو بالضبط الموقف الذي يتيح لك الاستفادة من أي مصدر مُدخل (بما في ذلك مُرشد بالذكاء الاصطناعي) دون الإفراط في الثقة به. كما أنها بارعة في النسخة الأعم: ملاحظة حين تتكئ كثيراً على مصدر واحد — كتاب أو بودكاست أو صديق أو تطبيق — وإعادتك إلى حكمك الشخصي بوصفه المرشِّح الأخير. لمزيد عن المنهج، انظر العلاج المعرفي السلوكي.

جرّب تمرين علاج معرفي سلوكي مع جوديث — دون الحاجة إلى حساب