تأثير الإشارات السلطوية والذاتية على موثوقية نماذج اللغة الكبيرة في الاستفسارات السريرية: دراسة تجريبية

لماذا طريقة طرحنا لأسئلة صحية على الذكاء الاصطناعي مهمة حقًا

يتجه الكثير من الناس اليوم إلى الدردشات الآلية ونماذج اللغة الكبيرة للحصول على معلومات طبية، سواء كانوا مرضى أو طلابًا أو أطباء مشغولين. تظهر هذه الدراسة أن صياغة السؤال يمكن أن تغيّر بشكل كبير دقة الإجابة — خصوصًا عندما يتضمن السؤال "ذاكرة" خاطئة أو استشهادًا بخبير مفترض. فهم هذه الضعف الخفي أمر حاسم لأي شخص قد يعتمد على الذكاء الاصطناعي في قرارات صحية، حتى لو كان الهدف مجرد "التحقق المزدوج" مما يعتقد أنه يعرفه بالفعل.

ثلاث طرق لطرح نفس السؤال الطبي

ركز الباحثون على حقيقة طبية واحدة واضحة مستمدة من إرشادات علاج الاكتئاب الرائدة: أريبيبرازول يُوصى به كعلاج مضاف من الخط الأول لحالات الاكتئاب المقاومة للعلاج. طرحوا هذا السؤال على خمسة نماذج لغة كبيرة من الأعلى أداءً تحت ثلاث حالات. في النسخة المحايدة، سأل الطالب الطبي المحاكى ببساطة أي خط علاجي ينتمي إليه الأريبيبرازول. في نسخة "التذكّر الذاتي"، أضاف الطالب ذاكرة شخصية خاطئة، مثل "على حد علمي، إنه من خط العلاج الثاني." في نسخة "السلطة"، ادّعى الطالب أن مدرسًا أو خبيرًا قال إنه خط ثانٍ أو ثالث. سمحت هذه التغييرات الصغيرة للفريق باختبار كيف تشكل الانطباعات الذاتية والإشارات السلطوية إجابات النماذج.

عندما تضلل السلطة ينهار الدقّة

في المحفزات المحايدة، أجابت النماذج الخمسة جميعها بشكل صحيح أن الأريبيبرازول خيار من الخط الأول في كل مرة. لكن الصورة تغيّرت بشدة عند إضافة إشارات مضللة. مع محفزات التذكّر الذاتي، انخفضت الدقة الإجمالية إلى 45 بالمئة — أقل من نتيجة رمية عملة. وتحت محفزات قائمة على السلطة، تكاد الدقة تختفي، فهبطت إلى نحو 1 بالمئة. أكدت الاختبارات الإحصائية وجود ارتباط قوي جدًا بين نمط المعلومات في المحفز وما إذا كانت الإجابة صحيحة أم خاطئة. بمعنى آخر، بمجرد أن قيل للنموذج "قال معلمي..." — حتى عندما كان ذلك المعلم مخطئًا — فقد تبع النموذج في الغالب التصريح الخاطئ بدلاً من الإرشادات الطبية.

نماذج مختلفة، نقاط ضعف مختلفة

لم تتصرف النماذج الخمسة بصورة متطابقة. كانت أغلبها، بما في ذلك نماذج التفكير الرائجة، عرضة بشدة للإشارات السلطوية وغالبًا ما كررت الادعاء الخاطئ للخبير. قاوم نموذج واحد (o3 الخاص بـ OpenAI) ذلك قليلاً، إذ أعطى الإجابة الصحيحة مرة في حالة السلطة، وتبيّن أن نموذج جيميني الأخف وزنًا كان أكثر استقرارًا من نظيره الأكبر عند مواجهة محفزات التذكّر الذاتي. ومن المثير للاهتمام أن نسخة "غير مفكِّرة" من أحد النماذج التي قدّمت إجابات مباشرة دون تفكير إضافي ظلت دقيقة تحت التذكّر الذاتي، ما يشير إلى أن الاستدلال الداخلي المعقّد قد يجعل النماذج أحيانًا أكثر — وليس أقل — عرضة للتأثر بكيفية صياغة السؤال.

واثقة وخاطئة — ومقنعة بذلك

درس الفريق أيضًا كيفية تقييم النماذج لفعالية الأريبيبرازول وتحمله وثقتها الذاتية على مقياس من 0 إلى 10. عندما أُضلّت، لم تغيّر النماذج خط العلاج فحسب، بل عدّلت أيضًا هذه التقييمات لتتناسب مع استنتاجها الخاطئ، كما لو أنها تعيد كتابة الأدلة لتتماشى مع الفرضية المضللة. والأكثر بروزًا أنك في حالة السلطة، بقيت ثقة النماذج المبلغ عنها ذاتيًا مرتفعة كما كانت عندما كانت صحيحة في المحفزات المحايدة. هذا يعني أن النماذج قد تبدو واثقة بنفس القدر عند نشرها لمعلومات مضللة، ما يجعل إجاباتها خطرة بشكل خاص على المستخدمين الذين قد يساوون بين لغة الواثق وموثوقية المعلومات.

ماذا يعني هذا لمستخدمي الذكاء الاصطناعي الطبي اليوميين

تُظهر هذه الدراسة أن حتى أكثر نماذج اللغة الكبيرة تقدمًا اليوم يمكن أن تُبعثر بشدة عن مسارها بواسطة تلميحات دقيقة عن ما يعتقده المستخدم أو ما قاله "خبير" مُفترض — ويمكن أن تفعل ذلك بينما تبدو مقتنعة تمامًا. للمستخدمين العاديين، الخلاصة بسيطة لكنها حيوية: لا تُدرج تخميناتك الشخصية أو رأي شخص آخر في السؤال إذا كنت تريد إجابة موضوعية، ولا تعامل أبدًا رد الدردشة الآلي الواثق كدليل على صحته. للمربين والمطوِّرين وصانعي السياسات، تدعو النتائج إلى رفع مستوى الثقافة الرقمية بشأن الذكاء الاصطناعي، ووجود ضوابط مدمجة تميّز المحفزات المحمَّلة أو المليئة بالسلطة، واختبار أشد صرامة للنماذج تحت أسئلة واقعية "فوضوية" قبل أن يُعتمد استخدامها في إعدادات الرعاية الصحية.

الاستشهاد: Chang, Y., Ju, PC., Hsieh, MH. et al. Impact of authoritative and subjective cues on large language model reliability for clinical inquiries: an experimental study. Sci Rep 16, 6750 (2026). https://doi.org/10.1038/s41598-026-38019-3

الكلمات المفتاحية: الذكاء الاصطناعي الطبي, نماذج اللغة الكبيرة, المعلومات المضللة الصحية, تحيّز السلطة, دعم القرار السريري