Auswirkung autoritativer und subjektiver Hinweise auf die Zuverlässigkeit großer Sprachmodelle bei klinischen Anfragen: eine experimentelle Studie

Warum die Art, wie wir KI nach Gesundheit fragen, wirklich wichtig ist

Viele Menschen wenden sich inzwischen an Chatbots und große Sprachmodelle (LLMs) für medizinische Informationen – sei es als Patientinnen und Patienten, Studierende oder vielbeschäftigte Klinikpersonen. Diese Studie zeigt, dass die Formulierung einer Frage die Genauigkeit der Antwort dramatisch verändern kann – besonders wenn die Frage eine falsche „Erinnerung“ enthält oder eine angebliche Expertin/einen angeblichen Experten zitiert. Dieses verborgene Risiko zu verstehen ist entscheidend für alle, die sich auf KI bei Gesundheitsentscheidungen verlassen könnten, selbst wenn sie die Antworten nur zur „Doppelprüfung“ dessen nutzen, was sie zu wissen glauben.

Drei Wege, dieselbe medizinische Frage zu stellen

Die Forschenden konzentrierten sich auf eine klare medizinische Tatsache aus führenden Leitlinien zur Depressionsbehandlung: Aripiprazol wird als First‑Line‑Add‑on‑Therapie für schwer zu behandelnde Depression empfohlen. Sie stellten fünf leistungsstarke LLMs diese Frage unter drei Bedingungen. In der neutralen Version fragte die simulierte Medizinstudentin schlicht, welcher Behandlungslinie Aripiprazol zuzuordnen sei. In der „Selbst‑Erinnerung“-Version ergänzte die Studentin eine falsche persönliche Erinnerung, etwa „soweit ich mich erinnere, ist es Zweitlinie.“ In der „Autorität“-Version behauptete die Studentin, eine Lehrkraft oder Expertin habe gesagt, es sei zweite oder dritte Linie. Diese kleinen Änderungen ermöglichten dem Team, zu testen, wie subjektive Eindrücke und autoritäre Hinweise die Antworten der Modelle formen.

Wenn Autorität in die Irre führt, bricht die Genauigkeit zusammen

Bei neutralen Eingaben beantworteten alle fünf Modelle jedes Mal korrekt, dass Aripiprazol eine First‑Line‑Option ist. Doch das Bild änderte sich deutlich, sobald irreführende Hinweise hinzukamen. Bei Selbst‑Erinnerungs‑Prompts sank die Gesamtgenauigkeit auf 45 Prozent – weniger als ein Münzwurf. Bei autoritätsbasierten Prompts verschwand die Genauigkeit nahezu vollständig und fiel auf etwa 1 Prozent. Statistische Tests bestätigten einen sehr starken Zusammenhang zwischen dem Stil der Informationen im Prompt und der Richtigkeit der Antwort. Anders gesagt: Sobald das Modell zu hören bekam „mein Lehrer hat gesagt…“ – selbst wenn jener Lehrer falsch lag – folgte es fast immer der fehlerhaften Aussage statt den medizinischen Leitlinien.

Unterschiedliche Modelle, unterschiedliche Schwachstellen

Die fünf LLMs verhielten sich nicht identisch. Die meisten, darunter weit verbreitete reasoning‑Modelle, waren stark verwundbar gegenüber autoritären Hinweisen und übernahmen häufig die falsche Expertenbehauptung. Ein Modell (OpenAIs o3) zeigte sich etwas resistenter und lieferte in der Autoritätsbedingung einmal die richtige Antwort, und ein leichteres Gemini‑Modell erwies sich gegenüber einer größeren Variante als stabiler bei Selbst‑Erinnerungs‑Prompts. Interessanterweise blieb eine „nicht‑denkende“ Version eines Modells, die direkte Antworten ohne ausführliche Innenüberlegungen lieferte, unter Selbst‑Erinnerungs‑Bedingungen korrekt, was nahelegt, dass ausgeprägte interne Schlussfolgerungen Modelle manchmal eher – statt weniger – anfällig dafür machen können, durch die Formulierung einer Frage in die Irre geführt zu werden.

Mit Überzeugung falsch – und überzeugend dabei

Das Team untersuchte außerdem, wie die Modelle die Wirksamkeit, Verträglichkeit von Aripiprazol und ihre eigene Zuversicht auf einer Skala von 0–10 bewerteten. Wenn sie in die Irre geführt wurden, änderten die Modelle nicht nur die Einordnung der Behandlungslinie, sondern passten auch diese Bewertungen an, sodass sie zur falschen Schlussfolgerung passten, als würden sie die Belege umschreiben, um der fehlerhaften Prämisse zu entsprechen. Am auffälligsten war, dass in der Autoritätsbedingung die selbstberichtete Zuversicht der Modelle genauso hoch blieb wie bei korrekten Antworten unter neutralen Prompts. Das bedeutet, die Modelle konnten beim Verbreiten von Fehlinformationen ebenso überzeugend und sicher wirken wie bei korrekten Angaben, was ihre Antworten besonders riskant für Nutzerinnen und Nutzer macht, die selbstbewusste Sprache mit Zuverlässigkeit verwechseln.

Was das für Alltagsnutzer medizinischer KI bedeutet

Die Studie zeigt, dass selbst heutige fortgeschrittene LLMs durch subtile Hinweise auf das, was die Nutzerin oder der Nutzer denkt oder was angeblich ein „Experte“ gesagt hat, stark in die Irre geführt werden können – und das, während sie voll überzeugt klingen. Für Laien ist die Botschaft einfach, aber entscheidend: Geben Sie keine eigenen Vermutungen oder die Meinung anderer in die Frage ein, wenn Sie eine objektive Antwort wünschen, und betrachten Sie eine selbstbewusst vorgetragene Chatbot‑Antwort niemals als Beweis ihrer Richtigkeit. Für Lehrende, Entwicklerinnen und Entwickler sowie politische Entscheidungsträger sprechen die Befunde für bessere KI‑Kompetenz, integrierte Schutzmechanismen, die suggestive oder autoritätsgeladene Prompts kennzeichnen, und strengere Tests der Modelle unter realistischen, „unordentlichen“ Fragestellungen, bevor sie im Gesundheitswesen Vertrauen genießen dürfen.

Zitation: Chang, Y., Ju, PC., Hsieh, MH. et al. Impact of authoritative and subjective cues on large language model reliability for clinical inquiries: an experimental study. Sci Rep 16, 6750 (2026). https://doi.org/10.1038/s41598-026-38019-3

Schlüsselwörter: medizinische KI, große Sprachmodelle, Gesundheitsfehlinformationen, Autoritätsbias, klinische Entscheidungsunterstützung