Untersuchung von Erwartungen und Bedürfnissen beim Einsatz großer Sprachmodelle an bayerischen Universitätskliniken

Warum das für Patienten und Fachpersonal wichtig ist

Krankenhäuser beginnen, mit denselben Chatbots zu experimentieren, die viele Menschen inzwischen zu Hause nutzen — allerdings für deutlich ernsthaftere Aufgaben. Diese Studie untersucht, wie Ärzte, Medizinstudierende und Klinikmitarbeitende an bayerischen Universitätskliniken diese Werkzeuge sehen: wofür sie sie bereits nutzen, was sie sich davon erhoffen und was ihnen Sorgen bereitet. Das Verständnis ihrer Sichtweisen hilft dabei, die Einführung künstlicher Intelligenz in realen Kliniken zu gestalten, wo sowohl die Patientensicherheit als auch das Vertrauen auf dem Spiel stehen.

Wer befragt wurde und was sie bereits tun

Die Forschenden befragten 120 Personen an fünf Universitätskliniken in Bayern: 70 Medizinstudierende, 36 Ärztinnen und Ärzte sowie 14 Verwaltungsangestellte. Viele Befragte nutzen große Sprachmodelle bereits in ihrem Arbeits- oder Studienalltag, besonders Studierende und Ärztinnen/Ärzte. Sie greifen auf diese Werkzeuge zurück, um Literatur zu recherchieren, Ideen zu generieren, Texte zu übersetzen, E‑Mails und Berichte zu entwerfen, lange Dokumente zu summarieren und unbekannte Sachverhalte zu klären. Verwaltungsmitarbeitende nutzen sie seltener, zeigen aber Interesse an Unterstützung bei Sprachtranskription und Dokumentenbearbeitung. Gleichzeitig berichtet ein beträchtlicher Teil — etwa ein Viertel der Studierenden und Ärztinnen/Ärzte und ein Drittel der Verwaltungsangestellten — gar keine Nutzung, und viele Studierende empfinden, dass ihr Verständnis der Technologie hinter dem ihrer Kolleginnen und Kollegen zurückbleibt.

Was als nützlich eingeschätzt wird

Auf die Frage, welche zukünftigen Anwendungen am relevantesten wären, nannten Befragte aller Gruppen besonders die Unterstützung bei der Übersetzung medizinischer Berichte und der Umwandlung gesprochener Sprache in geschriebenen Text. Ebenfalls geschätzt wurden das automatische Verfassen klinischer Berichte, das Zusammenfassen langer Dokumente und das Vereinfachen fachlicher Sprache, damit Patientinnen und Patienten sie leichter verstehen. Komplexere Aufgaben — etwa das Vorschlagen von Diagnosen oder das Liefern detaillierter medizinischer Argumentationen — wurden als weniger wichtig eingestuft, besonders von Verwaltungsangestellten. Das direkte Beantworten von Patientenfragen erschien am wenigsten attraktiv; dennoch würden die meisten es akzeptieren, wenn ein Chatbot während einer Krise Antworten entwirft, sofern diese zuvor von einem menschlichen Expertenteam geprüft werden. Dieses Muster deutet darauf hin, dass Fachleute Unterstützung bei routinemäßigen, textlastigen Aufgaben begrüßen, aber strenge menschliche Kontrolle über klinische Entscheidungen und Kommunikation behalten wollen.

Wie groß sie den Wandel einschätzen

Die meisten Teilnehmenden glauben, dass Sprachmodelle sich positiv auf ihr Arbeitsfeld auswirken werden, und viele spüren bereits heute eine merkliche Wirkung oder erwarten eine solche innerhalb des nächsten Jahrzehnts. Sie gehen davon aus, dass die Automatisierung repetitiver Büroarbeit Zeit für die direkte Patientenversorgung freisetzen und evidenzbasiertere, personalisierte Behandlungen unterstützen könnte, was die Versorgung kosteneffizienter machen kann. Die Meinungen darüber, wie stark die Technologie den Personalbedarf verändern wird, sind gemischter. Einige erwarten einen geringeren Personalbedarf, vor allem in administrativen Bereichen, aber die Hälfte der Befragten rechnet damit, dass der Gesamtbedarf weitgehend gleich bleibt. Anforderungen an die Genauigkeit hängen ebenfalls von der Aufgabe ab: Bei frühen Screenings durch Nicht‑Spezialisten sind die Befragten bereit, Leistungen in der Nähe eines durchschnittlichen Arztniveaus zu akzeptieren, für Werkzeuge, die Behandlungsentscheidungen für ausgebildete Ärztinnen und Ärzte unterstützen, erwarten sie hingegen deutlich überlegene Leistung.

Was ihnen am meisten Sorgen macht

Trotz des Optimismus äußerten die Teilnehmenden starke Bedenken. Ärztinnen/Ärzte und Studierende nannten als größtes Problem die „Black‑Box“-Natur dieser Systeme: Man sieht nicht leicht, wie ein Schluss zustande gekommen ist, muss aber die Verantwortung für darauf aufbauende Entscheidungen tragen. Außerdem fürchteten sie Gefahren für den Datenschutz, da medizinische Unterlagen extrem sensible Informationen enthalten, und äußerten Unbehagen darüber, dass das Gesundheitswesen zu sehr von großen Technologieunternehmen abhängig werden könnte. Studierende sorgten sich zusätzlich um den Vertrauensverlust in der Arzt‑Patienten‑Beziehung, falls Maschinen den Eindruck erwecken, Schlüsselentscheidungen zu treffen. Verwaltungsangestellte waren besonders besorgt über mögliche Auswirkungen der Automatisierung auf die Arbeitsplatzsicherheit. Über alle Gruppen hinweg gab es den klaren Wunsch nach Werkzeugen, die ihre Entscheidungen erklären, vertrauliche Daten schützen und menschliches Urteilsvermögen unterstützen statt ersetzen.

Wie bereit die Kliniken sind — und was sich ändern muss

Das deutlichste Warnsignal aus der Umfrage ist, dass die meisten Befragten ihre Einrichtungen nicht für die Einführung von Sprachmodell‑Werkzeugen gerüstet sehen. Obwohl viele solche Systeme bereits privat für die Arbeit nutzen, tun sie dies häufig ohne Anleitung, Schulung oder genehmigte Infrastruktur, was erhebliche Datenschutz‑ und Sicherheitsrisiken mit sich bringt. Auf die Frage, was sich ändern sollte, wurde am häufigsten nach Bildung verlangt: Kurse und Seminare, die erklären, was diese Modelle können und nicht können und wie man sie verantwortungsvoll einsetzt. Die Teilnehmenden forderten außerdem Investitionen in sichere technische Infrastruktur, bessere digitale Patientenakten statt handschriftlicher Notizen, klare Regeln zur rechtlichen Verantwortlichkeit und engere Zusammenarbeit mit den IT‑Abteilungen der Kliniken. Viele betonten, dass Systeme gut auf Deutsch funktionieren und sich nahtlos in vorhandene Krankenhaussoftware integrieren müssen.

Was das für die Zukunft bedeutet

Für eine nichtfachliche Leserin oder einen nichtfachlichen Leser lautet die Kernbotschaft: Viele Menschen innerhalb der Kliniken betrachten Chatbots und verwandte Werkzeuge bereits als hilfreiche Assistenten, besonders um lästige administrative Aufgaben zu reduzieren und die Informationsweitergabe an Patientinnen und Patienten zu verbessern. Gleichzeitig sind sie sich der Risiken bewusst, die mit einem voreiligen Einsatz ohne angemessene Schutzmaßnahmen einhergehen. Die Studie legt nahe, dass Sprachmodelle, sofern Kliniken Schulungen, robuste Datenschutzmaßnahmen und gut integrierte Systeme bereitstellen und Ärzte fest in der Entscheidungsgewalt belassen, eher dazu beitragen können, eine effizientere und personalisierte Versorgung zu ermöglichen, statt menschliche Expertise zu ersetzen. Anders gesagt: Die Zukunft, die diese Fachleute sehen, ist kein „Roboterarzt“, sondern klügere Werkzeuge, die menschliche Kliniker dabei unterstützen, ihre Arbeit besser und sicherer zu tun.

Zitation: Vladika, J., Fichtl, A. & Matthes, F. Investigating expectations and needs regarding the use of large language models at Bavarian university clinics. Sci Rep 16, 10505 (2026). https://doi.org/10.1038/s41598-026-45245-2

Schlüsselwörter: große Sprachmodelle im Gesundheitswesen, Adoption medizinischer KI, digitale Transformation von Krankenhäusern, Einstellungen des Klinikpersonals, KI und Patientendatenschutz