Evidenz und Assistenz

Die KI-Revolution hat auch Medizin und Gesundheitswesen voll erfasst. Erwartbare Risiken und ungeahnte Anwendungs-Chancen verlangen allerdings nach einer differenzierten Betrachtung.

Von Andreas Aichinger

Gut zwei Jahrzehnte lang hat „Dr. Google“ jetzt bereits in den Weiten des Internets ordiniert, und sich dabei einen recht ambivalenten Ruf erworben. Einerseits ein überaus wertvolles Instrument zur Orientierung im medizinischen Wissens-Dschungel, aber andererseits auch Wegbereiter für Fehlinformationen und Scheinmedizin. Und jetzt bekommt „Dr. Google“ mit „Dr. KI-Chatbot“ auch noch mächtige Verstärkung, die das Problem mangelnder Gesundheits- und Recherche-Kompetenz keineswegs kleiner macht.

Jenseits berechtigter Warnungen und des unübersehbaren medialen Hypes gibt es dennoch kaum Zweifel: Künstliche Intelligenz in kompetenten Händen wird zum machtvollen neuen Instrument für die Medizin. Von der diagnostischen Mustererkennung in der Bildgebung über die Suche nach der Wirkstoff-Nadel im Molekül-Heuhaufen bis hin zur Verwaltungsvereinfachung spannt sich der Bogen neuer Möglichkeiten. Aber es gibt eine Grundbedingung: Die etwa für KI-Trainings verwendeten Daten müssen dem aktuellen Stand des wissenschaftlichen Wissens und somit der medizinischen Evidenz entsprechen.

Mehr Evidenz, bessere Kommunikation

Gerald Gartlehner ist einer der prominentesten wissenschaftlichen Fahnenträger der Evidenzbasierten Medizin in Österreich. Seine Forderung für die Zukunft der medizinischen KI-Nutzung schlägt exakt in diese Kerbe. Gartlehner: „Es ist notwendig, dass eine speziell entwickelte KI auch tatsächlich nur auf evidenzbasierte Ressourcen zugreift. Und im Gegenzug die unzähligen kommerziell oder ideologisch getriebenen Ressourcen ausblendet.“ Derzeit sei es etwa für nach Gesundheitsinformationen Suchende „oft wirklich schwer, an evidenzbasierte Informationen heranzukommen“, so Gartlehner. Künstliche Intelligenz hingegen könnte hier zum Türöffner werden und zu einer „Demokratisierung des Wissens“ beitragen.

Was wiederum gerade im Zeitalter der „3-Minuten-Medizin“ ein wertvolles Asset in der Arzt-Patientin-Kommunikation wäre, glaubt Gartlehner. Gerade wenn die Gesprächszeit in der Ordination knapp bemessen ist, könne ein KI-Chatbot schon im Vorfeld dabei helfen, sich trotz Aufregung auf die wichtigsten Fragen zu fokussieren. Gerald Gartlehner: „Ich glaube, dass generative KI hier wirklich großes Potenzial hat, da die Kommunikation im Gesundheitssystem ja in vielen Fällen noch nicht wirklich optimal läuft.“ Um die „großen Chancen“ bestmöglich zu nutzen, sollten allerdings zwei Anstrengungen gemeinsam gedacht werden: „Wir müssen einerseits den Output der KI verbessern, aber parallel dazu die Gesundheitskompetenz der Bevölkerung stärken.“

Mensch als kritischer KI-Faktor

Eine vor kurzem im Fachjournal Nature Medicine publizierte und international viel beachtete Studie der Universität Oxford legitimiert diese Schwerpunktsetzung nachdrücklich. Ihr zentrales Ergebnis: Wer sich bei der Suche nach medizinischen Informationen auf KI-Chatbots verlässt, geht übergroße Risiken ein. Die medizinische Leiterin der Studie warnt auf Nachfrage ausdrücklich davor, Chatbots für Diagnosen zu nutzen. Rebecca Payne: „Davon rate ich derzeit dringend ab. Unsere Studie ist eine Erinnerung daran, wie zentral der menschliche Faktor im Gesundheitswesen ist.“ Tatsächlich beginnen die Probleme offenbar dort, wo ein Large Language Model (LLM) mit echten Menschen interagiert. „Menschen wissen nicht immer, welche Informationen für den Chatbot relevant sind. Sie sind unsicher, beschreiben Dinge vage oder unvollständig, verstehen Gesagtes oft falsch und treffen Entscheidungen im Kontext ihrer komplexen Lebenssituation“, erklärt Payne.

Am Ende fanden die verschiedenen KI-Bots nur in rund einem Drittel der Fälle die richtige Diagnose relevanter Erkrankungen. Involviert waren in Summe fast 1300 Menschen gewesen. Bemerkenswert: Die Kontrollgruppe – die in der Mehrzahl auf klassische Online-Suche und somit letztlich auf „Dr. Google“ gesetzt hatte – schnitt sogar besser ab. Aktuell sieht Payne „das Potenzial von KI, eine Schlüsselrolle in der Medizin zu spielen“ vor allem im Bereich von Assistenzleistungen. So könnten KI-gestützte Dokumentationsprogramme beispielsweise den Verwaltungsaufwand für das Gesundheitspersonal deutlich reduzieren.

Foundation Models als Gamechanger

Wer in Österreich eine profunde Quelle zum Thema KI sucht, der stößt auf Sepp Hochreiter. Tatsächlich hat der bayrische Informatiker und Leiter des Instituts für Machine Learning an der Johannes Kepler Universität Linz schon vor 35 Jahren den Grundstein für hochaktuelle KI-Entwicklungen gelegt: Gemeint ist die sogenannte LSTM-Technik (Long Short-Term Memory), die Neuronalen Netzen eine gespeicherte Erinnerung an frühere Wahrnehmungen ermöglicht und die ab 2012 in vielen Anwendungen internationaler Tech-Giganten Verwendung gefunden hat. Heute sieht Hochreiter gerade auch im Gesundheitswesen großes Potenzial für KI-Methoden: „Dabei geht es allgemein gesprochen um die Verbesserung der medizinischen Versorgung inklusive Diagnosen und Therapien, um Effizienzsteigerungen und um eine bessere Aufklärung.“ Ein bedeutender KI-Hebel seien dabei sequentielle Daten, etwa Vitalparameter oder administrative Abläufe. Und hier schließt sich ein spannender Kreis: LSTM und seine Nachfolge-Technologie xLSTM sind besonders gut auf die Verarbeitung solcher Zeitreihen zugeschnitten.

Das finale Werkzeug dafür sind Modelle, die mit solchen Zeitreihen vortrainiert wurden, sogenannte „Foundation Models“. So wie ChatGPT und Co mit Textdaten trainiert werden, geschieht das bei diesen KI-Modellen mit Zeitreihen-Daten. Hochreiter und sein Team haben mit „TiRex“ ein solches Foundation Model entwickelt, das 2025 für Schlagzeilen gesorgt hat. Sepp Hochreiter: „Diese Zeitreihen-Foundation-Modelle sind sehr gut und eröffnen gerade auch für die Medizin tolle Möglichkeiten.“ So könne das Foundation Model beispielsweise gut EKG-Zeitreihen vorhersagen, obwohl individuelle medizinische und genetische Besonderheiten eines Patienten vorhanden sind. Bisherige Modelle hingegen hätten Probleme, gute Vorhersagen für alle Patient_innen oder alle Labore zu treffen. Mehr noch: „Am Ende kann ich es dazu nutzen, diagnostische Vorhersagen zu treffen.

KI-Gesundheits-Stiftungsprofessur

Eine großartige Sache ist für Hochreiter daher auch die neue und zukunftsweisende Stiftungsprofessur, die das Land Niederösterreich an der Universität für Weiterbildung Krems mit dem Schwerpunkt „AI in Health Services Research“ einrichten wird: „Ich sehe die Riesenchance, gemeinsam mit den Medizinern der Uni Krems, den Landeskliniken und unseren Zeitreihen-Foundation-Modellen eine Vorreiter-Rolle in der KI-Forschung einzunehmen.“ Und Gerald Gartlehner, an dessen Department die Stiftungsprofessur beheimatet sein wird, bestätigt: „Wir freuen uns sehr, dass wir nach einem sehr kompetitiven Prozess den Zuschlag für die Stiftungsprofessur bekommen haben. Wir haben bereits wirklich sehr gute internationale Bewerbungen bekommen und wollen die Stelle im Laufe des Sommers besetzen.“

Einer der Forschungsschwerpunkte im Rahmen der neuen Professur werden mittels KI automatisiert erstellte Evidenz-Synthesen sein. Was sich wiederum perfekt zu Gartlehners Forschung rund um die Evidenz-Generierung mittels systematischer Reviews fügt. Ebenfalls im Dienst der Qualitätssicherung sollen Methoden zur KI-basierten Optimierung von Prozessen im Gesundheitswesen stehen. Speziell Versorgungsforschung auf Basis der in niederösterreichischen Spitälern vorhandenen Routinedaten soll so die Behandlungsqualität weiter heben. Für die Zukunft wünscht sich der Experte für Evidenzbasierte Medizin ein verstärktes Engagement des Bundes im Dienst von Prävention und (digitaler) Gesundheitskompetenz. Und Gartlehner hätte da auch schon eine Idee: „Eine evidenzbasierte, staatlich unterstützte KI-Gesundheitsberatung in Form eines Conversational Agents würde sich wahrscheinlich sehr rasch amortisieren.“

GERALD GARTLEHNER
Univ.-Prof. Dr. Gerald Gartlehner leitet das Department für Evidenzbasierte Medizin und Evaluation der Universität für Weiterbildung Krems. Gartlehners Expertise auf den Gebieten Public Health, Epidemiologie und Evidenzbasierte Medizin ist österreichweit und auch international gefragt, zudem zählt er zu den meistzitierten Forschenden (Highly Cited Researchers) weltweit.

REBECCA PAYNE
Dr.ⁱⁿ Rebecca Payne leitet das North Wales Centre for Primary Care Research an der Bangor University und ist Clarendon-Reuben-Stipendiatin an der Universität Oxford. Die Forschung der Allgemeinmedizinerin konzentriert sich darauf, ob und wie Technologie reale Probleme im Gesundheitswesen lösen kann.

SEPP HOCHREITER
Univ.-Prof. Dr. Sepp Hochreiter leitet das Institut für Machine Learning der Johannes Kepler Universität in Linz. Hochreiters Forschung zum Thema „Long Short-Term Memory“ (LSTM) gilt als Meilenstein in der Entwicklung von KI. Die darauf aufbauende Large Language Model Technologie xLSTM wird seit 2023 auch im Rahmen des KI-Startups NXAI weiterentwickelt.