Gesundheitsratschläge made by KI

Menschen suchen online nach Gesundheitsinformation. Das ist nicht neu. Verändert hat sich in den letzten Jahren, wie selbstverständlich KI-Tools inzwischen als erste Anlaufstelle genutzt werden – Tendenz steigend. Die Benefits liegen auf der Hand: Chatbots sind dialogisch, jederzeit verfügbar, kommunizieren zumeist in verständlicher Sprache und scheinbar individuell. Doch in diesem Reiz liegt zugleich auch die Gefahr. Dazu kommen weitere Fallstricke, die man bei der Nutzung von Chatbots bedenken sollte.

KI als niedrigschwellige Infoquelle

KI kann Gesundheitsinformationen leichter zugänglich machen. Ap. Prof. Priv.-Doz. DDr. Michael Wagner, Präsident der Österreichischen Plattform Patient:innensicherheit, sieht darin daher eine Chance gerade für Menschen, die keinen schnellen Zugang zu professioneller Beratung haben: „KI-Tools sind in der Lage, Gesundheitsfragen in Sekundenschnelle zu beantworten, in jeder Sprache und zu jeder Zeit.“ Auch Mag.^a Christina Nageler, IGEPHA – The Austrian Consumer Health Care Association, betont den Nutzen für den Self-Care-Bereich: „KI kann komplexe Inhalte verständlich aufbereiten, Informationen strukturieren und Menschen dabei unterstützen, rasch eine erste Orientierung zu erhalten.“ So können durch KI beispielsweise komplexe Gebrauchsinformationen verständlich erklärt, Fachbegriffe übersetzt und zentrale Hinweise zur Anwendung von Gesundheitsprodukten besser aufbereitet werden.

Dr. Christian Maté, Arzt für Allgemeinmedizin und Medical Creative Director beim MedMedia Verlag, ergänzt: „KI kann viele Menschen erreichen, weil immer mehr Nutzerinnen und Nutzer ihre Fragen direkt an Chatbots stellen – nicht zuletzt, weil der Frage-Antwort-Modus von vielen als sehr angenehm empfunden wird.“ Die Antworten sind seiner Ansicht nach mittlerweile auch oftmals von guter Qualität, denn „der Informationsstand der KI-Systeme verbessert sich laufend“.

Univ.-Prof.ⁱⁿ Dr.ⁱⁿ Anita Rieder, Vizerektorin für Lehre und Leiterin des Zentrums für Pub­lic Health an der MedUni Wien, sieht ebenfalls eine Stärke darin, dass KI Kernaussagen liefern sowie Inhalte übersetzen oder vereinfachen kann, unterstreicht aber: „Es gab noch nie so raschen und umfangreichen Zugang zu Gesundheitswissen, welches auch Gesundheitskompetenz fördern kann, jedoch ist kritische Medienkompetenz gefragt und KI-Wissen ersetzt nicht medizinische Expertise und medizinisches Handeln.“

Der Nutzen der KI-Antworten auf Gesundheitsfragen liegt also vor allem in der ersten Orientierung, im Strukturieren von Wissen und im Abbau sprachlicher Hürden. Auch die Anonymität wird von vielen User:innen geschätzt. „Vor der KI fühlt sich niemand ‚dumm‘, wenn er Fragen hat“, erklärt Mag.^a Dr.ⁱⁿ Caroline Culen, Abteilungsleiterin des Kompetenzzentrums Gesundheitsförderung und Gesundheitssystem der Gesundheit Österreich GmbH (GÖG), in der die Koordinationsstelle der Österreichischen Plattform für Gesundheitskompetenz (ÖGPH) verortet ist. Bei Ärzt:innen hingegen falle vielen das Nachfragen schwer. „Daher ist es so wichtig, dass Angehörige von Gesundheitsberufen Menschen die Sicherheit vermitteln, dass sie nachfragen dürfen und darauf vertrauen können, dass diese Fragen möglichst verständlich und ihnen zugewandt beantwortet werden“, so Culen weiter.

Kein blindes Vertrauen!

Doch neben allen Chancen sehen die befragten Expert:innen auch Risiken. Doris Kiefhaber und Martina Löwe von der Österreichischen Krebshilfe bringen ihre Befürchtungen hinsichtlich KI klar auf den Punkt: „Gerade bei einer Krebserkrankung sind individuelle medizinische Fragen zu komplex, als dass sie allein durch KI beantwortet werden sollten. Es besteht die Gefahr, dass die KI falsche, unvollständige oder nicht ausreichend aktuelle Informationen liefert. KI-Systeme können zudem ‚halluzinieren‘, also falsche Informationen als Fakten präsentieren, oder Vorurteile, sogenannte Bias, reproduzieren.“ Besonders heikel: Die Antworten der KI wirken oft sprachlich souverän, obwohl sie inhaltlich falsch sind. Genau diese Kombination aus Überzeugungskraft und Unsicherheit macht KI im Gesundheitsbereich riskant. „Gerade bei Krebserkrankungen kann dies nicht nur problematisch, sondern sogar gefährlich sein, wenn Patientinnen oder Patienten daraus konkrete Therapieentscheidungen ableiten.“ Das Fazit der beiden: KI könne als „Sprachbrücke“ dienen, aber nicht als Ersatz für qualitätsgesicherte Information oder das Behandlungsteam.

Auch Angelika Widhalm, Präsidentin des Bundesverbandes Selbsthilfe Österreich (BVSHOE), betont eindringlich, dass die Informationsflut im Internet generell mit Vorsicht zu genießen sei, da viele Fehlinformationen kursieren: „Die KI vergrößert die Menge an Informationen noch weiter – und auch ihre Antworten sind nicht immer richtig. Gerade bei Gesundheitsfragen können falsche oder nicht verständliche Informationen gefährlich werden!“ Daher fordert sie, dass Qualitätsstandards unbedingt auch für KI-Informationen gelten sollen.

Mag.^a Dr.ⁱⁿ Edith Flaschberger, Senior Health Expert am Kompetenzzentrum Gesundheitsförderung und Gesundheitssystem, sieht dies genauso und ergänzt: „KI-Antworten sind rund um die Uhr zugänglich und oftmals leicht verständlich. Sie reproduzieren aber auch Stereotype und können falsche, unvollständige oder unausgewogene Informationen enthalten. Daher ist es wichtig, dass die Bevölkerung über die Risiken aufgeklärt wird.“

Vorsicht vor Dr. Chatbot!

Die aktuelle Studienlage stützt diese Vorsicht. Dies zeigte beispielsweise ein Experiment der schwedischen Forscherin Almira Osmanovic Thunström:¹ Um KI-Systeme zu testen, verfasste sie zu einer erfundenen Augenerkrankung eine Fake-Studie eines fiktiven Autors an einer erfundenen Universität in einer nicht existierenden Stadt. Und die Ergebnisse wurden von diversen KI-Sprachmodellen übernommen … Ein Beispiel dafür, wie manipulierbar solche Systeme sind.

Auch die Diagnosen eines Chatbots sind mit äußerster Vorsicht zu genießen: In standardisierten Tests können Sprachmodelle medizinisches Faktenwissen teils sehr gut abrufen. Eine aktuelle Studie² kam hingegen zu einem ernüchternden Ergebnis: Nur in rund einem Drittel der Fälle fand die KI die richtige Diagnose und nur in 44% der getesteten Fälle gab sie richtige Handlungsempfehlungen ab. Die Forscher:innen führen das da­rauf zurück, dass Patient:innen die Gesamtheit ihrer Symptome teilweise unvollständig oder unpräzise schildern. Ärzt:innen erfragen dann gezielt fehlende Informationen – bei den untersuchten Chatbot-Interaktionen gelang dies scheinbar nicht. Fazit: KI kann stark sein, wenn Eingaben präzise und Szenarien kontrolliert sind. Ist dies nicht der Fall, kommt sie an ihre Grenzen.

Viele offene Fragen …

Zudem ist beim Einsatz von KI in Gesundheitsfragen noch einiges ungeklärt. Nageler: „KI kann für die Self Care zu einem leistungsfähigen Navigationssystem werden. Aber auch das beste Navigationssystem braucht verlässliche Karten, klare Warnhinweise und die Fähigkeit zu sagen: An dieser Stelle kann ich den weiteren Weg nicht sicher beurteilen.“ Rieder stellt die digitale Gesundheitskompetenz ins Zentrum: Die Bevölkerung müsse verstehen, dass KI nicht allwissend ist und gerade bei Diagnosen oder Medikamentenempfehlungen klare Grenzen hat. „Hierfür müssen wir digitale Kompetenz vermitteln“, unterstreicht sie. Und auch Wagner betont: „Das Risiko liegt weniger darin, dass Menschen KI nutzen, als vielmehr darin, dass sie die Grenzen dieser Tools nicht kennen. Hier braucht es beides: KI-Anbieter, die transparent über ihre Limitationen kommunizieren, und eine Gesundheitsbildung, die Menschen befähigt, digitale Gesundheitsinformationen kritisch einzuordnen. Der Maßstab muss immer bleiben: Hilft diese Information dabei, sicherere Entscheidungen zu treffen, oder erzeugt sie nur das Gefühl, informiert zu sein?“ Maté stellt hier die Verantwortungsfrage in den Mittelpunkt: „Wer haftet, wenn ein Chatbot falsch zusammenfasst, halluziniert oder eine irreführende Empfehlung abgibt?