Rasche Kontrolle von Künstlicher Intelligenz

© Tanzer

Die Sorge vor einem unkontrollierten Entgleiten künstlicher Intelligenz (KI) hat längst die politische Debatte erreicht. Man sollte dabei nicht gleiche Fehler wie einst im Gesundheitswesen machen.

Selbst Pioniere der KI-Entwicklung warnen aktuell vor den Risiken und fordern strenge regulatorische Leitplanken. In der Diskussion wird dabei gerne auf die Arzneimittelzulassung verwiesen. Sie gilt als Beispiel dafür, wie sich eine Hochrisikotechnologie durch verbindliche Regeln, Prüfverfahren und Überwachung kontrollieren lässt. Ein Blick in ihre Geschichte zeigt allerdings eine weniger beruhigende Wahrheit: Viele der heute selbstverständlichen Sicherheitsstandards sind nicht aus vorausschauender Weitsicht entstanden, sondern waren die Reaktion auf menschliches Leid und vermeidbare Katastrophen.

Die Geschichte der Arzneimittelsicherheit ist eine Geschichte des Lernens – allerdings häufig eines Lernens aus Tragödien. Ein besonders frühes Beispiel ist die Sulfanilamid-Katastrophe in den USA im Jahr 1937. Mehr als 100 Menschen, darunter zahlreiche Kinder, starben nach der Einnahme eines vermeintlich harmlosen Erkältungssaftes. Das Problem war nicht der antibiotische Wirkstoff Sulfanilamid selbst, sondern das verwendete Lösungsmittel Diethylenglykol, das sich als hochgiftig erwies. Eine ausreichende Prüfung der Toxizität vor der Markteinführung war gesetzlich nicht vorgeschrieben. Erst die Todesfälle führten zum Umdenken: 1938 verabschiedete der US-Kongress den Federal Food, Drug, and Cosmetic Act und schuf damit wesentliche Grundlagen der modernen Arzneimittelüberwachung.

Rund 25 Jahre später wiederholte sich die Geschichte in Europa. Der Contergan-Skandal wurde zu einer der schwersten Arzneimittelkatastrophen der Nachkriegszeit. Das Schlaf- und Beruhigungsmittel Thalidomid war sogar ausdrücklich Schwangeren gegen Schwangerschaftsübelkeit empfohlen worden. Die Folgen waren verheerend: Weltweit kamen rund 10.000 Kinder mit schweren Fehlbildungen zur Welt. Dass das Präparat schließlich vom Markt genommen wurde, war nicht das Ergebnis eines ausreichend funktionierenden Kontrollsystems. Vielmehr bedurfte es kritischer Ärzt:innen, engagierter Wissenschafter:innen und journalistischer Recherchen, um die Gefahren öffentlich zu machen. Der Skandal wurde zu einem wesentlichen Auslöser für die grundlegende Reform des deutschen Arzneimittelrechts und die Einführung des Arzneimittelgesetzes von 1976.

Diese Beispiele und jene des Cholesterinsenkers Lipobay im Jahr 2001, des Schmerzmittels Vioxx (2024) und die Opioidkrise in den USA haben eine Gemeinsamkeit: Die regulatorischen Konsequenzen folgten vielfach erst, nachdem Schäden bereits eingetreten waren. Dabei fehlte es nicht immer an Hinweisen auf mögliche Gefahren. Vielmehr waren die bestehenden gesetzlichen Rahmenbedingungen, Kontrollmechanismen und Meldeverfahren häufig nicht ausreichend, um Risiken frühzeitig zu erkennen, unabhängig zu bewerten und konsequent darauf zu reagieren. Die Arzneimittelgeschichte zeigt damit auch, dass Regulierung allein kein Garant für Sicherheit ist. Sie muss durch Transparenz, unabhängige Kontrolle, kontinuierliche Überwachung und eine konsequente Fehler- und Sicherheitskultur ergänzt werden. Hier ist die Herausforderung mit der KI vergleichbar: Eine Technologie mit enormem gesellschaftlichem Nutzen und gleichzeitig erheblichen potenziellen Risiken verbreitet sich schneller, als ihre Folgen vollständig verstanden und kontrolliert werden können. Es wird Zeit rechtzeitig zu reagieren.