Wer haftet, wenn die KI einen Fehler macht? AMA fordert klare Regeln

Künstliche Intelligenz übernimmt immer mehr Aufgaben in der medizinischen Versorgung. Doch wer trägt die Verantwortung, wenn durch eine fehlerhafte KI-Empfehlung Patientinnen oder Patienten zu Schaden kommen? Die American Medical Association (AMA) hat dazu ein Positionspapier veröffentlicht. Ihre zentrale Forderung: Ärztinnen und Ärzte dürfen nicht für Risiken haften, die außerhalb ihrer Kontrolle liegen.

Mit dem zunehmenden Einsatz künstlicher Intelligenz in Diagnostik, Therapieplanung und klinischen Abläufen gewinnen auch haftungsrechtliche Fragen an Bedeutung. Die American Medical Association (AMA) hat deshalb Ende Oktober 2026 ein Positionspapier mit dem Titel „Liability for Clinical AI“ veröffentlicht. Darin fordert die US-amerikanische Ärzteorganisation eine klare Verteilung der Verantwortung zwischen medizinischem Personal, Technologieentwicklern und Gesundheitseinrichtungen.

Hintergrund ist die Sorge vieler Ärztinnen und Ärzte vor rechtlichen Konsequenzen beim KI-Einsatz. Laut einer AMA-Umfrage aus dem Jahr 2026 bezeichnete mehr als ein Drittel der befragten Mediziner klare Haftungsregelungen als jene regulatorische Maßnahme, die ihr Vertrauen in KI und ihre Bereitschaft zum Einsatz am stärksten erhöhen würde.

Ärztliche Verantwortung braucht tatsächliche Kontrollmöglichkeit

Ein zentraler Punkt des Positionspapiers betrifft die Grenzen ärztlicher Verantwortung. Nach Auffassung der AMA sollen Ärztinnen und Ärzte nur für jene klinischen Entscheidungen haften, die sie tatsächlich beurteilen und beeinflussen können.

Problematisch wird es etwa, wenn KI-Systeme fehlerhafte Ergebnisse liefern, deren Ursachen für die behandelnden Personen nicht erkennbar sind. Als Beispiel nennt die AMA ein KI-gestütztes Triage-System, das einen dringenden Fall fälschlicherweise nach hinten reiht. Erfährt der behandelnde Arzt nichts von dieser automatisierten Priorisierung, kann er den Fehler auch nicht rechtzeitig korrigieren.

Ähnliches gilt für KI-generierte Zusammenfassungen von Patientenakten, die auf unvollständigen oder veralteten Daten beruhen. Solche Fehler können selbst bei sorgfältiger Prüfung schwer erkennbar sein.

Die AMA betont daher: „Eine ärztliche Kontrollfunktion darf nicht automatisch bedeuten, dass die gesamte Haftung auf die behandelnden Personen übertragen wird.“ Voraussetzung für eine sinnvolle Kontrolle seien ausreichende Informationen, entsprechende Schulungen, genügend Zeit und die tatsächliche Möglichkeit, in KI-gestützte Prozesse einzugreifen.

Auch Hersteller und Gesundheitseinrichtungen in der Pflicht

Die AMA sieht ausdrücklich auch Technologieunternehmen und Gesundheitseinrichtungen in der Verantwortung. Entwickler sollen für Risiken einstehen, die aus Design, Training, Validierung und Funktionsweise ihrer Systeme entstehen. Sie müssen nachvollziehbare Informationen über Leistungsfähigkeit, Einsatzgrenzen und mögliche Fehlerquellen bereitstellen. Ein bloßer Hinweis, dass die endgültige Entscheidung beim Arzt liege, dürfe nicht ausreichen, um sich der Verantwortung zu entziehen. Krankenhäuser, Ordinationen und andere Einrichtungen, die KI-Systeme einsetzen, sollen wiederum für deren sorgfältige Auswahl, Implementierung und laufende Überwachung verantwortlich sein. Dazu zählen auch Schulungen, Sicherheitskontrollen und der Umgang mit Software-Updates.

Recht auf Ablehnung unzureichend geprüfter KI

Besonders relevant für die ärztliche Praxis ist eine weitere Forderung: Medizinerinnen und Mediziner sollen KI-Anwendungen ablehnen können, deren klinischer Nutzen oder Sicherheit noch nicht ausreichend nachgewiesen ist – ohne dafür Nachteile befürchten zu müssen. Gleichzeitig spricht sich die AMA für einen stärkeren Haftungsschutz aus, wenn Ärztinnen und Ärzte auf ausreichend validierte, sachgerecht implementierte KI-Systeme vertrauen. Die Pflicht zur eigenständigen klinischen Beurteilung bleibt dabei bestehen.

Auch die Rechte der Patientinnen und Patienten stehen im Fokus. Kommt es durch fehlerhafte Technologie oder mangelhafte Implementierung zu Schäden, müssen wirksame Möglichkeiten bestehen, Ansprüche gegenüber den verantwortlichen Akteuren geltend zu machen.

Ein Signal für die weitere Regulierung

Das Positionspapier versteht die AMA als Ausgangspunkt für weitere Diskussionen mit Ärzteschaft, Technologieunternehmen, Versicherungen und Gesetzgebern. Offene Fragen betreffen insbesondere zunehmend autonome KI-Systeme, die Aufklärung von Patienten sowie Datenschutz und Cybersicherheit.

Die zentrale Botschaft der AMA lautet: „Verantwortung muss dort liegen, wo Risiken erkannt, kontrolliert und verhindert werden können.“ Nur unter dieser Voraussetzung kann KI das Vertrauen der Ärzteschaft gewinnen und langfristig zur Verbesserung der Patientenversorgung beitragen.

Quelle: American Medical Association (AMA), „Liability for Clinical AI“, 29. Oktober 2026.