Künstliche Intelligenz in der medizinischen Praxis: Haftungsrechtliche Implikationen und regulatorischer Rahmen

Ärzte, die KI-Systeme einsetzen, tragen rechtliche Verantwortung – auch dann, wenn der Algorithmus die Empfehlung trifft. Ein Überblick über die aktuelle Rechtslage.

Ausgangslage: KI als Werkzeug mit haftungsrechtlicher Relevanz

Der Einsatz KI-gestützter Systeme in Diagnostik, Therapieplanung und klinischer Entscheidungsunterstützung hat in deutschen Praxen und Kliniken in den vergangenen Jahren erheblich zugenommen. Radiologische Auswertungsalgorithmen, automatisierte Befundassistenten und prädiktive Analysesysteme sind vielerorts bereits in klinische Abläufe integriert.

Die rechtliche Einordnung dieser Technologien ist hingegen noch nicht abgeschlossen – weder durch den Gesetzgeber noch durch eine gefestigte höchstrichterliche Rechtsprechung. Für Ärzte entsteht daraus eine Situation erhöhter Rechtsunsicherheit, die einer systematischen Betrachtung bedarf.

Arzthaftungsrecht: Kein Paradigmenwechsel durch Algorithmen

Das deutsche Arzthaftungsrecht – verankert in §§ 630a ff. BGB sowie flankiert durch die deliktische Haftung nach § 823 BGB – kennt als Haftungssubjekt ausschließlich natürliche und juristische Personen. Ein Algorithmus ist kein Rechtssubjekt. Die zivilrechtliche Verantwortung für eine Behandlungsentscheidung verbleibt daher unverändert beim behandelnden Arzt.

Dieser Grundsatz wird durch den Einsatz technischer Hilfsmittel – gleich welcher Sophistikation – nicht durchbrochen. Vielmehr gilt: Die Entscheidung, ein KI-System einzusetzen und seiner Empfehlung zu folgen, ist selbst eine ärztliche Entscheidung, die dem Sorgfaltsmaßstab des § 630a Abs. 2 BGB unterliegt.

Maßgeblich ist stets der zum Zeitpunkt der Behandlung geltende medizinische Standard. Sofern KI-gestützte Systeme Teil dieses Standards werden, kann ihr Nicht-Einsatz künftig seinerseits einen Behandlungsfehler begründen – eine Entwicklung, die in der US-amerikanischen Rechtspraxis bereits zu beobachten ist.

Ein zentrales Haftungsrisiko liegt in der unkritischen Übernahme von Algorithmus-Empfehlungen. Die Gerichte werden – und erste Entscheidungen deuten dies an – prüfen, ob der Arzt die maschinell generierte Empfehlung einer eigenständigen klinischen Beurteilung unterzogen hat.

Das OLG Frankfurt hat in einem Hinweisbeschluss (2023) klargestellt, dass digitale Entscheidungsunterstützungssysteme die ärztliche Sorgfaltspflicht nicht suspendieren, sondern eine ergänzende Prüfpflicht begründen können: Wer ein System einsetzt, muss dessen Funktionsweise, Limitierungen und Fehlerquellen kennen.

Für die Praxis bedeutet dies: Die Dokumentation der eigenen klinischen Einschätzung neben der KI-Empfehlung gewinnt erheblich an Bedeutung.

Seit dem vollständigen Inkrafttreten des EU AI Acts im August 2024 besteht ein verbindlicher regulatorischer Rahmen für den Einsatz von KI-Systemen. Medizinische Diagnosesysteme fallen in der Regel unter die Hochrisiko-Kategorie gemäß Anhang III der Verordnung.

Für Ärzte als Anwender solcher Systeme ergeben sich aus Art. 26 AI Act konkrete Pflichten:

• Zweckgemäßer Einsatz entsprechend der Zweckbestimmung des Herstellers

• Aktive Überwachung der Systemausgaben und Erkennung von Anomalien

• Menschliche Aufsicht als unverzichtbares Element des Entscheidungsprozesses

• Meldepflichten bei schwerwiegenden Vorfällen im Zusammenspiel mit dem Medizinprodukterecht (MDR)

KI-Systeme, die als Medizinprodukte klassifiziert sind, unterliegen darüber hinaus der CE-Kennzeichnungspflicht. Der Einsatz nicht zertifizierter Systeme kann eigenständige Haftungsfolgen auslösen.

Die zivilrechtliche Risikoverteilung zwischen Arzt und Softwareanbieter wird maßgeblich durch den geschlossenen Vertrag bestimmt. In der Praxis enthalten die AGB großer Anbieter regelmäßig weitreichende Haftungsausschlüsse, die die Verantwortung vollständig auf den Anwender verlagern.

Ärzte sollten vor Vertragsschluss prüfen:

• Ist das System als Medizinprodukt zertifiziert, und für welchen Anwendungsbereich?

• Welche Haftung übernimmt der Anbieter bei Fehlfunktionen?

• Welche Dokumentations- und Auditpflichten werden vertraglich auferlegt?

• Bestehen Regelungen zur Datenschutzverantwortung (gemeinsame Verantwortlichkeit nach Art. 26 DSGVO)?

Die Integration von KI in die medizinische Versorgung ist rechtlich kein Nullsummenspiel. Sie schafft neue Chancen – und neue Verantwortlichkeiten. Ärzte, die diese Systeme einsetzen, sind gut beraten, die haftungsrechtliche Dimension von Anfang an mitzudenken: bei der Auswahl der Systeme, bei der Vertragsgestaltung, bei der Dokumentation und bei der Fort- und Weiterbildung.

---

Sie möchten künstliche Intelligenz rechtssicher und sinnvoll in Ihrer Praxis oder Klinik einsetzen? Ich berate Sie gerne zu den rechtlichen Rahmenbedingungen, Haftungsfragen und praktischen Herausforderungen im medizinischen Alltag.

Kontakt aufnehmen