KI im Gesundheitswesen

Der Einsatz von Künstlicher Intelligenz (KI) im Gesundheitswesen bringt zahlreiche rechtliche Fragestellungen mit sich, die Aspekte des Medizinrechts, Datenschutzrechts, Haftungsrechts, Berufsrechts, Produkthaftungsrechts, Zulassungsrechts und Ethikrechts umfassen. Die rechtlichen Anforderungen richten sich dabei sowohl an Entwickler und Anbieter von KI-Lösungen als auch an Nutzer, etwa Ärzte, Kliniken und Patienten.

1. Medizinrechtliche Anforderungen

Medizinprodukteverordnung (MDR, EU-Verordnung 2017/745)

KI-Anwendungen im Gesundheitswesen, die diagnostische oder therapeutische Funktionen erfüllen, gelten oft als Medizinprodukte.

Einstufung nach Risikoklassen:

• Niedriges Risiko (Klasse I): Z. B. Lifestyle-Apps.
• Höheres Risiko (Klasse IIa, IIb, III): Z. B. KI-Diagnosetools für Herz-Kreislauf-Erkrankungen.

Zulassungspflichten:

• Technische Dokumentation, klinische Bewertung (§ 61 MDR).
• Nachweis der Sicherheit und Leistungsfähigkeit.

Beispiel:

• Ein KI-System zur Hautkrebserkennung muss als Klasse IIb-Medizinprodukt zugelassen werden.

Klinische Prüfungen

• Für neue KI-Systeme sind klinische Studien erforderlich (§§ 62–82 MDR).
• Spezielle Herausforderungen:
• Validierung von KI-Algorithmen.
• Bias in den zugrundeliegenden Datensätzen.

Ärztliches Berufsrecht

Musterberufsordnung (MBO-Ä):

• Ärztliche Entscheidung darf nicht vollständig durch KI ersetzt werden (§ 7 Abs. 1 MBO-Ä).
• KI kann unterstützend eingesetzt werden, der Arzt bleibt jedoch verantwortlich.

Sorgfaltspflichten:

• Der Einsatz von KI darf nicht zu Diagnostik- oder Behandlungsfehlern führen.
• Ärzte müssen die Grenzen und Risiken der eingesetzten KI-Anwendung kennen.

2. Datenschutzrecht

EU-Datenschutzgrundverordnung (DSGVO)

Rechtsgrundlagen für die Verarbeitung von Gesundheitsdaten:

• Gesundheitsdaten gelten als besondere Kategorie personenbezogener Daten (Art. 9 Abs. 1 DSGVO).
• Verarbeitung ist nur erlaubt, wenn:
• Einwilligung vorliegt (Art. 9 Abs. 2 lit. a).
• Oder eine gesetzliche Grundlage besteht (Art. 9 Abs. 2 lit. h).

Datensicherheit:

• KI-Systeme müssen höchsten Anforderungen an Datensicherheit entsprechen (Art. 32 DSGVO).
• Einsatz von Verschlüsselung und Anonymisierung bei der Datenverarbeitung.

Automatisierte Entscheidungen:

• Entscheidungen mit rechtlichen oder erheblichen Auswirkungen dürfen nicht ausschließlich automatisiert erfolgen (Art. 22 DSGVO).
• Patienten haben das Recht auf menschliches Eingreifen.

Herausforderungen im Datenschutz

Datenminimierung:

• KI benötigt große Datenmengen, was dem Grundsatz der Datenminimierung (Art. 5 Abs. 1 lit. c DSGVO) widerspricht.

Interoperabilität:

• Gesundheitsdaten aus verschiedenen Systemen müssen integriert werden, ohne Datenschutzrisiken zu erhöhen.

Datenweitergabe:

• Internationale KI-Entwickler müssen DSGVO-konform handeln, insbesondere bei der Datenübermittlung in Drittstaaten (Art. 44 ff. DSGVO).

3. Haftungsrecht

Produkthaftung

Produkthaftungsgesetz (ProdHaftG):

• Hersteller haftet für Schäden durch fehlerhafte Produkte.
• KI gilt als „Produkt“, wenn sie in ein Gerät integriert ist (z. B. ein Diagnosetool).

Haftung bei Fehlern der KI:

• Beispiele:
• Falsche Diagnosen durch KI.
• Fehlinterpretationen medizinischer Bilder.
• Beweislastverteilung:
• Patienten müssen nachweisen, dass der Fehler auf die KI zurückzuführen ist.
• Hersteller müssen nachweisen, dass das System nicht fehlerhaft ist.

Ärztliche Haftung:

• Arzt bleibt haftbar, wenn er sich blind auf die KI verlässt und dies zu Schäden führt (§ 823 BGB).

Vertragliche Haftung

• Dienstleistungsverträge:
• Regelungen über Verfügbarkeit, Wartung und Updates der KI-Anwendung.
• Haftungsausschlüsse:
• Oft versuchen Anbieter, ihre Haftung durch AGB zu begrenzen, was rechtlich nicht immer wirksam ist.

4. Regulierungsrecht

KI-Verordnung der EU (Artificial Intelligence Act, AIA)

KI-Systeme im Gesundheitswesen gelten als „hochriskant“.

Anforderungen:

• Transparenz bei Entscheidungsfindung.
• Risikobewertungen vor Markteinführung.
• Kontinuierliche Ãœberwachung der KI im Betrieb.

Zukünftige Herausforderungen:

• Harmonisierung mit der MDR.
• Abgrenzung zwischen „hochriskanter“ und „niedrigriskanter“ KI.

Vertrags- und Wettbewerbsrecht

Vergütungsmodelle:

• Regelungen zur Abrechnung von KI-gestützten Leistungen (z. B. im Einheitlichen Bewertungsmaßstab, EBM).

Kartellrecht:

• Exklusive Datennutzungsrechte großer Anbieter könnten den Wettbewerb einschränken.

5. Ethik und Grundrechte

Grundrechte

Recht auf körperliche Unversehrtheit:

• Patienten müssen vor Schäden durch fehlerhafte KI geschützt werden (Art. 2 Abs. 2 GG).

Persönlichkeitsrecht:

• Schutz sensibler Gesundheitsdaten vor unbefugtem Zugriff.

Ethik

• Bias in der KI:
• Diskriminierung durch fehlerhafte Algorithmen (z. B. bei Diagnosewahrscheinlichkeiten für unterschiedliche Ethnien).
• Menschliche Kontrolle:
• KI darf keine vollständige Kontrolle über Entscheidungen haben.

6. Tätigkeiten einer Anwaltskanzlei im Bereich KI im Gesundheitswesen

Typische Mandate

Beratung von KI-Entwicklern:

• Zulassung von KI als Medizinprodukt (MDR).
• Datenschutzkonzept (DSGVO-konform).
• Verträge über Datenkooperationen und Lizenzen.

Beratung von Gesundheitsdienstleistern:

• Haftungsfragen beim Einsatz von KI.
• Compliance mit MDR, DSGVO und Berufsrecht.

Vertretung in Streitfällen:

• Produkthaftungsansprüche gegen KI-Anbieter.
• Abwehr oder Durchsetzung von Datenschutzklagen.

Regulatorische Beratung:

• Unterstützung bei Audits durch Behörden (z. B. BfArM oder Datenschutzbehörden).

Vertragsgestaltung:

• Erstellung von Wartungsverträgen für KI-Systeme.
• Beratung bei Kooperationsverträgen mit Technologiepartnern.

Beispiele aus der Praxis

• Begleitung eines Start-ups bei der Zertifizierung eines KI-basierten Diagnosetools als Medizinprodukt.
• Verteidigung eines Krankenhauses bei Haftungsansprüchen aufgrund fehlerhafter Diagnosen durch KI.

Der Einsatz von KI im Gesundheitswesen erfordert eine rechtliche Bewertung, die technologische Innovationen und patientenrechtliche Belange in Einklang bringt. Anwaltskanzleien leisten hierbei einen wesentlichen Beitrag zur Gestaltung rechtssicherer und praxisgerechter Lösungen.