Die erste Frage, die in jedem Gespräch zur KI im Gesundheitswesen kommt, ist die nach der Haftung. Die kurze Antwort lautet: Der Mensch bleibt verantwortlich. Die Beauftragung eines Systems verschiebt keine Sorgfaltspflicht. Der fachliche Standard gilt unverändert, auch wenn ein Programm beteiligt war.
Dieser Teil unserer Serie ist der juristisch sensibelste. Er ersetzt keine Rechtsberatung, sondern ordnet die Fragen, die vor der Einführung geklärt werden müssen – und die später im Schadensfall über die Bewertung entscheiden.
Grundprinzip: Sorgfalt bleibt beim Behandler
Wer ein Hilfsmittel einsetzt, muss es auswählen, einführen, beherrschen und Ergebnisse prüfen. Diese Pflichten lassen sich nicht auslagern. Praktisch entstehen daraus vier Prüfschritte:
- Ist das System für den vorgesehenen Zweck überhaupt bestimmt und zugelassen?
- Ist es für diese Fragestellung geeignet – auch für die eigenen Patienten und die eigenen Daten?
- Wird das Ergebnis fachlich geprüft, bevor es Wirkung entfaltet?
- Kann ich nachträglich belegen, was geprüft und wie entschieden wurde?
Die vierte Frage ist die wichtigste und wird am häufigsten übersehen. Ein System, das nicht dokumentiert, macht im Zweifel den Anwender angreifbar.
Ausführlich zur technischen Seite: Sicherheitslücken in KI-Systemen und KI in Klinik und MVZ.
Aufklärung: wann und wie
Nicht jeder Einsatz von Software muss dem Patienten erklärt werden. Wer eine Praxissoftware nutzt oder einen Textentwurf erstellen lässt, betreibt keine aufklärungsbedürftige Besonderheit. Anders ist es, wenn das System in die medizinische Bewertung, Diagnostik oder Therapieentscheidung einbezogen wird.
Grundsatz: Je stärker das System das Ergebnis beeinflusst und je geringer die eigene Kontrollmöglichkeit, desto eher ist es Teil der Aufklärung.
- Nicht typisch aufklärungsbedürftig: Terminorganisation, Dokumentationshilfen, Formulierungsvorschläge, Organisation
- In der Regel aufklärungsbedürftig: KI-gestützte Befundung in der Bildgebung, algorithmische Risikobewertungen, Systeme, die Befunde priorisieren, klinische Prüfungen, Veröffentlichung von Bilddaten
- Zusätzlich klärungsbedürftig: jede Form von Fernbehandlung oder automatisiert erstellter Einschätzung mit unmittelbarer Wirkung für den Patienten
Die Formulierung muss verständlich sein und nicht technisch. „Ein Teil der Auswertung wird durch ein Computersystem unterstützt; die Befundung erfolgt durch die Ärztin“ ist eine belastbare Erklärung. Entscheidend ist, dass sie nicht nur dem Risiko dient, sondern dem Vertrauen – und dass sie im Zweifel dokumentiert wird.
Dokumentation: was in die Akte gehört
Mindestens vier Punkte:
- Der Einsatz des Systems: welches System, zu welchem Zweck, wann.
- Das Ergebnis: was das System geliefert hat, in einer nachvollziehbaren Form.
- Die eigene Bewertung: wurde das Ergebnis übernommen, verworfen oder verändert – und weshalb.
- Die Entscheidung: was medizinisch daraus folgte.
Wer ohne diese Dokumentation arbeitet, hat im Streitfall zwei Probleme: die medizinische Bewertung – und die Beweislage. Wichtig ist außerdem, dass die Aufbewahrung die Systemdaten einschließt, wenn sie für die Nachvollziehbarkeit erforderlich sind.
Wer haftet wofür
| Akteur | Verantwortungsbereich | Typisches Risiko |
|---|---|---|
| Hersteller / Anbieter | Produktsicherheit, zugesagte Eigenschaften, Zweckbestimmung, Freigaben | Produkthaftung, unzureichende Dokumentation, fehlerhafte Freigaben |
| Ärztin / Arzt (Anwender) | Auswahl, fachliche Prüfung, Übernahme oder Verwerfen von Ergebnissen | blindes Vertrauen, unterlassene Prüfung, fehlende Dokumentation |
| Praxis / MVZ (Betreiber) | Organisation, Regeln, Schulung, Zugriffsrechte, Verträge | kein Prozess, keine Zuständigkeit, ungeprüfte Beschaffung |
| Klinik | Governance, Beschaffung, Betrieb, Meldeprozesse | Schattennutzung, fehlende Freigaben, fehlendes Vorkommnisverfahren |
| IT-Dienstleister | Vertragsgemäße Leistung, Datenschutz und Zugriffssicherheit | unzureichender Vertrag, keine Regelung bei Ausfall und Änderung |
Wenn etwas passiert
Der schlechteste Umgang mit einem Fehler ist das Vertuschen. Der zweitschlechteste ist das Improvisieren. Definieren Sie vorher:
- Interne Aufarbeitung: Wer sammelt Fakten, wer bewertet, wer informiert die Patienten?
- Meldepflichten: Bei Medizinprodukten existieren Meldewege für Vorkommnisse. Welche das sind, hängt vom System und seiner Klassifizierung ab – das gehört in die Einführungsunterlagen, nicht in die Krisensitzung.
- Ansprechpartner: Kammer, Versicherer, Kanzlei. Halten Sie die Nummern bereit, bevor Sie sie brauchen.
- Sperre: Wie lässt sich ein System sofort abschalten, ohne den Betrieb lahmzulegen?
Vorsorge, die im Schadensfall zählt
Systemverzeichnis. Eine Liste aller eingesetzten Systeme mit Zweck, Verantwortlichen und Freigabestatus. Zwei Seiten, immense Wirkung.
Schriftliche Regeln. Was darf das System, was nicht, wer prüft. Siehe Teil 6 zur Governance.
Technische Leitplanken. Schreibrechte nur mit Freigabe, Protokollierung, definierter Notfallpfad. Wie das geprüft wird, beschreibt unser Beitrag zu Penetrationstests an KI-Systemen.
Schulung mit Nachweis. Wer geschult ist, hat die Regeln nicht nur gelesen.
Verträge prüfen. Haftungsklauseln, Änderungsvorbehalte, Verfügbarkeitszusagen, Regelungen für den Fall der Produkteinstellung. Und: Deckung der Berufshaftpflicht für den neuen Sachverhalt beim Versicherer einmal anfragen.
Fazit
Die Haftungsfrage beantwortet sich nicht durch Technik, sondern durch Organisation. Wer Systeme kennt, Ergebnisse prüft, Entscheidungen dokumentiert und einen Plan für den Fehlerfall hat, arbeitet mit KI nicht riskanter als ohne. Wer ein Werkzeug einführt und das Drumherum offenlässt, hat die Verantwortung nicht delegiert – sondern nur die Bequemlichkeit.
Diese Ausführungen ersetzen keine Rechtsberatung. Bei konkreten Fragestellungen zu Aufklärung, Dokumentation und Haftung führen Sie das Gespräch mit Ihrer Kammer oder einer Kanzlei mit medizinrechtlichem Schwerpunkt. Für die technische Prüfung und Absicherung sprechen Sie uns an: cybereiche.de