Worauf muss ein Krankenhaus bei Verträgen mit KI-Anbietern (SLA, Haftung) achten?
Krankenhäuser müssen bei Verträgen mit KI-Anbietern vor allem drei Bereiche absichern: klare Haftungsregelungen, datenschutzkonforme Datenverarbeitung und technische Mindeststandards im SLA. Wer diese Punkte nicht vertraglich fixiert, trägt im Schadensfall das volle Risiko selbst. Die folgenden Fragen und Antworten zeigen, worauf Kliniken bei jedem KI-Vertrag achten müssen.
Welche Klauseln sind in einem KI-Vertrag für Krankenhäuser unverzichtbar?
Ein KI-Vertrag für Krankenhäuser muss mindestens folgende Punkte regeln: Zweckbindung der KI-Nutzung, Haftungsverteilung bei Fehlfunktionen, Datenschutz nach DSGVO und KHZG, Transparenzpflichten gemäß EU AI Act sowie Regelungen zur Datenherausgabe bei Vertragsende. Fehlt auch nur einer dieser Bausteine, entstehen rechtliche Lücken, die im Streitfall teuer werden.
Besonders wichtig ist die genaue Beschreibung des Verwendungszwecks. Ein KI-System, das auf Basis dokumentierter Diagnosen und Prozeduren ICD- oder OPS-Kodes vorschlägt, unterliegt anderen regulatorischen Anforderungen als ein System, das eigenständig klinische Diagnosen generiert. Der Vertrag muss diese Unterscheidung abbilden, weil davon abhängt, ob das System als Hochrisiko-KI nach dem EU AI Act einzustufen ist.
Unverzichtbare Vertragsklauseln umfassen außerdem:
- Versionierungspflicht: Der Anbieter muss das Krankenhaus informieren, wenn das Modell aktualisiert wird, da Änderungen die Risikoeinstufung verändern können.
- Auditrechte: Das Krankenhaus muss das Recht haben, die Konformitätsdokumentation des Anbieters einzusehen.
- Subunternehmerklausel: Werden Dritte eingesetzt, muss der Anbieter offenlegen, wer welche Daten verarbeitet.
- Exit-Klausel: Klare Fristen und Formate für die Datenrückgabe bei Vertragsende.
Was muss ein SLA mit einem KI-Anbieter im Krankenhaus regeln?
Ein SLA mit einem KI-Anbieter im Krankenhaus muss Verfügbarkeitsgarantien, Reaktionszeiten bei Ausfällen, Wartungsfenster, Eskalationspfade und Konsequenzen bei Nichteinhaltung verbindlich festlegen. Pauschale Verfügbarkeitsversprechen ohne Pönale-Regelungen sind wertlos, wenn das System in der Notaufnahme oder bei der Kodierung ausfällt.
Konkret sollte ein SLA für den Krankenhauseinsatz folgende Kennzahlen enthalten:
- Verfügbarkeit: Mindestens 99,5 Prozent, mit klarer Definition, ob geplante Wartungszeiten eingerechnet werden.
- Reaktionszeit bei kritischen Ausfällen: Maximal zwei Stunden für klinisch relevante Systeme.
- Wiederherstellungszeit (RTO): Vertraglich definiert, nicht nur zugesagt.
- Eskalationsstufen: Wer wird wann informiert, und wer hat Entscheidungsbefugnis beim Anbieter?
- Pönalen: Automatische Gutschriften oder Vertragsstrafen bei Unterschreitung der SLA-Werte.
Für KI-Systeme im Krankenhaus gilt zudem: Das SLA muss die menschliche Aufsichtspflicht nach Art. 14 des EU AI Act berücksichtigen. Wenn ein System ausfällt, muss der manuelle Fallback klar geregelt sein, damit der Betrieb nicht zum Erliegen kommt.
Wer haftet, wenn eine KI-Entscheidung im Krankenhaus einen Schaden verursacht?
Wenn eine KI-Entscheidung im Krankenhaus einen Schaden verursacht, haftet in der Regel das Krankenhaus als Betreiber, nicht der KI-Anbieter. Das Krankenhaus ist nach dem EU AI Act Betreiber und trägt die Verantwortung dafür, dass das System korrekt eingesetzt, überwacht und dokumentiert wird. Der Anbieter haftet nur, wenn ein nachweisbarer Produktfehler vorliegt.
Diese Haftungsverteilung ergibt sich aus der Rollenlogik des EU AI Act: Anbieter entwickeln und zertifizieren das System, Betreiber setzen es ein und überwachen es. Ein Krankenhaus, das eine KI-gestützte Triage-Software einsetzt, ist Betreiber, auch wenn es die Software nicht selbst entwickelt hat. Macht das Personal einen Fehler bei der Anwendung oder fehlt die vorgeschriebene Schulung nach Art. 4 des EU AI Act, liegt die Haftung beim Krankenhaus.
Vertraglich lässt sich die Haftung teilweise verschieben, wenn der Anbieter explizit garantiert, dass das System bestimmte Qualitätsstandards erfüllt. Solche Garantieklauseln sind nur dann wirksam, wenn sie konkrete Leistungsmerkmale beschreiben, nicht nur allgemeine Sorgfaltspflichten. Krankenhäuser sollten außerdem prüfen, ob ihre Betriebshaftpflichtversicherung KI-bedingte Schäden abdeckt, denn viele Policen haben hier noch Lücken.
Welche datenschutzrechtlichen Anforderungen gelten für KI-Anbieter im Gesundheitswesen?
KI-Anbieter im Gesundheitswesen müssen die DSGVO einhalten, da Gesundheitsdaten besonders schützenswerte Daten nach Art. 9 DSGVO sind. Das Krankenhaus muss mit dem Anbieter einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO abschließen und sicherstellen, dass keine Daten in Drittländer ohne angemessenes Schutzniveau übertragen werden.
Konkret bedeutet das für den Vertrag:
- AVV ist Pflicht: Ohne Auftragsverarbeitungsvertrag ist der Einsatz rechtswidrig, unabhängig davon, wie das KI-System klassifiziert ist.
- Zweckbindung: Der Anbieter darf Patientendaten ausschließlich für den vertraglich vereinbarten Zweck nutzen, nicht für das Training eigener Modelle.
- Drittlandtransfers: Werden Daten auf Server außerhalb der EU übertragen, müssen Standardvertragsklauseln oder ein Angemessenheitsbeschluss vorliegen.
- Löschpflichten: Der Anbieter muss Daten nach Vertragsende nachweisbar löschen oder zurückgeben.
Zusätzlich zur DSGVO greift bei Hochrisiko-KI nach dem EU AI Act die Pflicht zur automatischen Protokollierung nach Art. 12, die der Anbieter technisch umsetzen muss. Das Krankenhaus als Betreiber muss diese Logs aufbewahren und bei Bedarf den Aufsichtsbehörden vorlegen können.
Wie sollte ein Krankenhaus KI-Anbieter vor Vertragsschluss prüfen?
Vor Vertragsschluss sollte ein Krankenhaus den KI-Anbieter auf vier Punkte prüfen: Risikoeinstufung des Systems nach dem EU AI Act, Vorliegen der erforderlichen Konformitätsdokumentation, Referenzen aus dem Krankenhausumfeld und finanzielle Stabilität des Unternehmens. Wer diese Due Diligence überspringt, kauft eine Blackbox.
Die Prüfung sollte strukturiert ablaufen:
- Risikoeinstufung klären: Ist das System als Hochrisiko-KI eingestuft? Falls ja, muss der Anbieter eine Konformitätserklärung nach Art. 47 des EU AI Act und eine technische Dokumentation nach Art. 11 vorlegen können. Ein Kodierunterstützungssystem, das nur auf Basis bereits dokumentierter Diagnosen Kodevorschläge macht, hat ein deutlich geringeres Risikoprofil als ein System zur klinischen Entscheidungsunterstützung.
- CE-Kennzeichnung prüfen: Gilt das System als Medizinprodukt nach MDR, muss es CE-gekennzeichnet sein. Ab August 2028 gelten hier verschärfte Anforderungen durch den EU AI Act.
- Schulungsunterlagen anfordern: Der Anbieter muss Materialien liefern, mit denen das Krankenhaus die Schulungspflicht nach Art. 4 des EU AI Act erfüllen kann.
- Referenzen einholen: Wie lange ist das System in anderen Krankenhäusern im Einsatz, und welche Erfahrungen gibt es mit Support und Updates?
Was passiert mit Krankenhausdaten, wenn ein KI-Anbieter insolvent wird?
Wird ein KI-Anbieter insolvent, besteht das Risiko, dass Patientendaten in die Insolvenzmasse fallen oder unkontrolliert auf Servern verbleiben. Ohne vertragliche Absicherung hat das Krankenhaus möglicherweise keinen Anspruch auf sofortige Datenlöschung oder Herausgabe. Der Insolvenzverwalter ist nicht automatisch an den AVV gebunden.
Krankenhäuser sollten folgende Schutzklauseln vertraglich verankern:
- Datentreuhand oder Escrow: Kritische Daten oder Modelldaten werden bei einem neutralen Dritten hinterlegt, auf den das Krankenhaus im Insolvenzfall zugreifen kann.
- Sofortige Herausgabepflicht: Der Vertrag muss festlegen, dass bei Insolvenzantrag unverzüglich alle Daten in einem standardisierten Format zurückgegeben werden.
- Löschnachweis: Der Anbieter muss nach Datenrückgabe einen nachweisbaren Löschvorgang dokumentieren.
- Datenlokalität: Wo genau werden die Daten gespeichert? Server in Deutschland oder der EU reduzieren das Risiko, dass ausländisches Insolvenzrecht greift.
Praktisch empfiehlt sich außerdem, keine vollständige Abhängigkeit von einem einzigen Anbieter entstehen zu lassen. Wer Patientendaten lokal spiegelt und regelmäßige Exporte vertraglich erzwingt, steht im Insolvenzfall deutlich besser da.
Wie Medcontroller Krankenhäuser bei der KI-Compliance unterstützt
Medcontroller begleitet Krankenhäuser konkret dabei, KI-Einsatz regulatorisch sicher aufzustellen, ohne dass interne Ressourcen überlastet werden. Das Leistungsangebot umfasst:
- KI-Inventar und Risikobewertung: Systematische Erfassung aller eingesetzten KI-Anwendungen mit Einstufung nach dem EU AI Act, inklusive Unterscheidung zwischen Kodierunterstützungssystemen und klinischen Entscheidungssystemen.
- KI-Beauftragter als externe Dienstleistung: Für Häuser ohne eigene Kapazität übernimmt Medcontroller die Funktion des KI-Beauftragten als klar definiertes Pauschalpaket.
- Schulungen nach Art. 4 des EU AI Act: Dokumentationsfähige E-Learning-Module zur KI-Kompetenz, aufgabenbezogen und für alle Berufsgruppen skalierbar.
- Vertragsprüfung und Beratung: Fachliche Einschätzung von SLA- und Haftungsklauseln aus der Perspektive des Krankenhausbetriebs, nicht aus der des Anbieters.
Krankenhäuser, die ihre KI-Governance jetzt strukturieren wollen, finden bei Medcontroller einen erfahrenen Partner, der die Besonderheiten des Abrechnungs- und Medizincontrolling-Umfelds kennt. Nehmen Sie Kontakt auf und klären Sie in einem ersten Gespräch, wo Ihr Haus heute steht.
Ähnliche Artikel
- Welche KI-Anwendungen gibt es in der Medizin?
- Welche regulatorischen Anforderungen gelten für KI im G-DRG-Abrechnungsprozess?
- Welche Vor- und Nachteile hat KI im Gesundheitswesen?
- Wie erkläre ich meinem Klinikvorstand, warum KI-Compliance wichtig ist?
- KI-Schulungspflicht im Krankenhaus: Was muss bis Juli 2026 umgesetzt sein?
Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.
