KI im Krankenhaus – wer regelt eigentlich, was erlaubt ist?
KI ist derzeit das beherrschende Thema in der Krankenhaus-Fachpresse. Kaum eine Ausgabe ohne Bericht über ein neues Modell, einen neuen Anbieter, eine neue Pilotanwendung. Ein Aspekt fällt dabei regelmäßig unter den Tisch: die Compliance. Und genau die wird in den kommenden Monaten sehr konkret.
Wo KI im Krankenhaus längst arbeitet
Vieles, was heute als Neuigkeit verkauft wird, ist im Grunde nicht neu. Software zur Unterstützung bei Kodierung und Abrechnung gibt es seit Jahren. KI-gestützte Bildauswertung ebenfalls: in der Radiologie ist sie längst Routine, in der Pathologie schon eine Weile am Markt, in der Endoskopie kommt sie gerade an. Was sich darüber hinaus verändert, ist die Bandbreite der Anwendungen. Modelle transkribieren und resümieren inzwischen ganze Anamnesegespräche, schlagen Diagnosen vor und übernehmen Teile der Dokumentation. Was vor zwei Jahren noch Forschung war, läuft heute in Pilotbetrieben.
Der blinde Fleck: Compliance
Während die Anwendungsseite breit diskutiert wird, ist es um die regulatorische Seite vergleichsweise still. Dabei ist die EU-KI-Verordnung (AI Act, Verordnung (EU) 2024/1689) bereits seit 2024 in Kraft und wird schrittweise wirksam. Im Sommer kommt die nationale Umsetzungsgesetzgebung dazu, die unter anderem regelt, wer in Deutschland Aufsicht führt und wie Bußgelder verhängt werden. Die Bundesnetzagentur hat sich bereits öffentlich auf diese Aufsichtsrolle vorbereitet.
Was die Verordnung regelt
Der AI Act ordnet KI-Anwendungen risikobasiert ein. Vereinfacht gesagt: Je größer das Schadenspotenzial für die betroffenen Menschen, desto strenger die Anforderungen. Für ein Krankenhaus ist das nicht akademisch. Viele typische Einsatzfelder fallen in die hochregulierte Klasse, etwa Anwendungen, die diagnostische oder therapeutische Entscheidungen vorbereiten, oder die personalbezogene Auswertungen liefern. Daran knüpfen sich Pflichten in den Bereichen Risiko-Management, Datenqualität, technische Dokumentation, Transparenz gegenüber Anwendern und Patientinnen, menschliche Aufsicht und Cybersicherheit.
Die Sanktionen sind kein theoretisches Risiko. Eine deutsche Bank hat schon jetzt in einem ersten dokumentierten Fall 300.000 Euro Bußgeld für einen Verstoß im Zusammenhang mit KI gezahlt. Die EU-Verordnung sieht je nach Verstoß Bußgelder von bis zu 35 Mio. Euro oder 7 Prozent des weltweiten Jahresumsatzes vor – ein Maßstab, der jeden Klinikträger in Deutschland empfindlich treffen würde.
Was Sie jetzt tun können
Die gute Nachricht: Wer früh anfängt, sich eine geordnete Übersicht über die eingesetzten KI-Tools zu verschaffen und einen Prozess für die regelkonforme Einbindung in die Krankenhausstrukturen entwickelt, wird feststellen, dass der Aufwand überschaubar sein kann. Vieles ist eine Frage der Struktur, nicht der Technik.
Zur Orientierung bieten wir dazu ein kostenloses Webinar „KI im Krankenhaus: Was muss ich unbedingt wissen?“ an. Themen: Was bewegt sich gerade? Wann gilt eine Anwendung als „hochriskant“? Wie führen Sie KI im Krankenhaus regelkonform ein? Drei Termine stehen zur Auswahl, jeweils 45 Minuten plus Fragerunde per Zoom. Wir freuen uns auf Sie.