Wie verändert der EU AI Act den Einsatz von Algorithmen in der Diagnostik?
Seit dem 1. August 2024 gilt die europäische KI-Verordnung (EU AI Act, Verordnung 2024/1689) formal als geltendes Recht. Für Krankenhäuser bedeutet das: Die Frage ist nicht mehr, ob, sondern wann und in welchem Umfang die Pflichten greifen. Wer KI-Systeme in der Diagnostik, im Medizincontrolling oder in der Verwaltung einsetzt, steht vor konkreten regulatorischen Anforderungen, die ab August 2026 mit Bußgeldern bis zu 35 Millionen Euro sanktioniert werden können.
Welche Diagnosesysteme fallen unter den EU AI Act?
Der EU AI Act reguliert nicht pauschal alle Software im Krankenhaus. Entscheidend ist die Risikoklasse der jeweiligen KI-Anwendung. Für diagnostische KI-Systeme sind zwei Einordnungswege maßgeblich: erstens als Medizinprodukt nach Anhang I der KI-VO, zweitens über das Einsatzgebiet nach Anhang III. Typische Hochrisiko-Anwendungen im diagnostischen Bereich umfassen:
- KI-gestützte Röntgen-, CT- und MRT-Befundung sowie Mammographie-Screening
- Präparate-Befundung in der Pathologie
- Bilderkennung bei Polypen in der Endoskopie, Dermatoskopie und Fundoskopie
- Sepsis-Frühwarnsysteme und Delirrisiko-Analyse in der Intensivmedizin
- CTG-Analyse und Risikoprofile in der Geburtshilfe
- EKG-Analyse mit automatischer Befundgenerierung
Anwendungen wie KI-gestützte Kodierunterstützung (d. h. Software, die ICD/OPS-Kodes für bereits dokumentierte Diagnosen und Prozeduren vorschlägt) oder Klinik-Chatbots fallen in der Regel unter begrenztes Risiko und unterliegen primär Transparenzpflichten. Wer sich einen fundierten Überblick verschaffen möchte, findet im Webinar KI im Krankenhaus praxisnahe Einblicke in die regulatorischen Grundlagen.
Anforderungen an Hochrisiko-KI in der Medizin
Wer ein Hochrisiko-System betreibt, trägt erhebliche Compliance-Pflichten, unabhängig davon, ob er die KI selbst entwickelt hat. Der EU AI Act unterscheidet drei Rollen: Anbieter (Entwickler), Betreiber (das Krankenhaus, das die KI einsetzt) und Anwender (die Person, die die KI zur Entscheidungsfindung nutzt). Ein Krankenhaus, das eine Hochrisiko-KI einsetzt, muss unter anderem eine Grundrechte-Folgenabschätzung (FRIA, Art. 27) durchführen, einen Überwachungsplan im Betrieb führen, Zweckänderungen dokumentieren und Vorfälle melden.
Unser online Praxis-Handbuch!
Auswirkungen auf den Krankenhausbetrieb und das Medizincontrolling
Die Schulungspflicht nach Art. 4 der KI-VO gilt bereits seit Februar 2025. Jedes Krankenhaus, das KI-Systeme einsetzt, muss sicherstellen, dass alle Mitarbeitenden, die mit diesen Systemen arbeiten, entsprechend geschult sind. Ab August 2026 ist diese Pflicht sanktionsbewehrt. Für das Medizincontrolling und die Abrechnung entstehen dabei spezifische Risiken: KI-generierte Arztbriefe, die eigenständig klinische Entscheidungen oder Diagnosen formulieren, werden als Hochrisiko eingestuft. KI-Kodierunterstützung hingegen, also Software, die auf Basis bereits dokumentierter Diagnosen und Prozeduren ICD/OPS-Kodes vorschlägt, gilt als begrenztes Risiko und unterliegt damit geringeren regulatorischen Anforderungen. Um die Schulungspflicht effizient und dokumentationsfähig zu erfüllen, bietet sich die Teilnahme am Online-Seminar KI im Krankenhaus an.
Chancen und Risiken für die KI-gestützte Fallkodierung
KI kann Kodiervorschläge auf Basis von Entlassungsberichten generieren, Vollständigkeitslücken identifizieren und den Durchsatz im Medizincontrolling erhöhen. Die Risiken sind jedoch nicht zu unterschätzen:
- Automation Bias: Kodierfachkräfte, die KI-Vorschläge übernehmen, ohne sie kritisch zu prüfen, übernehmen auch deren Fehler.
- Skill Erosion: Wer dauerhaft ohne eigenes Urteilsvermögen kodiert, verliert die Fähigkeit, Systemfehler zu erkennen.
- Veraltetes Wissen: KI-Modelle haben einen Trainings-Stichtag. Neue Kodierrichtlinien, aktuelle BSG-Urteile oder geänderte DKR werden nicht automatisch berücksichtigt.
Handlungsempfehlungen für Krankenhäuser ab 2025
Der August 2026 ist der zentrale Stichtag für Transparenz, Aufsicht und Sanktionen. Drei Maßnahmen sind unabhängig vom Inkrafttreten der Hochrisiko-Pflichten sofort umsetzbar:
- KI-Inventar erstellen: Alle KI-Anwendungen im Haus erfassen. Pro Anwendung dokumentieren: Anbieter, Versionsstand, Risikoklasse, CE-Kennzeichnung, interne Verantwortlichkeit und Einsatzzweck.
- Schulungsprogramm aufsetzen: Die Schulungspflicht nach Art. 4 gilt seit Februar 2025. Rollen- und anwendungsbezogen denken. Skalierbare E-Learning-Angebote ermöglichen eine effiziente, dokumentationsfähige Umsetzung für alle Mitarbeitendengruppen.
- KI-Beauftragten benennen: Nicht gesetzlich vorgeschrieben, aber praktisch unverzichtbar. Diese Person verantwortet das KI-Inventar, organisiert Schulungen, führt die Dokumentation und hält den Behördenkontakt.
Wie Medcontroller bei KI-Compliance und Medizincontrolling unterstützt
Medcontroller begleitet Krankenhäuser an der Schnittstelle von Abrechnung, Kodierung und regulatorischen Anforderungen. Medcontroller bietet hierfür konkrete Unterstützung:
- E-Learning-Module zur KI-Kompetenzpflicht: Skalierbare Online-Schulungen nach Art. 4 KI-VO, aufgabenbezogen, dokumentationsfähig und mit Zertifikat.
- Inhouse-Schulungen für Medizincontrolling und Kodierung: Maßgeschneiderte Trainings zu KI-Anwendungen in der Abrechnung, Risikoklassifizierung und rechtssicherem Einsatz von Kodier-KI.
- Zertifikatslehrgang KI-Beauftragter im Krankenhaus: Berufsbegleitend, sechs Wochen, mit Vorbereitung auf die komplexen Aufgaben der KI-Verwaltung im Klinikbetrieb.
- Fachberatung zu MDK-Management und Erlösoptimierung: Damit KI-gestützte Kodierung nicht zum Risiko bei MDK-Prüfungen wird, sondern zur dokumentierten, nachvollziehbaren Grundlage.
Wer das Leistungsangebot von Medcontroller kennenlernen möchte oder konkrete Fragen zur KI-Compliance im eigenen Haus hat, kann direkt Kontakt aufnehmen.