Tablet mit Schulungs-Checkliste neben regulatorischen Ordnern und Stethoskop auf einem Krankenhausschreibtisch.

KI-Verordnung Artikel 4 – Schulungspflicht: Was müssen Krankenhäuser jetzt konkret tun?

|von

Seit Februar 2025 gilt Artikel 4 der EU-KI-Verordnung unmittelbar. Krankenhäuser, die KI-Systeme einsetzen, sind als Betreiber verpflichtet, ihre Mitarbeitenden zu schulen. Wer das bisher nicht dokumentiert hat, ist bereits in Verzug. Dieser Beitrag erklärt, was Artikel 4 konkret bedeutet, welche Systeme erfasst werden und wie die Umsetzung in der Praxis gelingt.

Was Artikel 4 konkret von Krankenhäusern verlangt

Artikel 4 der KI-Verordnung (EU AI Act) verpflichtet Betreiber von KI-Systemen, sicherzustellen, dass ihre Mitarbeitenden über ausreichende KI-Kompetenz verfügen. Ein Krankenhaus, das eine KI-gestützte Befundungssoftware, ein automatisches Kodierungstool oder einen Klinik-Chatbot einsetzt, gilt als Betreiber und muss nachweisen, dass die Anwender dieses Systems geschult wurden. Die Schulung muss dokumentiert sein. Ohne Dokumentation gibt es keinen Nachweis, und ohne Nachweis drohen Bußgelder.

Mitarbeitende müssen verstehen, wie die eingesetzte KI funktioniert, wo ihre Schwachstellen liegen und wie ihre Ergebnisse korrekt zu interpretieren sind. Anwender müssen die KI gemäß der Gebrauchsanleitung einsetzen und ihre Ergebnisse auch Dritten verständlich erklären können. Das ist keine weiche Empfehlung, sondern eine gesetzliche Anforderung mit Wirkung seit Februar 2025. Um den Einstieg in dieses Thema strukturiert zu gestalten, empfiehlt sich eine Teilnahme am Online-Seminar KI im Krankenhaus.

Welche KI-Systeme im Krankenhaus unter die Verordnung fallen

Nicht jede Software in einem Krankenhaus ist ein KI-System im Sinne der Verordnung. Spamfilter, Autokorrektur oder einfache regelbasierte Systeme fallen in die Kategorie minimales Risiko und unterliegen keinen spezifischen Compliance-Pflichten. Für Krankenhäuser besonders relevant sind zwei Kategorien:

  • Hochrisiko-KI: KI-gestützte Radiologiebefundung (CT, MRT, Mammographie), Triage-Systeme, KI-basierte klinische Entscheidungsunterstützung (z. B. Software, die aus Ambient Speech, Bildanalyse oder Patientendaten eigenständig Diagnosen oder Therapieempfehlungen generiert) sowie KI-Recruiting-Tools. Diese Systeme unterliegen ab Dezember 2027 bzw. ab August 2028 der vollen Compliance-Pflicht. Betreiber müssen unter anderem eine Grundrechte-Folgenabschätzung (FRIA nach Art. 27) durchführen, den Einsatz überwachen und Vorfälle melden.
  • Begrenztes Risiko: KI-gestützte Kodier- und Abrechnungsunterstützung (z. B. Software, die ICD/OPS-Kodes für bereits dokumentierte Diagnosen und Prozeduren vorschlägt), KI-generierte Arztbriefe, Klinik-Chatbots und Tools wie ChatGPT in bestimmten Einsatzkontexten. Kodier- und Abrechnungstools sind dabei ausdrücklich nicht als Hochrisiko-KI-Systeme einzustufen, da sie keine eigenständigen klinischen Entscheidungen treffen, sondern bereits dokumentierte Informationen verarbeiten. Hier gelten Transparenzpflichten: Patienten und Personal müssen darüber informiert werden, dass sie mit KI interagieren oder KI-generierte Inhalte erhalten.

Mehr Infos
Spezielle Fragen zur Kodierung und im MD-Management ohne aufwendige Recherche beantworten?
Unser online Praxis-Handbuch!

Umsetzungsschritte für die interne Schulungsorganisation

Der erste Schritt ist eine vollständige Bestandsaufnahme aller eingesetzten KI-Systeme. Viele Häuser unterschätzen, wie viele Tools bereits KI-Funktionen enthalten. Ohne dieses Register lässt sich weder die Risikoklasse bestimmen noch der Schulungsbedarf ableiten. Auf Basis des Registers empfiehlt sich folgendes Vorgehen:

  1. Risikoklasse jedes Systems bestimmen (minimal, begrenzt, hochrisiko, unzulässig)
  2. Anwender identifizieren, also alle Personen, die mit dem System Entscheidungen treffen
  3. Schulungsinhalte festlegen: Funktionsweise, Grenzen, korrekte Interpretation der Ergebnisse
  4. Schulungen durchführen und lückenlos dokumentieren, einschließlich Datum, Teilnehmer und Inhalt
  5. Wiederholungsschulung bei Updates oder Systemwechsel einplanen

Die Dokumentation ist der einzige Nachweis gegenüber der Bundesnetzagentur oder dem BfArM, die ab Inkrafttreten des nationalen KI-MIG als Marktüberwachungsbehörden fungieren. Wer den Schulungsprozess digital und effizient gestalten möchte, findet mit dem E-Learning-Angebot von Medcontroller einen praxisnahen Einstieg.

Typische Umsetzungsfehler und wie man sie vermeidet

Der häufigste Fehler ist die Verwechslung von Anbieter, Betreiber und Anwender. Ein Krankenhaus, das eine fertige KI-Software eines Herstellers einsetzt, ist Betreiber, kein Anbieter. Die Pflicht, Mitarbeitende zu schulen und den Einsatz zu überwachen, liegt beim Betreiber.

Ein weiterer typischer Fehler ist die Annahme, dass die Schulungspflicht erst mit den späteren Hochrisiko-Fristen beginnt. Artikel 4 gilt seit Februar 2025 für alle Betreiber, unabhängig von der Risikoklasse. Wer das bisher versäumt hat, sollte die Dokumentation unverzüglich nachholen.

Ebenfalls zu vermeiden ist die fehlerhafte Gleichsetzung von Kodier- und Abrechnungsunterstützung mit klinischer Entscheidungsunterstützung. Software, die ICD/OPS-Kodes auf Basis bereits dokumentierter Diagnosen und Prozeduren vorschlägt, ist regulatorisch anders einzustufen als Systeme, die eigenständig Diagnosen oder Therapieempfehlungen generieren. Eine pauschale Einstufung von Kodiertools als Hochrisiko-KI ist sachlich unzutreffend und führt zu unnötigem Compliance-Aufwand.

Fristen und nächste Schritte für Krankenhäuser

  • Februar 2025: Schulungspflicht nach Art. 4 gilt. Dokumentation der KI-Kompetenz ist Pflicht für alle Betreiber.
  • Sommer 2026 (voraussichtlich): Das nationale KI-MIG tritt in Kraft. Bundesnetzagentur und BfArM werden aktive Marktüberwachungsbehörden.
  • Dezember 2027: Hochrisiko-Pflichten für KI-Systeme nach Anhang III werden scharf geschaltet.
  • August 2028: Hochrisiko-Pflichten für KI-Systeme nach Anhang I treten in Kraft.

Wie Medcontroller bei der KI-Compliance unterstützt

Medcontroller begleitet Krankenhäuser bei der strukturierten Umsetzung der Anforderungen aus dem EU AI Act, mit konkretem Fokus auf die Bereiche Medizincontrolling und Kodierung. Das Leistungsangebot umfasst:

  • Aufbau eines internen KI-Registers und Bestimmung der Risikoklassen eingesetzter Systeme
  • Schulungen und Webinare zur KI-Kompetenz nach Art. 4, inklusive Zertifikat und Dokumentation
  • Übernahme der Funktion des KI-Beauftragten als externe Dienstleistung zu einem Pauschalpreis
  • Beratung zu Compliance-Pflichten für KI-gestützte Kodierung, Abrechnungsprüfung und MDK-Management, unter Berücksichtigung der korrekten regulatorischen Einstufung von Kodier- und Abrechnungstools als Systeme mit begrenztem Risiko — ergänzt durch eine individuelle KI-Beratung für Krankenhäuser

Das nächste Online-Seminar „KI im Krankenhaus: Ihr Fahrplan zur Compliance“ bietet 4,5 Stunden Live-Inhalt mit Zertifikat. Interessierte können sich direkt über das Webinar KI im Krankenhaus anmelden. Mehr zum Leistungsangebot von Medcontroller gibt es auf der Website. Kontakt für eine direkte Anfrage: 0151 73011580 oder salome@medcontroller.de.

Ähnliche Artikel