Reicht eine allgemeine KI-Schulung aus oder braucht es rollenspezifische Trainings nach Art. 4?

Eine allgemeine KI-Schulung reicht rechtlich nicht aus, wenn Mitarbeitende KI-Systeme mit unterschiedlichem Risikoprofil und unterschiedlichen Aufgaben einsetzen. Artikel 4 des EU AI Acts verpflichtet Betreiber dazu, eine auf die konkrete Rolle und das jeweilige KI-System abgestimmte Kompetenz sicherzustellen. Die folgenden Abschnitte klären, was genau vorgeschrieben ist, für wen es gilt und wie ein rechtskonformes Schulungskonzept im Krankenhaus aussieht.

Was schreibt Art. 4 des EU AI Acts genau vor?

Artikel 4 der KI-Verordnung (EU 2024/1689) verpflichtet Betreiber von KI-Systemen, sicherzustellen, dass alle Mitarbeitenden, die KI nutzen oder beaufsichtigen, über ein ausreichendes Maß an KI-Kompetenz verfügen. Diese Pflicht gilt seit Februar 2025 und betrifft jedes Krankenhaus, das KI-Anwendungen einsetzt. Die Schulung muss dokumentiert werden.

Der Gesetzestext nennt keine konkrete Stundenanzahl und schreibt kein bestimmtes Format vor. Was er verlangt, ist eine angemessene KI-Kompetenz („AI Literacy“) bezogen auf den tatsächlichen Einsatzbereich. Das bedeutet: Ein Radiologe, der eine KI zur Bildauswertung nutzt, braucht ein anderes Wissen als eine Kodierfachkraft, die ein Kodierunterstützungstool verwendet. Die Anforderung ist also kontextabhängig und rollengebunden, nicht pauschal erfüllbar.

Wichtig: Artikel 4 gilt für alle Betreiber unabhängig von der Risikoklasse des eingesetzten Systems. Selbst wer nur ein KI-System mit begrenztem Risiko betreibt, muss die Schulungspflicht erfüllen und nachweisen können.

Für wen gilt die KI-Schulungspflicht im Krankenhaus?

Die Schulungspflicht nach Art. 4 gilt für das Krankenhaus als Betreiber und damit für alle Mitarbeitenden, die KI-Systeme aktiv nutzen oder deren Ergebnisse in Entscheidungen einfließen lassen. Das umfasst Ärzte, Pflegepersonal, Kodierfachkräfte, Medizincontroller und Verwaltungsmitarbeitende gleichermaßen.

Dabei unterscheidet die KI-Verordnung zwischen drei Rollen mit jeweils eigenen Pflichten:

• Anbieter: Entwickler des KI-Systems, verantwortlich für Technik, Dokumentation und Sicherheit.
• Betreiber: Das Krankenhaus selbst, das die KI seinen Mitarbeitenden zur Nutzung bereitstellt. Es trägt die Verantwortung für Schulung, Überwachung und Zweckdokumentation.
• Anwender: die konkrete Person, die das KI-System bedient, Ergebnisse bewertet und Entscheidungen trifft.

Ein häufiger Irrtum: Wer eine externe KI-Dienstleistung bezieht, ist trotzdem Betreiber und nicht Anwender. Ein Krankenhaus, das teleradiologische Dienste mit KI-Unterstützung nutzt, ohne selbst die KI zu betreiben, gilt dennoch als Betreiber und muss seine Mitarbeitenden entsprechend schulen. Die Schulungspflicht lässt sich nicht an den Anbieter delegieren.

Worin unterscheidet sich eine allgemeine von einer rollenspezifischen KI-Schulung?

Eine allgemeine KI-Schulung vermittelt grundlegendes Orientierungswissen: Was ist KI, wie funktioniert maschinelles Lernen, welche Risiken bestehen grundsätzlich? Eine rollenspezifische KI-Schulung geht darüber hinaus und befähigt Mitarbeitende, das konkret eingesetzte System in ihrer Funktion sicher zu bedienen, Fehler zu erkennen und Ergebnisse korrekt einzuordnen.

Der Unterschied ist praktisch erheblich. Eine Kodierfachkraft, die ein KI-gestütztes Kodierunterstützungstool nutzt, muss verstehen, wie das System auf Basis bereits dokumentierter Diagnosen und Prozeduren ICD- oder OPS-Vorschläge generiert, wo es typischerweise Fehler macht und wie sie diese erkennt. Das ist ein anderes Wissen als das, das ein Arzt braucht, der eine KI zur EKG-Analyse oder Sepsisfrüherkennung nutzt. Letzteres fällt als Hochrisiko-KI unter deutlich strengere Anforderungen.

Rollenspezifisches Training adressiert konkret:

• Die Wirkungsweise des eingesetzten Systems
• Bekannte Schwachstellen und typische Fehlerquellen (z. B. Halluzinationen, Bias, veraltetes Wissen)
• Die korrekte Anwendung gemäß Gebrauchsanleitung des Anbieters
• Den Umgang mit unplausiblen oder unsicheren Ergebnissen
• Datenschutz und Vertraulichkeit im konkreten Nutzungskontext

Wann reicht eine allgemeine KI-Schulung rechtlich aus?

Eine rein allgemeine KI-Schulung reicht rechtlich nur dann aus, wenn Mitarbeitende ausschließlich KI-Systeme mit minimalem Risiko nutzen, etwa Spamfilter oder Autokorrektur, und keinerlei Entscheidungsverantwortung im Zusammenhang mit KI-Ergebnissen tragen. In der Praxis ist das im Krankenhaus die Ausnahme.

Sobald KI-Systeme in klinischen, pflegerischen oder abrechnungsrelevanten Prozessen eingesetzt werden, reicht eine Grundschulung nicht mehr aus. Das gilt auch für Anwendungen mit begrenztem Risiko, wie KI-gestützte Kodierunterstützung oder Klinik-Chatbots. Hier verlangt Art. 4 eine nachweisbare Kompetenz, die über allgemeines Orientierungswissen hinausgeht.

Für KI im Medizincontrolling bedeutet das konkret: Wer ein Kodierunterstützungstool einsetzt, muss seine Kodierfachkräfte nicht nur mit dem Thema KI vertraut machen, sondern sie gezielt auf dieses System und seine Grenzen schulen. Eine allgemeine E-Learning-Einheit zur KI-Geschichte erfüllt diese Anforderung nicht.

Wie sollte ein rechtskonformes KI-Schulungskonzept für Krankenhäuser aussehen?

Ein rechtskonformes KI-Schulungskonzept für Krankenhäuser besteht aus drei Ebenen: einer allgemeinen Basisschulung für alle Mitarbeitenden, einer systemspezifischen Schulung für alle Anwender des jeweiligen KI-Tools und einer vertieften Schulung für Mitarbeitende, die Hochrisiko-KI-Systeme betreiben oder beaufsichtigen.

Der Aufbau folgt einem klaren Ablauf:

1. KI-Inventar erstellen: Alle im Haus genutzten KI-Systeme erfassen, von ChatGPT in Arztzimmern bis zur KI in der Pathologie. Ohne vollständige Übersicht ist kein zielgerichtetes Schulungskonzept möglich.
2. Risikoklasse bestimmen: Für jedes System prüfen, ob es als minimal, begrenzt oder hochriskant einzustufen ist. Hochrisiko-KI entsteht entweder über den Weg als Medizinprodukt (Anhang I, relevant ab August 2028) oder über den Einsatzbereich (Anhang III, relevant ab Dezember 2027).
3. Rollenmatrix entwickeln: Festlegen, welche Berufsgruppen welche KI-Systeme nutzen und welches Wissen dafür konkret erforderlich ist.
4. Schulungen durchführen und dokumentieren: Art. 4 verlangt den Nachweis. Schulungsinhalte, Teilnehmerlisten und Datum müssen nachvollziehbar dokumentiert sein.
5. Regelmäßige Aktualisierung sicherstellen: KI-Systeme und rechtliche Anforderungen entwickeln sich weiter. Das Schulungskonzept muss entsprechend aktualisiert werden.

Besonders für Hochrisiko-KI gilt: Betreiber tragen hier nahezu dieselben Pflichten wie Anbieter, darunter Grundrechte-Folgenabschätzung, Überwachungsplan und Vorfallmeldung. Wer das unterschätzt, riskiert ab August 2026 Bußgelder bis zu 15 Millionen Euro.

So unterstützt Medcontroller bei der KI-Compliance im Krankenhaus

Medcontroller begleitet Krankenhäuser dabei, die Anforderungen des EU AI Acts strukturiert und praxisnah umzusetzen. Das Leistungsangebot umfasst:

• Externer KI-Beauftragter: Medcontroller übernimmt die Funktion des KI-Beauftragten als externe Dienstleistung zu einem festen Pauschalpreis, mit klar umrissenem Leistungspaket.
• Schulungen und Webinare: Das Online-Seminar „KI im Krankenhaus“ vermittelt in 4,5 Stunden Live-Online mit Zertifikat alles, was Betreiber für einen rechtskonformen Start brauchen. Frühbucherrabatt bei Anmeldung vor dem 15. Juli 2026.
• KI-Inventar und Risikoklassifizierung: Gemeinsame Erfassung aller eingesetzten KI-Systeme und Einordnung in die Risikostruktur der KI-Verordnung.
• Rollenspezifische Schulungskonzepte: Entwicklung und Dokumentation eines auf die Berufsgruppen des Hauses abgestimmten Trainingsplans gemäß Art. 4.

Wer jetzt handelt, ist nicht nur rechtlich auf der sicheren Seite, sondern vermeidet auch den Druck, den der Hauptstichtag im August 2026 mit sich bringt. Nehmen Sie Kontakt mit Medcontroller auf und klären Sie in einem ersten Gespräch, welche KI-Compliance-Maßnahmen in Ihrem Haus bereits greifen und wo noch Handlungsbedarf besteht.

Ähnliche Artikel

• Wie gefährdet fehlerhafte KI-Kodierung die Erlöse eines Krankenhauses?
• Welche regulatorischen Anforderungen gelten für KI im G-DRG-Abrechnungsprozess?
• Was passiert, wenn ein Krankenhaus den EU AI Act nicht einhält?
• EU AI Act Zeitplan: Was gilt ab wann für Krankenhäuser?
• Was sind die häufigsten Compliance-Fehler beim KI-Einsatz im Gesundheitswesen?

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.