KI-Schulung – Was Krankenhäuser brauchen

Viele Unternehmen setzen auf eine allgemeine KI-Schulung für alle Mitarbeitenden. Das ist ein guter Anfang, reicht aber im Krankenhaus meist nicht aus, wenn Mitarbeitende KI-Systeme mit unterschiedlichem Risikoprofil und für unterschiedliche Aufgaben einsetzen. Artikel 4 der KI-Verordnung verlangt von Anbietern und Betreibern, die KI-Kompetenz ihres Personals passend zum Einsatzkontext zu fördern. Die folgenden Abschnitte klären, was Art. 4 genau verlangt, für wen die Pflicht gilt und wie ein tragfähiges Schulungskonzept im Krankenhaus aussieht.

Was schreibt Art. 4 des EU AI Acts genau vor?

Artikel 4 der KI-Verordnung (VO (EU) 2024/1689) verpflichtet Anbieter und Betreiber von KI-Systemen, sich um ein ausreichendes Maß an KI-Kompetenz ihres Personals zu kümmern. Gemeint sind Beschäftigte und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind. Welches Niveau erforderlich ist, richtet sich nach Vorkenntnissen, Ausbildung und Einsatzkontext.

Die Pflicht betrifft damit jedes Krankenhaus, das KI-Anwendungen einsetzt. Eine ausdrückliche Dokumentationspflicht enthält Art. 4 nicht. Schulungen sollten dennoch nachvollziehbar dokumentiert werden, denn nur so lässt sich gegenüber Aufsichtsbehörden nachweisen, dass das Krankenhaus seiner Pflicht nachgekommen ist. Das gilt besonders dort, wo die menschliche Aufsicht über Hochrisiko-KI-Systeme fachkundigen Personen übertragen werden muss (Art. 26 Abs. 2).

Der Gesetzestext nennt keine konkrete Stundenanzahl und schreibt kein bestimmtes Format vor. Was er verlangt, ist eine angemessene KI-Kompetenz („AI Literacy“) bezogen auf den tatsächlichen Einsatzbereich. Das bedeutet: Ein Gastroenterologe, der eine KI bei der Koloskopie nutzt, braucht ein anderes Wissen als eine Kodierfachkraft, die ein Kodierunterstützungstool verwendet. Die Anforderung ist also kontextabhängig und rollengebunden, nicht pauschal erfüllbar.

Wichtig: Artikel 4 gilt für alle Anbieter und Betreiber, unabhängig von der Risikoklasse des eingesetzten Systems. Auch wer nur ein KI-System mit begrenztem oder minimalem Risiko nutzt, muss die KI-Kompetenz der damit befassten Mitarbeitenden fördern. Es empfiehlt sich, die getroffenen Maßnahmen zu dokumentieren, um sie gegenüber Aufsichtsbehörden belegen zu können

Für wen gilt die KI-Schulungspflicht im Krankenhaus?

Die Pflicht nach Art. 4 trifft das Krankenhaus als Betreiber. Es muss die KI-Kompetenz aller Mitarbeitenden fördern, die KI-Systeme nutzen oder deren Ergebnisse in ihre Entscheidungen einbeziehen. Das umfasst Ärzte, Pflegepersonal, Kodierfachkräfte, Medizincontroller und Verwaltungsmitarbeitende gleichermaßen.

Die KI-Verordnung unterscheidet dabei vor allem zwei Rollen mit jeweils eigenen Pflichten:

  • Anbieter: wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt. Er ist verantwortlich für Technik, Dokumentation und Konformität.
  • Betreiber: wer ein KI-System in eigener Verantwortung beruflich verwendet, also in der Regel das Krankenhaus selbst. Bei Hochrisiko-Systemen muss es das System gemäß Betriebsanleitung einsetzen, die menschliche Aufsicht fachkundigen Personen übertragen und den Betrieb überwachen. Wer nur KI-gestützte Befunde eines externen Dienstleisters (Teleradiologie-Dienst z.B.) erhält, ist in der Regel nicht Betreiber. Wer ein externes KI-Tool selbst bedient, dagegen schon.

Die einzelnen Mitarbeitenden sind keine eigene Rolle im Sinne der Verordnung. Für ihre KI-Kompetenz und ihren Einsatz ist das Krankenhaus verantwortlich.

Ein häufiger Irrtum: Wer ein KI-System als externen Cloud-Dienst bezieht und selbst nutzt, etwa einen KI-gestützten Kodierassistenten, ist trotzdem Betreiber. Der externe Betrieb der Software ändert daran nichts. Die Verantwortung für die KI-Kompetenz der eigenen Mitarbeitenden lässt sich nicht an den Anbieter abgeben, auch wenn dieser Schulungsinhalte zur Verfügung stellt.

Worin unterscheidet sich eine allgemeine von einer rollenspezifischen KI-Schulung?

Eine allgemeine KI-Schulung vermittelt grundlegendes Orientierungswissen: Was ist KI, wie funktioniert maschinelles Lernen, welche Chancen und Risiken bestehen grundsätzlich? Eine systemtypische Schulung geht darüber hinaus. Sie befähigt Mitarbeitende, die Ergebnisse einer bestimmten Art von KI-System in ihrer Funktion richtig einzuordnen, typische Fehler zu erkennen und angemessen darauf zu reagieren.

Der Unterschied ist praktisch erheblich. Eine Kodierfachkraft, die eine KI-gestützte Kodiersoftware nutzt, muss verstehen, wie solche Systeme aus der vorhandenen Dokumentation ICD- und OPS-Vorschläge ableiten, wo sie typischerweise falsch liegen und wie sie diese Fehler erkennt. Ein Arzt, der KI zur EKG-Analyse oder Sepsisfrüherkennung nutzt, braucht anderes Wissen. Er muss etwa einschätzen können, wann ein Risikoscore unzuverlässig wird und wie er verhindert, dass das System sein eigenes klinisches Urteil ersetzt. Hinzu kommt: Solche Systeme sind in der Regel Medizinprodukte und gelten damit als Hochrisiko-KI mit deutlich strengeren Anforderungen, während Kodiersoftware nicht darunter fällt.

Systemtypische Schulungen adressieren konkret:

  • die Wirkungsweise des jeweiligen Systemtyps und seine Grenzen
  • typische Fehlerquellen, z. B. Halluzinationen bei generativer KI, Verzerrungen (Bias) in Trainingsdaten oder veraltetes Wissen
  • den Automatisierungsbias, also die Neigung, Ergebnissen eines Systems zu sehr zu vertrauen
  • den Umgang mit unplausiblen oder unsicheren Ergebnissen, bis hin zur bewussten Entscheidung, ein Ergebnis zu verwerfen
  • Datenschutz und Vertraulichkeit im jeweiligen Nutzungskontext

Die Einweisung in die Bedienung eines konkreten Produkts gemäß Betriebsanleitung erfolgt ergänzend durch den Hersteller. Erst beides zusammen ergibt die Kompetenz, die für einen sicheren Einsatz im Klinikalltag erforderlich ist.

Wann reicht eine allgemeine KI-Schulung aus?

Die KI-Verordnung legt nicht fest, wann eine allgemeine Schulung genügt. Maßgeblich ist, ob die vermittelte Kompetenz zum tatsächlichen Einsatz passt. Eine allgemeine Schulung kann ausreichen, wenn Mitarbeitende KI nur für einfache, unkritische Aufgaben nutzen und keine Entscheidungen auf KI-Ergebnisse stützen. Im Krankenhaus ist das die Ausnahme.

Sobald KI in klinischen, pflegerischen oder abrechnungsrelevanten Prozessen eingesetzt wird, sollte die Schulung über allgemeines Orientierungswissen hinausgehen. Das gilt auch für Anwendungen, die nicht als Hochrisiko-KI eingestuft sind, etwa KI-gestützte Kodierunterstützung oder Chatbots auf Basis großer Sprachmodelle. Wer Ergebnisse solcher Systeme in seine Arbeit übernimmt, muss deren typische Fehler kennen.

Für das Medizincontrolling heißt das konkret: Kodierfachkräfte, die ein Kodierunterstützungstool nutzen, sollten nicht nur allgemein mit KI vertraut sein. Sie sollten verstehen, wie solche Systeme arbeiten und wo ihre Grenzen liegen. In die Bedienung des konkreten Produkts weist ergänzend der Hersteller ein. Eine allgemeine Einführung in die Geschichte der KI deckt diesen Bedarf nicht ab.

Wie sollte ein KI-Schulungskonzept für Krankenhäuser aussehen?

Ein tragfähiges Konzept besteht aus drei Ebenen:

  1. einer allgemeinen Basisschulung für alle Mitarbeitenden, die mit KI arbeiten,
  2. systemtypischen Schulungen für alle, die eine bestimmte Art von KI-System nutzen,
  3. einer vertieften Qualifizierung für Mitarbeitende, denen die menschliche Aufsicht über Hochrisiko-KI-Systeme übertragen wird.

Hinzu kommt die produktbezogene Einweisung durch den Hersteller.

Der Aufbau folgt einem klaren Ablauf:

  1. KI-Inventar erstellen: Alle im Haus genutzten KI-Systeme erfassen, vom frei genutzten Chatbot im Arztzimmer bis zur KI in der Pathologie. Ohne vollständige Übersicht ist kein zielgerichtetes Schulungskonzept möglich.
  2. Risikoklasse bestimmen: Für jedes System prüfen, ob es als minimal, begrenzt oder hochriskant einzustufen ist. Hochrisiko-KI entsteht auf zwei Wegen:
    • als Medizinprodukt, das eine Konformitätsbewertung durch eine Benannte Stelle benötigt (Anhang I, Pflichten ab 2. August 2028),
    • über bestimmte Einsatzbereiche, etwa die Triage in der Notfallversorgung oder KI in Personalentscheidungen (Anhang III, Pflichten ab 2. Dezember 2027).
  3. Rollenmatrix entwickeln: Festlegen, welche Berufsgruppen welche KI-Systeme nutzen und welches Wissen sie dafür konkret brauchen.
  4. Schulungen durchführen und dokumentieren: Art. 4 schreibt keine Dokumentation vor. Sie ist aber der einzige Weg, die getroffenen Maßnahmen gegenüber Aufsichtsbehörden zu belegen. Festgehalten werden sollten Inhalte, Teilnehmende und Datum.
  5. Regelmäßige Aktualisierung sicherstellen: KI-Systeme und rechtliche Anforderungen entwickeln sich weiter. Das Schulungskonzept muss entsprechend angepasst werden.

Für Hochrisiko-KI kommen weitere Betreiberpflichten hinzu (Art. 26). Das Krankenhaus muss das System gemäß Betriebsanleitung einsetzen, die menschliche Aufsicht fachkundigen Personen übertragen, den Betrieb überwachen, die automatisch erzeugten Protokolle aufbewahren und schwerwiegende Vorfälle melden. Öffentliche Einrichtungen und private Einrichtungen, die öffentliche Dienste erbringen, müssen bei Anhang-III-Systemen zusätzlich eine Grundrechte-Folgenabschätzung durchführen (Art. 27). Krankenhäuser dürften in der Regel darunter fallen. Sobald diese Pflichten gelten, können Verstöße mit Bußgeldern von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden. Für Behörden und öffentliche Stellen schließt das deutsche KI-MIG (§ 17) Geldbußen allerdings aus.

So unterstützt Medcontroller bei der KI-Compliance im Krankenhaus

Medcontroller begleitet Krankenhäuser dabei, die Anforderungen des EU AI Acts strukturiert und praxisnah umzusetzen. Das Leistungsangebot umfasst:

  • Externer KI-Beauftragter: Medcontroller übernimmt die Funktion des KI-Beauftragten als externe Dienstleistung zu einem festen Pauschalpreis, mit klar umrissenem Leistungspaket.
  • Schulungen und Webinare: Wir bieten ein Schulungssystem an, das live-Webinare kombiniert mit E-Learning.
  • KI-Inventar und Risikoklassifizierung: Gemeinsame Erfassung aller eingesetzten KI-Systeme und Einordnung in die Risikostruktur der KI-Verordnung.
  • Rollenspezifische Schulungskonzepte: Entwicklung und Dokumentation eines auf die Berufsgruppen des Hauses abgestimmten Trainingsplans gemäß Art. 4.

Wer jetzt handelt, ist nicht nur rechtlich auf der sicheren Seite, sondern vermeidet auch den Druck, den der Hauptstichtag im August 2026 mit sich bringt. Nehmen Sie Kontakt mit Medcontroller auf und klären Sie in einem ersten Gespräch, welche KI-Compliance-Maßnahmen in Ihrem Haus bereits greifen und wo noch Handlungsbedarf besteht.

Ähnliche Artikel

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.