Welche KI-Anwendungen sind laut AI Act im Pflegebereich (nicht nur Medizincontrolling) relevant?
Im Pflegebereich und im Krankenhaus sind vor allem KI-Systeme relevant, die in klinische Entscheidungsprozesse eingreifen, Patienten klassifizieren oder Behandlungsempfehlungen generieren. Der EU AI Act stuft diese Anwendungen als Hochrisiko-KI ein und unterwirft sie strengen Compliance-Pflichten. Welche Systeme konkret betroffen sind, was das für Betreiber bedeutet und ab wann die Pflichten gelten, beantwortet dieser Artikel.
Welche KI-Anwendungen fallen laut AI Act unter die Hochrisiko-Kategorie?
Laut EU AI Act gelten KI-Systeme im Gesundheitswesen als Hochrisiko, wenn sie zur Diagnose, Behandlung oder Überwachung von Patienten eingesetzt werden oder Entscheidungen unterstützen, die erhebliche Auswirkungen auf Gesundheit und Sicherheit haben. Grundlage ist Anhang III der Verordnung, der Medizinprodukte und sicherheitskritische KI explizit nennt.
Konkret betroffen sind unter anderem:
- KI-gestützte Bildanalyse in der Radiologie (z. B. Erkennung von Tumoren oder Pneumothorax auf CT-Bildern)
- Systeme zur klinischen Triage und Risikoklassifikation, etwa KI-unterstützte Triage-Algorithmen wie Manchester-Varianten
- Software zur Früherkennung von Sepsis oder einer Verschlechterung des Patientenzustands
- KI, die eigenständig Therapieempfehlungen generiert oder Medikamentendosierungen vorschlägt
- Ambient-Speech-Systeme, die aus Gesprächsaufnahmen direkt klinische Diagnosen ableiten
Nicht automatisch als Hochrisiko eingestuft werden hingegen allgemeine Verwaltungstools, Spamfilter oder Rechtschreibkorrektur. Auch einfache Kodierunterstützungssoftware, die auf Basis bereits dokumentierter Diagnosen ICD- oder OPS-Kodes vorschlägt, fällt in der Regel nicht unter die Hochrisiko-Kategorie. Die entscheidende Trennlinie: Unterstützt das System klinische Entscheidungen mit direktem Patientenbezug oder verarbeitet es lediglich administrative Dokumentation?
Was bedeutet die Hochrisiko-Einstufung konkret für Pflegeeinrichtungen?
Eine Hochrisiko-Einstufung bedeutet für Pflegeeinrichtungen als Betreiber, dass sie ein vollständiges Compliance-Regime umsetzen müssen. Das umfasst unter anderem eine Grundrechte-Folgenabschätzung (FRIA nach Art. 27), einen laufenden Überwachungsplan sowie die Pflicht, Vorfälle zu melden und Zweckänderungen zu dokumentieren.
Darüber hinaus müssen Betreiber sicherstellen, dass die eingesetzten Hochrisiko-Systeme vom Anbieter ordnungsgemäß konformitätsbewertet wurden, eine EU-Konformitätserklärung vorliegt und das System in der EU-Datenbank registriert ist. Unterlagen sind zehn Jahre aufzubewahren. Wer ein Hochrisiko-System ohne diese Nachweise einsetzt, riskiert Bußgelder und behördliche Untersagungen.
Welche KI-Anwendungen im Medizincontrolling sind vom AI Act betroffen?
KI-Anwendungen im Medizincontrolling, die ausschließlich auf Basis bereits dokumentierter Diagnosen und Prozeduren Abrechnungskodes vorschlagen, weisen ein geringes regulatorisches Risikoprofil auf. Solche Kodier-IT-Systeme fallen nicht unter die Hochrisiko-Kategorie des AI Acts, weil sie keine klinischen Entscheidungen treffen, sondern administrative Dokumentation verarbeiten.
Relevant wird der AI Act im Medizincontrolling jedoch dann, wenn KI-Tools eingesetzt werden, die über die reine Kodierunterstützung hinausgehen. Systeme, die aus klinischen Freitexten, Arztbriefen oder Sprachaufnahmen eigenständig Diagnosen ableiten und daraus Kodiervorschläge generieren, können je nach Funktionsumfang als Hochrisiko-KI einzustufen sein. Hier ist die genaue Systemarchitektur entscheidend.
Für alle eingesetzten KI-Tools gilt unabhängig von der Risikokategorie: Das Haus sollte ein internes Register führen, das Anbieter, Versionsstand, Risikokategorie, CE-Kennzeichnung, interne Verantwortlichkeit und die Einhaltung der Transparenzpflichten dokumentiert. Informationen zur KI-Compliance im Krankenhaus helfen dabei, dieses Register systematisch aufzubauen.
Wann gilt eine KI im Pflegebereich als Hochrisiko-System nach dem AI Act?
Eine KI im Pflegebereich gilt nach dem AI Act als Hochrisiko-System, wenn sie in einem in Anhang III genannten Bereich eingesetzt wird und dabei Entscheidungen trifft oder maßgeblich beeinflusst, die erhebliche Auswirkungen auf die Gesundheit oder Sicherheit von Personen haben. Für den Pflegebereich sind das insbesondere Systeme zur Patientenklassifikation, Risikoüberwachung und klinischen Entscheidungsunterstützung.
Praktische Orientierungshilfe bieten folgende Fragen:
- Trifft oder empfiehlt das System Entscheidungen mit direktem Bezug zu Diagnose, Behandlung oder Pflege eines Patienten?
- Könnte ein Fehler des Systems zu körperlichem Schaden führen?
- Ist das System als Medizinprodukt der Klasse IIa oder höher eingestuft?
Werden alle drei Fragen bejaht, ist eine Hochrisiko-Einstufung sehr wahrscheinlich. Systeme, die ausschließlich administrative Aufgaben ohne Patientenbezug übernehmen, wie etwa die Dienstplanung oder Rechnungsstellung, fallen dagegen typischerweise nicht darunter.
Welche Pflichten haben Krankenhäuser als Betreiber von KI-Systemen?
Krankenhäuser als Betreiber von KI-Systemen tragen nach dem AI Act eine eigenständige Verantwortung, die über die Pflichten des Anbieters hinausgeht. Bei Hochrisiko-Systemen umfasst das die Grundrechte-Folgenabschätzung (Art. 27), einen Überwachungsplan im laufenden Betrieb, die Dokumentation von Zweckänderungen sowie die Meldung von Vorfällen an die zuständige Behörde.
Für alle KI-Systeme unabhängig von der Risikokategorie gilt seit Februar 2025 die Schulungspflicht nach Art. 4 AI Act. Mitarbeiter müssen in die Lage versetzt werden, KI-Systeme kompetent und verantwortungsbewusst zu nutzen. Diese Pflicht ist ab August 2026 sanktionsbewehrt. Die Schulungen sollten rollen- und anwendungsbezogen aufgesetzt werden, also unterschiedlich für Radiologiepersonal, Pflegefachkräfte, Kodierfachkräfte und Verwaltungsmitarbeiter.
Empfehlenswert ist außerdem die Benennung eines KI-Beauftragten, auch wenn dies gesetzlich nicht vorgeschrieben ist. Diese Funktion kann intern oder extern besetzt werden und verantwortet das KI-Inventar, die Schulungsorganisation, die Dokumentation und den Behördenkontakt. Wer sich über die konkreten Anforderungen an Schulungsprogramme für KI-Kompetenz informieren möchte, findet dort praxisnahe Angebote.
Ab wann müssen Pflegeeinrichtungen den AI Act umsetzen?
Der AI Act tritt gestaffelt in Kraft. Die Schulungspflicht nach Art. 4 gilt bereits seit Februar 2025. Die vollständigen Hochrisiko-Pflichten für neue KI-Systeme werden ab August 2026 sanktionsbewehrt durchgesetzt. Für bereits im Einsatz befindliche Systeme gelten Übergangsfristen, die je nach Systemkategorie bis Ende 2027 reichen können.
Für Pflegeeinrichtungen und Krankenhäuser bedeutet das: Drei Maßnahmen sollten 2026 abgeschlossen sein, unabhängig davon, ob Hochrisiko-Systeme im Einsatz sind:
- KI-Inventar anlegen: Alle eingesetzten KI-Tools erfassen, Risikokategorie bestimmen, CE-Kennzeichnung und Verantwortlichkeit dokumentieren.
- Schulungsprogramm aufsetzen: Rollen- und anwendungsbezogene Schulungen nach Art. 4, dokumentationsfähig mit Prüfung und Zertifikat.
- KI-Beauftragten benennen: intern oder extern, für Inventarpflege, Dokumentation und Behördenkontakt.
Wie Medcontroller bei der KI-Compliance im Krankenhaus unterstützt
Medcontroller begleitet Krankenhäuser und Pflegeeinrichtungen auf dem Weg zur AI-Act-Konformität mit einem klar strukturierten Leistungspaket:
- Externe KI-Beauftragte: Medcontroller übernimmt die Funktion des KI-Beauftragten als externe Dienstleistung zu einem Pauschalpreis, inklusive KI-Inventar, Dokumentation und Behördenkontakt.
- E-Learning-Module: Skalierbare Online-Schulungen für die Kompetenzpflicht nach Art. 4, aufgabenbezogen, dokumentationsfähig und mit Zertifikat, auch für große Belegschaften geeignet.
- Präsenz- und Inhouse-Schulungen: Maßgeschneiderte Trainings für Führungsebene, Medizincontrolling oder spezifische Berufsgruppen, abgestimmt auf das jeweilige Haus.
- Zertifikatslehrgang KI-Beauftragter im Krankenhaus: Sechswöchiger berufsbegleitender Lehrgang in Vorbereitung, der auf die komplexen Aufgaben der KI-Verwaltung vorbereitet.
Wer jetzt handeln will: Auf der KI-Beratungsseite von Medcontroller finden Sie alle Angebote im Überblick und können direkt Kontakt aufnehmen.
Ähnliche Artikel
- Prüfquoten ab 2027: Wie heiß wird die Suppe gegessen?
- Welche rechtlichen Vorgaben gelten für KI-Tools im Krankenhaus?
- Welche Vor- und Nachteile hat KI im Gesundheitswesen?
- Welche KI-Systeme gelten im Krankenhaus als Hochrisiko-KI nach dem AI Act?
- Welche KI-Systeme sind im EU-KI-Gesetz verboten?
Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.
