Wie unterscheidet sich ein individuell trainierter KI-Assistent von einem Hochrisiko-KI-System?

Ein individuell trainierter KI-Assistent unterscheidet sich von einem Hochrisiko-KI-System vor allem durch seinen Einsatzbereich und die Art der Entscheidungen, die er unterstützt. Ein spezialisiertes Tool, das auf Basis dokumentierter Diagnosen und Prozeduren Abrechnungsvorschläge macht, fällt typischerweise in die Kategorie „begrenztes Risiko“ nach dem EU AI Act. Hochrisiko-KI hingegen greift in klinische Entscheidungen ein oder beeinflusst die Gesundheitsversorgung direkt. Die folgenden Fragen klären, wo genau die Grenze verläuft und was das für den Krankenhausbetrieb bedeutet.

Welche KI-Systeme fallen laut EU AI Act unter die Hochrisiko-Kategorie?

Laut EU AI Act (Verordnung 2024/1689) gilt ein KI-System als Hochrisiko-System, wenn es entweder als Medizinprodukt eingesetzt wird (Anhang I) oder in einem der in Anhang III genannten Einsatzbereiche eingesetzt wird. Im Krankenhauskontext betrifft das konkret Systeme zur Triage in der Notaufnahme, zur Bildbefundung in der Radiologie, zur Sepsisfrüherkennung auf der Intensivstation sowie zur automatisierten Erstellung klinischer Dokumente wie Arztbriefe.

Für den Bereich Medizincontrolling und Abrechnung ist die Unterscheidung entscheidend: Ein KI-Tool, das auf Basis bereits dokumentierter Diagnosen ICD- oder OPS-Kodes vorschlägt, ist kein Hochrisiko-System. Es trifft keine klinische Entscheidung, sondern unterstützt einen administrativen Prozess. Anders sieht es aus, wenn ein System eigenständig aus Ambient-Speech-Aufnahmen Diagnosen ableitet oder aus Bilddaten Befunde generiert. Diese Systeme fallen unter Hochrisiko, weil sie klinische Entscheidungen direkt beeinflussen.

Der Stufenplan des EU AI Act sieht vor, dass die Hochrisiko-Pflichten für Anhang-III-Systeme ab Dezember 2027 und für Anhang-I-Systeme (KI als Medizinprodukt) ab August 2028 gelten. Beide Fristen wurden im Rahmen des Digital Omnibus verschoben.

Was macht einen individuell trainierten KI-Assistenten aus?

Ein individuell trainierter KI-Assistent ist ein Sprachmodell oder ein regelbasiertes System, das gezielt auf einen definierten Anwendungsfall, eine spezifische Datenbasis und eine klar begrenzte Aufgabe ausgerichtet wurde. Im Unterschied zu allgemeinen Sprachmodellen wie ChatGPT arbeitet er nicht auf Basis eines universellen Trainings, sondern auf Grundlage von Inhalten, Regeln und Terminologie, die für den jeweiligen Betrieb relevant sind.

Im Krankenhauskontext kann das bedeuten: Ein Assistent wird auf aktuelle Kodierrichtlinien, hausinterne Dokumentationsstandards und spezifische Abrechnungsstrukturen trainiert. Er kennt den Unterschied zwischen einer vollstationären und einer vorstationären Leistung, er kennt die Anforderungen an eine korrekte Hauptdiagnose nach den Deutschen Kodierrichtlinien und er liefert Vorschläge, die auf tatsächlich dokumentierten Befunden basieren, nicht auf Schlussfolgerungen aus Rohdaten.

Entscheidend ist: Ein solcher Assistent ersetzt keine medizinische Fachkraft. Er unterstützt administrative und dokumentationsbasierte Prozesse. Das ist der Kern, der seine regulatorische Einordnung bestimmt.

Warum gilt ein spezialisierter KI-Assistent oft nicht als Hochrisiko-System?

Ein spezialisierter KI-Assistent gilt dann nicht als Hochrisiko-System, wenn er keine klinischen Entscheidungen trifft und nicht in die unmittelbare Gesundheitsversorgung eingreift. Kodierunterstützung, die auf bereits dokumentierten Diagnosen und Prozeduren basiert, ist nach dem EU AI Act der Risikostufe „begrenztes Risiko“ zuzuordnen. Das bedeutet: Transparenzpflichten ja, volle Compliance-Pflichten nein.

Die Abgrenzung folgt einer klaren Logik: Wer dokumentiert, was Ärzte bereits entschieden haben, übt keine klinische Funktion aus. Wer hingegen aus Sprachaufnahmen, Bilddaten oder Vitalparametern selbst Diagnosen oder Therapieempfehlungen ableitet, greift in den klinischen Prozess ein. Letzteres ist Hochrisiko, Ersteres nicht.

Für die Praxis im Medizincontrolling KI-Bereich bedeutet das: Ein Tool, das dem Kodierer auf Basis des Entlassungsberichts einen ICD-Kode vorschlägt, hat ein geringes regulatorisches Risikoprofil. Ein Tool, das aus dem Anamnesegespräch selbst Diagnosen ableitet, ist Hochrisiko. Diese Unterscheidung ist nicht akademisch, sie bestimmt den gesamten Compliance-Aufwand.

Welche Pflichten entstehen, wenn ein KI-System als Hochrisiko eingestuft wird?

Hochrisiko-KI-Systeme unterliegen nach dem EU AI Act einem umfangreichen Pflichtenkatalog, der sowohl Anbieter als auch Betreiber trifft. Krankenhäuser, die ein Hochrisiko-System einsetzen, sind Betreiber im Sinne der Verordnung und müssen deutlich mehr leisten als bei KI mit begrenztem Risiko.

Die zentralen Betreiberpflichten für Hochrisiko-KI umfassen:

• Grundrechte-Folgenabschätzung (FRIA) nach Art. 27 KI-VO
• Überwachungsplan für den laufenden Betrieb
• Dokumentation von Zweckänderungen
• Meldepflicht bei Vorfällen
• Sicherstellung menschlicher Aufsicht nach Art. 14
• Aufbewahrung relevanter Unterlagen für zehn Jahre (Art. 18)

Hinzu kommen die Pflichten, die eigentlich beim Anbieter liegen, aber auch den Betreiber betreffen: technische Dokumentation, Risikomanagementsystem, automatische Protokollierung und Konformitätsbewertung. Wer ein Hochrisiko-System betreibt, ohne diese Anforderungen zu erfüllen, riskiert ab August 2026 Bußgelder bis zu 35 Millionen Euro. Die Schulungspflicht nach Art. 4 KI-VO gilt bereits seit Februar 2025 und ist ab August 2026 sanktionsbewehrt.

Wie sollten Krankenhäuser KI-Tools vor dem Einsatz rechtlich einordnen?

Krankenhäuser sollten jedes KI-Tool vor dem Einsatz anhand von zwei Prüfpfaden einordnen: erstens, ob es als Medizinprodukt klassifiziert ist (Anhang I des EU AI Act), und zweitens, ob sein Einsatzgebiet unter Anhang III fällt. Beide Pfade müssen unabhängig voneinander geprüft werden. Wer nur einen prüft, riskiert eine fehlerhafte Einstufung.

Für die praktische Umsetzung empfiehlt sich ein strukturiertes KI-Inventar. Für jede eingesetzte Anwendung sollte dokumentiert werden:

1. Anbieter und Versionsstand
2. Risikokategorie nach EU AI Act
3. CE-Kennzeichnung vorhanden oder nicht
4. Interne Verantwortlichkeit
5. Transparenzpflicht erfüllt
6. Einsatzzweck und Nutzungsumfang

Besonders wichtig ist die inhaltliche Abgrenzung: Ein Tool zur KI-gestützten Kodierung, das auf dokumentierten Befunden arbeitet, ist anders einzustufen als ein Tool, das klinische Entscheidungen vorbereitet oder eigenständig Diagnosen vorschlägt. Diese Unterscheidung sollte schriftlich festgehalten und intern kommuniziert werden, bevor das Tool produktiv eingesetzt wird. Drei Maßnahmen sollten 2026 abgeschlossen sein: KI-Inventar erstellen, Schulungsprogramm aufsetzen, KI-Beauftragten benennen.

So unterstützt Medcontroller bei der KI-Compliance im Krankenhaus

Medcontroller begleitet Krankenhäuser dabei, ihre KI-Nutzung rechtssicher zu strukturieren, ohne den laufenden Betrieb zu belasten. Das Leistungsangebot ist konkret auf die Anforderungen des EU AI Act zugeschnitten:

• KI-Inventar und Risikoeinstufung: Medcontroller hilft dabei, alle eingesetzten KI-Anwendungen zu erfassen und korrekt nach dem EU AI Act einzustufen, inklusive der kritischen Unterscheidung zwischen Kodierunterstützung und klinischer Entscheidungs-KI.
• E-Learning-Module zur KI-Kompetenzpflicht: Skalierbare Online-Schulungen nach Art. 4 KI-VO, aufgabenbezogen, dokumentationsfähig, mit Prüfung und Zertifikat, auch für große Belegschaften.
• Zertifikatslehrgang KI-Beauftragter im Krankenhaus: Sechswöchige berufsbegleitende Ausbildung für die Übernahme der KI-Compliance-Funktion im Haus.
• Externer KI-Beauftragter: Medcontroller übernimmt die Funktion des KI-Beauftragten als externe Dienstleistung zu einem Pauschalpreis, inklusive KI-Inventar, Schulungsorganisation und Behördenkontakt.

Wer die Compliance-Struktur für KI im Krankenhaus 2026 aufbauen will, findet bei Medcontroller einen erfahrenen Partner mit Nischenwissen in Abrechnung, Kodierung und Regulatorik. Nehmen Sie Kontakt auf und klären Sie, welcher Baustein für Ihr Haus der richtige Einstieg ist.

Ähnliche Artikel

• Mit welchen Folgekosten (Lizenzen, Updates, Cloud) muss ein Krankenhaus bei KI-Diagnosegeräten rechnen?
• Welche Gesetze gelten für den Einsatz von KI?
• Wie gefährdet fehlerhafte KI-Kodierung die Erlöse eines Krankenhauses?
• Welche Risiken entstehen bei KI in der Abrechnungsprüfung ohne Compliance-Strategie?
• Typische Fehler bei der KI-Einführung im Krankenhaus

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.