Wo verläuft die Grenze zwischen unterstützender und autonomer KI in der bildgebenden Diagnostik?

Die Grenze zwischen unterstützender und autonomer KI in der bildgebenden Diagnostik verläuft dort, wo das System aufhört, dem Arzt Informationen bereitzustellen, und anfängt, eigenständig diagnostische Entscheidungen zu treffen. Unterstützende KI liefert Hinweise, Markierungen oder Wahrscheinlichkeiten, die ein Mensch bewertet und freigibt. Autonome KI trifft Befundentscheidungen ohne menschliche Kontrolle im Einzelfall.

Für Krankenhäuser ist diese Unterscheidung nicht akademisch, sondern unmittelbar relevant für Haftung, Regulatorik, Abrechnung und klinische Sicherheit. Die folgenden Abschnitte beantworten die wichtigsten Fragen, die sich Medizincontroller und Klinikverantwortliche in der Praxis stellen.

Wie unterscheidet sich unterstützende KI von autonomer KI in der Radiologie?

Unterstützende KI in der Radiologie analysiert Bilddaten und liefert dem befundenden Arzt Hinweise, Markierungen oder Wahrscheinlichkeitswerte. Der Radiologe prüft, bewertet und zeichnet den Befund ab. Autonome KI hingegen erstellt den Befund eigenständig, ohne dass ein Arzt jeden Einzelfall kontrolliert. Die Grenze liegt in der menschlichen Aufsicht im Einzelfall.

In der Praxis existiert ein breites Spektrum. Ein System, das auf einem CT-Bild potenzielle Lungenrundherde markiert und dem Radiologen zur Beurteilung vorlegt, ist klar unterstützend. Ein System, das CT-Bilder automatisch auswertet, einen Befundtext generiert und diesen ohne ärztliche Freigabe in die Patientenakte überträgt, ist autonom. Zwischen diesen Polen gibt es Zwischenstufen, etwa Systeme, die Befunde vorschlagen und nur bei Abweichung vom Vorschlag eine ärztliche Bestätigung einfordern.

Entscheidend ist, ob die menschliche Aufsicht strukturell verankert ist oder nur optional erfolgt. Wenn ein Arzt die KI-Ausgabe faktisch immer bestätigt, ohne sie inhaltlich zu prüfen, ist das regulatorisch wie klinisch problematisch, auch wenn formal ein Mensch im Prozess steht.

Welche regulatorischen Anforderungen gelten für autonome KI-Systeme in der Diagnostik?

KI-Systeme, die eigenständig klinische Diagnosen aus medizinischen Bilddaten erzeugen, gelten nach dem EU AI Act als Hochrisiko-KI. Ab August 2028 unterliegen sie als KI in Medizinprodukten (Anhang I der KI-Verordnung 2024/1689) den vollen Compliance-Pflichten. Bis dahin gelten bereits die Schulungspflicht nach Art. 4 (seit Februar 2025) und die Transparenzpflichten.

Für Hochrisiko-Systeme müssen Betreiber unter anderem eine Grundrechte-Folgenabschätzung (FRIA nach Art. 27) durchführen, einen Überwachungsplan im Betrieb führen, Zweckänderungen dokumentieren und Vorfälle melden. Anbieter solcher Systeme müssen technische Dokumentation, ein laufendes Risikomanagementsystem, automatische Protokollierung und eine EU-Konformitätserklärung vorweisen.

Wichtig: Ein KI-System wird auf zwei Wegen zum Hochrisiko-System, entweder als Medizinprodukt (Anhang I, Geltung ab August 2028) oder über sein Einsatzgebiet (Anhang III, Geltung ab Dezember 2027, für Anwendungen wie Notaufnahme-Triage). Beide Wege müssen geprüft werden. Krankenhäuser, die heute KI-Radiologiesysteme einsetzen, sollten bereits jetzt ein KI-Inventar führen und die Risikoklasse jedes Systems dokumentieren.

Mehr Infos

Spezielle Fragen zur Kodierung und im MD-Management ohne aufwendige Recherche beantworten?
Unser online Praxis-Handbuch!

Wann ist der Einsatz autonomer KI in der Bildgebung klinisch vertretbar?

Autonome KI in der bildgebenden Diagnostik ist klinisch vertretbar, wenn drei Bedingungen erfüllt sind: Das System ist als Medizinprodukt zertifiziert und klinisch validiert, die menschliche Aufsicht ist für definierte Fallgruppen explizit als entbehrlich begründet, und es existiert ein dokumentiertes Verfahren für Ausnahmen und Fehlerfälle.

In der Praxis ist vollständige Autonomie in der klinischen Diagnostik heute kaum vertretbar, weil die regulatorischen Voraussetzungen noch nicht vollständig in Kraft sind und weil bekannte technische Risiken bestehen. KI-Systeme können bei seltenen, untypischen oder komplexen Fällen versagen, genau dort, wo es am meisten auf Präzision ankommt. Zudem sind sogenannte adversarielle Angriffe, also gezielte Manipulationen von Bilddaten, die ein Modell zu Fehlbefunden verleiten, im medizinischen Bereich empirisch nachgewiesen.

Ein weiteres Problem ist der Automation Bias: Ärzte und Kodierfachkräfte neigen dazu, Maschinenempfehlungen stärker zu vertrauen als dem eigenen Urteil, selbst wenn das System falsch liegt. Klinische Vertretbarkeit setzt deshalb nicht nur technische Zuverlässigkeit voraus, sondern auch strukturierte Schulung der Anwender und klare Eskalationswege.

Wie beeinflusst der Autonomiegrad der KI die Abrechnung im G-DRG-System?

Der Autonomiegrad der KI beeinflusst die G-DRG-Abrechnung indirekt, aber erheblich. Diagnosen und Prozeduren, die für die Fallgruppierung relevant sind, müssen von einem approbierten Arzt verantwortet werden. Wenn eine autonome KI Diagnosen stellt, ohne dass ein Arzt den Befund inhaltlich geprüft und freigegeben hat, ist die Grundlage für die Kodierung rechtlich angreifbar.

Hier ist eine wichtige Unterscheidung zu treffen: KI-Systeme, die auf Basis bereits dokumentierter Diagnosen und Prozeduren ICD- oder OPS-Kodes vorschlagen, haben ein geringes regulatorisches Risikoprofil und fallen nicht unter die Hochrisiko-Kategorie des EU AI Acts. Systeme, die hingegen eigenständig klinische Diagnosen aus Bilddaten generieren, sind Hochrisiko-KI. Wer diese beiden Kategorien gleichsetzt, riskiert sowohl regulatorische Fehler als auch Abrechnungsrisiken.

Im MD-Prüfungsverfahren kann ein fehlerhaft dokumentierter Befundungsprozess, bei dem unklar ist, ob ein Arzt oder eine KI die Diagnose gestellt hat, zur Ablehnung der Abrechnung führen. Die Dokumentation des menschlichen Entscheidungsschritts ist deshalb nicht nur regulatorisch, sondern auch erlössichernd.

Welche Risiken entstehen, wenn die Grenze zwischen KI-Unterstützung und KI-Autonomie verschwimmt?

Wenn die Grenze zwischen unterstützender und autonomer KI in der Diagnostik unklar ist, entstehen gleichzeitig drei Risikofelder: Haftungsdiffusion, Erlösgefährdung und regulatorische Exposition. Keines davon ist hypothetisch, alle drei lassen sich aus bekannten Schwachstellen aktueller KI-Systeme ableiten.

Haftungsdiffusion: Wer haftet bei einem KI-Fehler in der Befundung? Der Arzt, der die KI-Ausgabe formal bestätigt hat, ohne sie zu prüfen? Das Krankenhaus als Betreiber? Der Hersteller? Wenn der Prozess nicht klar dokumentiert ist, ist die Antwort unklar, und das ist für alle Beteiligten ungünstig.
Skill Erosion: Wer Befundungsaufgaben dauerhaft an KI delegiert, verliert die Fähigkeit, Fehler des Systems zu erkennen. Ein Radiologe, der nie ohne KI-Unterstützung gearbeitet hat, kann systematische Verzerrungen im Modell schlechter identifizieren.
Datenschutz und Vertraulichkeit: Wenn Bilddaten an externe KI-Modelle übermittelt werden, ohne dass DSGVO-konforme Verträge vorliegen und die ärztliche Schweigepflicht gewahrt ist, entstehen unmittelbare rechtliche Risiken.
Black-Box-Problem: Bei neuronalen Netzen ist nicht nachvollziehbar, warum das Modell zu einem bestimmten Ergebnis kommt. Das erschwert Fehleranalyse, Qualitätssicherung und die Verteidigung im MD-Prüfungsverfahren.

Wie sollten Krankenhäuser den KI-Einsatz in der Diagnostik intern steuern und dokumentieren?

Krankenhäuser sollten den KI-Einsatz in der Diagnostik durch drei strukturelle Maßnahmen steuern: ein vollständiges KI-Inventar führen, die Risikoklasse jeder Anwendung dokumentieren und die Schulungspflicht nach Art. 4 KI-VO für alle KI-nutzenden Mitarbeitenden nachweisbar erfüllen. Diese drei Schritte sind unabhängig vom Inkrafttreten der Hochrisiko-Pflichten und sollten 2026 abgeschlossen sein.

Für jede KI-Anwendung in der Bildgebung empfiehlt sich eine interne Dokumentation mit mindestens folgenden Angaben:

Anbieter und Versionsstand des Systems
Risikokategorie nach EU AI Act
CE-Kennzeichnung als Medizinprodukt vorhanden oder nicht
Interne Verantwortlichkeit (wer überwacht, wer eskaliert)
Nachweis der Transparenzpflicht gegenüber Patienten und Personal

Für Hochrisiko-Systeme kommen ein Überwachungsplan, eine Grundrechte-Folgenabschätzung und ein Vorfall-Meldeverfahren hinzu. Praktisch unverzichtbar ist zudem die Benennung eines KI-Beauftragten im Krankenhaus, intern oder extern besetzt, der das KI-Inventar pflegt, Schulungen organisiert und bei Behördenkontakten sowie Audits als Ansprechpartner fungiert.

Wie Medcontroller Krankenhäuser beim KI-Einsatz in der Diagnostik unterstützt

Medcontroller begleitet Krankenhäuser und Kliniken konkret dabei, den KI-Einsatz in der Diagnostik regelkonform zu strukturieren, ohne dabei den Blick für Erlössicherung und Abrechnungsrisiken zu verlieren. Das Leistungsangebot umfasst:

KI-Compliance-Beratung: Bewertung eingesetzter KI-Systeme nach Risikoklasse, Aufbau eines KI-Inventars und Unterstützung bei der Dokumentation gemäß EU AI Act
Externer KI-Beauftragter: Übernahme der KI-Beauftragten-Funktion als Dienstleistung, mit fest umrissenem Leistungspaket und Pauschalpreis
E-Learning-Module zur KI-Kompetenzpflicht: Skalierbare, dokumentationsfähige Online-Schulungen für Mitarbeitende nach Art. 4 KI-VO, mit Prüfung und Zertifikat
Inhouse-Schulungen: Maßgeschneiderte Trainings für Führungsebene, Medizincontrolling und spezifische Berufsgruppen wie Radiologen oder Kodierfachkräfte

Wer den Einstieg sucht, findet beim Online-Seminar KI im Krankenhaus: Ihr Fahrplan zur Compliance einen strukturierten Überblick über alle relevanten Pflichten, Fristen und Handlungsoptionen. Sprechen Sie Medcontroller direkt an, um zu klären, welche Maßnahmen für Ihr Haus jetzt vordringlich sind.