Welche Haftungsrisiken entstehen beim KI-Einsatz in der Fallkodierung?

Wenn eine KI-gestützte Kodierempfehlung zu einer falschen Abrechnung führt, liegt die rechtliche Verantwortung beim Krankenhaus als Betreiber des Systems. Der EU AI Act unterscheidet klar zwischen Anbieter, Betreiber und Anwender, und für Krankenhäuser gilt: Wer eine KI-Anwendung im Betrieb einsetzt, trägt die Pflichten des Betreibers, unabhängig davon, wer die Software entwickelt hat. Die folgenden Abschnitte erklären, wo konkret Haftungsrisiken entstehen, welche regulatorischen Anforderungen 2026 bereits gelten und wie sich das Risiko durch strukturierte interne Prozesse begrenzen lässt.

Wer haftet, wenn eine KI-Kodierempfehlung falsch ist?

Die Haftung liegt beim Krankenhaus als Betreiber, nicht beim Softwareanbieter. Wenn eine KI-Anwendung einen falschen ICD- oder OPS-Kode vorschlägt und dieser ohne ausreichende menschliche Prüfung abgerechnet wird, ist das Krankenhaus gegenüber der Krankenkasse für die Abrechnung verantwortlich. Der Anbieter der Software haftet allenfalls für Mängel des Systems selbst, nicht für die Kodierentscheidung im Einzelfall.

Entscheidend ist dabei die Rollenverteilung nach dem EU AI Act. Krankenhäuser, die eine KI-Anwendung einsetzen, sind Betreiber im Sinne der Verordnung. Als solche übernehmen sie nicht nur die Nutzung, sondern auch die Verantwortung dafür, dass das System zweckgemäß eingesetzt, ausreichend überwacht und korrekt dokumentiert wird. Diese Pflichten gelten unabhängig davon, ob der Softwareanbieter seinerseits alle technischen Anforderungen erfüllt hat.

Für die Fallkodierung bedeutet das konkret: KI-Tools, die auf Basis bereits dokumentierter Diagnosen und Prozeduren Abrechnungskodes vorschlagen, sind regulatorisch anders einzustufen als klinische Entscheidungsunterstützungssysteme. Reine Kodier- und Abrechnungssoftware weist ein deutlich geringeres Risikoprofil auf und fällt nicht automatisch unter die High-Risk-Kategorie des EU AI Acts. Trotzdem bleibt das Krankenhaus für jede abgerechnete Leistung verantwortlich, egal ob ein Mensch oder eine Maschine den Kode vorgeschlagen hat.

Welche konkreten Risiken entstehen bei MDK-Prüfungen durch KI-Fehler?

KI-generierte Kodiervorschläge, die nicht fachkundig geprüft wurden, erhöhen das Risiko von Rückforderungen im Rahmen von MDK-Prüfungen erheblich. Typische Fehlerquellen sind veraltetes Regelwissen, systematische Verzerrungen aus den Trainingsdaten und das sogenannte Black-Box-Problem: Bei neuronalen Netzen ist nicht nachvollziehbar, warum das Modell zu einem bestimmten Vorschlag kommt, was eine spätere Argumentation gegenüber dem Medizinischen Dienst erschwert.

Ein besonders kritisches Risiko ist der sogenannte Automation Bias: Kodierfachkräfte, die regelmäßig mit KI-Unterstützung arbeiten, neigen dazu, Maschinenempfehlungen stärker zu vertrauen als dem eigenen Urteil, selbst wenn das System falsch liegt. Dieser Effekt ist empirisch nachgewiesen und führt dazu, dass Fehler des Systems unentdeckt in die Abrechnung einfließen.

Im Kontext von MDK-Prüfungen entstehen daraus zwei konkrete Probleme. Erstens: Wenn eine KI einen Kode vorschlägt, der medizinisch nicht ausreichend dokumentiert ist, wird die Krankenkasse im Prüfverfahren Rückforderungen geltend machen. Zweitens: Wenn das Krankenhaus die Kodierentscheidung nicht nachvollziehbar begründen kann, weil die KI keine transparente Erklärung liefert, fehlt die Argumentationsgrundlage für eine fundierte Erwiderung. Bei einer KI-gestützten Kodierung muss deshalb die Dokumentationskette vom Befund bis zum Kode jederzeit menschlich nachvollziehbar bleiben.

Mehr Infos

Spezielle Fragen zur Kodierung und im MD-Management ohne aufwendige Recherche beantworten?
Unser online Praxis-Handbuch!

Welche regulatorischen Anforderungen gelten für KI in der Krankenhausabrechnung?

Für Krankenhäuser gelten seit Februar 2025 zwei unmittelbar wirksame Pflichten aus dem EU AI Act: das Verbot bestimmter KI-Praktiken nach Art. 5 und die Schulungspflicht nach Art. 4. Ab August 2026 treten mit dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) nationale Durchführungsregeln in Kraft, die Bußgelder bis zu 35 Millionen Euro vorsehen.

Risikoklassen und ihre Konsequenzen für die Kodierungs-IT

Der EU AI Act unterscheidet zwischen minimalen, begrenzten, hohen und inakzeptablen Risiken. Für KI-Tools, die ausschließlich auf Basis dokumentierter Diagnosen und Prozeduren Abrechnungskodes vorschlagen, ist das regulatorische Risikoprofil gering. Sie fallen typischerweise in die Kategorie „begrenztes Risiko“ und unterliegen vor allem Transparenzpflichten. Für diese Systeme reichen eine interne Dokumentation des Einsatzzwecks sowie ein Hinweis gegenüber dem Personal.

Hochrisiko-KI und klinische Entscheidungsunterstützung

Anders verhält es sich bei Software, die eigenständig klinische Diagnosen generiert oder Therapieempfehlungen ableitet, etwa durch Analyse von Bilddaten oder Ambient-Speech-Aufnahmen. Diese Systeme gelten als Hochrisiko-KI und unterliegen deutlich strengeren Anforderungen: Risikomanagementsystem nach Art. 9, automatische Protokollierung nach Art. 12, menschliche Aufsicht nach Art. 14 sowie eine Grundrechte-Folgenabschätzung (FRIA) nach Art. 27. Eine Gleichsetzung von Kodier-IT und klinischer Entscheidungsunterstützung ist regulatorisch nicht zulässig und führt zu falschen Einschätzungen des Compliance-Aufwands.

Wie lässt sich das Haftungsrisiko durch interne Kontrollprozesse begrenzen?

Das Haftungsrisiko lässt sich durch drei strukturelle Maßnahmen wirksam begrenzen: ein vollständiges KI-Inventar, ein dokumentiertes Schulungsprogramm und eine benannte interne Verantwortlichkeit. Diese drei Schritte sind unabhängig vom Inkrafttreten der Hochrisiko-Pflichten und sollten 2026 abgeschlossen sein.

Das KI-Inventar erfasst für jede eingesetzte Anwendung: Anbieter und Versionsstand, Risikokategorie, ob eine CE-Kennzeichnung vorliegt, die interne Verantwortlichkeit und ob die Transparenzpflicht erfüllt ist. Ohne dieses Register ist eine regelkonforme Nutzung nicht nachweisbar, was im Prüffall zum Problem wird.

Die Schulungspflicht nach Art. 4 KI-VO gilt bereits seit Februar 2025 und ist ab August 2026 sanktionsbewehrt. Schulungen müssen rollen- und anwendungsbezogen gestaltet sein. Für das Medizincontrolling bedeutet das: andere Inhalte als für die Radiologie oder die Verwaltung. Wer die Schulungen nicht dokumentiert, kann die Erfüllung der Pflicht im Zweifel nicht nachweisen.

Zusätzlich empfiehlt sich die Benennung eines KI-Beauftragten, auch wenn dies gesetzlich nicht vorgeschrieben ist. Diese Funktion verantwortet das KI-Inventar, organisiert Schulungen, führt die Dokumentation und bereitet Audits vor. Sie kann intern oder extern besetzt werden. Wer dabei strukturierte Unterstützung sucht, findet im Bereich der KI-Beratung geeignete Angebote für Krankenhäuser.

Wann sollte menschliche Fachexpertise KI-Empfehlungen zwingend überstimmen?

Menschliche Fachexpertise muss KI-Empfehlungen immer dann überstimmen, wenn der Kodiervorschlag nicht durch die vorliegende Dokumentation gedeckt ist, wenn es sich um seltene oder komplexe Leistungen handelt, oder wenn der Fall bereits Gegenstand einer MDK-Prüfung ist oder werden könnte. KI-Modelle versagen erfahrungsgemäß genau bei Edge Cases, also bei untypischen oder seltenen Krankheitsbildern, wo es am meisten auf korrekte Kodierung ankommt.

Konkret gilt: Ein KI-Vorschlag für eine naturheilkundliche Komplexbehandlung oder eine anthroposophische Behandlung im G-DRG-System sollte ohne Prüfung durch eine erfahrene Kodierfachkraft nicht übernommen werden. Solche Spezialleistungen sind in Trainingsdaten unterrepräsentiert, was die Fehlerwahrscheinlichkeit erhöht. Gleiches gilt für Fälle mit unklarer Hauptdiagnose oder mehreren konkurrierenden Kodes.

Ein weiterer Pflichtfall für menschliche Überprüfung: Wenn das KI-System keine nachvollziehbare Begründung für seinen Vorschlag liefert. Das Black-Box-Problem neuronaler Netze bedeutet, dass ein Kodierer, der einen KI-Vorschlag übernimmt, ohne ihn zu verstehen, im MDK-Verfahren keine tragfähige Argumentation aufbauen kann. Die Fähigkeit, eine Kodierung gegenüber dem Medizinischen Dienst zu begründen, bleibt eine originär menschliche Aufgabe, die durch gezielte Weiterbildung erhalten und gestärkt werden muss.

Wie Medcontroller Sie beim KI-Einsatz in der Fallkodierung unterstützt

Medcontroller begleitet Krankenhäuser und Medizincontrolling-Teams dabei, KI-Anwendungen in der Fallkodierung regelkonform einzusetzen und Haftungsrisiken systematisch zu begrenzen. Das Leistungsangebot umfasst konkrete Maßnahmen, die sich direkt in den Kodier- und Abrechnungsalltag integrieren lassen:

E-Learning-Module zur KI-Kompetenzpflicht: Skalierbare Online-Schulungen nach Art. 4 KI-VO, aufgabenbezogen, dokumentationsfähig, mit Prüfung und Zertifikat, auch für große Belegschaften geeignet.
Online-Seminar „KI im Krankenhaus“: 4,5 Stunden Live-Online mit Zertifikat, strukturierter Fahrplan zur Compliance, mit Frühbucherrabatt bei Anmeldung vor dem 15. Juli 2026.
KI-Beauftragter als externe Dienstleistung: Medcontroller übernimmt die Funktion des KI-Beauftragten in einem fest umrissenen Leistungspaket zum Pauschalpreis, inklusive KI-Inventar, Dokumentation und Behördenkontakt.
Inhouse-Schulungen für Medizincontrolling und Führungsebene: Maßgeschneiderte Trainings, die auf die spezifischen KI-Anwendungen und Strukturen Ihres Hauses zugeschnitten werden.

Wenn Sie wissen möchten, welche KI-Tools in Ihrem Haus welche Pflichten auslösen und wie Sie die Schulungsanforderungen nach Art. 4 KI-VO dokumentationssicher erfüllen, melden Sie sich jetzt zum Webinar KI im Krankenhaus an oder nehmen Sie direkt Kontakt auf.