Welche Fragen sollte ein Krankenhaus KI-Anbietern stellen, bevor man kauft?

Wer KI im Krankenhaus einführt, trifft eine Entscheidung, die weit über die IT-Abteilung hinausgeht. Der EU AI Act ist seit August 2024 in Kraft, die Schulungspflicht nach Art. 4 gilt seit Februar 2025, und ab August 2026 greifen Bußgelder und Sanktionen vollständig. Wer einen KI-Anbieter wählt, ohne die richtigen Fragen zu stellen, trägt als Betreiber die Compliance-Verantwortung mit. Das ist kein theoretisches Risiko, sondern eine gesetzliche Realität.

Die folgende Fragenliste richtet sich an Medizincontroller, Krankenhauscontroller und Geschäftsführungen, die KI-Systeme evaluieren oder bereits im Einsatz haben. Die Fragen sind praxisnah, rechtlich fundiert und direkt auf den Krankenhauskontext zugeschnitten.

Warum die Anbieterwahl über Erfolg oder Scheitern entscheidet

Als Betreiber eines KI-Systems trägt das Krankenhaus eigene Pflichten, unabhängig davon, was der Anbieter verspricht. Das gilt für die Schulung der Anwender, die Überwachung des Systems im Betrieb und die Dokumentation des Einsatzzwecks. Ein Anbieter, der diese Verantwortungsteilung nicht versteht oder nicht transparent kommuniziert, wird im Ernstfall kein verlässlicher Partner sein.

Die Risikoeinstufung der eingesetzten KI bestimmt, wie aufwendig die Compliance wird. Ein Tool, das auf Basis bereits dokumentierter Diagnosen und Prozeduren ICD- oder OPS-Kodes vorschlägt, fällt in der Regel unter begrenztes Risiko. Eine KI, die eigenständig klinische Diagnosen generiert oder Bilddaten auswertet, gilt als Hochrisiko-System mit deutlich strengeren Anforderungen. Wer diesen Unterschied nicht kennt, kauft möglicherweise ein System, das er regulatorisch nicht beherrschen kann.

Fragen zur Datensicherheit und regulatorischen Konformität

Jeder seriöse Anbieter muss klar benennen können, welcher Risikokategorie sein System nach dem EU AI Act zuzuordnen ist und welche Konformitätsnachweise vorliegen. Für Hochrisiko-KI bedeutet das: technische Dokumentation nach Art. 11, ein laufendes Risikomanagementsystem nach Art. 9 und eine EU-Konformitätserklärung nach Art. 47. Wer diese Unterlagen nicht vorlegen kann, sollte nicht im Krankenhaus eingesetzt werden.

Konkrete Fragen an den Anbieter:

Welcher Risikokategorie ordnen Sie Ihr System nach der KI-Verordnung 2024/1689 zu?
Liegt eine CE-Kennzeichnung vor, und wenn ja, nach welcher Richtlinie?
Wo werden Patientendaten verarbeitet, und welche Datenschutz-Folgenabschätzung liegt vor?
Wie werden Sicherheitsvorfälle dokumentiert und gemeldet?
Wie wird sichergestellt, dass keine verbotenen KI-Praktiken nach Art. 5 KI-VO im System enthalten sind?

Mehr Infos

Spezielle Fragen zur Kodierung und im MD-Management ohne aufwendige Recherche beantworten?
Unser online Praxis-Handbuch!

Fragen zur Integration in bestehende Krankenhausprozesse

Ein KI-System, das technisch funktioniert, aber nicht in die bestehenden Workflows passt, erzeugt Mehraufwand statt Effizienz. Das gilt besonders für Bereiche wie KI-gestützte Kodierung, Arztbriefschreibung oder Ambient Speech, wo das System direkt in klinische Abläufe eingreift.

Wichtige Integrationsfragen:

Mit welchen KIS- und Dokumentationssystemen ist das Tool zertifiziert kompatibel?
Wie wird der Einsatzzweck vertraglich festgehalten, und was passiert bei Zweckänderungen?
Wer ist intern und extern verantwortlich, wenn das System fehlerhafte Ergebnisse liefert?
Wie wird die Nutzung überwacht und protokolliert, um die Betreiberpflichten nach der KI-VO zu erfüllen?

Fragen zu Qualität, Transparenz und Nachvollziehbarkeit der KI-Ergebnisse

Gerade im Kontext von KI im Medizincontrolling und der Abrechnungsprüfung ist Nachvollziehbarkeit entscheidend. Wenn ein KI-Tool einen Kodiervorschlag macht, muss der Kodierfachkraft klar sein, auf welcher Grundlage dieser Vorschlag basiert. Andernfalls kann keine fachliche Überprüfung stattfinden, und das Ergebnis ist rechtlich nicht vertretbar.

Fragen zur Ergebnisqualität:

Wie erklärt das System seine Vorschläge, und sind diese für Fachkräfte ohne KI-Expertise nachvollziehbar?
Wie hoch ist die dokumentierte Fehlerquote, und wie wurde sie gemessen?
Welche Mechanismen gibt es, damit Anwender Ergebnisse hinterfragen und korrigieren können?
Wird zwischen Kodierunterstützung auf Basis bereits dokumentierter Befunde und klinischer Entscheidungsunterstützung klar unterschieden?

Dieser letzte Punkt ist besonders relevant: Ein Tool, das ICD-Kodes auf Basis vorhandener Dokumentation vorschlägt, ist regulatorisch anders einzustufen als eines, das aus Ambient-Speech-Aufnahmen eigenständig klinische Schlüsse zieht. Anbieter, die diesen Unterschied nicht aktiv kommunizieren, sollten kritisch befragt werden.

Fragen zu Support, Schulung und langfristiger Partnerschaft

Die Schulungspflicht nach Art. 4 KI-VO gilt seit Februar 2025 und ist sanktionsbewehrt ab August 2026. Das bedeutet: Jedes Krankenhaus, das KI einsetzt, muss seine Mitarbeitenden rollenspezifisch schulen und diese Schulungen dokumentieren. Ein Anbieter, der dabei keine strukturierte Unterstützung anbietet, überträgt diese Aufgabe vollständig auf das Haus.

Fragen zu Support und Schulung:

Welche Schulungsunterlagen stellt der Anbieter bereit, und sind diese auf unterschiedliche Berufsgruppen zugeschnitten?
Wie werden Updates kommuniziert, und wer ist verantwortlich, wenn sich die regulatorische Einstufung des Systems ändert?
Gibt es einen definierten Ansprechpartner für Compliance-Fragen, nicht nur für technischen Support?
Wie verhält sich der Anbieter, wenn das System in einem MD-Prüfungsverfahren oder einer Klage als Beweismittel relevant wird?

Checkliste: Diese Antworten sollte jeder Anbieter liefern können

Vor der Kaufentscheidung sollte jeder KI-Anbieter folgende Punkte schriftlich beantworten können. Wer ausweicht oder vage bleibt, ist kein geeigneter Partner für den regulierten Krankenhausbetrieb.

Risikoeinstufung: Schriftliche Einordnung nach EU AI Act (minimal, begrenzt, Hochrisiko, unzulässig)
Konformitätsnachweise: CE-Kennzeichnung, technische Dokumentation, Konformitätserklärung (bei Hochrisiko)
Datenschutz: Verarbeitungsort, Auftragsverarbeitungsvertrag, Datenschutz-Folgenabschätzung
Transparenz: Nachvollziehbare Erklärung der KI-Ergebnisse für Fachkräfte
Schulungsunterlagen: Rollenspezifisch, dokumentationsfähig, Art. 4-konform
Protokollierung: Automatische Logs und Überwachungsmechanismen im Betrieb
Zweckbindung: Klare vertragliche Definition des Einsatzzwecks
Vorfallmanagement: Definierter Prozess für Fehler, Sicherheitsvorfälle und Behördenmeldungen

Wer ein Webinar zur KI-Compliance besucht hat, kennt diese Fragen bereits. Für alle anderen gilt: Stellen Sie sie, bevor der Vertrag unterschrieben ist.

Wie Medcontroller bei der KI-Compliance im Krankenhaus unterstützt

Medcontroller begleitet Krankenhäuser dabei, den KI-Einsatz rechtssicher zu strukturieren, bevor Bußgelder und Aufsichtsbehörden das Thema erzwingen. Das Angebot ist konkret und praxisorientiert:

KI-Beauftragter als externe Dienstleistung: Fest umrissenes Leistungspaket zu einem Pauschalpreis, für Häuser ohne eigene Kapazitäten
E-Learning-Module nach Art. 4 KI-VO: Aufgabenbezogen, dokumentationsfähig, mit Prüfung und Zertifikat, auch für große Belegschaften skalierbar
Inhouse-Schulungen: Maßgeschneidert für Medizincontrolling, Kodierung, Führungsebene oder spezifische Berufsgruppen
Online-Seminar KI im Krankenhaus: 4,5 Stunden Live-Online mit Zertifikat, mit Frühbucherrabatt bei Anmeldung vor dem 15. Juli 2026

Wer jetzt handelt, vermeidet den Aufholstress nach August 2026. Melden Sie sich direkt zum Online-Seminar KI im Krankenhaus an oder nehmen Sie Kontakt auf, um die Funktion des KI-Beauftragten für Ihr Haus zu besprechen.