KI in der Sprechstunde

Was heute schon im Einsatz ist

KI-Werkzeuge in der Sprechstunde dürfen nur mit datenschutzkonformer Grundlage für Gesundheitsdaten nach Art. 9 DSGVO und einer Verschwiegenheitsverpflichtung externer Dienstleister nach § 203 StGB eingesetzt werden. KI-Entwürfe gehören erst nach Prüfung durch einen Menschen in die Patientenakte nach § 630f BGB; die Verantwortung für Diagnose und Therapie bleibt nach der Stellungnahme der Bundesärztekammer bei der Ärztin oder dem Arzt, und KI mit medizinischer Zweckbestimmung braucht eine CE-Kennzeichnung nach der Medizinprodukteverordnung.

Die Bundesärztekammer beschreibt in ihrer Stellungnahme „Künstliche Intelligenz in der Medizin“ vom 14. Januar 2025 mehrere Einsatzfelder, die direkt die Sprechstunde betreffen. Sprachbasierte Dokumentation, die Befunde parallel zum Gespräch protokolliert und dort als Ambient Listening bezeichnet wird, kann nachweislich Zeit sparen; sprachgesteuerte Dokumentationsassistenten sind in Kliniken bereits im Einsatz. Große Sprachmodelle können Entlassbriefe entwerfen und bei Kodierung und Abrechnung unterstützen.

Für die Organisation nennt die Stellungnahme Chatbots, die Terminanfragen oder Erinnerungen bearbeiten, und Chatbots zur Aufklärung, die Patientinnen und Patienten vor einem geplanten Eingriff am Tablet Fragen beantworten. Offene Punkte klärt anschließend das ärztliche Aufklärungsgespräch. Gleichzeitig warnt die Bundesärztekammer: Frei verfügbare Chatbots bieten keine datenschutzkonforme Umgebung und sind für Patientendaten und Dokumentation nicht geeignet.

Medizinprodukt oder Bürosoftware

Ob ein KI-System ein Medizinprodukt ist, entscheidet seine vom Hersteller festgelegte Zweckbestimmung. Software, die Informationen für diagnostische oder therapeutische Entscheidungen liefert, fällt nach Regel 11 der Medizinprodukteverordnung (EU) 2017/745 mindestens in die Klasse IIa. Ein Werkzeug, das nur ein Gespräch verschriftlicht oder einen Brief vorformuliert, kann dagegen außerhalb des Medizinprodukterechts liegen. Sobald es Diagnosen vorschlägt oder Befunde bewertet, ändert sich das.

KI-Systeme, die Medizinprodukte sind, dürfen nach der Stellungnahme der Bundesärztekammer gemäß Art. 5 Abs. 1 MDR nur mit CE-Kennzeichnung verwendet werden. Ärztinnen und Ärzte, die sie betreiben oder anwenden, unterliegen dabei den §§ 3 und 4 der Medizinprodukte-Betreiberverordnung, zu denen etwa die Einweisung vor der Anwendung gehört. Wie das in der Klinik organisiert ist, erklärt der Beitrag zur Medizinprodukte-Betreiberverordnung.

Was die KI-Verordnung verlangt

Die KI-Verordnung (EU) 2024/1689 stuft KI-Systeme als hochriskant ein, wenn sie selbst ein Medizinprodukt sind oder als Sicherheitsbauteil darin stecken und eine Benannte Stelle prüfen muss. Nach der Änderung durch die Verordnung (EU) 2026/1744 gelten die Pflichten für diese Systeme ab dem 2. August 2028. Reine Dokumentations- und Terminsoftware ohne medizinische Zweckbestimmung fällt in der Regel nicht darunter.

Unabhängig von der Risikoklasse gilt schon seit 2. Februar 2025 Art. 4: Einrichtungen, die KI einsetzen, müssen die KI-Kompetenz ihres Personals fördern. Wie das in der Praxis aussieht, steht im Beitrag zur KI-Kompetenz-Pflicht. Für Chatbots, die direkt mit Patientinnen und Patienten sprechen, sieht Art. 50 Transparenzpflichten vor: Menschen sollen erkennen können, dass sie mit einer KI kommunizieren.

Datenschutz und Schweigepflicht

Gesundheitsdaten gehören nach Art. 9 Datenschutz-Grundverordnung zu den besonderen Kategorien personenbezogener Daten. Ihre Verarbeitung ist für Zwecke der Gesundheitsversorgung erlaubt, wenn sie durch Fachpersonal erfolgt, das einem Berufsgeheimnis unterliegt. Läuft ein KI-Werkzeug bei einem externen Anbieter, braucht es einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO.

Hinzu kommt das Strafrecht. Nach § 203 Abs. 3 StGB dürfen Berufsgeheimnisträger fremde Geheimnisse gegenüber Personen offenbaren, die an ihrer Tätigkeit mitwirken, soweit das für deren Tätigkeit erforderlich ist, etwa einem IT-Dienstleister. Sie müssen aber dafür sorgen, dass diese Personen zur Geheimhaltung verpflichtet werden. Ein privat genutzter Chatbot ohne solche Vereinbarungen ist für Patientendaten tabu. Mehr zur Schweigepflicht im Alltag steht im Beitrag zu § 203 StGB für Beschäftigte.

Will eine Klinik die eigenen Versorgungsdaten nutzen, um die Qualität eines Systems zu prüfen, hilft § 6 Gesundheitsdatennutzungsgesetz. Gesundheitseinrichtungen dürfen ihre Versorgungsdaten danach für Qualitätssicherung, Patientensicherheit, Forschung und Statistik weiterverarbeiten, allerdings pseudonymisiert, mit einem Rechte- und Rollenkonzept und grundsätzlich ohne Weitergabe an Dritte.

Dokumentation und Haftung

Die Patientenakte muss nach § 630f BGB in unmittelbarem zeitlichen Zusammenhang mit der Behandlung geführt werden, und Änderungen müssen den ursprünglichen Inhalt erkennbar lassen. Ein KI-Protokoll ist deshalb ein Entwurf, bis eine Ärztin, ein Arzt oder eine befugte Fachkraft es gelesen, korrigiert und freigegeben hat. Fehler, die ein System überträgt, etwa eine verwechselte Seitenangabe oder eine erfundene Dosis, werden sonst zum Fehler in der Akte.

Die Bundesärztekammer stellt klar, dass die Verantwortung für Diagnostik, Indikation und Therapie ärztliche Aufgabe bleibt und nicht auf ein KI-System übertragen werden kann. Vorschläge sind auf Plausibilität zu prüfen, und vor dem Einsatz müssen sich Ärztinnen und Ärzte mit Funktionsweise und rechtlichem Rahmen des Systems vertraut machen. Bei Verfahren, die noch nicht dem medizinischen Standard entsprechen, gehört das in die Nutzen-Risiko-Abwägung und in die Aufklärung der Patientinnen und Patienten. Haftungsrisiken entstehen laut Stellungnahme etwa bei nicht zertifizierten Medizinprodukten, bei Fehlern in Inbetriebnahme und Anwendung oder wenn Nutzen und Risiken vor dem Einsatz nicht gründlich abgewogen wurden.

Was sich für MFA, Ärztinnen und Pflege ändert

Für Medizinische Fachangestellte verschiebt sich Arbeit vom Tippen zum Prüfen: Terminanfragen, die ein System vorsortiert, Briefe, die ein Werkzeug vorformuliert, und Rückfragen von Patientinnen und Patienten, wie ihre Daten verarbeitet werden. Für Ärztinnen und Ärzte bleibt die Freigabe der Dokumentation eine Kernaufgabe, auch wenn sie schneller geht. In der Pflege gelten für Dokumentationshilfen dieselben Regeln aus Datenschutz, Schweigepflicht und Aktenführung.

Neue Stellen entstehen dort, wo Systeme eingeführt, geprüft und betreut werden: in der medizinischen Dokumentation, der Kodierung und der Medizininformatik. Führt der Arbeitgeber ein System ein, das Verhalten oder Leistung der Beschäftigten überwachen kann, hat ein bestehender Betriebsrat nach § 87 Abs. 1 Nr. 6 Betriebsverfassungsgesetz mitzubestimmen. Welche digitalen Rollen es gibt, beschreibt der Beitrag zu neuen Berufen durch Digitalisierung.