Mehr und mehr Ärztinnen und Ärzte nutzen Anwendungen in ihrem beruflichen Alltag, die auf Künstlicher Intelligenz (KI) basieren. Die smarten Tools können Zeit einsparen und die Versorgung verbessern. Doch es gibt auch einige Herausforderungen, die es zu lösen gilt.

Foto: Westend61/Uwe Umstätter

Sowohl im Krankenhaus als auch in der Praxis führen demografischer Wandel und Fachkräftemangel zu höherem Versorgungsbedarf bei schrumpfender Personaldecke. Das gilt für Ärztinnen und Ärzte genauso wie für Medizinische Fachangestellte (MFA) und Pflegefachkräfte. Dabei deuten alle Prognosen auf eine Verschärfung der Lage in den kommenden Jahren hin. Umso wichtiger wird in der Zukunft eine Steigerung der Effizienz – etwa durch Künstliche Intelligenz (KI). „Das Dilemma liegt in einem leer gefegten MFA-Arbeitsmarkt bei gleichzeitig steigenden bürokratischen Anforderungen und Kostensteigerungen, ohne dass sich die Vergütungen entsprechend anpassen“, erklärt der Orthopäde Dr. med. Tom R. Jansen aus Köln. 2025 würden diese Anforderungen mit der Befüllungspflicht bei der elektronischen Patientenakte (ePA) noch wachsen.

Statt auf fertige Lösungen zu warten, wurde Jansen selbst tätig. Er tat sich mit seinem Kollegen Dr. med. Gerd Rauch aus Kassel zusammen und fand zwei Informatiker, um eine Sprechstunden-KI zu entwickeln, die eine effiziente Lösung für diese Herausforderungen bieten soll. „Eine moderne Sprechstunden-KI kann administrative Aufgaben übernehmen und Fehler in der Dokumentation und Abrechnung minimieren“, erklärt Rauch. Neben der Software bräuchten die Praxen zu dessen Anwendung lediglich ein Raummikrofon und einen VPN-Zugang, betont er.

Nach Zustimmung des Patienten zeichne das Mikrofon das Arzt-Patienten-Gespräch auf und extrahiere relevante medizinische Informationen, um eine vollständige Sprechstundendokumentation zu erstellen, inklusive Anamnese, Untersuchungsbefund, Therapie und ICD-10-Codierung. So könne in nur wenigen Minuten ein fertiger Arztbrief erstellt werden, der nach der Freigabe durch den Arzt sofort dem zuweisenden Hausarzt, Facharzt und dem Patienten zur Verfügung gestellt werden kann. Zudem schlage die KI automatisch passende Abrechnungsziffern vor. Schnittstellen zu Praxisverwaltungs- und Krankenhausinformationssystemen (PVS und KIS) ermöglichten ein fließendes Ineinandergreifen der Prozesse. Die Daten blieben dabei stets auf deutschen Servern. Mittlerweile haben Jansen und Rauch zum Vertrieb der Software ein eigenes Unternehmen gegründet.

Auch wer sich nicht die Mühe macht, eine eigene Software aufzusetzen, wird – bewusst oder unbewusst – in den kommenden Jahren immer häufiger auf KI zurückgreifen.

80

Prozent der Ärztinnen und Ärzte wünschen sich laut einer Umfrage des Vereins Gesundheitsstadt Berlin und des Softwareanbieters Doctolib mehr Aufklärung und Fortbildung zu KI.

Noch nicht flächendeckend im Einsatz

Denn KI wird bereits in vielen Anwendungen in der Versorgung genutzt. Oft sind es Leuchtturmprojekte in einzelnen Kliniken oder Forschungsvorhaben, die den Alltag von Medizinerinnen und Medizinern erleichtern. Eine flächendeckende Nutzung von KI-Arztbriefen oder KI-Symptomcheckern (siehe Beispiele) ist noch nicht üblich. Häufig werden Anwendungen bereits eingesetzt, ohne dass die KI-Komponente für die Nutzerinnen und Nutzer offensichtlich ist. So sind in einigen Arztpraxen digitale Telefonassistenten implementiert, die Patientenanrufe mithilfe von KI managen. Aber auch Übersetzungsapps wie etwa Deep-L basieren auf KI und können Ärztinnen und Ärzten bei Sprachbarrieren mit Patientinnen und Patienten helfen.

Obwohl dieser Bereich in der Zukunft zweifelsohne wichtiger wird, sind entsprechende Anwendungsfälle in der Ausbildung oftmals noch nicht Thema (siehe Blickwinkel DÄ 26/24). Nicht nur in der Ausbildung, sondern auch in der Weiterbildung sollten KI-gestützte Anwendungen und neue Technologien stärker genutzt werden. Das betonte Pauline Graichen, ehemalige Vorsitzende des Sprecherrats der Medizinstudierenden im Marburger Bund (MB), Mitte November beim Deutschen Krankenhaustag in Düsseldorf. Sogenannte Skill-Labs werden für die Weiterbildung immer wichtiger. Etwa in der Chirurgie kommen sie mithilfe von Augmented Reality bereits zum Einsatz. Das Konzept sei sinnvoll, schwierig sei aber die Finanzierung, so der Präsident der Ärztekammer Westfalen-Lippe, Dr. med. Johannes Albert Gehle. Die Technik koste „mehrere Tausend Euro“. Er forderte eine Gegenfinanzierung, damit diese Systeme nicht nur in der Weiterbildung, sondern auch in der Fortbildung stärker eingesetzt werden könnten. Damit könnten moderne Funktionen und Hochtechnologie auch Ärztinnen und Ärzten nähergebracht werden, die ihre Ausbildung etwa bereits vor längerer Zeit absolviert haben.

Gesundheit demokratisieren

Ein Beispiel, wie KI zu besserer Gesundheit für alle beisteuern kann, ist das bis jetzt lediglich angedachte Projekt der KI-Sherpas. Das berichtete Prof. Dr. Aldo Faisal, KI-Forscher und Professor für KI und Neurowissenschaften am Imperial College London, kürzlich im Gespräch mit dem Deutschen Ärzteblatt. Dieses funktioniere so, als ob jemand einen hochkompetenten Arzt an seiner Seite habe, der einen durch das Gesundheitssystem steuere. „Das möchte ich demokratisieren und als KI-Dienstleistung jedem Bürger zur Verfügung stellen“, so Faisal. Das System könnte etwa dabei helfen, schneller die korrekte Diagnose zu erhalten, indem Patientinnen und Patienten effektiv an die richtige Stelle beziehungsweise zum richtigen Facharzt gelotst werden. Eine entsprechend entwickelte App könnte mithilfe medizinischer Leitlinien und der Patientendaten den richtigen „Kurs“ für den Patienten aufzeigen, so die Idee Faisals. Ein solches System in Grundzügen gibt es bereits mit dem Patientenservice der 116 117. Dort können Patientinnen und Patienten ihre Symptome und Beschwerden eingeben und einen Termin an der richtigen Stelle erhalten.

Ärztinnen und Ärzte sehen zwar das Potenzial von KI, fürchten aber auch negative Konsequenzen. In einer kürzlich veröffentlichten Umfrage des Vereins Gesundheitsstadt Berlin und des Softwareanbieters Doctolib gaben zwar fast zwei Drittel der befragten Ärztinnen und Ärzte an, dass sie KI als unverzichtbar zur Verbesserung der Qualität der Patientenversorgung und zur Entlastung der Praxen sehen. 80 Prozent erklärten jedoch, mehr Aufklärung und Fortbildung zu benötigen, um sicher mit KI umgehen zu können.

Neben der sicheren Verwendung besteht zudem vielerorts die Sorge, dass KI zu einer Entmenschlichung des Arzt-Patienten-Verhältnisses führen könnte. Das betonte Kammerpräsident Gehle Anfang September auf dem Westfälischen Ärztetag. So dürfe KI zum Beispiel nicht in die gemeinsame Entscheidungsfindung von Arzt und Patient eingreifen. Wichtig seien außerdem die Fragen nach den Datengrundlagen, mittels derer eine KI trainiert wird, sowie ein verbindlicher Rechtsrahmen.

Vertrauen wird wichtiger

Auch der Berliner Kammerpräsident Dr. med. Peter Bobbert mahnt seine Kolleginnen und Kollegen, den entsprechenden Wandel der Arzt-Patienten-Beziehung aktiv zu gestalten. „Für mich ist es keine Frage, ob KI Ärzte ersetzen wird, denn das passiert ja jetzt schon“, sagte er bei der Vorstellung der Umfrage. So sei etwa bei Apps in der Dermatologie bereits zu erkennen, dass sich Patienten immer häufiger ausschließlich auf deren Diagnosen verlassen und sich immer seltener ein Termin bei einem Facharzt anschließt. Dabei würden Ärzte nicht überflüssig, sondern diejenigen, die effizient und sicher mit KI umgehen könnten, würden jene verdrängen, die das nicht beherrschten.

Wissen sei nicht mehr Alleinstellungsmerkmal von Ärztinnen und Ärzten, so Bobbert. Denn KI könne etwa Diagnostik in manchen Gebieten bereits mit geringerer Fehlerquote durchführen als ein menschlicher Arzt. Ärztliche Kernkompetenz könnte deshalb künftig Vertrauen sein, so Bobbert. Grundlage des Vertrauens von Patienten zu Ärzten ist dabei aber, dass wiederum die Ärzte den Anwendungen vertrauen können, mit denen sie arbeiten. Prinzipiell unterscheidet sich KI dahingehend nicht von anderen technischen Gerätschaften, die Ärzte zwar nutzen, deren genaue Funktionsweise sie aber nur in Ansätzen verstehen. Jeder Radiologe kennt die grundlegende Funktionsweise eines Röntgengeräts. Für die Reparatur benötigt er allerdings Experten. Damit dieses grundlegende Vertrauen in die Technik bestehen kann, ist eine konsequente Regulierung die Voraussetzung.

Rechtslage sieht Einstufungen vor

So forderte auch der Deutsche Ärztetag 2024 einen möglichst global verbindlichen Rechtsrahmen, der einen vertrauenswürdigen Umgang mit KI in allen Lebensbereichen ermöglicht. Eine gute Grundlage dafür sei die KI-Verordnung der Europäischen Union (EU), die konsequent in nationales Recht umgesetzt werden müsse. Für medizinische KI-Anwendungen sind in Deutschland vor allem zwei europäische Gesetzestexte relevant: die Medizinprodukteverordnung (MDR) und besagte KI-Verordnung. Die MDR befasst sich zwar nicht explizit mit dem Thema KI, jedoch müssen KI-Anwendungen die gleichen regulatorischen Anforderungen erfüllen wie andere Medizinprodukte, also sich qualifizieren und klassifizieren lassen sowie unter anderem Nutzen, Leistungsfähigkeit und vor allem Sicherheit nachweisen.

Mit seiner im Mai 2024 verabschiedeten KI-Verordnung, meist EU AI Act genannt, hat der Staatenverbund wiederum Pionierarbeit geleistet: Es ist das weltweit erste umfassende Regelungswerk zum Einsatz von KI. Davon betroffen sind alle Akteure, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Die Anwendungen werden in Risikoklassen eingestuft, wobei ein Großteil medizinischer KI unter die Kategorie Hochrisiko-KI-Systeme fällt, die ein hohes Risiko für Gesundheit und Sicherheit oder für die Grundrechte natürlicher Personen darstellen. Diese werden in zwei Unterkategorien aufgeteilt. Zu Ersteren gehören KI-Systeme, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen. Das sind häufig medizinische Geräte, aber auch Fahrzeuge und Aufzüge.

Die zweite Kategorie bilden KI-Systeme, die in spezifische Bereiche fallen, und die in einer EU-Datenbank registriert werden müssen. Zu ihnen gehören unter anderem die Verwaltung und der Betrieb von kritischen Infrastrukturen, also auch von Gesundheitseinrichtungen. Alle KI-Systeme mit hohem Risiko sollen nach Angaben des Europäischen Parlaments vor dem Inverkehrbringen und während ihres gesamten Lebenszyklus bewertet werden.

Nicht im engeren Sinne um medizinische KI handelt es sich bei den Large Language Models (LLM, siehe Glossar), die beispielsweise in vielen Praxen bereits zum Einsatz kommen. Sie werden nicht als risikoreich eingestuft, müssen aber Transparenzanforderungen und das EU-Urheberrecht erfüllen. Durch transparente Kennzeichnung sollen Verbraucher leichter erkennen können, bei welchen Programmen KI verwendet wird. Anwendungen, die gegen gängige Werte in der EU verstoßen, sind ganz verboten. Dazu gehören nicht nur Praktiken wie die Gesichtserkennung im öffentlichen Raum oder Social Scoring, wie es in der Volksrepublik China praktiziert wird, sondern potenziell auch ethisch nicht vertretbare Anwendungen in der Medizin. Der EU AI Act ist seit August in Kraft, muss aber in den folgenden zwei Jahren von den Mitgliedstaaten umgesetzt werden. Welche konkrete Bedeutung er für die Anwendung von KI in der Versorgung haben wird, muss sich noch zeigen. Bisher ist das nur aus dem Gesetzestext ableitbar – es gibt noch keine Gerichtsurteile in dem Bereich. ■

Künstliche Intelligenz

Foto: peshkova/stock.adobe.com

Alle Artikel des Deutschen Ärzteblatts zum Thema Künstliche Intelligenz:

https://daebl.de/YV76

KI-Arztbrief

Abbildungen: SON OF MY FATHER/stock.adobe.com

Arztbriefe gehören zum medizinischen Alltag dazu, oft kostet die Erstellung aber viel Zeit. Künftig könnte Künstliche Intelligenz (KI) Ärztinnen und Ärzten beim Schreiben unterstützen. In der Augenklinik des Universitätsklinikums Freiburg und am Universitätsklinikum Hamburg-Eppendorf (UKE) sind solche Programme bereits im Einsatz. „Unser System funktioniert so, dass wir anfangen, den Arztbrief zu schreiben und die KI Satz für Satz Folgesätze vorschlägt“, erklärt Prof. Dr. med. Daniel Böhringer, Oberarzt an der Klinik für Augenheilkunde in Freiburg. „Der Arzt kann den Satz annehmen oder weitertippen, bis ein neuer Satz vorgeschlagen wird.“ In Hamburg funktioniert das Prinzip anders. „Nach dem Ende der Behandlung können Ärztinnen und Ärzte innerhalb von Sekunden eine Epikrise generieren, die anhand aller verfügbaren digitalen Behandlungsinformationen erstellt wird“, erläutert Dr. med. Nils Schweingruber vom UKE. Diese werde in eine Arztbriefvorlage kopiert und sorgfältig überprüft und angepasst. Univ.-Prof. Dr. med. Felix Nensa vom Universitätsklinikum Essen zufolge könnten bereits in einem Jahr ein Großteil der Ärztinnen und Ärzte ihre Arztbriefe mit KI erstellen. „Das ist mittlerweile technologisch trivial“, sagte Nensa kürzlich in Berlin.

Erkrankungen voraussagen

KI kann durch die Erkennung bestimmter Muster Krankheiten vorhersagen. So haben britische Forscherinnen und Forscher 2023 im Rahmen der Cancer Loyalty Card Study (CLOCS) herausgefunden, dass Frauen, die an Eierstockkrebs erkrankten, in den acht Monaten vor der Diagnose mehr rezeptfreie Schmerz- und Verdauungsmittel kauften. Diese Daten wurden von Kundenkartendaten von zwei britischen Einzelhändlern verglichen. Dem Forscherteam zufolge kann die Überwachung solcher Käufe eine Chance für eine frühere Diagnose bieten. Ein weiteres Beispiel zeigt, dass KI durch die Auswertung der Patientenakte die Suizidalität betreffender Personen einschätzen kann. Das berichtete eine Arbeitsgruppe aus Dresden auf dem Jahreskongress der Deutschen Gesellschaft für Psychiatrie und Psychotherapie, Psychosomatik und Nervenheilkunde (DGPPN) Ende November in Berlin.

Chatbot in Niedersachsen

In Niedersachsen kann sich die Bevölkerung seit Oktober 2024 mithilfe des Chatbots Nova zu Gesundheitsthemen informieren. „Während der Pandemie hatten wir zahlreiche Anfragen aus der Bevölkerung und haben eine Telefonhotline mit großem Personalaufwand eingerichtet“, erklärte der Präsident des niedersächsischen Landesgesundheitsamtes (NLGA), Dr. med. Fabian Feil, dem Deutschen Ärzteblatt. „Um dieser Aufgabe ressourcenschonender gerecht werden zu können, haben wir überlegt, ob uns nicht eine KI helfen kann.“ Das NGLA kann steuern, welche Informationen der Chatbot wiedergibt. Der Chatbot soll Antworten auf alle Themen, die der öffentliche Gesundheitsdienst (ÖGD) behandelt, liefern. Dazu gehören etwa Informationen zu Infektionskrankheiten, aber auch zu Krisensituationen.

Intelligenteres Lehrbuch

Für Ärztinnen und Ärzte kann es sich anbieten, beispielsweise ChatGPT als „intelligenteres Lehrbuch“ zu nutzen. Viele machten das schon, sagte der Radiologe Univ.-Prof. Dr. med. Felix Nensa vom Universitätsklinikum Essen kürzlich in Berlin. Ein Chatbot könne zwar halluzinieren. „Aber wir sind ja nicht doof.“ Nensa verwies auch auf die Chance, große Sprachmodelle (LLM) als Unterstützung für Expertenteams zu nutzen, um die sprichwörtliche Nadel im Heuhaufen für einzelne Tumorpatienten zu finden, bei denen alle herkömmlichen Therapieoptionen ausgeschöpft sind. „Man kann nicht alle Case Reports, alle pharmakologischen Datenbanken, alle Signalwege im Kopf haben.“ Werkzeuge wie LLM hingegen könnten helfen, die Datenflut zu bewältigen und zwischen Tausenden von Case Reports vielleicht den einen Bericht aufzuspüren, der im individuellen Fall doch noch eine Option aufzeige. Entscheiden muss am Ende aber der Mensch.

KI-Service

Erste positive Erfahrungen mit einer KI-gestützten Dialogautomatisierung sammelte in den vergangenen zwei Jahren die Kassenärztliche Vereinigung Nordrhein (KVNO) im Rahmen ihres Mitgliederservice. Zwar erforderte die Implementierung eine intensive Lernphase für die Digitale Service-Assistentin „Katja“, dann wurde sie jedoch gut angenommen und vermittelt nun monatlich tausende von Anrufen. Der Vorteil: Mussten KVNO-Mitglieder zuvor teils umständliche Wege über die KV-Homepage und verschiedene Servicetelefone für spezifische Anfragen beschreiten, um Antworten auf ihre Fragen zu erhalten, brauchen sie nur noch eine zentrale Servicenummer wählen und die KI kümmert sich um die Anfrage.„Katja begrüßt jeden Anrufer, erkennt das Thema und versteht frei gesprochene Sätze“, so Dr. med. Frank Bergmann, Vorstandsvorsitzender der KV Nordrhein.

KI-Symptomchecker

Dr. Google hat inzwischen Konkurrenz: Patientinnen und Patienten können sich auf Symptomcheck-Websites und -Apps anhand ihrer Basisdaten und Symptome mögliche Diagnosen ansehen. Je nach Anbieter stellt die KI Rückfragen, etwa zur Krankheitsschwere, und beurteilt die Dringlichkeit. Auch wenn fast die Hälfte der Befragten einer Bitkom-Umfange einer KI in bestimmten Fällen eine bessere Diagnosestellung zutraut als einem Menschen, werden solche Apps von Laien noch selten genutzt. Für manche Fachleute scheint es nur eine Frage der Zeit zu sein, bis Arztpraxen selbst mehr auf KI-Ersteinschätzungen setzen. Zu den Befürchtungen zählen KI-Irrtümer und ärztliche Voreingenommenheit durch KI-Ergebnisse. Generell kann KI nur so gut sein wie die Daten, mit der sie trainiert wurde. Die Geschlechterdatenlücke in der Medizin zuungunsten von Frauen ist bekannt.