© Hirsch Prof. Martin Hirsch ist Leiter des Instituts für Künstliche Intelligenz in der Medizin an der Philipps-Universität Marburg und Mitgründer der Ada Health GmbH in 2011.
Heute sind vor allem Systeme wie ChatGPT in der Öffentlichkeit angekommen, die Texte schreiben und Dinge zusammenfassen oder Bilder erstellen. Sie liefern jetzt schon plausible Ergebnisse, deren (vermeintlich) hohes Niveau uns mitunter in Erstaunen versetzt. Das ist die eine menschliche Dimension.
Dann gibt es die technologische Dimension, die sich damit befasst: Wie baut man solche Maschinen, die selbst lernen und Lösungen anbieten? Ein typisches Beispiel in der Medizin ist das Erkennen eines Melanoms. Hier wurden Systeme entwickelt, die schon recht gut entscheiden können: Das ist ein Melanom, das ist keines. Sie liefern bisher aber nicht die Information, woran sie die Diagnose festmachen.
Was meinen Sie mit “vermeintlich hohem Niveau”?
Die Anwender wissen nicht, ob eine Antwort von ChatGPT wirklich stimmt – zumindest als Laie. Die Systeme wie etwa ChatGPT, die der breiten Öffentlichkeit zur Verfügung stehen, sind so konzipiert, dass sie eine Antwort erfinden, wenn sie diese nicht kennen. Bis jetzt gibt es keine KI, die so etwas wie Verständnis hat.
Für Menschen wirken die Antworten jedoch so, als hätte die KI die jeweilige Frage verstanden. Ein Beispiel: Wenn Sie mich fragen, wie viele Zellschichten hat der Cortex der Maus, müsste ich antworten: “Das weiß ich nicht.” Ich weiß aber genug von Säugetieren und vom menschlichen Cortex, dass ich vermuten würde, es könnten bei der Maus sechs Schichten sein. Eine Maschine würde keine Vermutung aussprechen und irgendetwas antworten. Ich denke aber schon, dass es Maschinen mit Verständnis in einigen Jahren geben wird.
Gerade herrscht eher Technik- Frust: Viele Ärztinnen und Ärzte machen schlechte Erfahrungen mit TI-Anwendungen. Jetzt auch noch KI… Wie nehmen Sie das wahr?
Ich verstehe es, wenn Hausärztinnen und Hausärzte bei KI abwinken. Die Digitalisierung in Deutschland ist ein Desaster. Das ist alles gut gemeint und die TI ist von der Grundstruktur auch nicht schlecht. Aber wir Deutschen neigen zur Überregulierung und dann wird es entsetzlich kompliziert. Ich glaube aber auch nicht, dass die KI über ein Programm – wie etwa Word oder Apps – in die Praxis kommt.
Wie kommt KI in die Praxis?
Viele Medizingerätehersteller verbauen KI in ihren Geräten. So wird zum Beispiel die KI-gestützte Auskultation der Lunge in Medizintechnik eingebaut. Wenn Rezepte verschrieben werden, informiert die KI zum Beispiel, dass dieses oder jenes Medikament in der Altersgruppe bei dieser oder jener Erkrankung Risiken birgt. Ich glaube, dass Hausärztinnen und Hausärzte auf diese Weise der KI begegnen werden.
Neues Positionspapier: KI in der Hausarztpraxis
Künstliche Intelligenz (KI)-Technologien eröffnen auch in der hausärztlichen Versorgung viele Möglichkeiten zur Verbesserung der Patientenversorgung und Praxisorganisation. Gleichzeitig birgt ihr Einsatz aber auch Risiken.
Mögliche Anwendungsbereiche sowie notwendige Rahmenbedingungen zum Einsatz von KI in den Praxen, hat die AG Digitales im Hausärztinnen- und Hausärzteverband im neuen Positionspapier “KI in der Hausarztpraxis” zusammengefasst.
Zu den Chancen des Einsatzes von KI zählen die Unterstützung bei der Diagnostik und Therapieplanung, die Entlastung von administrativen Aufgaben und eine bessere Interaktion mit Patienten (S. 22). Komplexere und seltene Krankheitsbilder könnten dank KI-Unterstützung evtl. schneller erkannt werden.
Denn oft fehlen hier die Erfahrungswerte. Bei der Unterstützung der Interaktion mit Patienten nennt Dr. Kristina Spöhrer, Sprecherin der AG Digitales im Hausärztinnen- und Hausärzteverband, den Bereich Sprachübersetzung oder Übersetzung komplexer medizinischer Sachverhalte in eine einfache Sprache.
Spöhrer: “Hier kann KI gerade in Praxen, in denen ein hoher Anteil von Personen nichtdeutscher Muttersprache versorgt wird, einen enormen Beitrag zur Arzt-Patienten-Kommunikation leisten.” Auch bei Routineaufgaben, wie das Sortieren von Befunden oder die Transkription von Arzt-Patientengesprächen kann die KI für Entlastung sorgen.
KI-Gestützte Ablagesystem können auch helfen, Patientenakten effizienter zu verwalten und relevante Informationen schnell auffindbar zu machen.
Damit der KI-Gebrauch sicher und effizient von statten geht, hat der Verband auch wichtige Anforderungen formuliert. Oberste Priorität hat beispielsweise der Schutz sensibler Patientendaten. Deshalb müssen KI-Systeme die strengen Datenschutzrichtlinien erfüllen. Auch muss klar und nachvollziehbar sein, an welchen Stellen KI zum Einsatz kommt. Ein weiterer Punkt, der Klärung bedarf, ist die Frage der Haftung bei Fehlern oder Fehlbehandlungen bei KI-gestützten Entscheidungen. Ganz wichtig aus Sicht des Hausärztinnen- und Hausärzteverbandes ist auch, dass PVS-Hersteller marktoffene Schnittstellen für die Einbindung von KI-Tools in der hausärztlichen Versorgung schaffen. Die Entwicklung und Implementierung von KI-Anwendungen sollten dabei in enger Abstimmung mit Hausärztinnen und Hausärzten erfolgen.
. “Wir kennen es mittlerweile aus zu vielen Digitalprozessen: Wenn unsere Praxissoftware nicht mitmacht, können noch so viele sinnvolle Digitalanwendungen auf den Markt kommen – in die Praxis schaffen sie es dann trotzdem nicht! Hier müssen die PVS-Hersteller endlich einen new turn einlegen und die Hürden für eine sichere und einfache Integration von IT-Tools in unsere Praxen abbauen,” betont Prof. Nicola Buhlinger-Göpfarth, Co-Bundesvorsitzende Hausärztinnen- und Hausärzteverband.
“KI hat das Potenzial, uns Hausärztinnen und Hausärzte wie auch unsere Praxisteams – gerade auch angesichts des enormen Versorgungsdrucks – deutlich zu entlasten und zu unterstützen. Klar ist aber auch: Auf die richtigen Rahmenbedingungen kommt es an. Unabdingbar sind neben einem klaren regulativen Rahmen eine effiziente und sichere Integration in unseren Praxisablauf. Hier sind die politischen Entscheider, aber insbesondere auch die PVS-Hersteller gefragt!”, erklären die beiden Bundesvorsitzenden Buhlinger-Göpfarth und Dr. Markus Beier.
Link-Tipp: Das Positionspapier “Künstliche Intelligenz (KI) in der Hausarztpraxis” finden Sie unter: www.hausarzt.link/ZDUzz
Können Ärztinnen und Ärzte dieser Technik vertrauen?
Ich glaube nicht, dass sie sich große Sorgen machen müssen. Es gibt immer noch das Medizinproduktegesetz. Sei es auf Therapie- oder Diagnoseseite, Produkte müssen immer auch die Gesetzesanforderungen erfüllen. Wenn Menschen in die Praxis kommen, kann die Ärztin oder der Arzt immer sagen: “Ich nutze KI, ist das in Ordnung für Sie?”
Denkbar ist etwa, dass mit einer KI das Gespräch aufgezeichnet und anschließend ein Protokoll erstellt wird, das automatisch der Dokumentation dient (siehe Artikel “KI-Tools für Praxen “). So können Ärzte immens Zeit gewinnen. Oder aber der Patient kommt aus dem Wartezimmer zum Arzt und eine Vor-Anamnese liegt bereits über eine App vor.
Hier hat sich zum Beispiel Ada bewährt . In den USA wurden bereits über 50 Millionen Menschen mit Ada ins System eingesteuert. In Deutschland sehen hingegen viele solche Tools noch kritisch.
Eine KI-Kabine, die in der Notaufnahme in Marburg erprobt wird, haben Sie bei der Ausstellung “DGIM Futur” auf dem Deutschen Internistenkongress vorgestellt. Dort werden Menschen von einer KI befragt. Könnte das künftig für Hausarztpraxen interessant sein?
Wir haben auf der Bundesgartenschau in Mannheim mal eine ähnliche KI-Kabine, die wie eine gelbe Telefonzelle aussah, aufgestellt. Die Menschen konnten sich mit einem “KI-Doktor” über Gesundheitsthemen unterhalten. Wir haben über 8.000 Gespräche aufgezeichnet und ausgewertet.
Viele haben gesagt: Ich würde lieber zu einem echten Arzt gehen, aber die Wartezeit auf einen Termin ist zu lang. Der Ärztemangel und der Zeitdruck, dem Hausärztinnen und Hausärzte heute ausgesetzt sind, wird den Einsatz von KI-Techniken zwingend nötig machen – vor allem auf dem Land. In welcher Form muss sich noch zeigen.
Wird es also den Leibarzt auf dem Smartphone geben?
Ja, davon bin ich überzeugt. Aber das wird noch dauern. In naher Zukunft werden Menschen aber immer häufiger ihre eigene Gesundheit überwachen. Schon jetzt tragen viele eine Watch, die Blutdruck, Puls etc. kontrolliert.
Wird KI langfristig Ärztinnen und Ärzte ersetzen können?
Nein. Aber Ärztinnen und Ärzte werden sich wieder mehr auf menschliche Fähigkeiten konzentrieren müssen wie gutes Zuhören und Zuwendung. Als Kind kann ich mich erinnern – wenn ich krank war, kam der großgewachsene Mann mit der tiefen Stimme und der großen Tasche in der Hand.
Sobald er zur Tür hereinkam, wusste ich: Ich werde wieder gesund. Dazu haben heute die Hausärztinnen und Hausärzte immer seltener Zeit. Die KI wird entlasten und Zeit für ärztliche Zuwendung schaffen. Zwischenmenschliches kann nur zwischen Menschen stattfinden, nie zwischen Mensch und KI.
Das klingt so, als könnte das auch ein Pfarrer übernehmen…
Nein, medizinischer Sachverstand wird weiter nötig sein. Nur hat heute schon die Technisierung in der Medizin die Oberhand gewonnen. Ausführliche Anamnesen und körperliche Untersuchungen finden kaum statt – auch weil schlicht die Zeit in den Praxen fehlt.
Die Vorstellung, dass eine Technologie in die menschliche Domäne eindringt, wirft Fragen auf. Zum Beispiel: Wer wird mein primärer Ansprechpartner sein, wenn es um die Gesundheit geht? Ich bin mir sicher, dass das in Zukunft eine Kombination aus einer einfach verfügbaren, persönlichen KI und einer schwerer ereichbaren Hausarztpraxis sein wird.
Sehen Sie Risiken beim Einsatz von KI?
Im Moment beunruhigt mich, dass der Einsatz und die Weiterentwicklung von KI von Unternehmen ausgeht und nicht von der Akademie. Das bedeutet, dass die Algorithmen, mit denen Ärztinnen und Ärzte arbeiten, aus der Privatwirtschaft stammen.
Das ist nicht grundsätzlich schlecht, aber mir wäre wohler, wenn die Entwickler von KI und Clinical-Decision-Support Systemen sich einem ethischen Kodex wie dem Hippokratischen Eid in der ärztlichen Berufsordnung unterwerfen würden. Schließlich greifen sie mit ihren Systemen in die Gedankenwege der Ärzteschaft ein.
Ich frage mich: Wieso sollen Ärzte die Grundlagen der KI lernen? Wieso verlangen wir nicht von Informatikern, dass diese die Grundlagen der Medizin lernen? Ich bin aber optimistisch, dass wir da weiterkommen.
Immer mehr Menschen kommen jetzt schon mit Diagnosen von Dr. Google. Daskann nerven. Wird das mit KI nicht noch schlimmer?
Von ChatGPT werden Patientinnen und Patienten keine Antworten bekommen. Mit der allgemeinen rechtlichen Absicherung wurde das System zurechtgestutzt – medizinische Themen wurden hochgradig reduziert. Deshalb glaube ich nicht, dass das ein Problem ist. Wahrscheinlich wird es Systeme speziell für Medizinpersonal geben.
Auch Hausärztinnen und -ärzte werden künftig nicht mehr ohne KI arbeiten wollen. Schon allein, weil sie Entlastung brauchen.
Wo sehen Sie in naher Zukunft Einsatzgebiete der KI?
Die Unterstützung bei der Diagnose halte ich für wichtig. Mir fallen hier Drehtürpatienten ein. Diese kommen in die Praxis, ihnen wird vielleicht ein neues Medikament gegeben, nach drei Wochen werden sie wieder vorstellig.
Mitunter dauert es fünf bis sieben Jahre, bis ein Mensch mit einer seltenen Erkrankung eine Diagnose erhält. Hier würde die KI, die die Symptome auswerten kann, helfen. Dazu braucht es aber auch Abrechnungsziffern, damit der Einsatz von KI vergütet wird.
Einen großen Effekt wird KI auf das Monitoring von chronisch Kranken haben. Sie können gut telemedizinisch überwacht werden. Läuft etwas aus dem Ruder, wird die betreuende Ärztin oder der Arzt gewarnt und kann reagieren. Gerade für die medizinische Versorgung auf dem Land werden solche Systeme künftig an Bedeutung gewinnen.
