In welchem Bereich wird die KI die größten Veränderungen bewirken?
Prof. Michael Forsting, Radiologe und Chef der zentralen IT am Universitätsklinikum Essen: Momentan sprechen wir viel über KI im Zusammenhang mit der Radiologie, weil diese bereits digital ist. Die weitestgehenden Veränderungen werden aber nicht in den technischen Disziplinen stattfinden, sondern in der sprechenden Medizin. Denn während etwa Labor oder Radiologie heute schon weitgehend fehlerfrei sind, passieren in der sprechenden Medizin die meisten Fehler – deshalb liegt hier der größte Ansatzpunkt für die KI und auch die größte Umstellung für Ärzte und Patienten.
Welche Erfahrungen haben Sie bei der Umsetzung von KI im Praxisalltag gemacht?
Prof. Michael Forsting: Wir waren eine der ersten Kliniken mit vollständig digitaler Radiologie. Das gab zunächst sehr große Widerstände – viele meinten, das sei der größte Rückschritt in der Medizin und eine totale Katastrophe. Doch inzwischen laufen in meiner Abteilung mehrere KI-Applikationen im Hintergrund, die gut in den Arbeitsablauf integriert sind. Ich finde es wichtig, dass wir zuerst einen wissenschaftlichen Diskurs führen und sehen, wo uns KI wirklich hilft – abseits von allen Visionen. Diese Evaluation funktioniert in der Radiologie besonders gut, weil hier vieles bereits digitalisiert ist. Falls wir dann in eine neue ethische Dimension vorstoßen, können wir auch gerne eine ethische Diskussion darüber führen.
Welche Rahmenbedingungen sind beim Einsatz von KI erforderlich?
Miriam Schuh, Rechtsanwältin bei reuschlaw Legal Consultants und Gastdozentin für Medizinprodukterecht an der FH Trier: Dieses Thema lässt sich mit einer ganzen Reihe von Fragen verschlagworten: Etwa hinsichtlich der Sicherheit von Gesundheitsdaten – wer haftet dafür, wenn bei einem Hackerangriff gesundheitsbezogene Daten viral gehen? Wer haftet für Fehldiagnosen basierend auf einer fehlerhaften KI? Ist der Arzt dafür haftbar zu machen? Hier bedarf es dringend der Standardisierung und Normierung, denn die KI-Entwickler bzw. Medizinprodukte-Hersteller müssen sich darauf verlassen können, dass sie – wenn sie entsprechend einer vorgegebenen Richtlinie arbeiten – aus juristischer und haftungsrechtlicher Sicht zunächst einmal auf der sicheren Seite sind.
Benötigen wir also aufgrund der KI und Digitalisierung ein neues Rechtsdenken?
Miriam Schuh: Derzeit bedient man sich der althergebrachten Prinzipien, doch das wird auf Dauer nicht ausreichen. Denn die KI ist ja dadurch charakterisiert, dass sie sich irgendwann von einer initialen Software löst und sich weiterentwickelt, wodurch Fehler generiert bzw. Schäden entstehen können. Daher werden unter den Juristen neue Haftungsmodelle diskutiert: Ob die KI beispielsweise eine eigene Rechtspersönlichkeit sein könnte, die mit bestimmten Eigenschaften ausgestattet wird, oder ob es neu-konstruierte Versicherungen geben sollte.
Michael Forsting: Ich finde, wir übertreiben gerade hinsichtlich dessen, was aufgrund der KI geschieht – digitale und analoge Daten sind doch parallel zu sehen, nur dass wir jetzt über mehr Daten verfügen und diese leichter zu bewegen sind. Die Labormedizin beispielsweise ist zu hundert Prozent technisch – und alle Haftungsprobleme sind schon gelöst. Keiner muss Angst haben, dass morgen die gesamte Medizin mit KI bestückt sein wird, das entwickelt sich langsam. Und was wir an Problemlösungen haben, muss man zwar anpassen, aber die Lösungsansätze sind bereits vorhanden. Die umgekehrte Situation wird uns viel schneller treffen – dass jemand verklagt wird, weil er die KI nicht genutzt hat!
Welche Gefahren birgt die KI für den Einzelnen?
Bart de Witte, HIPPO AI Foundation, Berlin: Das Problem mit den Daten liegt darin, dass der Einzelne keine Kontrolle darüber hat. Ein Beispiel: Google hat in Indien damit angefangen, KI-Lösungen für ophthalmologische Diagnostik anzubieten. Patienten, die keine andere Option haben, geben ihre Augenscans an dieses Unternehmen ab. Das ist nichts anderes als die Kolonialisierung vor gut 300 Jahren – man holt sich die Rohstoffdaten und macht ein soziales Experiment mit den ärmsten Menschen. Das wird hier nicht anders sein, irgendwann wird mein Körper auf jeder Ebene kapitalisiert sein und einen monetären Wert bekommen, ohne dass ich die Möglichkeit habe gegenzusteuern. Das ist ein Geschäftsmodell, mit dem ich nicht einverstanden bin.
Wie könnte die Zukunft mit KI aussehen?
Dr. Peter Schardt, Siemens Healthineers, Erlangen: Die KI ist das Mittel der Wahl, um die aus der Datenflut gewonnenen Informationen zu bearbeiten und dann die richtigen Entscheidungen zu treffen. Der Arzt wird weiterhin eine wichtige Rolle in dem System spielen, denn er wird dem Patienten empathisch erklären, warum die auf KI basierende Entscheidung richtig ist.
Michael Forsting: Ich denke, mit KI können wir die Untersuchungszeiten zukünftig erheblich verkürzen und Kontrastmittel für die Bildgebung überflüssig machen oder stark verringern. Auch bei der Prognose bestimmter Erkrankungen können wir deutlich verlässlicher werden. Das sind die ersten Schritte, die nur noch wenig Zeit bis zur Applikation benötigen. Im nächsten Schritt – das wird noch etwas dauern – werden weitere diagnostische Informationen integriert, etwa aus der Pathologie, der Molekularpathologie, der Genetik, dem Mikrobiom oder der Virologie. Damit können wir versuchen, bestimmte Erkrankungen besser zu verstehen, beispielsweise psychosomatische Erkrankungen wie die Anorexie. Insgesamt wird es eine Schritt-für-Schritt-Entwicklung sein, die zuerst in der Radiologie stattfindet und diese verbessert.
Quelle: Vierter SZ-Kongress “Digital Health” in München.
