Andreas J. W. Goldschmidt, Thomas M. Deserno, Alfred Winter, Hrsg.: KI in der Medizin. Eine Rezension aus Sicht der Rechtswissenschaften
Ulrich M. Gassner 11 Universität Augsburg, Forschungsstelle für Medizinprodukterecht, Augsburg, Deutschland
Bibliographische Angaben
Andreas J. W. Goldschmidt, Thomas M. Deserno, Alfred Winter (Hrsg.)
KI in der Medizin – Folgenabschätzung für Forschung und Praxis
Verlag: medhochzwei Verlag, Heidelberg
Erscheinungsjahr: 2025, Seiten: 314, Preis: € 89,00
ISBN: 978-3-98800-141-2
ISBN (eBook): 978-3-98800-142-9
Rezension
Ethische Herausforderungen in der KI-assoziierten Medizinischen Informatik, Biometrie und Epidemiologie
Die Medizin gilt als wichtigster Anwendungsbereich der KI. Hype or hope ist längst nicht mehr die Frage. Gleichwohl sind noch viele Fragen offen, die mit den spezifischen Risiken von KI-basierter Software in Diagnostik und Therapie, aber auch der medizinischen Forschung assoziiert sind. Die Diskussion ist voll im Gange. So wurde das Thema „KI in der Medizin“ erst Ende Mai 2025 auf dem 129. Deutschen Ärztetag breit debattiert. Grundlage hierfür war ein von der Bundesärztekammer herausgegebenes Papier mit dem aussagekräftigen Titel „Von ärztlicher Kunst mit Künstlicher Intelligenz“ [1], das drei frühere Expertisen – die Stellungnahme „Künstliche Intelligenz in der Medizin“, das Thesenpapier „Künstliche Intelligenz in der Gesundheitsversorgung“ sowie „Entscheidungsunterstützung ärztlicher Tätigkeit durch Künstliche Intelligenz“ – zusammenfasst. In diesem generellen Kontext bleiben die fachwissenschaftlichen Perspektiven der Medizinischen Informatik, Biometrie und Epidemiologie naturgemäß ziemlich unterbelichtet. Umso verdienstlicher ist es, dass sich die GMDS und insbesondere die Mitglieder der Präsidiumskommission „Ethische Fragen in der Medizinischen Informatik, Biometrie und Epidemiologie“, darunter drei der Herausgeber, sich schon seit längerer Zeit dieses Themas angenommen haben. Auf drei von der Präsidiumskommission veranstalteten Workshops basiert denn auch das hier besprochene Buch. Die insgesamt 19 Einzelbeiträge lassen sich daher auch den für Workshops gewählten Themen zuordnen: „Ethische Fragen in der Medizinischen Informatik, Biometrie und Epidemiologie“, „Ethische Grundlagen in der Medizinforschung mit Beispielen“ und „Ethische Grundlagen in der Medizinforschung mit Beispielen“.
Beiträge zur Ethik KI-assoziierter Medizinischer Informatik, Biometrie und Epidemiologie
Die einzelnen Beiträge, denen jeweils ein Abstract vorgeschaltet ist, beleuchten aus jeweils unterschiedlicher Perspektive und Fragestellung die ethischen, rechtlichen und sozialen Dimensionen KI-assoziierter Medizinischer Informatik, Biometrie und Epidemiologie. Der erste Beitrag (Andreas J. W. Goldschmidt) hat Grundlagencharakter und setzt sich u.a. mit der Definition von KI, Large Language Models (LLMs), dem Medizinforschungsgesetz (MFG) und der Folgenabschätzung für die Forschung auseinander. Der folgende Beitrag der Mitglieder der erwähnten Präsidiumskommission (Thomas M. Deserno, Birgit J. Gerecke, Andreas J. W. Goldschmidt, Alfred Winter) untersucht ausgehend von dem hochkomplexen nationalen, europäischen und internationalen normativen Setting die aktuelle Leistungsfähigkeit der ethischen Leitlinien der GMDS von 2008 und gelangt zu dem Ergebnis, sie seien auch vor dem Hintergrund der durch KI ausgelösten disruptiven Entwicklung immer noch aktuell. So konnten sie auch in einigen zentralen Teilaspekten eine gute Grundlage für die am Universitätsklinikum Erlangen unter Leitung von Hans-Ulrich Prokosch entwickelte und schon im Sommer 2024 in Kraft getretene KI-Leitlinie darstellen. Diese eindrucksvolle Pionierarbeit – es handelt sich um eine der ersten KI-Richtlinien in einem deutschen Universitätsklinikum – wird ausführlich vorgestellt (Hans-Ulrich Prokosch/Timo Apfelbacher/Sude Eda Koçman/Annika Clarner/Martin Schneider). Der Beitrag verdeutlicht zu Recht die Maßgeblichkeit des durch die Medizinprodukteverordnung (MP-VO) und die Verordnung über Künstliche Intelligenz (KI-VO) definierten Rechtsrahmens. Auch die Dynamik der Entwicklung auf sämtlichen Ebenen unterschätzen die Autor:innen nicht und heben überzeugend hervor, dass sie ihre KI-Richtlinie als lernendes System verstehen. Einen ganz anderen, nämlich biografisch-historischen Zuschnitt haben die folgenden beiden Beiträge (Peter Walcher, Felix Walcher). Der anschließende Beitrag beschäftigt sich mit der Verantwortung im Umgang mit Gesundheitsdaten in der Versorgungsforschung am Beispiel des AKTIN-Notaufnahmeregisters (Felix Walcher/Susanne Drynda/Ronny Otto/Jonas Bienzeisler/Niels Bienzeisler/Wiebke Schirmeister/Alexandra Ramshorn-Zimmer/Rainer Röhrig) und hebt u.a. gleichsam kantisch die Rolle des inneren Forums von Forschenden jenseits aller normativen Festlegungen hervor. Der siebte Beitrag befasst sich recht umsichtig und gut verständlich mit dem „regulatorischen Dickicht“ des Einsatzes von KI in der Medizin, wobei auch das Gesundheitsdatennutzungsgesetz (GDNG) und Haftungsfragen adressiert werden (Karolina Lange-Kulmann/Marina Schulte/Thanos Rammos/Majula Jaiteh/Julian Pusch). Die in diesem interdisziplinären Rahmen geforderte Überblicksdarstellung ließ indes offenbar keinen Raum für eine problemorientierte und differenzierte Darstellung. Deshalb sei ergänzend darauf hingewiesen, dass manche Aussage der Autor:innen, etwa zu Regel 11 (vgl. dazu [2]) oder zum Grundsatz persönlicher Leistungserbringung (vgl. dazu [3]), aus rechtswissenschaftlicher Sicht zu apodiktisch erscheint und nur die – stets wandelbare – herrschende Auffassung reflektiert. Im anschließenden Beitrag diskutieren die Autor:innen (Jonas Hügel/Nils Beyer/Robert Kossen/Alessandra Kuntz/Harald Kusch/Sophia Rheinländer/Sabine Solorz/Ulrich Sax) unter Zugrundelegung der ethischen Leitlinien der GMDS, der von Beauchamp und Childress entwickelten sog. Washington-Formel sowie rechtlicher Leitplanken die ethischen Maßstäbe des Umgangs mit der Unschärfe und der Unsicherheit von Vorhersagen in der personalisierten Medizin und den für sie relevanten genomischen Daten. Interdisziplinäre Dialoge und gezielte Schulungen aller Beteiligten bilden für sie das Mittel der Wahl, ethische Herausforderungen zu bewältigen. Der folgende Beitrag (Kai Wegkamp) fokussiert sich auf Qualität, Bias und Nutzen im Maschine-Learning-Zyklus medizinischer Anwendungen und hebt hervor, dass für ihre Entwicklung und ihre Integration in die Patientenversorgung das Zusammenspiel eines großen Spektrums verschiedener Wissensdomänen maßgeblich ist. Hervorgehoben wird, dass dieser Zyklus mit seinen verschiedenen stark voneinander abhängigen Ebenen die Gesamtqualität und den medizinischen Nutzen der KI-Anwendung bestimmt. Der anschließende Beitrag befasst sich mit ethischen Aspekten der digitalen Transformation im Gesundheitswesen in der Kardiologie (Birgit J. Gerecke). Erörtert werden u.a. anhand des Maßstabs der sog. Washington-Formel die Vor- und Nachteile der digitalen Selbstvermessung durch Gesundheits-Apps und der KI-basierten Bildgebung. Der Beitrag endet mit dem Desiderat, die Medizin solle – auch mit KI – die Kunst des Heilens von Kranken bleiben. Es folgt die Vorstellung eines für die Gemeinsame Ethikkommission der Hochschulen Bayerns (GEHBa) entwickelten und bundesweit einmaligen Fast-Track-Verfahrens zur ethischen Beurteilung nichtmedizinischer Forschungsvorhaben (Walter Swoboda/Martin Schmieder/Julia Krumme/Johannes Schobel/Karsten Weber). Die Entwickler: innen lehnen derzeit noch den Einsatz LLM-basierter Chatbots ab, um den absoluten Primat autonomer menschlicher Entscheidung sicherzustellen. Angesichts der ständig zunehmenden Leistungsfähigkeit generativer KI und unschwer operationalisierbarer Alignment-Optionen wird ein solcher Attentismus freilich immer schwerer begründbar. Im anschließenden weit ausgreifenden Übersichtsbeitrag wird die erforderliche Bewertung von KI in der Medizin unter der tradierten übergreifenden Perspektive des Health Technology Assessments (HTA) betrachtet (Anna Moreno), wobei auch einige relevante rechtliche Vorgaben jenseits der – für die Entwicklung und Herstellung KI-basierter Software für medizinische Zwecke neben der KI-VO primär maßgeblichen – MP-VO adressiert werden. Die Autorin stellt resümierend fest, dass die herkömmlichen Methoden der Evidenzbewertung im KI-Kontext nicht mehr ausreichen und fordert, dass hierbei auch in personeller Hinsicht ethische Aspekte stärker zum Tragen kommen sollen. Der folgende Beitrag über ethische Implikationen in der praktischen Umsetzung von Digitalisierung und KI im Gesundheitswesen (Jan Appel) leistet eine eindrucksvolle Systematisierung dieser Aspekte. Der Autor kritisiert u.a., dass ethische Aspekte im Grenzbereich normativer Konventionen (Inklusion, freiheitliche Demokratie, ökologische und soziale Nachhaltigkeit, Wohltätigkeit und Solidarität) in Leitlinien und gesetzlichen Regelungen nur unzureichend konkretisiert werden, und zeigt hierfür Lösungsansätze entlang des Lebenszyklus eines im stationären Bereich eingesetzten KI-Produkts auf. Anschließend werden, ausgehend von der Prämisse, dass sich Unternehmen zunehmend mit den Folgewirkungen des internen Einsatzes von KI auseinandersetzen müssen, die Ergebnisse einer internationalen Umfrage zu Einflüssen der KI am Arbeitsplatz vorgestellt (Annika Wagner/Andreas J. W. Goldschmidt). Der anschließende Beitrag befasst sich mit dem Einsatz digitaler Lösungen und KI-basierter Software für die Diagnosestellung und Versorgung seltener Erkrankungen, die allein in Deutschland ca. 4–5 Mio. betreffen (Jannik Schaaf/Michael von Wagner/Holger Storf). Hierbei liegt der Fokus auf dem KI-basierten Smarten Arztportal für Betroffene mit Seltenen Erkrankungen (SATURN). Der folgende Beitrag stellt aus Sicht der Praxis die Einführung einer KI-Anwendung bei einem Maximalversorger am Beispiel der Klinikum Darmstadt GmbH dar und erörtert die damit verbundenen Herausforderungen (Clemens Maurer/Gerhard Ertl). Der anschließende Beitrag setzt sich mit der Unterstützung von Antibiotic Stewardship (ABS) (Maßnahmen, die dazu dienen, nachhaltig eine rationale Antibiotikaverordnung zu verbessern bzw. sicherzustellen) durch KI auseinander (Juliane Eidenschink/André Sander/Daniel Diekmann). Hierbei formulieren die Autor:innen konkrete Anforderungen an ein entsprechendes Clinical Decision Support System (CDSS), nämlich insbesondere eine ausreichende Wissensbasierung und die Fähigkeit zur Ausgabe von Warnhinweisen. Sodann werden im Folgebeitrag die Vor- und Nachteile des Einsatzes generativer KI in den Bereichen der medizinischen Dokumentation und der Kodierung von Leistungen einschließlich externer Prüfungsverfahren durch Medizinische Dienste diskutiert (Steffen Euler). Dem Autor zufolge trägt ein gänzlich KI-gestützter Prozess nicht nur zur Entlastung der Behandelnden bei, sondern kann auch die Betreiber absichern und gleichzeitig die Patienten vor nicht notwendigen Therapien schützen. Den Schlusspunkt setzt ein Beitrag zur Entwicklung des „Gesundheitsamts-Lotsen“, einer zukunftsfähigen Open-Source-Software für Gesundheitsämter (Peter Tinnemann/Stefanie Kaulich). Maßgeblich entwickelt vom Gesundheitsamt, bildet der schon im Praxiseinsatz befindliche GA-Lotse eine – nach den Erfahrungen während der COVID-19-Pandemie unbedingt gebotene – moderne, flexible und langfristig tragfähige Softwarelösung, die den spezifischen Bedürfnissen der Gesundheitsämter gerecht wird und zugleich zukunftsorientierte Standards für die gesamte öffentliche Verwaltung setzt.
Resümee
Dem Sammelband mit seinen von 48 Autor:innen verfassten Beiträgen gelingt es, den aktuellen Wissensstand zahlreicher Disziplinen in Sachen KI in der Medizin nahezu vollständig abzubilden. Die Bandbreite der analytischen Perspektiven ist ungemein hoch. Sie reicht von globalen Normen bis hin zu innovativen Projekten an einzelnen Standorten. Zahlreiche Beiträge können auch durch ihren interdisziplinären Ansatz überzeugen. So werden namentlich ethische und rechtliche Vorgaben in ihren Wirkdimensionen verglichen und bewertet. Als Kritikpunkt ließe sich allenfalls anbringen, dass einzelne praxisrelevante Problemfelder, wie die maßgebliche Rolle von Industriestandards (harmonisierte Normen) für die Entwicklung KI-basierter Medizinprodukte-Software (Artificial Intelligence Medical Device, AIMD) oder die Friktion zwischen KI-VO und MP-VO (z.B. hinsichtlich der Sicherheitsanforderungen und der Forschungsprivilegierung), nicht beackert werden. Im Übrigen aber beeindruckt der Band gerade dadurch, dass er kaum einen der vielfältigen Aspekte der mit dem Siegeszug der KI in der Medizin verbundenen Themenfelder außer Acht lässt, sondern ihnen auf hervorragendem Niveau die erforderliche kritische Beachtung schenkt. Niemand, der oder die sich ernsthaft mit den relevanten Fragen auseinandersetzt, wird das Werk ignorieren können. Kurzum, in Sachen KI in der Medizin markiert der Band den State of the Art.
Anmerkung
Die englischsprachige Fassung der Rezension wurde unter Zuhilfenahme von DeepL und ChatGPT erstellt.
Interessenkonflikte
Der Autor erklärt, dass er keine Interessenkonflikte im Zusammenhang mit diesem Artikel hat.
Literatur
[1] Bundesärztekammer. Von ärztlicher Kunst mit Künstlicher Intelligenz. 2025. Available from: https://www.bundesaerztekammer.de/fileadmin/user_upload/BAEK/Politik/Programme-Positionen/Von_aerztlicher_Kunst_mit_Kuenstlicher_Intelligenz_27.05.2025.pdf[2] Gassner UM. Medizinprodukte-Software (MDSW): Klärungen zu Regel 11. Medizinprodukte Journal (MDJ). 2024;2024(4):245-57.
[3] Gassner UM. Künstliche Intelligenz in der Medizin – no human in the loop. In: Koch A, Kubiciel M, Wollenschläger F, Wurmnest W, editors. 50 Jahre Juristische Fakultät Augsburg [Fifty Years of the Augsburg Law Faculty]. Tübingen: Mohr Siebeck; 2021. p. 243-271. DOI: 10.1628/978-3-16-160999-2
