In Kürze

KI in der Medizin: Aber wie?

Berlin (pag) – Um Vertrauen in die Sicherheit von KI-unterstützen medizinischen Systemen zu schaffen, muss der Gesetzgeber noch einige Hausaufgaben erledigen. Diese benennen Experten der vom Bundesforschungsministerium unterstützen Plattform Lernende Systeme in einem Whitepaper.

© iStock.com, HQuality Video

Zwar verspricht Künstliche Intelligenz in der Medizin große Verbesserungen bei Prävention, frühzeitiger Diagnostik und patientengerechter Therapie. Aber intelligente und selbstlernende Systeme stellen an das Gesundheitswesen hohe Anforderungen, etwa an die IT-Sicherheit. Zu den Risiken zählen: fehlerhafte oder bewusst verfälschte Trainingsdaten, Angriffe auf die KI-Software, Verletzungen der Privatsphäre der Patientinnen und Patienten sowie Angriffe auf KI-Datenbanken und die fehlende Integration in die klinische Praxis.

„Mit KI gegen Krebs“

In dem Papier identifizieren die Experten entlang des Anwendungsszenarios „Mit KI gegen Krebs” technische und organisatorische Bedingungen, die für den Einsatz von KI-Assistenzsystemen in der Medizin notwendig sind. „Wir wollen den Rahmen für ein Lernendes System abstecken, bei dem die beim Hausarzt, beim Facharzt oder in den Krankenhäusern vorhandenen Diagnosedaten von Patientinnen und Patienten allen behandelnden Ärztinnen und Ärzten gleichermaßen zur Verfügung gestellt werden können“, erläutert Mitautor Thomas Schauf von der Deutschen Telekom. Stichwort Zugriffsrechte: „Der Patient als Souverän muss immer der Letztentscheider sein“, erläutert Schauf. Dem Hausarzt komme wiederum eine zentrale Rolle bei der Beratung des Patienten im Umgang mit seinen Daten zu. Er berate zukünftig nicht mehr nur medizinisch, sondern auch zunehmend in technologischen Aspekten. „Dies erfordert neue Kompetenzen, die Ärztinnen und Ärzte erwerben müssen“, meint der Experte.

In Richtung Gesetzgeber formulieren die Autoren zahlreiche regulatorische Gestaltungserfordernisse. Zum Beispiel: Gemeinsam mit betroffenen Stakeholdern sollte er Leitlinien sowie Prüfvorschriften für und Anforderungen an einen Zulassungsprozess und damit verbunden eine Zertifizierung der KI-Systeme erarbeiten. Außerdem sei eine Kennzeichnungspflicht der eingesetzten KI-Algorithmen einzuführen, die deren Eigenschaften und Zulassung für bestimmte Anwendungsgebiete transparent macht. Ein interdisziplinäres Expertengremium sollte in regelmäßigen Abständen die Funktionsweise der KI-Systeme überprüfen. Vorgeschlagen wird, dieses Komitee beim Bundesinstitut für Arzneimittel und Medizinprodukte einzurichten. Als ausgebende Stellen der elektronischen Gesundheitskarte und des Heilberufsausweises sollten die Krankenkassen Sperrlisten führen, um einen unautorisierten Zugriff auf Daten zu verhindern, heißt es. Nicht zuletzt nennt die Publikation auch gesellschaftliche Fragen, die bei KI-Systemen in der Medizin zu diskutieren sind. Eine davon lautet: „Unter welchen Umständen und bis zu welcher Höhe sind wir bereit, als Gesellschaft ‚Fehlerquoten‘ zu akzeptieren, wenn auf der anderen Seite hoher medizinischer Nutzen geschaffen werden kann?“

Weiterführender Link
Zum Whitepaper „Sichere KI-Systeme für die Medizin – Datenmanagement und IT-Sicherheit in der Krebsbehandlung der Zukunft“
https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG3_6_Whitepaper_07042020.pdf