Prof. Alena Buyx über KI in der ärztlichen Versorgung
Berlin (pag) – Die Ethikratsvorsitzende Prof. Alena Buyx ist zuversichtlich, dass in der Medizin die Integration von KI gut gelingen wird. Dennoch sei strategisches Nachdenken darüber notwendig, was Ärztinnen und Ärzte wirklich an Künstlicher Intelligenz benötigen. Bedarf sieht sie vor allem bei administrativ entlastenden Algorithmen.
Revolutioniert der Einsatz künstlicher Intelligenz in der Medizin den Beruf des Arztes und der Ärztin?
Buyx: Im Augenblick gibt es erste Anwendungen, die bereits ziemlich stark in genuin ärztliche Tätigkeiten eingreifen. Einige funktionieren gut, vieles davon ist aber noch gar nicht in der Praxis angekommen, sondern noch experimentell. Das Wichtigste wäre meiner Ansicht nach aber, dass KI die Ärztinnen und Ärzte – und das gilt für die anderen Medizinberufe auch – von administrativen Verpflichtungen entlasten könnte. Es ginge somit darum, Algorithmen in der Klinik einzuführen, die administrativ wirklich mithelfen und nicht so sehr ins Zentrum der ärztlichen Tätigkeit hineingehen.
Aber die bereits existierenden Beispiele kommen eher aus dem bildgebenden Bereich. Bürokratie scheint noch ein Nischenthema zu sein, oder?
Buyx: Ja, davon gibt es zu wenig, wie ich finde. Bei der Befundung von Röntgenbildern bewegt man sich zum Beispiel in einer originär ärztlichen Tätigkeit. Gleichzeitig beklagen die Kolleginnen und Kollegen völlig zu Recht, dass die vielen, vielen administrativen Tätigkeiten sie davon abhalten, die Patienten und Patientinnen optimal zu versorgen. Noch dazu sind sie für die Administration ja eigentlich nicht ausgebildet. Es ist somit an der Zeit, strategischer darüber nachzudenken, was die Kolleginnen und Kollegen wirklich an Künstlicher Intelligenz benötigen.
Kennen Sie ein Beispiel, welches diese Bedürfnisse mitdenkt?
Buyx: Am Bayerischen Forschungsinstitut für digitale Transformation werden Algorithmen für die Pflegedokumentation auf Palliativstationen entwickelt.
Aber auch im psychotherapeutischen Bereich gibt es mittlerweile KI-Anwendungen, was ja auf den ersten Blick etwas überraschend ist.
Buyx: Ich finde es durchaus erstaunlich, dass so etwas sogar halbwegs funktioniert. Einen therapeutischen Chatbot zu haben, ist immerhin besser als gar nichts. Die Wartezeiten für Psychotherapien sind relativ lang. Außerdem sind Personen, die einen therapeutischen Bedarf haben, oft zurückhaltend und kommen erst spät in die Praxis. Chatbots, mit denen auch morgens um drei Uhr interagiert werden kann, ohne dass jemand etwas davon mitbekommt und ohne dass ein Antrag bei der Krankenkasse gestellt werden muss, können ein Einstiegsinstrument sein. In seiner Stellungnahme macht der Ethikrat aber sehr deutlich, dass solche Angebote nur Hilfsinstrumente sein können, um die Menschen überhaupt in die Nähe eines therapeutischen Geschehens zu bringen. In den USA gibt es Kliniken, die ihren Patientinnen und Patienten ausschließlich diese Art von Therapie anbieten, das ist problematisch.
Wenn wir über Hilfsinstrumente oder Dokumentationsassistenten sprechen, klingt das so, als ob die große KI-Revolution in der Medizin erst einmal ausbleibt.
Buyx: Die meisten Expertinnen und Experten gehen davon aus, dass der Goldstandard auf sehr lange Zeit die sogenannte „Blended Intelligence“ sein wird. Das bedeutet: Menschen benutzen künstlich intelligente Instrumente und setzen sie klug ein.
Aber wie kann sichergestellt werden, dass Ärztinnen und Ärzte in der Letztverantwortung bleiben?
Buyx: Es muss eben immer einen Weg geben. Das wird je nach Anwendung unterschiedlich aussehen, aber allen muss gemein sein, den „human in the loop“ zu behalten: keine vollautomatisierten Entscheidungen, ohne dass die Möglichkeit besteht, dass Menschen diese überprüfen. Zwar können einzelne Aspekte einer Aufgabe an Algorithmen delegiert werden, aber das therapeutische Gesamtgeschehen ist nicht abzugeben. Es muss weiterhin in ärztlicher Hand bleiben, das sagen wir ganz klar.
Dafür dürfte sich der Standard in der Chirurgie grundlegend von dem in der Psychotherapie unterscheiden.
Buyx: Es ist ganz wichtig, sich das im Einzelnen wirklich anzugucken. Das ist einerseits ein ziemlich dickes Brett. Auf der anderen Seite werden bei den DIGAs auch die Anwendungen für sich überprüft. Das ist keine Hexerei. Und auch andere Medizintechnologien werden einzeln getestet. Ebenso wenig wie man diese alle über einen Kamm scheren würde, darf man es jetzt auch nicht mit den Anwendungen machen, die auf maschinellem Lernen beruhen.
Würden Sie vor allem die medizinischen Fachgesellschaften in der Pflicht sehen?
Buyx: Diese sollten unbedingt beteiligt sein, damit die ärztliche Expertise in die Entwicklung eingebracht wird. Und selbstverständlich müssen die Programmiererinnen und Programmierer dabei sein. Idealerweise sollten auch Personen an Bord sein, die darauf achten, dass die ethischen und regulatorischen Standards eingehalten werden. Viele Forschungsprojekte setzen das bereits um. Insofern fangen wir nicht bei null an, ganz im Gegenteil: Das läuft bereits seit Jahren. Deswegen bin ich auch zuversichtlich, dass uns in der Medizin die Integration von KI gut gelingen wird. Technologien, die auch mit Risiken behaftet sind, werden schließlich nicht zum ersten Mal aufgenommen. Die Medizin ist technikaffin. Wenn die Ärztinnen und Ärzte die Hand darauf halten, wird es nicht zu irgendeiner Revolution kommen.
Aber in der Ausbildung ist das Thema noch nicht abgebildet, oder?
Buyx: Davon sind wir noch ein ganzes Stück entfernt. Aber mir erscheint die fachärztliche Weiterbildung noch wichtiger: Jedes Fach muss sich auf den Hosenboden setzen und prüfen, wie die Weiterbildungsordnung anzupassen ist.
Zur Person
Die Medizinerin Prof. Alena Buyx ist Vorsitzende des Deutschen Ethikrates, der im vergangenen Jahr eine rund 400 Seiten lange Stellungnahme zu „Mensch und Maschine – Herausforderung durch Künstliche Intelligenz“ veröffentlicht hat. Seit 2018 ist sie Direktorin des Instituts für Geschichte und Ethik der Medizin sowie Professorin für Ethik der Medizin und Gesundheitstechnologien an der Medizinischen Fakultät der Technischen Universität München.
© pag, Fiolka