Berlin (pag) – Beim Berliner Institut für Gesundheitsforschung (BIH) diskutieren Expertinnen über „Gesunde Algorithmen – Frauen und künstliche Intelligenz im Gesundheitswesen“. Sie vermissen eine gendergerechte Versorgung und kritisieren eine „Statistik von Stereotypen“.
Künstliche Intelligenz (KI) weckt dem Institut zufolge „große Hoffnungen auf wegweisende Fortschritte für Therapie und Diagnostik, aber auch erhebliche Bedenken über Risiken und Nebenwirkungen“. Datensätze, Modelle und Algorithmen seien oft voreingenommen und berücksichtigten unter anderem Frauen nicht ausreichend. Dadurch verstärkten sich bestehende Ungleichheiten, vergangene und gegenwärtige Vorurteile würden in die Zukunft projiziert – mit Folgen für Gesundheit und Wohlbefinden von Frauen. Auch in der Entwicklung und Programmierung von KI seien Frauen massiv unterrepräsentiert, dadurch fehlten die notwendigen vielfältigen Perspektiven.
Blinder Fleck der KI-Forschung
Brigitte Strahwald vom Lehrstuhl für Public Health und Versorgungsforschung der Ludwig-Maximilians-Universität München warnt, dass Probleme mit der Datenbasis und einem Genderbias bei der KI nicht außer Acht gelassen werden dürften. „Bestimmte Begriffe werden Männern zugeordnet“, sagt sie. Der Bias sei aber auch im echten Leben da und kein KI-spezifisches Problem. „Wir wissen nicht, ob KI diesen Bias verstärkt. Es ist ein blinder Fleck in der KI-Forschung“.
Ein aufschlussreiches Beispiel für solch einen Bias nennt Prof. Sabine Oertelt Prigione von der Gendermedicine Unit an der Radboud Universität in Nijmegen: Bei der Beschreibung der gleichen Symptome während eines Chats in einer Gesundheits-App wurde Männern geraten, in die Notaufnahme zu gehen – bei Frauen wurde eine Panikattacke oder Depression vermutet. KI sei in diesem Fall eine „Statistik von Stereotypen“.
Maria Klein-Schmeink, Grünen-Bundestagsabgeordnete und gesundheitspolitische Sprecherin, begrüßt bei der BIH-Veranstaltung ausdrücklich die Initiative der Spitzenfrauen Gesundheit. Diese kämpften dagegen, dass Frauen in fast allen Entscheidungsgremien des Gesundheitssystems und in allen Formen der Selbstverwaltung „im Grunde nicht oder spärlich vorkommen“. Es müsse sich etwas verändern, appelliert die Politikerin, die Versorgung sei an dieser Stelle eine Fehlversorgung, „weil sie nicht gendergerecht ist“. Patienten seien Objekt einer stark männlich geprägten Versorgungs- und Selbstverwaltungslandschaft.
