Ärztin erklärt: Macht die KI-Revolution Frauen in der Medizin endlich sichtbarer?
In der Medizin herrscht ein Ungleichgewicht: Gerade in den Datensätzen älterer Studien sind Männer meist deutlich präsenter als Frauen. Der sogenannte Gender-Data-Gap führt dazu, dass Behandlungsmethoden und Medikamente häufig vorrangig auf den männlichen Körper abgestimmt sind.
Professorin Sylvia Thun ist Ärztin, Diplomingenieurin und Mitgründerin des Linkedin-Netzwerks Shehealth. Ihr Ziel: Expertinnen für Digital Health zu vernetzen und sie auf Bühnen und in der Politik sichtbar machen.
Wir haben mit ihr darüber gesprochen, wie Technologie die lückenhafte Datenlage in der Medizin verändern könnte – und worauf Forscherinnen und Forscher achten müssen, um das bestehende Ungleichgewicht zum Beispiel beim Training von Algorithmen nicht noch zu vertiefen.
Health-Tech: Spannende Daten und das Risiko der Blackbox
t3n: Frau Professor Thun, welche Chancen und Risiken ergeben sich, wenn der Gender-Data-Gap auf Technologie trifft?
Sylvia Thun: Fangen wir mit einer Chance an: Es ist eine tolle Sache, dass ich mich zum Beispiel mithilfe von Tracking-Apps oder Wearables mehr damit beschäftigen kann, wie mein Körper funktioniert. Und bei vielen Angeboten werde ich zu Beginn auch gefragt, ob ich weiblich oder männlich bin.
Schwieriger wird es, wenn es um die Auswertung geht. Als Verbraucherin weiß ich zum Beispiel nicht, welche Daten der Algorithmus meiner Apple Watch wie gewichtet und ob das auch wirklich genderkonform ist – ich stehe vor einer Blackbox.
Ganz ähnlich sieht es bei der Kombination von Daten aus. Die Chance: Wenn ich meine Tracking-Ergebnisse vom Wearable mit Laborwerten vom niedergelassenen Arzt und vielleicht noch zwei oder drei Diagnosen kombiniere, kann ich daraus spannende neue Erkenntnisse gewinnen. Ein Algorithmus kann die kombinierten Informationen zusätzlich auswerten und mir dabei helfen, Entscheidungen zu treffen. Aber auch hier ist oft noch unklar, wie genderkonform die entsprechenden Algorithmen sind.
Die Awareness, dass eine genderkonforme Auswertung wichtig ist, ist in den letzten Jahren gestiegen. Aber die gesetzlichen Vorgaben für die Zulassung von digitalen Gesundheits-Apps sind zum Beispiel noch nicht spezifisch genug.
t3n: Was braucht es, um technologische Gesundheitsangebote fair zu gestalten?
Sylvia Thun: Zunächst muss an allen Stellen in der Forschung – vom Versuch an der Zelle über die Maus bis hin zum Test mit menschlichen Probanden – ein Geschlechtergleichgewicht herrschen.
Im nächsten Schritt müssen die Daten, die in der Forschung entstehen, geschlechtergerecht ausgewertet werden. Das ist zum Beispiel in der Coronazeit nicht immer passiert, obwohl die Aufteilung der Probandinnen und Probanden bei den Versuchen an sich geschlechtergerecht war.
Am Ende der Auswertung müssen dann passende Konsequenzen gezogen werden. Bei einem Impfstoff könnte das zum Beispiel eine Anpassung der Dosierung sein.
Meistens stoppt der geschlechtergerechte Prozess immer dann, wenn es ums Geld geht. Das geht teilweise schon bei Tierversuchen los – weil männliche Mäuse zum Beispiel einfach preiswerter sind als weibliche.
KI-Algorithmen im Training: Ungleichheiten ausgleichen
t3n: Nehmen wir einmal an, dass ein Forschungsprozess wie bei den meisten älteren Studien nicht geschlechtergerecht abgelaufen ist. Gibt es einen Weg, die dabei entstandenen Daten trotzdem zu nutzen?
Sylvia Thun: Am schwersten wiegt der Gender-Data-Gap bei den Altmedikamenten, die wir alle nehmen: 80 Prozent aller Medikamente wurden vor 1994 entwickelt – und damit in einer Zeit, in der klinische Studien nach dem Contergan-Skandal jahrelang fast nur an Männern durchgeführt wurden.
Wenn wir jetzt mit Algorithmen arbeiten, müssen wir darauf achten, dass sich Fehler und das Ungleichgewicht aus den Daten der alten Studien nicht potenzieren. Die große Chance dabei: Wenn ich als Wissenschaftlerin weiß, dass die Test- oder Trainingsdaten für einen Algorithmus überwiegend bei Männern erhoben wurden, und wenn mir auch bewusst ist, dass das nicht automatisch ausgeglichen wird, kann ich die entstehenden Fehler aktiv herausrechnen.
Wir müssen also immer wieder nachfragen, um zu erkennen, ob Trainingsdaten einseitig sind, und den Gap dann herausrechnen.
t3n: Wie funktioniert das Herausrechnen denn?
Sylvia Thun: An der Berliner Charité nutzen wir zum Beispiel den Acute-Kidney-Injury-Algorithmus. Er hilft, schon im Vorfeld zu erkennen, ob ein Patient Gefahr läuft, eine meist tödliche Niereninsuffizienz zu erleiden.
Der Algorithmus wurde allerdings mit Datensätzen aus dem US-Militär trainiert und ist extrem einseitig: Lediglich sechs Prozent der Datenbasis beziehen sich auf Frauen, die restlichen 94 Prozent der Daten stammen von Männern.
Es gibt zwei Wege, mit diesem Ungleichgewicht umzugehen. Zum einen könnte man sowohl von den Daten männlicher Probanden als auch von denen der weiblichen Probandinnen nur jeweils gleich viele einberechnen und die restlichen nur Männer betreffenden 92 Prozent des Datensatzes einfach weglassen.
Man kann den Algorithmus aber auch dahin gehend trainieren, dass er von vornherein abfragt, ob jemand männlich oder weiblich ist, und dann dem entsprechenden Wahrscheinlichkeitsstrang folgt. Voraussetzung dafür ist allerdings, dass die Daten von vornherein als männlich oder weiblich gekennzeichnet sind – und das ist meist nicht der Fall.
t3n: Können wir den Gender-Data-Gap irgendwann durch Technologie beseitigen?
Sylvia Thun: Technologie allein wird den Gender-Data-Gap nicht beseitigen – aber sie kann Transparenz schaffen. Der Gender-Data-Gap wird allein schon wegen der Altmedikamente, die ja nicht plötzlich vom Markt genommen werden, weiter bestehen. Neue Studien, die zum Beispiel zu Algorithmen durchgeführt werden, bieten aber die Chance, dass die Medizin gerechter wird.
Ob am Ende zum Beispiel eine Krankenkasse das Medikament bezahlt, das weniger Nebenwirkungen auslöst, aber dafür teurer ist, ist allerdings eine politische Frage. Die hat nichts mit Technologie zu tun, sondern erfordert ein gesellschaftliches Umdenken: Wir müssen einfordern, dass Frauen adäquat behandelt werden.