Vielleicht kann man es gar nicht oft genug sagen: Das Gegenteil von gut ist gut gemeint. Das erfährt gerade auch Google, nachdem das Unternehmen am vergangenen Dienstag, den 18. Mai, im Zuge der hauseigenen Entwicklerkonferenz I/O erste Einblicke in das sogenannte Dermatology Assist Tool gegeben hat.

Fast zehn Milliarden Suchanfragen verzeichne man jährlich, so schreibt Google im dazugehörigen Blogbeitrag, die sich um Haar-, Haut- und Nagelprobleme drehen. Rund zwei Milliarden Menschen weltweit hätten dermatologische Erkrankungen, aber Spezialistinnen und Spezialisten gäbe es nur ungefähr 100.000.

Deshalb arbeite man an dem KI-gestützten Tool, das ausgehend von drei Fotos der fraglichen Stelle aus verschiedenen Winkeln dann weitere Nachfragen stellt. Aus einer Liste von insgesamt 288 Erkrankungen sollen dann die wahrscheinlichsten ermittelt werden und Nutzerinnen und Nutzern so die weitere Recherche erleichtern. Bis zum Ende des Jahres soll das Tool einsatzbereit sein, in der EU hat es bereits die Zertifizierung für medizinisches Equipment erhalten.

Die Reaktionen ließen nicht lange auf sich warten – und fielen vermutlich nicht so aus, wie sich das Unternehmen das gewünscht hätte. Ade Adamson, selbst Dermatologe an der Dell Medical School der University of Texas, weist etwa darauf hin, dass der Algorithmus mit Daten trainiert worden sei, von denen weniger als vier Prozent dunklere Hautfarben zeigten.

Wie Vice in Erfahrung gebracht haben will, soll das Tool zwar nicht nur an Menschen mit weißer Haut getestet worden sein, sondern auch an Personen mit hispanischem oder lateinamerikanischem Hintergrund, an Schwarzen und an Asiaten. Allerdings habe Google nicht die Fitzpatrick-Skala, die einordnet, wie dunkel die Haut eines Menschen ist, mit einbezogen. Deshalb sei die KI insbesondere bei dunkleren Hauttypen nicht oder nur unzureichend trainiert worden.

Einen solchen Racial Bias findet man häufig in künstlichen Intelligenzen. Nicht zuletzt deshalb ist es wichtig, dass Forschungsteams divers aufgestellt sind. Die Problematik hatte auch die Ex-Google-Mitarbeiterin Timnit Gebru in einem wissenschaftlichen Aufsatz thematisiert – und war dafür gefeuert worden.

Neben dem mangelnden Training mit dunkleren Hauttönen kritisiert Dermatologe Adamson noch einen weiteren Punkt: Die KI soll besonders für Hautkrebserkrankungen sensibilisiert sein – und könnte so dafür sorgen, dass mehr Menschen wegen eigentlich ungefährlicher Hautveränderungen zum Arzt gehen. Von Überdiagnosen – also der Diagnose einer Erkrankung, die sich ohne Untersuchung nie bemerkbar gemacht und keine Beschwerden ausgelöst hätte – wolle er erst gar nicht anfangen, schreibt Adamson weiter. Auch australische Ärzte befürchten einen regelrechten „Tsunami an Überdiagnosen“.

Der Schweizer Dermatologe Christian Greis weist zudem gegenüber dem Portal 20 Minuten darauf hin, dass nur geschultes Personal fachgerecht abschätzen könne, welche Diagnosen infrage kommen und welche nicht. Bisher sei ihm kein Tool bekannt, das dermatologische Erkrankungen so exakt erkennen könne, dass Patientinnen und Patienten davon profitierten, so Greis weiter. Wie nützlich Googles Tool wirklich ist, müsse sich zeigen. „Schlussendlich kommt es darauf an, wie sensitiv und spezifisch ein solches Tool ist – also wie viele kranke Personen tatsächlich als krank und wie viele Gesunde tatsächlich als gesund erkannt werden“, so Greis.