Deepfakes können für gravierende Probleme sorgen. Sei es, weil sie für Scams auf Dating-Portalen eingesetzt werden oder wir beim Durchscrollen des Social-Media-Feeds nicht mehr wissen, ob hier wirklich eine bekannte Person zu uns spricht – oder jemand die Identität per KI gestohlen hat.
Deepfakes und KI durch Augen enttarnt
Wie eine Studie der Royal Astronomical Society zeigt, gibt es aber bei vielen Deepfakes ein Anzeichen, um die künstliche Intelligenz zu entlarven. Wer genauer hinschaut, erkennt, dass die Reflexionen der beiden KI-Augen nicht übereinstimmen und dadurch einen unrealistischen Lichteinfall kreieren.
„Die Reflexionen bei echten Personen sind konsistent, aber bei der Fake-Person (von einem physikalischen Standpunkt) inkorrekt. Unsere Ergebnisse zeigen, dass es bei Deepfakes einen Unterschied zwischen beiden Augen gibt“, so Kevin Pimbblet, Professor der Astrophysik und Leiter des Centre of Excellence an der Universität von Hull.
Durch unterschiedliche Reflexionen lassen sich diese Deepfakes enttarnen. (Quelle: Adejumoke Owolabi / CC BY 4.0)
Wie das Beispielbild veranschaulicht, gibt es im ersten Beispiel in einem Auge Reflexionen von mindestens fünf Lichtpunkten. Im anderen Auge sind es jedoch nur drei. Das vierte Beispiel zeigt, dass die eigentlichen Lichtpunkte zwar grob in ihrer Position übereinstimmen, aber die kleineren Lichteinfälle gespiegelt voneinander auftreten. In der Realität müssen sie identisch sein, da sie aus demselben Winkel auf beide Augen treffen.
Die Forscher:innen betonen, dass es sich nicht um eine hundertprozentig einwandfreie Methode handelt, um Deepfakes zu erkennen. Allerdings geben die Ergebnisse eine Grundlage, um das Aufspüren von Deepfakes künftig zu erleichtern.
Warum beschäftigen sich Astronom:innen mit KI-Augen?
Normalerweise würden sich eher KI-Forscher:innen mit einem Thema wie Deepfakes beschäftigen. Dass Astronom:innen Augen genauer unter die Lupe nehmen, um KI-generierte Bilder zu entlarven, ist ungewöhnlich. Allerdings haben erst die Tools der Astronom:innen dafür gesorgt, dass diese Erkenntnisse gesammelt werden konnten.
„Um die Form von Galaxien zu erfassen, analysieren wir, wie kompakt, symmetrisch und glatt sie sind. Wir analysieren die Lichtverteilung. Wir erkennen diese Reflexionen automatisch und lassen ihre morphologischen Merkmale durch CAS (Concentration, Assymetry, Smoothness) laufen […]“, so Pimbblet weiter. Die Ergebnisse werden dann in einem sogenannten Gini-Koeffizienten festgehalten.
Normalerweise messen die Forscher:innen damit also, wie Licht in einem Bild einer Galaxie verteilt ist. Dabei wird bei einzelnen Pixeln festgestellt, ob diese Licht zeigen oder nicht. Ein Gini-Wert von 0 bedeutet, dass das Licht der Galaxie über alle Pixel des Bildes verteilt ist, während ein Gini-Wert von 1 eine Lichtbündelung in einem einzigen Pixel bezeichnet. Dementsprechend müssen Bilder von echten Personen in beiden Augen denselben Gini-Wert haben. Bei Deepfakes stimmt der Wert nicht überein.
