Promi-Scam: Meta setzt im Kampf gegen Betrüger auf Gesichtserkennung
Schon länger muss sich Meta den Vorwurf gefallen lassen, nicht intensiv genug gegen Scammer und ihre Betrugsmethoden vorzugehen. Nun hat das Unternehmen in einem Blog-Beitrag bekannt gegeben, drei Jahre nach der Abschaltung des sogenannten „Face Recognition““-Systems von Facebook ein Tool zur Gesichtserkennung zurück in seine Apps zu bringen, um unter anderem gegen betrügerische Werbeanzeigen zu kämpfen.
„Wenn wir vermuten, dass es sich bei einer Anzeige um Betrug handelt und in einem Foto das Gesicht einer Person des öffentlichen Lebens abgebildet sein könnte, vergleichen wir per Gesichtserkennung das entsprechende Gesicht mit den Facebook- und Instagram-Profilbildern der Personen des öffentlichen Lebens“, erklärte Monika Bickert, Metas Vizepräsidentin für Inhaltsrichtlinien, in dem Blogpost. „Wenn wir eine Übereinstimmung feststellen und die Anzeige ein Betrug ist, werden wir sie umgehend blockieren.“
Die Gesichtserkennungstechnologie, die derzeit bei „einer kleinen Gruppe von Prominenten und öffentlichen Personen“ getestet wird und vielversprechende Ergebnisse zeigt, insbesondere in Bezug auf die Schnelligkeit und Effizienz bei der Erkennung und Bekämpfung dieser Art von Betrug, basiert auf einem automatisierten System – statt wie bisher auf einer manuell von einer Person durchgeführten Überprüfung.
Laut Meta werden Personen des öffentlichen Lebens vorab darüber informiert, sollte ihr Account Teil dieses ersten Tests sein – die Stars können sich dann auch gegen die Teilnahme an diesem Test entscheiden.
Fake-Profile und Scam-Anzeigen: So täuschen Betrüger die Community
Fake-Gewinnspiele, Spendenaufrufe für wohltätige Zwecke, der Verkauf von begehrten Konzertkarten oder Produkten: Cyberkriminelle nutzen die unterschiedlichsten Betrugsmaschen und missbrauchen dabei Bilder von Prominenten. US-Stars wie Schauspielerin Scarlett Johansson oder Superstar Taylor Swift, aber auch deutsche Promis wie Fußballer Thomas Müller wurden bereits Opfer der per KI generierten Deepfakes.
Von Fake-Profilen, die per Direktnachricht Kontakt aufnehmen, über gefälschte Werbeanzeigen bis hin zu Livestreams – immer wird im Namen einer prominenten Persönlichkeit geworben oder um Geld gebeten. Dabei ist dies in einigen Fällen sogar unmöglich, denn Brad Pitt, dem mehrere Frauen insgesamt mehr als 350.000 Dollar überwiesen hatten, hat nicht einmal einen Account auf Instagram oder Facebook. Ein spanischer Betrügerring steckte hinter dem Scam.
„Betrüger versuchen oft, Bilder von öffentlichen Personen wie Content-Creator:innen oder Prominenten zu verwenden, um Menschen dazu zu bringen, auf Anzeigen zu klicken, die zu betrügerischen Websites führen, auf denen sie aufgefordert werden, persönliche Informationen preiszugeben oder Geld zu senden. Dieses Vorgehen, das allgemein als ‚Celeb-Bait‘ bekannt ist, verstößt gegen unsere Richtlinien und schadet den Nutzern“, so Monika Bickert.
Gesichtserkennung: KI soll Kontowiederherstellung sicherer machen
Mithilfe der KI gestützten Gesichtserkennungstechnologie möchte Meta außerdem ein weiteres Problem in den Griff bekommen: die Wiederherstellung von Konten auf Facebook und Instagram, beispielsweise wenn Nutzer:innen gehackt und von ihren Accounts ausgesperrt wurden.
Hierfür experimentiert Meta mit einer neuen Video-Selfie-Funktion ähnlich der Face-ID-Erkennung von Apple, die es User:innen ermöglicht, einen Clip von sich hochzuladen, der dann mit den Profilbildern abgeglichen wird. Bislang musste zur Verifizierung eines Kontos das Bild eines amtlichen Ausweises hochgeladen werden.
„Die Video-Selfie-Verifizierung erweitert die Optionen zur Wiederherstellung des Konto-Zugangs, dauert nur eine Minute und ist die einfachste Möglichkeit, die Identität zu überprüfen“, sagte Bickert. „Während wir wissen, dass Hacker weiterhin versuchen, die Kontowiederherstellung zu missbrauchen, wird diese Verifizierungsmethode letztlich schwerer für sie zu umgehen sein als traditionelle dokumentbasierte Identitätsüberprüfungen.“
All die Tests zur Gesichtserkennung finden allerdings aufgrund umfassender Datenschutzgesetze noch nicht im Vereinigten Königreich oder in der Europäischen Union statt. Kritiker:innen behaupten sogar, dass Metas Tests Teil einer breiteren PR-Strategie sein könnten, um die europäischen Gesetzgeber unter Druck zu setzen, den Datenschutz zu lockern, wie Techcrunch schreibt.