Altersüberprüfung: Instagram testet KI-Tool zum Scannen von Gesichtern

Wenn ein Zehnjähriger in Zukunft ein Instagram-Account eröffnen möchte, wird das nicht mehr so einfach sein. Denn das Unternehmen hat neue Wege zur Altersüberprüfung gefunden, mit denen gewährleistet werden soll, dass a) Teenager:innen und Erwachsene den Content angeboten bekommen, der ihrer Altersgruppe entspricht und mit denen b) die Privatsphäre derjenigen, die überprüft werden, auch tatsächlich geschützt werden soll. Derzeit werden die neuen Optionen erst mal bei Personen mit Sitz in den USA getestet.
Altersgerechter Content für Teenager:innen
Die betreffenden Personen können einen Ausweis hochladen, der ihr Alter bestätigt. Zusätzlich dazu wird es möglich sein, Video-Selfies hochzuladen und andere Personen für sich bürgen zu lassen. „Wir testen dies, um sicherzustellen, dass Teenager:innen und Erwachsene die richtige Erfahrung für ihre Altersgruppe haben. Wir arbeiten auch mit Yoti zusammen, einem Unternehmen, das sich auf die Online-Altersüberprüfung spezialisiert hat, um die Privatsphäre der Menschen zu schützen“, schreibt Instagram in einem Blogbeitrag.
„Wenn wir wissen, ob jemand ein Teenager:in (13–17) ist, bieten wir ihm eine altersgerechte Online-Erfahrung an, wie z. B. die standardmäßige Einrichtung privater Konten, die Verhinderung unerwünschter Kontakte von Erwachsenen, die er nicht kennt, und die Begrenzung der Möglichkeiten für Werbetreibende, ihn mit Anzeigen zu erreichen“, heißt es weiter.
Drei Wege zur Altersüberprüfung
Video-Selfie: Wer die Option wählt, dass er ein Video-Selfie hochladen möchte, um sein Alter zu bestätigen, muss den Anweisungen auf dem Bildschirm folgen. Danach wird das Material mit Yoti geteilt. Das KI-Tool des Unternehmens schätzt das Alter dann anhand der Gesichtszüge und teilt sie Meta mit. Danach wird das Video-Selfie gelöscht. Die Technologie kann angeblich nur das Alter, nicht die Identität erkennen.
Social Vouching: Diese Option erlaubt es, gemeinsamen Follower:innen das Alter der Person zu bestätigen. Die Person, die für einen bürgt, muss dabei mindestens 18 Jahre alt sein und darf zu diesem Zeitpunkt auch für niemanden sonst bürgen. Die drei Personen, die die Person auswählt, um für sie zu bürgen, erhalten eine Aufforderung zur Bestätigung des Alters dieser Person. Diese müssen sie innerhalb von drei Tagen beantworten.
Ausweis: Weiterhin können Personen ihren Führerschein oder Personalausweis hochladen, um ihr Alter zu verifizieren. Die ID wird dafür sicher auf den Servern von Meta gespeichert und innerhalb von 30 Tagen gelöscht.
Mit KI das Alter der Menschen verstehen
Die korrekte Kategorisierung von Teenager:innen ist für Unternehmen wie Meta wichtig, um zu verhindern, dass sie auf Funktionen für Erwachsene wie Facebook Dating oder Mentoring zugreifen können. Sie trägt auch dazu bei, Risiken und Sicherheitsprobleme für Kinder zu mindern, die auf Plattformen auftreten können, auf denen sich sowohl Erwachsene als auch Jugendliche tummeln. Instagram erlaubt es Erwachsenen beispielsweise nicht, Teenager:innen Nachrichten zu senden, die ihnen nicht folgen. Und hier kommt KI ins Spiel.
Denn die hilft dem Unternehmen dabei, Signale wie Profilinformationen (z.B. wann das Konto einer Person erstellt wurde) sowie Interaktionen mit anderen Profilen und Inhalten, richtig zu deuten. Zum Beispiel tendieren Personen derselben Altersgruppe dazu, ähnlich mit bestimmten Arten von Inhalten zu interagieren. Aus diesen Signalen lernt das Modell, Berechnungen darüber anzustellen, ob es sich bei den Personen um Erwachsene oder Teenager:innen handelt.
So funktioniert die KI
Desweiteren wird ein „Bewertungsdatensatz“ entwickelt. Dieser Datensatz wird erstellt, indem Teams bestimmte Datenpunkte manuell überprüfen lassen, von denen Instagram glaubt, dass sie starke Alterssignale sind, wie z. B. Geburtstagsbeiträge. Bevor diese Posts mit dem Team geteilt werden, um eine Bestimmung über das Alter der Person zu treffen, die sie gepostet hat, werden identifizierende Details entfernt. Sobald das Team eine Feststellung getroffen hat, kennzeichnet es die Daten mit einer Notiz, die angibt, ob der Beitrag von einem Erwachsenen oder einem Teenager stammt. Diese gekennzeichneten Datenpunkte bilden dann den Auswertungsdatensatz von Instagram.
Jedes Mal, wenn das Modell neu trainiert wird, werden die Alterserkennungen mit dem gekennzeichneten Bewertungsdatensatz verglichen, um die Genauigkeit des Modells zu messen. Dabei greift das Unternehmen auf ein ausgeklügeltes Framework zu, das sicherstellen soll, dass der Bewertungsdatensatz von Instagram repräsentativ für die Personen steht, die dessen Dienste nutzen.
Modell braucht Updates, um Fehler zu vermeiden
„Damit ein Modell auf dem neuesten Stand bleibt, müssen wir es ständig mit den neuesten Informationen neu trainieren und überprüfen, ob seine Alterserkennung korrekt ist“, schreibt Instagram. „Wenn wir im Laufe der Zeit andere Signale identifizieren, die zur Verbesserung der Genauigkeit beitragen könnten, werden wir diese testen und das Modell neu trainieren, um sie einzubeziehen.“
Das Unternehmen merkt auch an, dass egal, wie genau ein KI-System ist, es gelegentlich zu falschen Berechnungen kommen kann. „Wenn das passiert, wissen wir, dass es wichtig ist, dass die Leute ihr Alter manuell überprüfen können“, so Instagram. „Leider ist dieser Prozess nicht so einfach wie ein Verkäufer, der den Personalausweis einer Person überprüft. Nicht jeder hat einen amtlichen Ausweis, insbesondere junge Menschen, und viele Menschen stehen vor finanziellen und sozialen Herausforderungen, um einen Ausweis in ihren Heimatländern zu erhalten. Selbst diejenigen, die Ausweise haben, fühlen sich möglicherweise nicht wohl dabei, ihre Informationen online hochzuladen.“ Deshalb habe Instagram beschlossen, den Menschen mehrere Optionen anzubieten, mit denen sie ihr Alter bestätigen können.