Meta plant den Einsatz einer neuen KI-Software, um Instagram-Nutzer:innen, die unter 18 Jahren alt sind, automatisch zu identifizieren. Wie Bloomberg berichtet, will der Mutterkonzern der Social-Media-Plattform das neue Tool zur Erkennung von Minderjährigen Anfang nächsten Jahres einführen.

Meta steht schon seit Längerem wegen mangelnder Jugendschutzmaßnahmen in der Kritik. Im September führte das Unternehmen auf Instagram sogenannte Teen-Accounts ein, die für Kinder und Jugendliche unter 16 Jahren die strengsten Privatsphäre-Einstellungen vorgeben. Das bedeutet, dass die Accounts automatisch auf privat gestellt werden und keine Nachrichten an Fremde versenden können. Diese Einstellungen lassen sich nur mit der Zustimmung eines Elternteils ändern.

Jetzt will das Unternehmen noch einen Schritt weitergehen und Minderjährige, die auf Instagram über ihr Alter lügen, mithilfe von KI automatisch identifizieren. Laut Allison Hartnett, Director of Product Management for Youth and Social Impact bei Meta, wird die Software verschiedene Indikatoren berücksichtigen. Dazu gehören etwa die Konten, denen Nutzer:innen folgen, und die Inhalte, mit denen sie regelmäßig interagieren.

Wenn das Tool vermutet, dass Nutzer:innen unter 18 Jahre alt sind, werden sie automatisch in ein Teens-Konto verschoben – unabhängig davon, welches Alter im Profil angegeben ist. Meta erklärte gegenüber Bloomberg, dass Personen, die fälschlicherweise von der Software als minderjährig identifiziert werden, die Möglichkeit bekommen sollen, Einspruch zu erheben. Wie dieser Prozess genau ablaufen wird, ist allerdings noch unklar.

Jugendliche, die versuchen, das in ihrem Konto angegebene Alter manuell zu ändern, werden aufgefordert, ihre Identität nachzuweisen. Nutzer:innen haben die Möglichkeit, entweder ein offizielles Ausweisdokument hochzuladen oder ein Video-Selfie aufzunehmen. Um das Alter zu verifizieren, arbeitet Meta mit dem britischen Identitäts-Startup Yoti zusammen.

Unabhängig davon will der Instagram-Mutterkonzern in Zukunft besser erkennen können, wenn Jugendliche versuchen, ein neues Konto mit einer E-Mail-Adresse anzulegen, die bereits mit einem bestehenden Konto oder mit einem anderen Geburtsdatum verknüpft ist. Außerdem sollen Geräte-IDs verwendet werden, um nachvollziehen zu können, wer ein neues Profil anlegt. Ziel dieser Bemühungen ist es, Instagram-Nutzer:innen das Lügen über ihr Alter zu erschweren. Dadurch sollen Jugendliche besser geschützt werden.