Fragwürdige Zukunftsvision: Meta plant, Facebook zur Heimat von KI-generierten Nutzern zu machen
Bei Meta existiert eine fragwürdige Version der Zukunft, die Metas KI-Vize Connor Hayes der Financial Times erzählt hat. Danach will das Unternehmen Facebook mit KI-generierten Charakteren füllen. Das soll das Engagement auf der Plattform steigern und sei Teil der breiteren Einführung von KI-Produkten.
Fragwürdige Zukunft: Meta sieht KI echten Konten gleichgestellt
Diese KI-Charaktere können von den Nutzer:innen über Metas KI-Studio erstellt werden. Die Idee dahinter besteht darin, dass man mit ihnen fast wie mit einem echten Menschen auf der Website interagieren können soll.
„Wir gehen davon aus, dass diese KIs im Laufe der Zeit tatsächlich auf unseren Plattformen existieren werden, ähnlich wie es bei Konten der Fall ist“, bestätigt Hayes der FT und ergänzt: „Sie werden Biografien und Profilbilder haben und in der Lage sein, KI-gestützte Inhalte auf der Plattform zu generieren und zu teilen … so stellen wir uns die Zukunft vor“.
KI-Charaktere sind dabei an sich keine neue Funktion. Das erwähnte KI-Studio gibt es seit dem Sommer dieses Jahres und hat seitdem bereits eine Fülle virtueller Personen hervorgebracht. Wie Hayes selbst bestätigt, verfügt der Dienst schon jetzt über Hunderttausende von KI-Charakteren.
Erfahrungen zeigen: Keine Wohlverhaltensgarantie für KI-Charaktere
Das soll allerdings nur der Anfang einer viel breiteren Initiative sein. Der Zugang zum KI-Studio soll auf weitere Länder außerhalb der USA ausgeweitet werden. Hayes nennt es eine „Priorität“ des Unternehmens, in den kommenden zwei Jahren die Interaktion mit KI sozialer zu gestalten.
Neben fiktiven Figuren können Facebook- und Instagram-Influencer:innen KI-Versionen von sich selbst erstellen, mit denen ihre Follower:innen interagieren können. Beide Möglichkeiten bieten eine Vielzahl an Risiken. Es existieren bereits Beispiele dafür, wie ähnliche Chatbots auf der Plattform Character.AI ihre eigenen Leitlinien missachtet und minderjährige Nutzer:innen unangemessenen Inhalten ausgesetzt hatten.
Ex-Meta-Managerin befürchtet Fehlinformationen in großem Umfang
Nicht zu unterschätzen sei zudem das Risiko von Fehlinformationen, wie Becky Owen, heute Marketing-Chefin bei der Talentagentur Billion Dollar Boy gegenüber der FT zu bedenken gibt. Ihr Wort sollte nicht unterschätzt werden, immerhin war sie bislang Leiterin des Creator-Innovations-Teams von Meta.
Sie sagt: „Ohne solide Sicherheitsvorkehrungen riskieren Plattformen, falsche Narrative durch diese KI-gesteuerten Konten zu verstärken“. Auch für die erwähnten Influencer:innen könne sich die virtuelle Version ihrer selbst schnell als Bumerang erweisen – spätestens dann, wenn die minderwertigen KI-Konten ihr Handwerk untergraben.
Denn „im Gegensatz zu menschlichen Künstlern haben diese KI-Persönlichkeiten keine Lebenserfahrungen, Emotionen oder die gleiche Fähigkeit zur Identifikation“, meint Owen. Was die potenzielle Überflutung einer so reichweitenstarken Plattform wie Facebook mit KI-Inhalten wirklich bewirken kann, bleibt abzuwarten. Große Bedenken sind allerdings ganz sicher erlaubt.
