Google will seinen KI-Chatbot Gemini AI künftig auch für Kinder unter 13 Jahren nutzbar machen. Wie die New York Times berichtet, soll der Zugang schon in der kommenden Woche für Familien freigeschaltet werden, die den Google Family Link nutzen. Damit erweitert Google den Nutzer:innenkreis von Gemini – und heizt die Debatte um Fake News, Desinformation und Jugendschutz weiter an.

Die Hersteller von Chatbots nehmen immer öfter auch jüngere Zielgruppen ins Visier. In Apps wie Whatsapp, Instagram und Tiktok haben Jugendliche schon jetzt die Möglichkeit, mit KI-Bots zu chatten. Offiziell sind diese sozialen Netzwerke erst ab 13 Jahren erlaubt, in der Praxis werden sie aber auch von jüngeren Nutzer:innen verwendet. Google will jetzt noch einen Schritt weitergehen und Gemini ganz offiziell für Kinder unter 13 Jahren zugänglich machen.

Möglich soll das ab der kommenden Woche über Googles Family Link sein. Damit können Erziehungsberechtigte die digitalen Aktivitäten ihrer Kinder steuern, indem sie beispielsweise bestimmte Apps zum Download freigeben oder sperren oder eine maximale Bildschirmzeit festlegen. Zum Thema Jugendschutz sagte ein Google-Sprecher der New York Times, dass Gemini zusätzliche Schutzmechanismen für jüngere Nutzer:innen beinhalte und die Interaktionen nicht zum Training von KI-Modellen verwendet würden.

Die Öffnung von KI-Chatbots für Kinder und Jugendliche fällt in eine Zeit, in der der Medienkonsum junger Menschen ohnehin zunehmend kritisch bewertet wird. Laut einem aktuellen Bericht der Kommission für Jugendmedienschutz (KJM) ist die Zahl der Beschwerden über problematische Inhalte auf Plattformen wie Youtube, Tiktok oder Instagram stark gestiegen. Häufig geht es dabei um politisch extremistische, diskriminierende oder demokratiefeindliche Inhalte. Chatbots, die zum Teil genau mit solchen öffentlich zugänglichen Daten trainiert werden, könnten die problematischen Tendenzen zusätzlich verstärken.

Gerade bei jüngeren Nutzer:innen ist es schwer zu kontrollieren, wie KI-Systeme genutzt und welche Inhalte generiert werden. Immer wieder geraten große Tech-Konzerne wegen unzureichender Filtermechanismen in die Kritik. So wurde unter anderem erst kürzlich bekannt, dass Meta AI minderjährigen Whatsapp-Nutzer:innen sexuell explizite Inhalte zugänglich gemacht hatte. Berichten zufolge hatten Mitarbeiter:innen schon im Vorfeld intern auf potenzielle Schwachstellen hingewiesen – trotzdem ergriff Meta erst Maßnahmen, als das Problem öffentlich wurde.

Expert:innen verweisen außerdem auf die Gefahr von sogenannten Halluzinationen bei KI-Systemen – also falschen oder erfundenen Antworten, die aber oft mit großer Sicherheit präsentiert werden. Zudem könnte der frühzeitige Einsatz von KI-Chatbots die Entwicklung von Empathie und sozialer Kompetenz bei Kindern negativ beeinflussen. Zum Beispiel die UNESCO warnt deshalb vor einem unregulierten Einsatz generativer KI im Bildungsbereich. In einem Leitfaden fordert die Organisation ethische Leitlinien, umfassende Datenschutzregeln und ein Mindestalter von 13 Jahren.