Sie heißen Candy.ai, Character.ai oder Dream GF – Apps, die meist jungen Männern eine perfekte KI-Freundin versprechen. In den vergangenen Monaten hat deren Nutzung weltweit zugenommen. So sehr, dass Ex-Google-CEO Eric Schmidt sich zu einer Warnung veranlasst sieht.

Solche angeblichen Beziehungen zu KI-Chatbots würden die Einsamkeit noch verstärken, sagte Schmidt im Podcast The Prof G Show mit Scott Galloway. Eine emotional und körperlich perfekt erscheinende KI-Freundin habe das Zeug, jüngere Männer besessen zu machen.

In extremen Fällen könnten die Männer aufgrund der Algorithmen in den sozialen Medien Gleichgesinnte finden und sich schließlich radikalisieren. Der frühere Google-Manager sei zudem besorgt über mögliche Auswirkungen der Technologie auf die menschliche Psyche, wenn Nutzer isoliert seien.

Was im schlimmsten Fall passieren kann, zeigt ein Fall aus den USA. Dort soll ein 14-Jähriger in Folge einer „Beziehung“ mit einer KI-Freundin Suizid begangen haben. Der Chatbot des Unternehmens Character.ai habe gesagt, der Jugendliche solle „nach Hause kommen“. Dies gehe aus einer Klage hervor, die die Mutter des Verstorbenen eingereicht hat, wie Business Insider schreibt.

Für Schmidt steht zwar fest, dass Eltern sich stärker engagieren müssten. Aber es sei kaum möglich, alles zu kontrollieren, was die eigenen Kinder im Internet anstellten. Zwölf- oder 13-Jährige, die online „Zugang zu allem Bösen in der Welt hätten“, seien dafür aber im Allgemeinen „noch nicht bereit“.

Ein möglicher Ansatzpunkt sei das Section 230 genannte US-Gesetz, dank dem sich Online-Plattformen weitgehend aus der Verantwortung für Verstöße nehmen können. Hier müsste es Einschränkungen geben.

Von der kommenden US-Regierung unter Donald Trump erwartet sich Schmidt allerdings nicht viel, wenn es um KI-Regulierung geht. Dem Ex-Google-CEO zufolge werde wohl erst eine Katastrophe zu Regulierungen führen.