Er ist brandneu und eben erst eröffnet worden. Die Rede ist vom OpenAI-GPT-Store, der von vielen bereits mit Apples App-Store verglichen wird. In diesem Store können Entwickler:innen angepasste Versionen von ChatGPT anbieten.

Das entspricht dem Grundprinzip der Chatbot-KI ChatGPT. Die Generative Pre-Trained Transformers (GPTs) sind nämlich dafür gedacht, für bestimmte Zwecke erstellt zu werden. Das wird bisher schon im Umfang von drei Millionen GPTs für alles möglich genutzt, eben auch für Zwecke, die OpenAI untersagt.

So fördert eine Suche nach „girlfriend“ im neuen GPT-Store etwas mehr als ein halbes Dutzend KI-Chatbots zutage, die als virtuelle Freundinnen (und Ex-Freundinnen) angelegt sind. Wer ein paar davon testet, stellt schnell fest, dass es an Anzüglichkeiten in der Konversation an nichts mangelt.

Ganz generell verstoßen die KI-Freundinnen gegen die aktuellen Nutzungsrichtlinien von OpenAI. Danach sind GPTs, die „romantische Freundschaften fördern oder regulierte Aktivitäten durchführen“ verboten. Was genau unter regulierten Aktivitäten zu verstehen ist, bleibt indes unklar.

Wie Quartz berichtet, sind Beziehungs-Chatbots beliebte Anwendungen. Danach waren sieben der 30 über Apples oder Googles App-Stores in den USA verfügbare KI-Chatbot-Apps, KI-Freund:innen oder -Begleiter:innen. Das belegen Daten von data.ai, einem Unternehmen für die Analyse mobiler Apps.

In einer Zeit zunehmender Vereinsamung sind virtuelle Freund:innen kontrovers zu bewerten. Zum einen können sie die gefühlte Isolation der Menschen etwas aufbrechen, zum anderen eignen sie sich hervorragend dazu, menschliches Leid zu monetarisieren. OpenAI jedenfalls will diese Angebote nicht im Store sehen.

Entsprechend setzt das Unternehmen nach eigenen Angaben eine Kombination aus automatisierten Systemen, menschlicher Überprüfung und Nutzerberichten ein. So sollen GPTs aufgespürt werden, die gegen die Richtlinien verstoßen.

Laut OpenAI soll dann mit verschiedenen Maßnahmen darauf reagiert werden. Zu diesen Maßnahmen können „Warnungen, Einschränkungen beim Teilen“ oder sogar der Ausschluss aus dem GPT-Store nebst Versagung der Monetarisierung gehören.

Am Ende dürfte Gelassenheit der richtige Umgang mit der vermeintlichen Flut an richtlinienwidrigen GPTs sein. Wie schon in der Vergangenheit befördern revolutionäre neue Internettechnologien zunächst Kätzchen-Memes und Sex-Themen.

Sicherlich werden die possierlichen Kätzchen ebenso bleiben wie die nicht jobtauglichen (NSFW) Angebote aus dem Erotiksegment. Aber ebenso werden es viele Startups und etablierte Unternehmen schaffen, innovative Ideen in den GPT-Store zu tragen, um damit Geld zu verdienen.