OpenAIs GPT-Store: Girlfriend-Bots zeigen die Probleme des offenen KI-Shops auf
Er ist brandneu und eben erst eröffnet worden. Die Rede ist vom OpenAI-GPT-Store, der von vielen bereits mit Apples App-Store verglichen wird. In diesem Store können Entwickler:innen angepasste Versionen von ChatGPT anbieten.
Schon 3 Millionen GPTs von Community erstellt
Das entspricht dem Grundprinzip der Chatbot-KI ChatGPT. Die Generative Pre-Trained Transformers (GPTs) sind nämlich dafür gedacht, für bestimmte Zwecke erstellt zu werden. Das wird bisher schon im Umfang von drei Millionen GPTs für alles möglich genutzt, eben auch für Zwecke, die OpenAI untersagt.
So fördert eine Suche nach „girlfriend“ im neuen GPT-Store etwas mehr als ein halbes Dutzend KI-Chatbots zutage, die als virtuelle Freundinnen (und Ex-Freundinnen) angelegt sind. Wer ein paar davon testet, stellt schnell fest, dass es an Anzüglichkeiten in der Konversation an nichts mangelt.
So sieht der neue GPT-Store aus. (Screenshot: OpenAI)
Ganz generell verstoßen die KI-Freundinnen gegen die aktuellen Nutzungsrichtlinien von OpenAI. Danach sind GPTs, die „romantische Freundschaften fördern oder regulierte Aktivitäten durchführen“ verboten. Was genau unter regulierten Aktivitäten zu verstehen ist, bleibt indes unklar.
Schindluder mit virtuellen Freunden möglich
Wie Quartz berichtet, sind Beziehungs-Chatbots beliebte Anwendungen. Danach waren sieben der 30 über Apples oder Googles App-Stores in den USA verfügbare KI-Chatbot-Apps, KI-Freund:innen oder -Begleiter:innen. Das belegen Daten von data.ai, einem Unternehmen für die Analyse mobiler Apps.
In einer Zeit zunehmender Vereinsamung sind virtuelle Freund:innen kontrovers zu bewerten. Zum einen können sie die gefühlte Isolation der Menschen etwas aufbrechen, zum anderen eignen sie sich hervorragend dazu, menschliches Leid zu monetarisieren. OpenAI jedenfalls will diese Angebote nicht im Store sehen.
Entsprechend setzt das Unternehmen nach eigenen Angaben eine Kombination aus automatisierten Systemen, menschlicher Überprüfung und Nutzerberichten ein. So sollen GPTs aufgespürt werden, die gegen die Richtlinien verstoßen.
OpenAI will gegen Verletzung der Richtlinien vorgehen
Laut OpenAI soll dann mit verschiedenen Maßnahmen darauf reagiert werden. Zu diesen Maßnahmen können „Warnungen, Einschränkungen beim Teilen“ oder sogar der Ausschluss aus dem GPT-Store nebst Versagung der Monetarisierung gehören.
Am Ende dürfte Gelassenheit der richtige Umgang mit der vermeintlichen Flut an richtlinienwidrigen GPTs sein. Wie schon in der Vergangenheit befördern revolutionäre neue Internettechnologien zunächst Kätzchen-Memes und Sex-Themen.
Sicherlich werden die possierlichen Kätzchen ebenso bleiben wie die nicht jobtauglichen (NSFW) Angebote aus dem Erotiksegment. Aber ebenso werden es viele Startups und etablierte Unternehmen schaffen, innovative Ideen in den GPT-Store zu tragen, um damit Geld zu verdienen.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team