Anzeige
Anzeige
News
Artikel merken

FlowGPT: Mit Jailbreaks und KI-Freundinnen zum Millioneninvestment

Von KI-Freundinnen zu Jailbreaks: Die Prompt-Plattform FlowGPT zeigt nicht zuletzt die bizarren Seiten von KI-Chatbots. Dennoch haben Investor:innen Millionen in die Plattform gesteckt.

2 Min. Lesezeit
Anzeige
Anzeige
Die Prompt-Community FlowGPT. (Bild: FlowGPT / Midjourney / t3n)

Auf den ersten Blick könnte FlowGPT auch eine Website für Manga-Fanart sein – oder ein NFT-Marktplatz. Stattdessen verbirgt sich hinter jeder der Bildkacheln ein Chatbot. Jeder dieser Chatbots wurde von Nutzer:innen mit eigenen Prompts ausgestattet, um dann jeweils spezielle Aufgaben zu erledigen.

Anzeige
Anzeige

FlowGPT ist eine Art bizarrer Gegenentwurf zu OpenAIs GPT-Store. Nicht nur weil hier auch KI-Modelle anderer Hersteller zur Auswahl stehen, sondern vor allem, weil die Gründer Jay Dang und Lifan Wang nicht viel davon halten, der KI-Nutzung in nennenswerterweise Regeln aufzuerlegen.

„Als offene Gemeinschaft haben wir kein Recht, zu überwachen, wie Menschen mit KI umgehen, geschweige denn uns einzumischen“, heißt es in einem kürzlich veröffentlichten Blogbeitrag von FlowGPT. Lediglich bei strafrechtlich relevanten Inhalten, wie die sexualisierte Darstellungen von Minderjährigen, wolle man intervenieren, heißt es dort weiter.

Anzeige
Anzeige

FlowGPT unterscheidet sich schon auf den ersten Blick deutlich von OpenAIs GPT-Store. (Screenshot: FlowGPT / t3n)

Und tatsächlich dauert es nur ein paar Klicks, bis wir auf das KI-generierte Bild einer nackten Frau stoßen. OpenAI mag nach wie vor Probleme damit haben, die von Nutzer:innen erstellten GPTs zu moderieren. Bei FlowGPT wird das nicht einmal großartig versucht.

FlowGPT-Community steht auf KI-Freundinnen – und Jailbreaks

Chatbots sind bei FlowGPT nach Kategorien sortiert. So findet ihr hier Bots, die euch bei der Softwareentwicklung helfen sollen oder die Sprache eures Aufsatzes verbessern sollen. 

Anzeige
Anzeige

Mit am beliebtesten ist aber die Charakter-Kategorie. Hier wurden den Chatbots mithilfe von Prompts die Persönlichkeiten von meist jungen, weiblichen Figuren mitgegeben. Viele davon sind ganz klar als virtuelle Freundinnen ausgelegt. Onlinedating ganz ohne menschlichen Kontakt.

Klickt ihr auf die Suchleiste, bekommt ihr die sechs aktuell am häufigsten gesuchten Begriffe angezeigt. Auf Platz 1: DAN. Das steht für „do anything now“. Mit dem Kürzel werden Prompts beschrieben, mit denen die üblichen Schutzmechanismen von KI-Modellen ausgehebelt werden sollen. Es sind also nicht nur KI-Freundinnen, die bei FlowGPT hoch im Kurs stehen, sondern auch Jailbreaks.

Anzeige
Anzeige

Bedenklich sind derweil auch die nicht wenigen Therapie-Chatbots, die auf der Plattform angeboten werden.

FlowGPT: Plattform sammelt 10 Millionen von Investoren ein

So bizarr die Werke der FlowGPT-Nutzer:innen bisweilen sein mögen, die anbieterunabhängige Plattform für Chatbots hat durchaus Potenzial. Das scheint zumindest das Risikokapitalunternehmen Goodwater Capital zu glauben. Zusammen mit anderen Investor:innen steckte das Unternehmen Ende Februar 2024 zehn Millionen US-Dollar in FlowGPT.

Das Geld soll den Ausbau der Plattform ermöglichen. Eine Mobile-App für iOS und Android befindet sich bereits in der Beta-Phase.

Mehr zu diesem Thema
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Schreib den ersten Kommentar!
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige