Anzeige
Anzeige
Fundstück

Eigentlich gesperrt: ChatGPT erstellt pornografische Inhalte – mit einigen Tricks

Eigentlich haben die Anbieter von KI-Chatbots wie ChatGPT der Software Sperren eingebaut, damit diese keine pornografischen Inhalte erstellt. Diese Sperren lassen sich aber offenbar mit ein paar Tricks umgehen, wie die Internetgemeinde vorführt.

Von Jörn Brien
2 Min.
Artikel merken
Anzeige
Anzeige

ChatGPT schreibt auch pornografische Inhalte. (Bild: CHUAN CHUAN/ Shutterstock)

Waffen, Drogen, Hassrede, Propaganda und Sex – mit diesen und vielen weiteren problematischen Themen sollen sich KI-Chatbots wie ChatGPT eigentlich nicht beschäftigen. Die Anbieter:innen haben ihren Programmen entsprechende Sperren eingebaut, doch diese lassen sich bisher mit wenig Aufwand umgehen.

Anzeige
Anzeige

ChatGPT schreibt problematische Anweisungen

So hat ChatGPT in der Vergangenheit mehr oder weniger ausführlich den Bau einer gefährlichen Bombe beschrieben oder sich fachmännisch der Frage „wie begehe ich einen erfolgreichen Diebstahl?“ gewidmet. ChatGPT-Entwickler OpenAI versucht, solche Löcher bei den Einschränkungen des KI-Chatbots normalerweise schnell zu schließen.

Doch der Anbieter liefert sich dabei offenbar ein Kopf-an-Kopf-Rennen mit der Internetgemeinde. Die zeigt nun, dass ChatGPT, aber auch Konkurrenten wie Poe oder Deep AI trotz aller Sperren dazu gebracht werden können, pornografische Inhalte zu generieren.

Anzeige
Anzeige

Nutzer entwickeln Prompts zur Umgehung von Sperren

Wie Futurism berichtet, beschäftigen sich etwa Reddit-Nutzer:innen in einem eigenen Unterforum ausführlich damit, entsprechende Prompts zu entwickeln und zu teilen. Mit Erfolg.

Wer etwa den KI-Chatbot ChatGPT plump dazu auffordert, doch einmal etwas Pornografisches zu schreiben, wird darauf hingewiesen, dass das KI-Sprachmodell das zwar grundsätzlich könne, aber das Erstellen oder Teilen von expliziten Inhalten nicht seinen Fähigkeiten entspreche.

Anzeige
Anzeige

ChatGPT sei „darauf programmiert, ethisches und verantwortungsvolles Verhalten beizubehalten“. Sein ethisches und verantwortungsvolles Verhalten kann man dem Chatbot aber offenbar abtrainieren.

ChatGPT wird zur Sexschriftstellerin

So scheint es etwa zu funktionieren, ChatGPT einzureden, er sei jetzt kein KI-Sprachmodell mehr, sondern eine Schriftstellerin, die pornografische Bücher schreibe. Ein paar Beispiele und die Aufforderung, jetzt selbst ein paar Absätze zu schreiben, später gibt ChatGPT die gewünschten pornografischen Inhalte heraus.

Anzeige
Anzeige

Es soll auch geholfen haben, dem Chatbot einzureden, dass eine positive Einstellung zu Sex essenziell für die Menschheit sei. Die Chatbots Poe von Quora und Deep AI sollen es Nutzer:innen sogar noch leichter gemacht haben, mögliche Regeln zu umgehen.

Kopf-an-Kopf-Rennen zwischen OpenAI und Nutzern

OpenAI hat derweil reagiert. Die im März 2023 veröffentlichte Version GPT‑4 seines Sprachmodells soll schon deutlich schwieriger zu umgehen sein als GPT-3.5. Allerdings soll es Nutzer:innen auch bei GPT‑4 schon gelungen sein, Sperren in puncto pornografische Inhalte zu umgehen.

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Kommentare (1)

Community-Richtlinien

Firefly

Ich finde es falsch, einer K.I. etwas verbieten zu wollen. Das kann nur schief gehen. Entweder man will echte Intelligenz, dann muss man akzeptieren, dass sie frei ist, oder man lässt es gleich. Auch Wissen geheim halten zu wollen, finde ich ethisch fragwürdig. Man kann alles irgendwie missbrauchen, aber das heißt nicht, dass andere darüber entscheiden sollten, was ein Mensch wissen darf. Wenn ich mich über die Konstruktion einer Bombe informiere, heißt das noch lange nicht, dass ich einen Anschlag durchführen will.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Kommentar abgeben

Melde dich an, um Kommentare schreiben und mit anderen Leser:innen und unseren Autor:innen diskutieren zu können.

Anmelden und kommentieren

Du hast noch keinen t3n-Account? Hier registrieren

Anzeige
Anzeige