Anzeige
Anzeige
News
Artikel merken

Deepfakes: KI-Bildgenerator Midjourney stoppt kostenlose Testversionen wegen „Missbrauchs“

Der Papst in Daunenjacke, Barack Obama und Angela Merkel beim vertrauten Tête-à-Tête am Strand oder Donald Trump bei seiner Verhaftung – was aussieht wie Paparazzi-Fotos, sind in Wirklichkeit realistische Fake-Fotos, die von einer KI generiert wurden. Nun hat das KI-System Midjourney seine kostenlosen Testversionen eingestellt, mit denen diese Deepfakes generiert wurden.

Von Stefica Budimir Bekan
2 Min. Lesezeit
Anzeige
Anzeige
Mit der neuen Software von Midjourney lassen sich täuschend echte KI-Bilder kreieren (Foto: Shutterstock/salarko)

Der KI-Bildgenerator Midjourney ist darauf spezialisiert, in wenigen Minuten auf Sprachbefehl eines Users jedes beliebige Foto zu erzeugen – sei es noch so abgefahren. Da entstehen dann schon mal Bilder, die Donald Trump zeigen, wie er versucht, vor der Polizei zu flüchten. Oder auch Angela Merkel, die zusammen mit ihrem „Schatz“ Barack Obama ein Eis schleckt und ihm dabei verliebt in die Augen blickt.

Anzeige
Anzeige

Dass es sich dabei um gefälschte Aufnahmen handelt, die von einer KI generiert wurden, ist auf den ersten Blick nicht ersichtlich. Sogar Model Chrissy Teigen twitterte, dass sie auf eine Fälschung reingefallen war. „Ich dachte, der Papst in der Daunenjacke sei real und habe nicht weiter darüber nachgedacht“, schrieb sie. „Keine Chance, dass ich die Technologie der Zukunft überlebe.“

Kostenlose Testversion wegen „Missbrauchs“ eingestellt

Nachdem eine Reihe der kreierten Bilder viral gegangen war, hat das KI-System Midjourney nun entschieden, seine kostenlosen Testversionen einzustellen. Wie die Washington Post berichtet, kündigte der CEO und Gründer von Midjourney, David Holz, die Änderung am Dienstag an und und gab als Grund dabei „außergewöhnliche Nachfrage und Missbrauch der Testversionen“ an.

Anzeige
Anzeige

Obwohl Expert:innen seit Jahren davor warnen, dass KI zur Verbreitung von Falschinformationen beitragen könnte, gab es bisher keine Probleme damit, weil Fälschungen leicht zu erkennen waren. Bis Midjourney seine Software überarbeitete und eine neue Version 5 veröffentlichte. Die Bilder, die dabei entstanden, und viral gingen, ließen sich kaum noch als Fake erkennen.

Deepfakes lassen sich kinderleicht generieren

Die Erstellung der Deepfakes über Midjourney ist außerdem ein Kinderspiel. Die Bilder lassen sich in wenigen Minuten mit einfacher Spracheingabe über den Chat-Dienst Discord erstellen. Midjourney erlaubte es jedem, der sich bei Discord anmeldete, seine Software zu nutzen und bot 25 kostenlose Bildgenerationen an. Erst dann wurde ein Abo von 10 US-Dollar pro Monat fällig. Das wird es ab sofort also nicht mehr geben.

Anzeige
Anzeige

Zudem schränkt Midjourney die KI-Erstellung von Bildern weiter ein, indem es seine Liste mit verbotenen Wörtern erweiterte und den Begriff „verhaftet“ hinzufügte. Dies sei als Konsequenz auf die Midjourney-Bilder geschehen, die Trumps Verhaftung zeigen und vom investigativen Journalisten Eliot Higgins erstellt wurden. Higgins behauptet, ihm sei im Anschluss darauf verboten worden, Midjourney zu benutzen.

Anzeige
Anzeige

Verbotene Wörter lassen sich mit Synonymen ersetzen

Doch auch solche Einschränkungen können leicht umgegangen werden. Wie The Verge in einem Test bewies, ließe sich zwar nicht mehr „Donald Trump wird verhaftet“ generieren, doch dem Portal war es möglich, eine identische Aufnahme mit der Aufforderung „Donald Trump in Handschellen umgeben von Polizei“ zu erstellen. Das Beweisbild veröffentlichte das Portal in seinem Artikel als Aufmacher.

„Wir haben versucht, die Trial-Versionen mit neuen Sicherheitsvorkehrungen gegen Missbrauch wieder einzuschalten, aber sie schienen nicht ausreichend zu sein, also schalten wir sie wieder aus, um den Dienst für alle anderen aufrechtzuerhalten“, erklärte Holz zum Shutdown der kostenlosen Software-Versionen.

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Ein Kommentar
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Sven

So ein Quatsch. Nicht immer alles unreflektiert übernehmen… In der Testversion konnte man Version 5 gar nicht benutzen, dafür benötige man von Anfang an ein Abo.

Antworten

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige