Der KI-Bildgenerator Midjourney ist darauf spezialisiert, in wenigen Minuten auf Sprachbefehl eines Users jedes beliebige Foto zu erzeugen – sei es noch so abgefahren. Da entstehen dann schon mal Bilder, die Donald Trump zeigen, wie er versucht, vor der Polizei zu flüchten. Oder auch Angela Merkel, die zusammen mit ihrem „Schatz“ Barack Obama ein Eis schleckt und ihm dabei verliebt in die Augen blickt.

Dass es sich dabei um gefälschte Aufnahmen handelt, die von einer KI generiert wurden, ist auf den ersten Blick nicht ersichtlich. Sogar Model Chrissy Teigen twitterte, dass sie auf eine Fälschung reingefallen war. „Ich dachte, der Papst in der Daunenjacke sei real und habe nicht weiter darüber nachgedacht“, schrieb sie. „Keine Chance, dass ich die Technologie der Zukunft überlebe.“

Kostenlose Testversion wegen „Missbrauchs“ eingestellt

Nachdem eine Reihe der kreierten Bilder viral gegangen war, hat das KI-System Midjourney nun entschieden, seine kostenlosen Testversionen einzustellen. Wie die Washington Post berichtet, kündigte der CEO und Gründer von Midjourney, David Holz, die Änderung am Dienstag an und und gab als Grund dabei „außergewöhnliche Nachfrage und Missbrauch der Testversionen“ an.

Obwohl Expert:innen seit Jahren davor warnen, dass KI zur Verbreitung von Falschinformationen beitragen könnte, gab es bisher keine Probleme damit, weil Fälschungen leicht zu erkennen waren. Bis Midjourney seine Software überarbeitete und eine neue Version 5 veröffentlichte. Die Bilder, die dabei entstanden, und viral gingen, ließen sich kaum noch als Fake erkennen.

Die Erstellung der Deepfakes über Midjourney ist außerdem ein Kinderspiel. Die Bilder lassen sich in wenigen Minuten mit einfacher Spracheingabe über den Chat-Dienst Discord erstellen. Midjourney erlaubte es jedem, der sich bei Discord anmeldete, seine Software zu nutzen und bot 25 kostenlose Bildgenerationen an. Erst dann wurde ein Abo von 10 US-Dollar pro Monat fällig. Das wird es ab sofort also nicht mehr geben.

Zudem schränkt Midjourney die KI-Erstellung von Bildern weiter ein, indem es seine Liste mit verbotenen Wörtern erweiterte und den Begriff „verhaftet“ hinzufügte. Dies sei als Konsequenz auf die Midjourney-Bilder geschehen, die Trumps Verhaftung zeigen und vom investigativen Journalisten Eliot Higgins erstellt wurden. Higgins behauptet, ihm sei im Anschluss darauf verboten worden, Midjourney zu benutzen.

Doch auch solche Einschränkungen können leicht umgegangen werden. Wie The Verge in einem Test bewies, ließe sich zwar nicht mehr „Donald Trump wird verhaftet“ generieren, doch dem Portal war es möglich, eine identische Aufnahme mit der Aufforderung „Donald Trump in Handschellen umgeben von Polizei“ zu erstellen. Das Beweisbild veröffentlichte das Portal in seinem Artikel als Aufmacher.

„Wir haben versucht, die Trial-Versionen mit neuen Sicherheitsvorkehrungen gegen Missbrauch wieder einzuschalten, aber sie schienen nicht ausreichend zu sein, also schalten wir sie wieder aus, um den Dienst für alle anderen aufrechtzuerhalten“, erklärte Holz zum Shutdown der kostenlosen Software-Versionen.