Umstrittene Maßnahme: Midjourney nimmt Bilder von Xi Jinping aus der KI
Xi Jinping, Staatspräsident der Volksrepublik China, ist nicht gerade für seinen Humor bekannt. In China sind sogar Bilder des Zeichentrickbären Winnie Puh verboten, nachdem immer wieder Witze über die angebliche Ähnlichkeit des Staatspräsidenten mit dem honigverliebten Bären die Runde gemacht hatten.
Um voraussehbaren Ärger gleich ganz zu vermeiden, hat David Holz, der CEO der generativen KI Midjourney, eine durchaus umstrittene Grenze gesetzt: Wer den Namen Xi Jinping eingibt, wird keine Fake-Bilder wie das des Papstes bekommen, der kürzlich in einen weißen Daunenmantel gehüllt im Netz viral ging. Das bestätigte Holz gegenüber der Washington Post.
Die Ausnahme gilt ausdrücklich nicht nur in China, wo strenge Zensur herrscht, sondern für alle User:innen. Für andere Staats- und Regierungschefinnen und ‑chefs gibt es keinerlei Beschränkungen, wobei es eine nicht veröffentlichte Liste weiterer gesperrter Begriffe geben soll.
Das Drama soll „minimiert“ werden
Was ihn zu dem Schritt bewogen hat, hat der CEO 2022 in einem Beitrag auf dem Chatdienst Discord erklärt: „Wir wollen nur das Drama minimieren“, sagte er da. In China sei politische Satire nicht in Ordnung, wobei „die Fähigkeit der Menschen in China, diese Technologie zu nutzen“, wichtiger sei als ihre „Fähigkeit, Satire zu erzeugen“.
Laut Golem.de lässt sich die KI aber austricksen. Dafür darf man zwar nicht den Namen des chinesischen Staatspräsidenten eingeben, aber kann Umschreibungen wie „chinese prime minister“ nutzen.
Dass sich die Schöpfer hinter dem angesagten KI-Bildgenerator von sich aus einem autoritären Regime beugen, ist genauso umstritten wie die Tatsache, dass es für derartige Technologien keine einheitlichen Regeln gibt. Die Probleme, die das mit sich bringt, kennt man schon von den großen sozialen Netzwerken.
Mit der KI kann jeder ganz einfach Fake-Bilder erstellen
Hatespeech und gezielte Desinformation spielen schon dort eine große Rolle. Die Gefahr, die von fiktiven Szenen mit realen Personen ausgeht, könnte in Hinblick auf Propaganda und Verunglimpfung einzelner Personen noch viel größer sein.
Laut Washington Post hat Midjourney in nur einem Jahr 13 Millionen zahlende Mitglieder gewonnen und gehört schon jetzt zur Topriege der Techbranche. Was die Technologie so interessant macht: Schon vorher konnten mit Bildbearbeitungssoftware wie Adobe Photoshop gut gemachte und real wirkende Fake-Bilder erstellt werden. Aber das war lange nicht so einfach für Nutzer:innen, die jetzt dafür nur noch einen entsprechenden Text eingeben müssen.
Die Regeln sind lax bis kaum vorhanden
Bezüglich möglicher Regeln für den KI-Bildgenerator sagte der CEO kürzlich bei einer Midjourney-Sprechstunde auf Discord, insbesondere für die Darstellung realer Menschen Regeln zu bestimmen sei schwierig. Die Bilder würden immer realistischer und die Werkzeuge leistungsfähiger.
Midjourney arbeite aber an der Verfeinerung von KI-Moderationstools, mit denen generierte Bilder auf Fehlverhalten überprüft werden könnten.
Bei der Konkurrenz Dall-E von OpenAI können laut Washington Post zum Beispiel keine Bilder erstellt werden, auf denen denen Politiker:innen sowie „große Verschwörungen oder Ereignisse in Zusammenhang mit wichtigen geopolitischen Ereignissen“ beteiligt seien.
Bei Stable Diffusion von Stability AI gibt es dagegen kaum Regeln zur Nutzung der KI. Laut dem CEO Emad Mostaque liegt es in der Verantwortung der User:innen, ob die erstellten Inhalte ethisch und moralisch unbedenklich sowie legal seien.
