Dall-E 2 ist eigentlich dafür bekannt, fotorealistische aber KI-generierte Bilder zu erstellen. Auch Personen, die auf den Bildern wie echte Menschen aussehen, sind nicht real. Dall-E-Nutzer erhalten jetzt jedoch die Möglichkeit, Gesichter von Personen hochzuladen und nachträglich zu bearbeiten. Das gab Entwickler OpenAI bekannt, wie Techcrunch berichtet.

Zuvor erlaubte OpenAI Benutzern nur, mit fotorealistischen Gesichtern zu arbeiten und diese zu teilen, und verbot das Hochladen von Fotos, die eine echte Person darstellen könnten, einschließlich Fotos von Prominenten und Persönlichkeiten des öffentlichen Lebens.

Möglich machen die Gesichtsbearbeitungsfunktion Verbesserungen der Sicherheitssysteme, die die „Minimierung des Schadenspotenzials“ durch Deepfakes sowie durch Versuche, sexuelle, politische und gewalttätige Inhalte zu erstellen, gewährleisten.

Eine Einschränkung gibt es dabei aber dennoch: Die Nutzungsbedingungen von OpenAI verbieten weiterhin das Hochladen von Bildern von Personen ohne deren Zustimmung oder von Bildern, für die Benutzer keine Rechte haben. Wie genau OpenAI gewährleisten will, dass das nicht doch passiert, ist nicht klar.

Mit dem neuen Feature zieht Dall-E auch mit einem seiner größten Konkurrenten gleich. Das Bilderzeugungsprogramm Stable Diffusion von Stability AI ist in einem Open-Source-Format verfügbar und kann bereits Bilder von Gesichtern bearbeiten. Allerdings dauerte es bei Stable Diffusion nicht lange, bis einige Unbelehrbare die KI missbrauchten und pornografische, nicht einvernehmliche Deepfakes von prominenten Personen erstellten.

Um diesem Problem fernbleiben zu können, schränkt OpenAI die Nutzung von Dall-E 2 weiter ein. Das Bilderstellungsprogramm bleibt in der Betaversion und somit nur auf Einladung nutzbar. Aktuell nutzen den Dienst bereits mehr als eine Million Menschen.