Sora 2 ist erst seit geraumer Zeit verfügbar, hat aber schon jetzt für Furore gesorgt. Zur Überraschung von OpenAI und Sam Altman hält sich dabei die Begeisterung von einigen Privatpersonen und Rechteinhaber:innen aber in Grenzen. Zwar erstellt die KI realistische Clips, aber auch mit urheberrechtlich geschützten Inhalten oder den Gesichtern ihrer User:innen in ungewollten KI-Szenarien.

Schon kurz nach der Veröffentlichung meldete sich die Motion Picture Association in den USA zu Sora 2 zu Wort (via CNBC). CEO Charles Rivkin sagte in einem Statement: „Seit dem Release von Sora 2 sind Videos in der App von OpenAI und in den sozialen Medien aufgetaucht, die die Rechte unserer Filme, Shows und Charaktere verletzen.“ Er fügte hinzu, dass OpenAI „unverzüglich und entschieden“ handeln müsse, um der Urheberrechtsverletzung einen Riegel vorzuschieben.

Zunächst hatte OpenAI Sora 2 so veröffentlicht, dass sich Rechteinhaber im Nachhinein gegen die Nutzung ihres intellektuellen Eigentums innerhalb der Videos aussprechen können. Es dürfte aber wohl schon vorab klar gewesen sein, dass Rechteinhaber:innen kein Interesse daran haben, ihre Figuren in Naziuniformen oder beim Begehen von Verbrechen in der App von Sora 2 zu sehen (via 404Media).

In einem Blog-Post meldete sich jetzt Sam Altman zu Wort und versprach, die Situation zu verbessern. So heißt es vom OpenAI-CEO, dass schon bald mehrere Änderungen vorgenommen werden sollen. So habe OpenAI von vielen Rechteinhaber:innen positives Feedback über die „interaktive Fan-Fiction“ erhalten, verstehe aber auch, warum sie Bedenken haben, wie ihre Charaktere genutzt werden. Also sollen die Rechteinhaber:innen jetzt auch die Entscheidung darüber bekommen, ob und wie ihre Charaktere in Sora 2 dargestellt werden können. Wie genau das umgesetzt wird, ist allerdings nicht bekannt.

Der zweite große Kritikpunkt dreht sich um ein kontroverses Feature von Sora 2, die sogenannten Cameos. Darüber können Aufnahmen von echten Personen in die Video-KI geladen und daraus neue Szenen erstellt werden – komplett mit Mimik, Gestik und Stimme. Schon jetzt gibt es Bedenken, dass die Cameo-Funktion von Sora 2 zu einem Deepfake-Tool verkommt.

Wie The Verge berichtet, zeigte sich Altman zunächst überrascht über die Reaktionen zu Sora 2. Seiner Aussage nach gibt es viele Personen, die gemischter Meinung zu dem Feature sind. Er hätte damit gerechnet, dass es mehr Leute gibt, die stark dafür oder dagegen sind. Doch offenbar gibt es eine Menge Sora-2-Nutzer:innen, die ihr Gesicht grundsätzlich gern in KI-Videos sehen würden. Allerdings sollten ihnen dann keine Schimpfworte oder rassistischen Äußerungen in den virtuellen Mund gelegt werden können.

Bill Peebles, der bei OpenAI die Leitung von Sora inne hat, hat sich zu diesem Problem auf X geäußert. Dort schreibt er: „Wir haben von einer Menge Menschen gehört, die ihre Cameos mit anderen teilen wollen, aber die Kontrolle darüber behalten möchten, wie sie genutzt werden. Ab heute könnt ihr Sora die Anweisung geben, die Art der KI-Generierung zu beschränken. Ihr könnt etwa sagen, dass ihr nicht in Videos mit politischem Kommentar verwendet werden wollt oder bestimmte Wörter nicht sagen möchtet.“ Zudem soll das Wasserzeichen sichtbarer gemacht werden, um die KI-Herkunft des Videos klarer zu machen.

Altman betont dennoch, dass einige User:innen Sora 2 noch für zu zahm und restriktiv halten. Zudem geht er davon aus, dass die Startschwierigkeiten von Sora 2 hätten vermieden werden können – allerdings wohl anders als die User:innen und Rechteinhaber:innen. Der OpenAI-CEO sagt, dass viele erst die Funktionen von neuen Produkten sehen, wenn sie veröffentlicht werden. Dabei sprechen seine Mitarbeiter:innen und er seit geraumer Zeit über alles, was sie für den Start von Sora 2 geplant hatten.