Nach Erkenntnissen der auf Deepfakes spezialisierten Sicherheitsexperten von Sensity können Nutzer auf Telegram recht einfach Deepnudes, also als Fälschungen nicht ohne Weiteres erkennbare Nacktbilder, erstellen lassen, die keine reale Entsprechung haben. Dazu werden echte Fotos bekleideter Damen, zumeist wohl aus dem Bekanntenkreis der Nutzer, an einen Telegram-Bot geschickt, der dann daraus gefälschte Nacktbilder erzeugt. Sensity geht davon aus, dass dabei die Software Deepnude eingesetzt wird.
Deepnudes-Bot mit Geschäftsmodell
Bereits über 100.000 Bilder sollen bis Ende Juli in entsprechenden Telegram-Gruppen veröffentlicht worden sein. Genau zu beziffern ist das nicht. Sensity geht von einer hohen Dunkelziffer aus.
Dabei ist die fragwürdige Dienstleistung großteils kostenlos. Die Lieferung des Bildmaterials erfolgt über Telegram. Dahinter scheint aber laut Sensity ein Geschäftsmodell zu stecken. Die Fakes enthalten ein Wasserzeichen oder entblößen die Opfer nicht komplett. Wer letzteres erreichen oder das Wasserzeichen entfernt wissen will, muss offenbar dafür zahlen. Geld verlangen die Hintermänner wohl auch für eine beschleunigte Bearbeitung der zweifelhaften Aufträge.
Wie Sensity ermitteln konnte, erstellen die Bots in mehr als sechs von zehn Fällen Auftragsbilder von Frauen aus dem Bekanntenkreis der Nutzer. Es soll aber ebenso zu gefälschten Nacktdarstellungen von Minderjährigen gekommen sein.
Einfachheit der Verwendung steigert Zahl der Fakes rasant
Das Erzeugen von Deepfakes ist nicht trivial, sodass es bislang eine natürliche Schwelle gab, die ausufernden Missbrauch verhindert hatte. Wenn aber das Erstellen eines Deepnude so einfach wie das Versenden eines Fotos an einen Telegram-Bot wird, ist ein starker Anstieg dieser Art von Fälschung zu erwarten. Nach Sensity-Berechnungen zeigte sich bereits ein Anstieg um 198 Prozent im Zeitraum der letzten drei Monate.
Laut Sensity sind Fakes in vielen Fällen ganz leicht als solche zu erkennen. Es soll aber ebenso täuschend echt wirkende Darstellungen geben.
Für die Betroffenen, die in aller Regel nichts davon wissen, dass vermeintliche Nacktbilder von ihnen im Internet getauscht werden, können die Bilder zur Bedrohung werden. Täter könnten sie verwenden, um ihre Opfer zu erpressen oder öffentlich bloßzustellen.
Bots arbeiten mit Schwerpunkt in Russland
Von den mehr als 100.000 Nutzern, die den Bot und seine assoziierten Dienstleistungen nutzen, stammen laut Sensity rund 70 Prozent aus Russland und anderen ehemaligen Sowjet-Staaten. Nur einen relativ kleinen Anteil von rund zwei Prozent tragen Nutzer aus Frankreich, Deutschland und Italien (kombiniert) bei.
Die führende russische Social-Media-Plattform Vk, ehemals Vkontakte, soll an der Verbreitung hingegen erheblichen Anteil haben. So sollen die Betreiber der Deepnude-Bots ihr Angebot umfangreich per Anzeigenschaltung über die Plattform beworben haben. Entsprechende Inhalte sollen sich zudem auf mehreren hundert VK-Seiten finden.
Telegram und VK reagieren nicht auf Problematik
Sensity hat die Erkenntnisse nach eigenen Angaben an die zuständigen Strafverfolgungsbehörden gegeben und zudem Telegram und VK informiert und um eine Stellungnahme gebeten. Beide Unternehmen haben laut Sensity nicht auf die Hinweise und die Bitte um Stellungnahme reagiert.
Passend dazu: Deepfakes: Was darf man heute noch glauben?
