Europol warnt vor dem verstärkten Einsatz von Deepfakes durch Kriminelle. Die europäische Polizeibehörde geht davon aus, dass die diese Form der Bild- und Videomanipulation in Zukunft auch für einfache Straftaten einsetzen. Das Europol Innovationslabor hat dazu am 28. April einen Bericht veröffentlicht, der die Befürchtungen konkretisiert und mögliche Bekämpfungswege skizziert. Zudem befürchten die Fachleute, dass die Technologie neue Formen der Kriminalität entstehen lassen könnte.

Bedrohungsakteure nutzen heute Desinformationskampagnen und gefälschte Inhalte, um die Öffentlichkeit zu täuschen. Es gibt Organisationen, die in der Deepfake-Technologie ein höheres potenzielles Risiko sehen als im Identitätsdiebstahl – bei dem wiederum Deepfakes eingesetzt werden können. Das Papier erwähnt eine Studie des University College of London, die diese Technologie als größte kriminelle Bedrohung für die heutige Gesellschaft einstuft. Das Europol Innovation Lab hat zu dem Thema intensive Sekundärforschung betrieben und der Report gibt einen Ausblick auf die Ergebnisse.

Fachleuten zufolge verstärken sich die Trends zu Desinformation und Fake News und für diese Zwecke setzen Akteure immer häufiger Deepfakes ein. Das beeinflusse in Zukunft tiefgreifend die Art und Weise, wie Menschen Medien und Autoritäten wahrnehmen. Das Vertrauen in Behörden und offizielle Fakten werde dadurch untergraben. Das Papier nennt Expert:innen, die fürchten, eine „gesellschaftliche Verwirrung“ könne darüber entstehen, welche Quellen zuverlässig sind. Sie sprechen von „Informationsapokalypse“ und „Realitätsverlust“ als mögliche Folgen.

Neben Desinformation und Manipulation der öffentlichen Meinung erleichtern Deepfakes eine Reihe von kriminellen Machenschaften. Das Papier zählt besonders im Bereich Betrug viele Aktivitäten auf, die von der Demütigung im Internet über Erpressung bis hin zur Beweismittelfälschung reichen. Zudem eigne sich die Technologie zum Untergraben von visuellen Identitätsprüfungen. Der Katalog führt wie Straftaten wie Menschenhandel, Verkauf illegaler Waren und Terrorismus auf – im Prinzip eignen sich alle, die Dokumentenbetrug als Grundlage haben.

Die Behörde fügt an, dass Deepfakes zwar glaubwürdige Bilder erzeugen, die jedoch bei näherer Betrachtung Unzulänglichkeiten ausweisen können. Neben Unschärfe an den Gesichtsrändern nennt die Aufzählung fehlendes Blinzeln, falsche Lichtreflexionen in den Augen, Unregelmäßigkeiten im Haar, bei Venen und Narben, Unstimmigkeiten im Hintergrund, im Motiv, der Schärfe und Tiefe.

Die Studie weist auf Software hin, etwa von Facebook, die Deepfakes erkennen soll. Die Programme arbeiten mit maschinellem Lernen und stehen damit den Deepfake-Generatoren entgegen, die ebenfalls auf KI-Instanzen aufbauen. Europol weist zwar auf den hohen technischen Stand solcher Erkennungstools hin, zählt aber auch Einschränkungen auf, durch die die Software getäuscht werden kann.

Da soziale Plattformen eine entscheidende Rolle beim Einsatz von Deepfakes spielen, arbeiten diese auch intensiv an der Bekämpfung. Das Dokument zählt Regularien der größten Plattformanbieter von Meta über Reddit bis zu Tiktok auf. Zusätzlich enthält es eine Liste von Tools, die die Betreiber einsetzen, um Deepfakes aufzuspüren. Erfolgreich gelang das bei einem Deepfake-Video, in dem der ukrainische Präsident Selenskyj sich vermeintlich den russischen Invasoren ergab.

Die Teilnehmer:innen des zugrunde gelegten Expert:innen-Workshops sehen neue Formen von Kriminalität durch Deepfakes voraus. Die Erstellung entsprechender Videos wird bereits „als ein Service“ im Darknet angeboten – bisher vor allem für nicht-einvernehmliche Pornografie. Das mag als Beispiel für neue Straftaten gelten, die erst durch die Täuschungstechnologie möglich werden. Speziell im Bereich Privatsphäre und persönlicher Sicherheit erwarten die Fachleute neue Kriminalitätsformen. Sie fordern mehr Forschung und Finanzierung, um die Risiken der Technologie abzumildern.

Im Papier geht Europol schlussendlich auf die gesetzlichen Regularien ein. Die Behörde erwartet, dass die digitale Sphäre in Zukunft stärker reguliert wird, um entsprechenden Risiken Rechnung zu tragen. Das Europäische Parlament hat mit seinem Bericht „Tackling Deepfakes in European Policy“ gezeigt, dass man sich des Problems bewusst ist. Europol rechnet damit, dass die kommende KI-Richtlinie sich den Umständen intensiver widmen und damit zum entscheidenden Rechtsrahmen wird. Zu den Mindestanforderungen gehört dann etwa die Kennzeichnung von Deepfakes. Europol empfiehlt in seinem Fazit, die Strafverfolger auf die Erkennung von Deepfakes vorzubereiten, zu schulen und Kapazitäten auszubauen. Der erwartete Rechtsrahmen solle auch ihre Vorbereitungsmaßnahmen unterstützen. Das Innovationslabor werde weiter die Entwicklung von Deepfakes und anderen bahnbrechenden Technologien beobachten.