KI-Support für die Polizeiarbeit – das ist auch in Deutschland längst ein Thema. Im Frankfurter Bahnhofsviertel etwa testet die hessische Polizei derzeit den Einsatz von intelligenter Videoüberwachung.

Dabei geht es darum, mithilfe von Gesichtserkennung und Verhaltensanalyse vermisste Personen schneller zu finden und Gefahren frühzeitig zu erkennen, wie ingenieur.de schreibt. In den USA setzt die Polizei jetzt auch bei der Jagd auf potenzielle Straftäter:innen in sozialen Medien auf KI.

Wie aus einer Recherche der US-Tech-Plattformen 404 Media und Wired hervorgeht, setzen US-Behörden – insbesondere in der Nähe zur mexikanischen Grenze – dabei auf sogenannte KI-Personas. Mit deren Hilfe sollen Informationen über radikalisierte politische Aktivist:innen sowie mutmaßliche Drogen- und Menschenhändler:innen gesammelt werden.

Die Idee: Als Protestierende oder potenzielle Opfer für Kriminelle getarnte KI-Undercover-Polizist:innen sollen mit mutmaßlichen Straftäter:innen kommunizieren und deren strafbare Handlungen enttarnen. Die dafür eingesetzten Social-Media-Bots liefert das New Yorker Unternehmen Massive Blue.

Dessen KI-Tool Overwatch lassen sich Polizeibehörden in den USA Hunderttausende US-Dollar kosten. Als Beispiel nennen 404 Media und Wired die Polizeibehörde im Pinal County im US-Bundesstaat Arizona. Diese hat demnach einen Vertrag über 360.000 Dollar mit Massive Blue abgeschlossen.

Dafür bekommt sie eine virtuelle Taskforce mit bis zu 50 KI-Personas, wie die Futurezone schreibt. Ziel ist es, über die Rund-um-die-Uhr-Überwachung von Web- und Social-Media-Plattformen den Menschenhandel zu bekämpfen.

Als Beispiele für KI-Personas wird etwa „Jason“ genannt, 14-jähriger Spross einer aus Ecuador eingewanderten Familie. Der KI-Bot soll schüchtern auftreten. Seine Eltern haben ihm – so die Geschichte – die Nutzung von Social Media untersagt.

So wie „Jason“ Kinderhändler:innen anlocken soll, ist die KI-Persona „Heidi“ auf radikalisierte Protestierende ausgerichtet. Sie wurde als 36-jährige Aktivistin aus Texas gezeichnet, die geschieden und einsam ist und nach einem Sinn im Leben sucht.

Das Problem ist allerdings, dass die Technologie des Unternehmens aus New York kaum erprobt ist und ihre Funktionsweise geheimgehalten wird. Entsprechend unklar ist, wer und weswegen von dem Tool als verdächtig eingestuft ist – und möglicherweise mit einer Verfolgung durch die Polizei rechnen muss.

Inwieweit die Arbeit der KI-Personas schon zu Verhaftungen geführt hat, ist nicht bekannt. Die Polizeibehörde in Yuma County, ebenfalls in Arizona, hat ihren Vertrag mit Massive Blue nach der zweijährigen Laufzeit jedenfalls nicht verlängert.

Zum einen habe die Technik nicht den Anforderungen entsprochen. Zum anderen gab es Bedenken hinsichtlich von Massenüberwachung und Kriminalisierung von Bürger:innen.