Polizei-Arbeit: Wie KI-Software die Analyse von Bodycam-Videos erleichtern soll - t3n

Bodycams sollen Polizeiarbeit in den USA transparenter machen, doch die tägliche Datenflut ist nicht zu bewältigen. Neue KI-Programme sollen die Analyse vereinfachen – das ist von vielen aber gar nicht gewünscht. Am 25. Juli letzten Jahres beantragte die Anwältin Jessa Nicholson Goetz vor dem US-Bezirksgericht in Dane County, Wisconsin, das Strafverfahren gegen ihren Mandanten abzuweisen. Sie fand mithilfe künstlicher Intelligenz Beweise für „institutionelles Fehlverhalten“ der örtlichen Polizeibehörde. Aber zurück auf Anfang: Eigentlich hatte sich Nicholson Goetz darauf vorbereitet, ihren Mandanten gegen eine Anklage wegen sexueller Nötigung zu verteidigen, die aus einem Tinder-Date im Jahr 2021 resultierte. Während der vorgerichtlichen Anträge bemerkte Nicholson Goetz’ Co-Anwältin jedoch Unstimmigkeiten in den Aussagen und Dokumentationen des leitenden Polizeiermittlers – der gemäß den Richtlinien stets eine Bodycam während der Ermittlungen tragen musste. Nicholson Goetz bat also um Einsicht in das Filmmaterial – und erhielt dieses, wie sie erzählt, 40 Stunden vor Prozessbeginn. Dieser Artikel ist zuerst in der Ausgabe 6/2024 von MIT Technology Review erschienen. Darin setzen wir uns kritisch mit dem Stand der Energiewende in Deutschland auseinander. Hier könnt ihr die TR 6/2024 als Print- oder pdf-Ausgabe bestellen. [tableofcontents] KI-Einsatz zur Verwaltung von Beweismitteln Dieses „Datendumping“ so kurz vor Prozessbeginn ist juristischer Alltag und ein Albtraum für Verteidiger:innen ohne umfangreiche personelle Ressourcen. Das Sichten der Aufzeichnungen ist sehr zeitaufwändig, und die Kosten für eine Transkription der Tonspur lassen das Verteidigungsbudget schnell um zehntausende US-Dollar ansteigen. Aber Nicholson Goetz und ihr Team ließen sich diesmal nicht von der kurzfristigen Lieferung der Daten abschrecken. Sie nutzen JusticeText, ein KI-gestütztes Programm zur Verwaltung von Beweismitteln. [caption id="attachment_1651699" align="aligncenter" width="620"] Devshi Mehrotra und Leslie Jones-Dove haben JusticeText als Informatikstudierende an der University of Chicago entwickelt.(Foto: Mit freundlicher Genehmigung von Leslie Jones-Dove und Devshi Mehrotra)[/caption] Devshi Mehrotra und Leslie Jones-Dove haben das Programm als Informatikstudierende an der University of Chicago entwickelt, nachdem Laquan McDonald 2014 von Polizisten in Chicago getötet wurde. JusticeText analysiert den Ton von Bodycam-Aufnahmen, transkribiert ihn und setzt Marker in das Transkript – und das innerhalb von Minuten, nicht Stunden. Seit 2021 hilft es privaten Strafverteidigern sowie Pflichtverteidigern in Staaten wie Texas, Massachusetts und Kentucky. Die Bodycam-Analyse des leitenden Ermittlers enthüllte für Nicholson Goetz zwar nichts, was die Unschuld ihres Klienten direkt bewiesen hätte. Aber JusticeText lieferte Hinweise auf polizeiliches Fehlverhalten – insbesondere auf die Zerstörung von „offensichtlichen und potenziell entlastenden Beweisen“, wie es die Anwältin formuliert. Nachdem sie nur einige JusticeText-Analysen der Bodycam-Videos des Ermittlers durchgesehen hatte, erstarrte Nicholson Goetz regelrecht, als sie las, was dieser zu dem mutmaßlichen Opfer gesagt hatte: „Okay, ich versuche hier vage zu sprechen. Ähm. Nur, weil ich nicht möchte, dass das zu Protokoll genommen wird.“ Das mutmaßliche Opfer fragte den Ermittler später in den Aufnahmen, ob das Gespräch vertraulich sei, woraufhin der Ermittler versicherte, dass er es nicht in den Polizeibericht aufnehmen würde. Mit dem Wissen um dieses Gespräch und der, wie Nicholson Goetz in ihrem Antrag beschreibt, Neigung der Behörde, Beweismaterial „unsachgemäß zu handhaben, zu zerstören, absichtlich wegzulassen oder die Beweissicherung fahrlässig zu unterlassen“, darunter auch entlastende Kameraaufnahmen, stellte sie den Antrag auf Klageabweisung. „Dieser Fall hat verändert, wie ich meine Recherchen durchführe, denn jetzt bin ich wirklich sehr neugierig darauf, was es da draußen noch alles gibt.“ Der Richter folgte ihrer Argumentation, wies den Fall ab und stellte in seiner Entscheidung vom 8. März fest, dass „die Verteidigung des Angeklagten durch die Handlungen des Ermittlers einen nicht wiedergutzumachenden Schaden erlitten hat“. „Ohne JusticeText wäre der Prozess gestartet“, sagt Nicholson Goetz. „Dieser Fall hat verändert, wie ich meine Recherchen durchführe, denn jetzt bin ich wirklich sehr neugierig darauf, was es da draußen noch alles gibt.“ Überwachung der Überwacher Als Polizeidienststellen nach der Ermordung von Michael Browns im Jahr 2014 in Ferguson, Missouri, begannen, Bodycams einzusetzen, hofften Aktivisten auf einen echten Wandel. Die Kameras seien ursprünglich als „Überwachungsmultiplikatoren“ angepriesen worden, so Seth Stoughton, Rechtsprofessor an der University of South Carolina. Aber auch zehn Jahre später hat die Technologie ihr Sicherheitsversprechen nicht eingelöst – trotz des inzwischen milliardenschweren Marktes für diese Geräte. [caption id="attachment_1651700" align="aligncenter" width="620"] Die KI von Polis Solutions wertet die sozialen Interaktionen der Menschen aus, die von Polizisten mit ihren Bodycams gefilmt werden.(Screenshot: Polis Solutions)[/caption] Ein Teil des Problems: Bodycams erzeugen Millionen Stunden Videomaterial, das überwiegend ungesichtet bleibt. Außerdem verzögern Polizeidienststellen systematisch die Freigabe des Materials und weigern sich oft, Beamte zu bestrafen, wenn sie die Kameras nicht ordnungsgemäß tragen. Stellen sie dann doch Videoaufnahmen zur Verfügung, sind diese oft bearbeitet, es fehlt der Kontext und sie erzählen nicht die ganze Geschichte. Eine aktuelle Analyse der New York Times kam zu dem Schluss, dass Bodycams „möglicherweise eher den Interessen der Polizei dienen als denen der Öffentlichkeit“. [crosslinks ids="1620905,1544395,1626535"] Verfahrenstechnische und rechtliche Hindernisse Eine Handvoll KI-Startups sieht dieses Problem als Chance, Programme für verschiedene Akteure im Rechtssystem zu entwickeln: Sie durchsuchen das Videomaterial nach Vergehen. Doch wie die Bodycams selbst steht auch die Technologie noch vor verfahrenstechnischen, rechtlichen und kulturellen Hindernissen. Die Bodycam-Analyseprogramme arbeiten im Wesentlichen in drei Schritten: Zuerst extrahiert ein Spracherkennungsalgorithmus den Text aus dem Audiomaterial, indem er die Aufnahmen in Phoneme, die kleinste Einheit gesprochener Sprache, zerlegt und über eine Wahrscheinlichkeitsanalyse zu Wörtern und Sätzen zusammensetzt. Anschließend bereinigt ein an Gesprächen trainierter Algorithmus für maschinelles Lernen zusammen mit Programmen zur Verarbeitung natürlicher Sprache den Rohtext und entfernt Fehler. Schließlich überprüft das System den fertigen Text auf Schlüsselwörter und Muster, um diese zu markieren und zu analysieren. [caption id="attachment_1651703" align="aligncenter" width="620"] Auch die Cloud-basierte Plattform reduct.video setzt die US-Justiz für das Auswerten des umfangreichen Bodycam-Materials ein.(Screenhot: Reduct)[/caption] JusticeText-Mitbegründerin Mehrotra erzählt, sie habe von Anwältinnen und Anwälten gehört, die nach der Verwendung des Programms zur Analyse von Bodycam-Aufnahmen die Einstellung von Verfahren wegen schwerer Straftaten erreicht hätten. Vorher hätten sie keine Zeit gehabt, relevante Clips aus diesen Dateien zu ziehen. Jetzt gingen sie mit den Highlight-Sequenzen vor Gericht. Andere Unternehmen, die an ähnlichen Technologien arbeiten, sehen ihre Programme als Unterstützung für die interne Überwachung der Polizeiarbeit. So entwickelt Polis Solutions ein KI-Tool, das nicht nur den Ton, sondern auch die von den Kameras aufgenommenen Gesichtsausdrücke analysiert. Ein anderes Unternehmen, Truleo, bietet maßgeschneiderte Video-zu-Text-Transkriptionsdienste für Polizeidienststellen an. Ziel des Mitbegründers Anthony Tassone ist es, bestimmte Szenen zu markieren: solche, die einer Überprüfung bedürfen, oder solche, die die Aufmerksamkeit auf positive Polizeiarbeit lenken, sowie Videoclips, die zu Schulungszwecken dienen. Er hofft so, ein „TikTok für Polizisten“ zu schaffen. Seine Argumente treffen auf offene Ohren – derzeit nutzen 28 Polizeidienststellen Truleos KI, darunter auch die von New York City. Zunächst sollen 1000 der rund 36 000 Polizisten dort mit dem System überwacht und geschult werden. „TikTok für Polizisten“ Tassone sagt, das 2021 auf den Markt gekommene Truleo könne etwa die Durchsuchung einer Person durch einen Beamten oder die Verlesung der Rechte eines Verdächtigen in dem Videomaterial erkennen und daraus eine Professionalitätsbewertung ableiten. Die Software ersetze nicht die menschliche Überprüfung, sondern ergänze sie. Polizeichefs oder Vorgesetzte erstellen Listen mit Schlüsselwörtern oder Ereignissen, erhalten E-Mails und Benachrichtigungen, wenn das System diese Auslöser erkennt, und überprüfen dann das Filmmaterial. Die KI wird auf den Servern der Polizei installiert, sodass die Daten die Polizei nicht verlassen. Eine Studie der Polizeibehörde in Alameda, Kalifornien, die das System nutzt, zeigte einen Rückgang der Gewaltanwendung um 36 Prozent. Forscher der gemeinnützigen Organisation RTI untersuchen derzeit die Auswertung von Bodycam-Aufnahmen von Bewährungshelfern im US-Bundesstaat Georgia, allerdings liegen noch keine Ergebnisse vor. Secure Justice, eine kalifornische Non-Profit-Organisation, die sich auf Polizeitechnologie und Machtmissbrauch konzentriert, erwägt, einen Gesetzesentwurf einzubringen, der den Einsatz von Truleo im gesamten Bundesstaat vorschreibt. Der geschäftsführende Direktor Brian Hofer sagt jedoch, die Gruppe habe „zu diesem Zeitpunkt noch nicht genügend Sorgfalt walten lassen, um sich mit einem derart aggressiven Schritt wohlzufühlen“. Dennoch geht Hofer davon aus, dass die Technologie funktioniert. Genau das könnte ein Grund dafür sein, dass sie nicht von allen Seiten begrüßt wird: In zwei Polizeidienststellen, die Truleo zunächst verwendeten und dann wieder abschafften, haben sich Dramen abgespielt. In Vallejo, Kalifornien, wehrten sich Beamte und Gewerkschaftsvertreter gegen die Einführung der Technologie, die unliebsames Verhalten aufdecken kann. Sie vermuteten Ungenauigkeiten und Arbeitsrechtsverletzungen. Als Folge musste der reformorientierte Polizeichef Shawny Williams im Juli des letzten Jahres gehen. In Seattle hat die Polizeibehörde ihren Vertrag mit Truleo nach Einwänden der Gewerkschaft ebenfalls gekündigt. Dort hatte Truleo im vergangenen Herbst einen Beamten angezeigt, der sich über den Tod einer Frau lustig gemacht hatte; Truleo hatte den Vorfall im Videomaterial markiert und gemeldet. Das schwarze Datenloch Der zunehmende Einsatz von Bodycam-zu-Text-Programmen und der verstärkte Einsatz von Kameras und Drohnen dienen natürlich nicht nur der Kontrolle der Polizei. Sie normalisieren die Überwachung der Bevölkerung, indem immer mehr alltägliche Interaktionen in eine durchsuchbare, indizierbare Datenbank aufgenommen werden. Jennifer Lee, ehemalige Leiterin des Projekts für Technologie und Freiheit bei der ACLU of Washington, sagte in einer Erklärung, dass „das Potenzial, KI-Technologie für andere Zwecke als die Rechenschaftspflicht zu nutzen, erhebliche Fragen aufwirft, die angegangen werden müssen“. [caption id="attachment_1651704" align="aligncenter" width="620"] Ein Polizist mit Bodycam in North Charleston (South Carolina, USA). Ob die von den Kameras aufgezeichneten Daten systematisch durch KI ausgewertet werden, entscheiden die örtlichen Polizeibehörden.(Foto: Ryan Johnson, Attribution-Share Alike 2.0 Generic)[/caption] [caption id="attachment_1651705" align="aligncenter" width="620"] In Deutschland ist der Einsatz von Bodycams Ländersache. Die Länderregelungen, wo und unter welchen Umständen Kameras eingesetzt werden dürfen, unterscheiden sich stark. Die bayrische Polizei (hier im Bild) ist seit 2019 mit Körperkameras ausgestattet.(Foto: mauritius images / ZUMA Press, Inc. / Alamy)[/caption] „Das eröffnet den Strafverfolgungsbehörden einen Überwachungsrahmen, mit dem wir bisher noch nicht so oft zu tun hatten, aber immer häufiger zu tun haben werden“, sagt Beryl Lipton von der Electronic Frontier Foundation, einer gemeinnützigen Gruppe für digitale Rechte. Die Aufzeichnung, Transkription und Katalogisierung dessen, was jemand auf der Straße in der Öffentlichkeit während eines Gesprächs mit der Polizei sagt, sei bedenklich. Außerdem seien Bedenken hinsichtlich der Voreingenommenheit und Ungenauigkeit der Technologie selbst aufgekommen, nachdem Telefongespräche von Gefangenen aufgezeichnet, analysiert und später durch KI durchsuchbar gemacht worden waren. Kann ein Computerprogramm erkennen, was eine Bedrohung ist? Solche Bedenken auszuräumen, ist schwierig, denn wie bei vielen KI-Systemen bleibt die genaue Funktionsweise dieser Bodycam-zu-Text-Systeme undurchsichtig; ebenso wie die Begriffe, nach denen die Polizeidienststellen suchen. Außerdem hänge die Aussagekraft der Ergebnisse vom Kontext ab, sagt Rob Voigt, Forscher und Linguistikexperte an der Northwestern University. „Kann man ein Computermodell erstellen, das erkennt, was eine Bedrohung ist und was nicht? Das ist wirklich kompliziert“, sagt er. Werkzeuge sind natürlich nur dann von Nutzen, wenn sie auch eingesetzt werden. Doch Polizisten können die Kamera einfach ausschalten oder „vergessen“, sie einzuschalten. Da Truleo die Daten der einzelnen Abteilungen sequestriert, ist es nicht möglich, eine Meta-Analyse der Polizeileistung durchzuführen – eine wahre Goldgrube an Daten für Forschende. Auch können Außenstehende keine öffentlichen Unterlagen anfordern und das Tool nutzen, um Archivmaterial nach vergangenen Handlungen bestimmter Polizisten zu durchsuchen oder Muster von Fehlverhalten zu finden. Lipton sagt, wenn die Technologie wie angekündigt funktioniere und die Hersteller wirklich das Vertrauen der Öffentlichkeit stärken wollten, sei es „Geldverschwendung und eine verpasste Gelegenheit“, diese Technologie der Öffentlichkeit nicht zugänglich zu machen. Truleo nimmt Fragen des Datenschutzes bei Polizei und Zivilisten allerdings sehr ernst. Die Videos werden niemals analysiert und persönlich identifizierbare Informationen werden automatisch entfernt. „Wir müssen sehr sensibel und sehr feinfühlig sein, wenn es darum geht, wie die Technologie eingesetzt wird, um die Privatsphäre von Zivilisten zu maximieren“, sagt Tassone. Gemischte Bilanz für die Analyse der Bodycams Die Erfolgsbilanz von Truleo, wenn es darum geht, die Kultur der Strafverfolgungsbehörden zu verändern, ist bisher ausgesprochen gemischt. Die Polizei in Castle Shannon, Pennsylvania, nutzt das System seit etwa zwei Jahren mit positiven Erfahrungen. Polizeichef Ken Truver erhält jeden Tag um 18 Uhr eine E-Mail mit Vorfällen, die er markieren und überprüfen soll. „Die Polizei steht der Technologie im Allgemeinen zynisch gegenüber“, sagt er. „Der erste Gedanke ist: ‚Wie könnte ich mit dieser Technologie in Schwierigkeiten geraten?‘ Der Zweck ist jedoch nicht, einen Beamten zu finden, der etwas falsch macht. Ich möchte die Beamten finden, die es richtig machen.“ Die einfachen Polizisten in Vallejo, Kalifornien, sehen das anders. Ihre Frustration über das System war ein Faktor, der zum Rücktritt des Polizeichefs führte. Michael Nichelini, Präsident der Polizeibeamtenvereinigung von Vallejo, ist überzeugt, dass Truleo zur Disziplinierung gedacht war. Er sei nicht gegen Transparenz, sagt er, aber er habe genug von den Bemühungen, die Kultur der Abteilung zu ändern. Er sei frustriert über die schlechte Bezahlung und die Unterbesetzung und dagegen, dass versucht werde, diese Probleme mit Software statt besserer Führung und Vergütung zu beheben. Tassone, in einer Polizei- und Militärfamilie in Chicagos South Side aufgewachsen, sieht die Arbeit der Polizei als öffentliche Aufgabe. „Selbst bei meiner gesamten Arbeit an der Wall Street in den letzten 20 Jahren, bei all meinen E-Mails, gab es eine Qualitätssicherungsüberwachung der Mitarbeiter. Dass es das bei der Polizei nicht gibt, die Waffen und Dienstmarken hat und den Menschen ihre Rechte nehmen kann – das wird niemand unterstützen.“ Dieser Artikel stammt von dem Journalisten Patrick Sisson.