Polizisten sollen Bodycam-Aufnahmen per KI auswerten – doch das könnte für Probleme sorgen
Axon ist einer der größten Hersteller für Bodycams, Taser und andere Einsatzausrüstung für Polizist:innen. Das amerikanische Unternehmen hat nun in einer Pressemitteilung bekannt gegeben, dass ihre neue Software „Draft One“ die Arbeit von Polizist:innen deutlich erleichtern soll.
Denn „Draft One“ ist eine KI-Software, die Aufnahmen von Bodycams analysieren und diese zu Polizeiberichten zusammenfassen kann. Ein erstes Video zeigt die KI-Software in Aktion:
Mehr Zeit auf den Straßen, dank KI
Axon betont, dass Polizist:innen etwa drei Stunden pro Tag damit verbringen, Berichte über Einsätze auszufüllen. Dank „Draft One“ soll diese Zeit deutlich reduziert werden, sodass die Beamt:innen wieder ihrer Pflicht auf der Straße nachgehen können. Die Software hört sich dabei die Aufzeichnungen an – sie hat keinen Zugriff auf das Videomaterial.
Sie fasst so etwa zusammen, wann und warum Polizist:innen Autofahrer:innen angehalten und wie sich alle Beteiligten im Laufe der Maßnahme verhalten haben. Diese Daten landen in einem ersten Textentwurf.
Axon betont, dass Polizist:innen anschließend einen Blick auf die Texte haben müssen, um ihre Korrektheit zu überprüfen. Manche Informationen – wie eine Begründung für eine Verwarnung statt eines Bußgeldes – müssen die Beamt:innen dabei immer selbst eintragen.
Große Kritik an den KI-Berichten
Schon jetzt sorgt die Ankündigung für Bedenken. So berichtet Dave Maass, Director für Überwachungstechnologien bei der Electronic Frontier Foundation, gegenüber Forbes: „Es ist ein Albtraum. Polizist:innen, die nicht für KI ausgebildet sind, können die Probleme von KI nicht erkennen. Dennoch werden sie diese Systeme nutzen und Texte generieren, die Millionen von Menschen und ihre Rolle im Strafjustizsystem betreffen.“
Eines der größten Probleme für die KI-Software könnten sogenannte Halluzinationen werden. Das sind Falschaussagen, die die KI als Fakt wiedergibt. Laut Axon soll die Software speziell entwickelt worden sein, um diese zu vermeiden. So heißt es gegenüber Forbes: „Stellt euch einfach vor, dass wir die Kreativität der KI abgeschaltet haben. Das reduziert Halluzinationen und Fehler dramatisch.“
Kritiker:innen betonen, dass diese Maßnahme die Fehler nur reduziert, aber nicht komplett eliminiert. Sollten solche Halluzinationen von Polizist:innen ohne Korrektur als Bericht abgegeben werden, könnte das gravierende Konsequenzen für alle Beteiligten haben.
Gibt es das System auch bald in Deutschland?
In Deutschland sind Bodycams immer weiter auf dem Vormarsch. Zwar liegt die Entscheidung über den Einsatz der Geräte bei den Ländern, doch haben sich bereits viele Landesregierungen dafür entschieden.
Die Kameras nehmen dabei nicht durchgängig auf, sondern müssen von den Beamt:innen zunächst eingeschaltet werden, um eine Pre-Recording-Funktion zu starten, die die Daten nicht dauerhaft speichert. Erst wenn sie ein zweites Mal auf den Aufnahmeknopf drücken, wird die Aufzeichnung gestartet und zusammen mit dem Material im Zeitraum vor dem Start gespeichert.
Theoretisch denkbar wäre, dass die neue Software langfristig auch bei der deutschen Polizei eingesetzt wird, falls die Landesregierungen die KI-Berichte zulassen. Die technischen Voraussetzungen – also die Bodycams von Axon – sind in vielen Regionen bereits gegeben. So nutzt die Polizei Sachsen bereits Bodycams von Axon. Zudem kommen die Geräte in Baden-Württemberg und Bayern sowie in einigen weiteren Bundesländern ebenfalls zum Einsatz.
