Google-KI: Foto an den Kinderarzt führt zu Kontosperrung und Polizeiermittlung
Große Tech-Konzerne wie Google, Microsoft oder Facebook setzen bereits seit Jahren auf automatisierte Systeme, um auf ihren Cloud-Plattformen Bilder aufzuspüren, die kinderpornografische Inhalte zeigen. Dass die nicht immer wie gewünscht funktionieren, zeigt jetzt ein Bericht der New York Times.
In dem Artikel geht es um zwei Fälle, bei denen US-amerikanische Eltern einen Ausschlag im Intimbereich ihrer Kinder entdeckt haben. Beide wurden daraufhin von ihren jeweiligen Kinderärzt:innen aufgefordert, ein Bild der betroffenen Stelle einzuschicken.
Während der eine Vater das Bild mit Gmail an die Praxis verschickt hat, nutzte der andere für die Aufnahme ein Android-Smartphone, das automatisch eine Kopie bei Googles Foto-Dienst in der Cloud abgelegt hat. Außerdem verschickte er das Foto anschließend an seine Ehefrau über einen Chatdienst von Google.
Google sperrt Konten der Betroffenen – und alarmiert die Polizei
Nach Angaben der New York Times wurden die teilweise seit Jahrzehnten bestehenden Google-Konten der beiden Eltern automatisch gesperrt, nachdem das System zur Erkennung von Kinderpornografie Alarm geschlagen hatte. Außerdem wurden die lokalen Polizeibehörden über die vermeintlich illegalen Aufnahmen informiert.
Immerhin kam es in keinem der Fälle zu einer Anklage, weil die zuständigen Polizeibehörden letztlich erkannten, dass es sich bei den Aufnahmen nicht um kinderpornografische Inhalte handelte. In mindestens einem Fall erwirkten die Ermittler:innen aber einen Durchsuchungsbeschluss, um so Zugriff auf alle bei Google hinterlegten Daten des Vaters zu erhalten.
Laut New York Times erhielten die Polizist:innen damit Zugriff auf seine Bewegungsdaten, seine Google-Suchen, seine Nachrichten und alle in der Google-Cloud abgelegten Dokumente, Fotos und Videos.
Wie weit sollten Internetkonzerne gehen dürfen?
Nach Ansicht vieler Strafverfolgungsbehörden und Kinderschutzorganisationen sind Mechanismen zur automatischen Erkennung von kinderpornografischen Inhalten enorm wichtig, um Täter:innen zur Rechenschaft zu ziehen und Opfer vor weiterem Missbrauch zu schützen.
Digitale Bürgerrechtsorganisationen wie die Electronic Frontier Foundation (EFF) halten die automatisierte Überwachung privater Fotoalben in der Cloud allerdings für problematisch. Zumal unklar sei, ob die zwei von der New York Times aufgedeckten Beispiele Einzelfälle sind.
Google bleibt bei der Kontensperrung
Obwohl nach Ansicht der zuständigen Ermittlungsbehörden in beiden Fällen kein Verbrechen begangen wurde, bleibt Google nach Angaben der New York Times bei der Entscheidung, die Google-Konten der beiden Väter zu sperren. Einer der Betroffenen hofft jetzt, seine von Google gesperrten Daten wenigstens von der Polizei zurückzubekommen.
Der andere Beschuldigte hatte nach eigenen Angaben durch den Verlust seines Gmail-Kontos teilweise ernste Probleme, weil er gerade im Begriff war, ein Haus für seine Familie zu kaufen. Laut der New York Times nutzt er jetzt ein Hotmail-Konto – und wird dafür in seinem Umfeld verspottet.
Das Kis Fehler machen können, ist ja klar. Dass dem jetzigen Hotmail-Mann das passiert ist, er seine Daten verlor und prompt zum nächsten Cloud-Anbieter wechselt, zeigt mir: Nix gelernt.
Und hier sieht man, wie wichtig es ist, Konzernen keinen Einblick in seine Daten, bzw. überhaupt Konzernen Daten zu geben. Wir brauchen keine Überwachung, wir brauchen Datenschutz. Die Behörden haben hier völlig umsonst Einblick in das Privatleben einer Familie erhalten und Google missbraucht hier ebenfalls seine Möglichkeiten. Warum bleiben die KOnten gesperrt wenn es sich um eine Ärztliche Beratung handelt?
Der einzige Weg sowas künftig zu vermeiden, ist gegen Chatkontrollen, Uploadfilter und zentralisation der Dienste im Internet zu kämpfen. Selbsthosten und dezentralisieren ist dabei natürlich das beste.
Skepsis solcher Systeme von Datenschützern, EFF und Organisationen also durchaus berechtigt. Denn das sind beste Beispiele, wie man unverschuldet ziemlich schnell große Probleme bekommen kann.