Anzeige
Anzeige
News
Artikel merken

Google-KI: Foto an den Kinderarzt führt zu Kontosperrung und Polizeiermittlung

Eigentlich wollten zwei Eltern nur aus der Ferne Rat von ihrem Kinderarzt einholen. Die dabei versendeten Fotos wurden durch Googles KI jedoch als Kinderpornografie eingestuft. Das hat Folgen für die Betroffenen.

2 Min. Lesezeit
Anzeige
Anzeige
Der automatische Upload in die Google-Cloud kann zu Problemen führen. (Foto: BigTunaOnline / Shutterstock.com)

Große Tech-Konzerne wie Google, Microsoft oder Facebook setzen bereits seit Jahren auf automatisierte Systeme, um auf ihren Cloud-Plattformen Bilder aufzuspüren, die kinderpornografische Inhalte zeigen. Dass die nicht immer wie gewünscht funktionieren, zeigt jetzt ein Bericht der New York Times.

Anzeige
Anzeige

In dem Artikel geht es um zwei Fälle, bei denen US-amerikanische Eltern einen Ausschlag im Intimbereich ihrer Kinder entdeckt haben. Beide wurden daraufhin von ihren jeweiligen Kinderärzt:innen aufgefordert, ein Bild der betroffenen Stelle einzuschicken.

Während der eine Vater das Bild mit Gmail an die Praxis verschickt hat, nutzte der andere für die Aufnahme ein Android-Smartphone, das automatisch eine Kopie bei Googles Foto-Dienst in der Cloud abgelegt hat. Außerdem verschickte er das Foto anschließend an seine Ehefrau über einen Chatdienst von Google.

Anzeige
Anzeige

Google sperrt Konten der Betroffenen – und alarmiert die Polizei

Nach Angaben der New York Times wurden die teilweise seit Jahrzehnten bestehenden Google-Konten der beiden Eltern automatisch gesperrt, nachdem das System zur Erkennung von Kinderpornografie Alarm geschlagen hatte. Außerdem wurden die lokalen Polizeibehörden über die vermeintlich illegalen Aufnahmen informiert.

Immerhin kam es in keinem der Fälle zu einer Anklage, weil die zuständigen Polizeibehörden letztlich erkannten, dass es sich bei den Aufnahmen nicht um kinderpornografische Inhalte handelte. In mindestens einem Fall erwirkten die Ermittler:innen aber einen Durchsuchungsbeschluss, um so Zugriff auf alle bei Google hinterlegten Daten des Vaters zu erhalten.

Anzeige
Anzeige

Laut New York Times erhielten die Polizist:innen damit Zugriff auf seine Bewegungsdaten, seine Google-Suchen, seine Nachrichten und alle in der Google-Cloud abgelegten Dokumente, Fotos und Videos.

Wie weit sollten Internetkonzerne gehen dürfen?

Nach Ansicht vieler Strafverfolgungsbehörden und Kinderschutzorganisationen sind Mechanismen zur automatischen Erkennung von kinderpornografischen Inhalten enorm wichtig, um Täter:innen zur Rechenschaft zu ziehen und Opfer vor weiterem Missbrauch zu schützen.

Anzeige
Anzeige

Digitale Bürgerrechtsorganisationen wie die Electronic Frontier Foundation (EFF) halten die automatisierte Überwachung privater Fotoalben in der Cloud allerdings für problematisch. Zumal unklar sei, ob die zwei von der New York Times aufgedeckten Beispiele Einzelfälle sind.

Google bleibt bei der Kontensperrung

Obwohl nach Ansicht der zuständigen Ermittlungsbehörden in beiden Fällen kein Verbrechen begangen wurde, bleibt Google nach Angaben der New York Times bei der Entscheidung, die Google-Konten der beiden Väter zu sperren. Einer der Betroffenen hofft jetzt, seine von Google gesperrten Daten wenigstens von der Polizei zurückzubekommen.

Der andere Beschuldigte hatte nach eigenen Angaben durch den Verlust seines Gmail-Kontos teilweise ernste Probleme, weil er gerade im Begriff war, ein Haus für seine Familie zu kaufen. Laut der New York Times nutzt er jetzt ein Hotmail-Konto – und wird dafür in seinem Umfeld verspottet.

Mehr zu diesem Thema
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
2 Kommentare
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Sunny

Das Kis Fehler machen können, ist ja klar. Dass dem jetzigen Hotmail-Mann das passiert ist, er seine Daten verlor und prompt zum nächsten Cloud-Anbieter wechselt, zeigt mir: Nix gelernt.

Antworten
Dani3300

Und hier sieht man, wie wichtig es ist, Konzernen keinen Einblick in seine Daten, bzw. überhaupt Konzernen Daten zu geben. Wir brauchen keine Überwachung, wir brauchen Datenschutz. Die Behörden haben hier völlig umsonst Einblick in das Privatleben einer Familie erhalten und Google missbraucht hier ebenfalls seine Möglichkeiten. Warum bleiben die KOnten gesperrt wenn es sich um eine Ärztliche Beratung handelt?

Der einzige Weg sowas künftig zu vermeiden, ist gegen Chatkontrollen, Uploadfilter und zentralisation der Dienste im Internet zu kämpfen. Selbsthosten und dezentralisieren ist dabei natürlich das beste.

Skepsis solcher Systeme von Datenschützern, EFF und Organisationen also durchaus berechtigt. Denn das sind beste Beispiele, wie man unverschuldet ziemlich schnell große Probleme bekommen kann.

Antworten

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige