Du hast deinen AdBlocker an?

Es wäre ein Traum, wenn du ihn für t3n.de deaktivierst. Wir zeigen dir gerne, wie das geht. Und natürlich erklären wir dir auch, warum uns das so wichtig ist. Digitales High-five, deine t3n-Redaktion

News

Google-Schwester Jigsaw will Internet-Trolle mit Künstlicher Intelligenz bekämpfen

Viele Trolle treiben in Internet ihr Unwesen: Sie beleidigen andere User und streuen Hassbotschaften. Google-Schwester Jigsaw hat ein Tool vorgestellt, dass die üblen Postings leichter erkennen soll.

Big Data gegen Hass-Rede und Online-Pöbelei: Die Google-Schwesterfirma Jigsaw hat am Donnerstag den Dienst „Perspective“ gestartet, mit dem im Netz leichter Kommentare identifiziert werden können, die als gehässig, unfreundlich, bösartig, gemein oder verletzend empfunden werden. Im Rahmen der Digitalen News Initative (DNI) werde Jigsaw eine Schnittstelle (API) zur Verfügung stellen, mit der Verlage „Perspective“ kostenlos nutzen können.

(Screenshot: Google Jigsaw)

115.000 Nachrichten aus Wikipedia-Diskussionen ausgewertet

Der Dienst wurde zuvor in Projekten mit der Wikimedia-Stiftung und der New York Times erprobt, um Hasspostings und Trollereien automatisch erkennen zu können. Dabei wurde unter anderem ein Datensatz aus insgesamt mehr als 115.000 Nachrichten von Wikipedia-Diskussionsseiten ausgewertet. Der Dienst steht vorerst nur für englischsprachige Diskussionsforen zu Verfügung. Im Rahmen der DNI könne das Projekt aber auf andere Sprachen wie Deutsch erweitert werden.

Jigsaw, ein Unternehmen der Google-Muttergesellschaft Alphabet, hat sich zum Ziel gemacht, «die Welt mit Technologie sicherer zu machen». Im Rahmen der DNI bietet Jigsaw Verlagen im «Project Shield» unter anderem einen kostenlosen Schutzschild gegen sogenannte Denial-of-Service-Attacken an, bei denen Wirtschaftskriminelle oder staatlich gesteuerte Hacker Webseiten der Verlage mit gigantischen Datenpaketen von Millionen gekaperten Computern aus einem Botnetz lahmlegen wollen.

Racheaktionen befürchtet – Selbstzensur soll vorbeugen

Der Ansatz bei „Perspective“ geht laut Jigsaw-Top-Manager deutlich über den Abgleich mit einer Liste verdächtiger Schlüsselbegriffe hinaus. Die künstliche Intelligenz erkennt demnach, ob ein Beitrag von einem menschlichen Anwender als unangemessen beurteilt werden würde und ihn dazu bringen könnte, die Konversation zu verlassen.

Eine Studie hat ergeben, dass 72 Prozent aller US-Amerikaner im Internet bereits Drangsalierung wahrgenommen haben – fast die Hälfte aller Anwender hat dies auch bereits persönlich erlebt. Knapp ein Drittel der Befragten zensiert sich aus Furcht vor Racheaktionen inzwischen bei Online-Kommentaren selbst.

Das System von Jigsaw stellt laut Unternehmen auf einer Skala zwischen Null und 100 fest, wie „giftig“ („toxic“) ein Kommentar ist. Was mit den Kommentaren dann passiert, liegt in der Hand der Verleger. So kann das System die Moderatoren der Verlage auf verdächtige Kommentare aufmerksam machen, die sich dann in die Konversation einschalten können. Auch den Anwendern kann aber auch schon beim Schreiben des Kommentars angezeigt werden, wie „giftig“ der Text eingeschätzt wird, um zu einem besseren Umgangston beizutragen. Außerdem können Leser die Kommentare so sortieren lassen, dass besonders gehässige Beiträge ausgeblendet werden.

Ebenfalls interessant: 

Bitte beachte unsere Community-Richtlinien

2 Reaktionen
BlaBlaBla

Es ist doch nur noch eine Frage der Zeit bis aus dem löschen von “Troll-nachrichten“ einlöschen von “nicht-massenmedium-nachrichten“ wird.

Antworten
Carsten

Trolltrace.com inc...

Antworten

Melde dich mit deinem t3n-Account an oder fülle die unteren Felder aus.

Abbrechen

Finde einen Job, den du liebst