Du hast deinen AdBlocker an?

Es wäre ein Traum, wenn du ihn für t3n.de deaktivierst. Wir zeigen dir gerne, wie das geht. Und natürlich erklären wir dir auch, warum uns das so wichtig ist. Digitales High-five, deine t3n-Redaktion

News

Automatisch Beleidigungen im Netz erkennen: Diese Yahoo-KI soll es möglich machen

    Automatisch Beleidigungen im Netz erkennen: Diese Yahoo-KI soll es möglich machen

(Foto: clasesdeperiodismo  / flickr.com, Lizenz: CC-BY-SA )

Das Erkennen und Löschen von Beleidigungen in Kommentarspalten beschäftigt ganze Heerscharen von Community-Managern. Eine von Yahoo entwickelte KI soll das jetzt übernehmen.

Yahoo-KI erkennt Hate-Speech

Hasserfüllte und beleidigende Kommentare sind zu einem großen Problem für jedes Online-Medium geworden – nicht erst seit den letzten politischen Herausforderungen durch Grexit, Brexit oder die Flüchtlingskrise. Zuletzt hatte eine Studie ergeben, dass Klarnamen die Trolle erst so richtig aggressiv machen. Jede Menge Arbeit also für die Community-Manager oder Seitenbetreiber. Doch Rettung naht durch eine KI: Ein von Yahoo entwickelter Algorithmus soll laut seinen Entwicklern bis zu 90 Prozent aller beleidigenden Kommentare im Netz erkennen.

Yahoo-KI soll die Kommentarspalten sauber halten. (Screenshot: t3n/Yahoo)
Yahoo-KI soll die Kommentarspalten sauber halten. (Screenshot: t3n/Yahoo)

Hate-Speech, Beleidigungen sowie stilistische Ungereimtheiten soll die KI in Online-Inhalten aufspüren können. Anders als bisher auf dem Markt befindliche Technologien soll der Algorithmus auch subtilere Formen von aggressiven Nutzerkommentaren erkennen, in denen etwa auf bestimmte Schimpfwörter verzichtet wird. Bisher konnten Nutzer bestehende Systeme austricksen, indem sie einschlägige Begriffe nicht verwendet oder neue Slang-Wörter benutzt haben. Kontext und Sarkasmus können herkömmliche Systeme kaum erkennen.

Yahoo: KI achtet auch auf Rechtschreibfehler

Das soll die Yahoo-KI anders angehen. Der Algorithmus wurde mit verschiedenen KI- und Crowdsource-Systemen zur Erkennung von beleidigenden Kommentaren gefüttert. Die KI achtet auch auf die Länge der Kommentare sowie deren Antworten, auf Rechtschreibfehler und Großschrift. Damit konnte der neue Algorithmus das alte Yahoo-System in Sachen Effektivität um rund zehn Prozent übertrumpfen. Getestet wurde das Ganze in den Kommentarspalten der News- und Finanzseiten von Yahoo. Dabei wurden speziell geschulte Mitarbeiter zur Überprüfung eingesetzt.

Trotz Kritik an automatischen Methoden zum Erkennen von Hate-Speech und Beleidigungen – etwa, dass die Vorgaben von Yahoo und nicht von den Nutzern kommen – ist Yahoo optimistisch, wenn es um die weitere Entwicklung geht. Man habe einen großen Schritt nach vorn gemacht, heißt es von Seiten des Yahoo-Teams.

via mashable.com

Finde einen Job, den du liebst zum Thema Yahoo

Schreib den ersten Kommentar!

Du musst angemeldet sein, um einen Kommentar schreiben zu können.

Jetzt anmelden