In den vergangenen Jahren haben sich die sozialen Medien zwar stark verändert und wo beispielsweise einst Facebook die Nummer 1 war, erobern längst Tiktok und Co. die User:innen-Herzen. Eins hat sich dabei allerdings nicht geändert: Hass im Netz ist und bleibt ein Problem.

Täter:innen verstecken sich hinter vermeintlich anonymen Usernamen und fühlen sich online noch immer sicher genug, auch strafrechtlich relevante Hassbotschaften zu posten, die mitunter beleidigend, gewaltverherrlichend, sexistisch oder rassistisch sind. Die verletzenden Nachrichten und Kommentare richten sich dabei sowohl gegen Personen, die in der Öffentlichkeit stehen, als auch gegen Privatpersonen – und oft können die Betroffenen nur wenig dagegen tun.

Genau hier will das deutsche Startup So Done Abhilfe schaffen und Opfer mittels KI im Kampf gegen die Hassbotschaften unterstützen.

Das Gründer:innen-Trio um Franziska Brandmann, ehrenamtliche Bundesvorsitzende der Jungen Liberalen und Mitglied im Bundesvorstand der FDP, die selbst mit heftigem Hass im Netz konfrontiert war, sieht sich als „Verfechter unseres Rechtsstaates“. Laut eigener Aussage haben sie wahrgenommen, „dass der Rechtsstaat bisher im digitalen Raum kaum durchgesetzt wird. Das liegt daran, dass Opfer von Online-Hass bisher keine Möglichkeit haben, effektiv gegen die Täter vorzugehen.“

Eben das will das Startup mithilfe einer eigens trainierten KI ändern. „Weil wir es satt haben, dass Menschen willkürlich andere Menschen mit Beleidigungen und Drohungen überziehen und damit einfach durchkommen. Weil wir sehen, wie die Masse an Online-Hass unseren Diskurs und unsere Gesellschaft verroht. Weil wir uns zwischen dich und den Hass stellen wollen“, schreiben die Gründenden Brandmann, Jurist Alexander Brockmeier und Data-Scientist Marcel Schliebs.

Wie das Unternehmen auf seiner Website erklärt, können sich sowohl Empfänger:innen einzelner Hassbotschaften als auch Opfer regelmäßigen Online-Hasses helfen lassen. Dazu wurde ein KI-Programm auf deutsches Strafrecht trainiert und über die Dauer von zwei Jahren immer weiter verbessert. Mittlerweile sei die künstliche Intelligenz in der Lage, strafrechtlich relevante Beleidigungen von Kritik zu unterscheiden, sodass wirklich nur solche Botschaften durch das Startup zur Anzeige gebracht werden, die gegen deutsches Recht verstoßen.

Schlägt die So-Done-KI an, werden erkannte Hassbotschaften laut dem Startup noch von geschulten Mitarbeiter:innen geprüft, dann übernimmt das Unternehmen alle Schritte, die für Einzelpersonen häufig zu große Hürden darstellen: Die Partnerkanzlei So Done Legal reicht einen Strafantrag bei den zuständigen Behörden ein und kümmert sich sowohl um das Straf-, als auch das Zivilverfahren. „Weigern sich die Täter, dann geht SO DONE legal im Zweifel auch für dich vor Gericht“, heißt es auf der So-Done-Website.

Der Deal scheint dabei fair: Für die Arbeit erhält das Startup 50 Prozent der erstrittenen Geldentschädigung, sollte es eine solche geben. „Sollte es nicht zu einer Geldentschädigung, wohl aber zu Kosten kommen“, übernehme So Done diese, die Kund:innen des Unternehmens tragen also kein Risiko.

Zu beachten ist allerdings, dass So Done für eine regelmäßige Überwachung bei häufigen Hassbotschaften die Zugänge zu den Social-Media-Kanälen des Kunden haben möchte und wohl auch braucht – Bequemlichkeit hat eben einen gewissen Preis, der in diesem Fall eben Vertrauen ist. Wer nur vereinzelt mit Online-Hass konfrontiert ist, kann sich immerhin auch mit Screenshots an das Startup wenden.

Wer sich von der Wirksamkeit der Maßnahmen überzeugen möchte, findet auf der So-Done-Website übrigens eine Übersicht mit „Erfolgsgeschichten“, unter der Gerichtsentscheide zu einzelnen Hassbotschaften mitsamt dem erstrittenen Geldwert veröffentlicht werden. „Arschloch“ brachte dem Online-Täter beispielsweise eine Strafe von 600 Euro, „Hurensohn“ satte 3.200 Euro.