Fake News, Spam oder Betrugsmaschen sind auf Social-Media-Plattformen immer wieder ein Problem, dem sich die Entwickler entgegenstellen müssen. Ingenieure von Facebook wollen der Lage jetzt mithilfe von KI-gestützten Bots Herr werden. So soll das Verbreiten von Spam, Betrug und auch der illegale Verkauf von Waffen und Drogen unterbunden werden.

Um die Tests für diese komplexe Umgebung zu verbessern, auch aus Sicherheits- und Datenschutzgründen, haben Facebook-Forscher die sogenannte Web-Enabled-Simulation (WES) entwickelt. Facebook selbst bezeichnet WES als „eine neue Methode zum Aufbau der ersten sehr realistischen, groß angelegten Simulationen komplexer sozialer Netzwerke.“

Um die Bots zu trainieren, werden auf einer Parallelversion von Facebook Spamnachrichten simuliert, die dann von der KI identifiziert werden sollen. Die Forscher können so das Verhalten der Bots analysieren und verschiedene Methoden testen, um diese zu optimieren.

In einer Mitteilung von Facebook heißt es: „Persönlich und auch online handeln und interagieren Menschen auf eine Weise, die für herkömmliche Algorithmen manchmal schwierig zu modellieren oder zu replizieren ist. Das Verhalten der Menschen entwickelt sich und passt sich im Laufe der Zeit an und unterscheidet sich von einem zur anderen. Daher ist es schwierig, vorauszusehen, wie ein Einzelner oder eine ganze Gemeinschaft auf eine kleine Veränderung in ihrer Umgebung reagieren könnte.“

Die Bots sind darauf trainiert, über dieselbe Infrastruktur wie echte Benutzer miteinander zu interagieren, sodass sie Nachrichten an andere Bots verschicken, Beiträge veröffentlichen oder kommentieren und auch Freundschaftsanfragen versenden. So sollen Millionen von Bots in einem simulierten Facebook miteinander agieren. Die Bots basieren auf dem originalen Facebook-Code, damit ihre Aktionen möglichst denen von realen Personen, die die Plattform nutzen, entsprechen.