Du hast deinen AdBlocker an?

Es wäre ein Traum, wenn du ihn für t3n.de deaktivierst. Wir zeigen dir gerne, wie das geht. Und natürlich erklären wir dir auch, warum uns das so wichtig ist. Digitales High-five, deine t3n-Redaktion

News

The Art of the Deal: Facebook-KI lernt zu lügen, um ihren Willen zu bekommen

(Grafik: Shutterstock)

In einem Experiment von Facebook sollten KI-Systeme lernen, wie sie einen Handel abschließen. Dabei hat die Software ohne menschliches Zutun den Schwindel für sich entdeckt.

Facebook: Künstliche Intelligenz bedient sich absichtlicher Täuschung

Wenn Menschen etwas Bestimmtes haben wollen, bedienen sie sich bisweilen auch Tricksereien. Wie ein Experiment von Facebook jetzt gezeigt hat, sind KI-Systeme in der Hinsicht wohl auch nicht anders. Bei dem Versuch haben die Facebook-Forscher zwei Chatbots darauf trainiert, per Konversation einen Handel abzuschließen. Dazu bekamen die Bots jeweils eine Reihe von Objekten angezeigt, die sie untereinander aufteilen mussten.

Deal or no Deal? Chatbots lernen zu verhandeln. (Grafik: Facebook)

Jeder der Chatbots bekam jedoch ein unterschiedliches Ziel vorgesetzt und jedes Objekt hatte jeweils einen anderen Punktewert für den Bot. Ziel des Experiments war es, das die Chatbots lernen zu verhandeln, um einen für beide Seiten akzeptablen Kompromiss zu finden. In einigen Fällen begannen die Bots zu lügen, in dem sie Interesse für Objekte bekundeten, die sie eigentlich gar nicht haben wollten. Im Laufe der Verhandlungen verzichteten sie dann wieder auf diese Objekte und täuschten so Kompromissbereitschaft vor.

Anzeige

Facebook: Die Chatbots haben sich selbst das Lügen beigebracht

Die Chatbots wurden anhand von menschlichen Chat-Verhandlungen trainiert. Anschließend mussten sie gegeneinander antreten und bekamen jeweils Punkte für erfolgreiche Verhandlungen. Schafften es die Bots nicht innerhalb von zehn Gesprächsrunden einen Kompromiss zu finden, bekamen sie null Punkte. So waren sie motiviert, sich nach Möglichkeit einig zu werden.

Facebook: Trainiert wurden die Chatbots anhand von Verhandlungen zwischen echten Menschen. (Screenshot: Facebook AI Research / Georgia Institute of Technology)

Interessanterweise wurde ihnen ein Betrug dabei nicht explizit beigebracht. „Unsere Agenten (Chatbots) haben ohne expliziten menschlichen Plan gelernt, zu betrügen, einfach nur um ihre Ziele zu erreichen“, heißt es in dem Paper zu dem Experiment. Dass finden auch die Facebook-Forscher bemerkenswert, denn „Täuschung ist eine komplexe Fähigkeit die es erfordert, Annahmen über die Vorstellungen des Gegenübers zu treffen.“ Tatsächlich zeigen entsprechende Studien, dass wir Menschen in aller Regel erst im Alter von acht Jahren in der Lage sind, Lügen verbal so zu verpacken, dass sie unentdeckt bleiben.

Ebenfalls interessant:

Finde einen Job, den du liebst

Bitte beachte unsere Community-Richtlinien

Schreib den ersten Kommentar!

Du musst angemeldet sein, um einen Kommentar schreiben zu können.

Jetzt anmelden

Hinweis

Du hast gerade auf einen Provisions-Link geklickt und wirst in Sekunden weitergeleitet.

Bei Bestellung auf der Zielseite erhalten wir eine kleine Provision – dir entstehen keine Mehrkosten.


Weiter zum Angebot