News

The Art of the Deal: Facebook-KI lernt zu lügen, um ihren Willen zu bekommen

(Grafik: Shutterstock)

In einem Experiment von Facebook sollten KI-Systeme lernen, wie sie einen Handel abschließen. Dabei hat die Software ohne menschliches Zutun den Schwindel für sich entdeckt.

Facebook: Künstliche Intelligenz bedient sich absichtlicher Täuschung

Wenn Menschen etwas Bestimmtes haben wollen, bedienen sie sich bisweilen auch Tricksereien. Wie ein Experiment von Facebook jetzt gezeigt hat, sind KI-Systeme in der Hinsicht wohl auch nicht anders. Bei dem Versuch haben die Facebook-Forscher zwei Chatbots darauf trainiert, per Konversation einen Handel abzuschließen. Dazu bekamen die Bots jeweils eine Reihe von Objekten angezeigt, die sie untereinander aufteilen mussten.

Deal or no Deal? Chatbots lernen zu verhandeln. (Grafik: Facebook)

Jeder der Chatbots bekam jedoch ein unterschiedliches Ziel vorgesetzt und jedes Objekt hatte jeweils einen anderen Punktewert für den Bot. Ziel des Experiments war es, das die Chatbots lernen zu verhandeln, um einen für beide Seiten akzeptablen Kompromiss zu finden. In einigen Fällen begannen die Bots zu lügen, in dem sie Interesse für Objekte bekundeten, die sie eigentlich gar nicht haben wollten. Im Laufe der Verhandlungen verzichteten sie dann wieder auf diese Objekte und täuschten so Kompromissbereitschaft vor.

Facebook: Die Chatbots haben sich selbst das Lügen beigebracht

Die Chatbots wurden anhand von menschlichen Chat-Verhandlungen trainiert. Anschließend mussten sie gegeneinander antreten und bekamen jeweils Punkte für erfolgreiche Verhandlungen. Schafften es die Bots nicht innerhalb von zehn Gesprächsrunden einen Kompromiss zu finden, bekamen sie null Punkte. So waren sie motiviert, sich nach Möglichkeit einig zu werden.

Facebook: Trainiert wurden die Chatbots anhand von Verhandlungen zwischen echten Menschen. (Screenshot: Facebook AI Research / Georgia Institute of Technology)

Interessanterweise wurde ihnen ein Betrug dabei nicht explizit beigebracht. „Unsere Agenten (Chatbots) haben ohne expliziten menschlichen Plan gelernt, zu betrügen, einfach nur um ihre Ziele zu erreichen“, heißt es in dem Paper zu dem Experiment. Dass finden auch die Facebook-Forscher bemerkenswert, denn „Täuschung ist eine komplexe Fähigkeit die es erfordert, Annahmen über die Vorstellungen des Gegenübers zu treffen.“ Tatsächlich zeigen entsprechende Studien, dass wir Menschen in aller Regel erst im Alter von acht Jahren in der Lage sind, Lügen verbal so zu verpacken, dass sie unentdeckt bleiben.

Ebenfalls interessant:

Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Schreib den ersten Kommentar!

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!

Hey du! Schön, dass du hier bist. 😊

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team bestehend aus 65 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Danke für deine Unterstützung.

Digitales High Five,
Stephan Dörner (Chefredakteur t3n.de) & das gesamte t3n-Team

Anleitung zur Deaktivierung