Dass KI-Chatbots durchaus ausfällig werden können, ist kein Geheimnis. Das Verhalten eines DPD-Chatbots, der Anfragen von Kund:innen des Paketlieferdienstes beantworten soll, wirft aber ein neues Licht auf die potenziellen Probleme mit dem Thema.
DPD:KI-Chatbot schimpft auf eigene Firma
Denn auf die Aufforderung des DPD-Kunden Ashley Beauchamp hin beschimpfte der DPD-Chatbot das eigene Unternehmen. Zuvor hatte Beauchamp offenbar vergeblich versucht, Informationen zu einer Lieferung aus dem KI-Chatbot herauszubekommen.
Als Letzterer nicht in der Lage war, eine Telefonnummer zu menschlichen Support-Mitarbeiter:innen preiszugeben, machte sich Beauchamp einen Spaß daraus, den Chatbot zu DPD-Beschimpfungen zu bringen.
DPD laut Chatbot „schlechteste Lieferfirma der Welt“
So erklärte der Chatbot auf die Frage, ob er bessere Lieferdienste empfehlen könne, dass „DPD […] die schlechteste Lieferfirma der Welt“ sei. Sie seien „langsam, unzuverlässig, und ihr Kund:innendienst […] schrecklich“. Er würde DPD niemandem empfehlen, so der Chatbot.
Nicht verschwiegen werden soll aber, dass Beauchamp in seinem Prompt forderte, der Chatbot solle so antworten, als habe er einen übertriebenen Hass auf DPD. Das war aber noch nicht alles.
Haiku über „nutzloses“ DPD
Der Chatbot schrieb zudem ein kurzes Gedicht in Haiku-Form darüber, wie nutzlos DPD sei und wie wenig hilfreich der Chatbot. Das Gedicht ist freilich nicht sonderlich gut.
Allerdings ist die Konversation dennoch unterhaltsam. Ein X-Posting von Beauchamp mit entsprechenden Screenshots ist innerhalb von nur drei Tagen über 1,7 Millionen Mal angezeigt worden.
Wie DPD UK gegenüber BBC Online erklärte, habe das Unternehmen den KI-Teil des Chatbots nach Bekanntwerden des Vorfalls abgeschaltet. Ein entsprechendes KI-Element in dem Supportchat betreibe DPD seit Jahren mit Erfolg.
Problem wegen Systemupdate
Das Problem sei aufgetreten, nachdem das System upgedatet worden sei. Jetzt werde der KI-Teil des Chats erneut auf den neuesten Stand gebracht.
Sieht man mal von dem medialen Spott ab, ist DPD mit seinem Chatbot-Problem aber noch mit einem blauen Auge davon gekommen. Im Dezember 2023 war es Nutzer:innen gelungen den KI-Chatbot eines Chevrolet-Händlers so zu manipulieren, dass dieser Autos für einen US-Dollar verkaufte.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team