Dass KI-Chatbots durchaus ausfällig werden können, ist kein Geheimnis. Das Verhalten eines DPD-Chatbots, der Anfragen von Kund:innen des Paketlieferdienstes beantworten soll, wirft aber ein neues Licht auf die potenziellen Probleme mit dem Thema.
DPD:KI-Chatbot schimpft auf eigene Firma
Denn auf die Aufforderung des DPD-Kunden Ashley Beauchamp hin beschimpfte der DPD-Chatbot das eigene Unternehmen. Zuvor hatte Beauchamp offenbar vergeblich versucht, Informationen zu einer Lieferung aus dem KI-Chatbot herauszubekommen.
Als Letzterer nicht in der Lage war, eine Telefonnummer zu menschlichen Support-Mitarbeiter:innen preiszugeben, machte sich Beauchamp einen Spaß daraus, den Chatbot zu DPD-Beschimpfungen zu bringen.
DPD laut Chatbot „schlechteste Lieferfirma der Welt“
So erklärte der Chatbot auf die Frage, ob er bessere Lieferdienste empfehlen könne, dass „DPD […] die schlechteste Lieferfirma der Welt“ sei. Sie seien „langsam, unzuverlässig, und ihr Kund:innendienst […] schrecklich“. Er würde DPD niemandem empfehlen, so der Chatbot.
Nicht verschwiegen werden soll aber, dass Beauchamp in seinem Prompt forderte, der Chatbot solle so antworten, als habe er einen übertriebenen Hass auf DPD. Das war aber noch nicht alles.
Haiku über „nutzloses“ DPD
Der Chatbot schrieb zudem ein kurzes Gedicht in Haiku-Form darüber, wie nutzlos DPD sei und wie wenig hilfreich der Chatbot. Das Gedicht ist freilich nicht sonderlich gut.
Allerdings ist die Konversation dennoch unterhaltsam. Ein X-Posting von Beauchamp mit entsprechenden Screenshots ist innerhalb von nur drei Tagen über 1,7 Millionen Mal angezeigt worden.
Wie DPD UK gegenüber BBC Online erklärte, habe das Unternehmen den KI-Teil des Chatbots nach Bekanntwerden des Vorfalls abgeschaltet. Ein entsprechendes KI-Element in dem Supportchat betreibe DPD seit Jahren mit Erfolg.
Problem wegen Systemupdate
Das Problem sei aufgetreten, nachdem das System upgedatet worden sei. Jetzt werde der KI-Teil des Chats erneut auf den neuesten Stand gebracht.
Sieht man mal von dem medialen Spott ab, ist DPD mit seinem Chatbot-Problem aber noch mit einem blauen Auge davon gekommen. Im Dezember 2023 war es Nutzer:innen gelungen den KI-Chatbot eines Chevrolet-Händlers so zu manipulieren, dass dieser Autos für einen US-Dollar verkaufte.
