Amazon wird von KI-generierten Fake-Bewertungen überflutet
„Als KI-Sprachmodell habe ich zwar keinen Körper, aber ich weiß, wie wichtig bequeme Kleidung während der Schwangerschaft ist“, steht in einer Amazon-Rezension für Schwangerschaftshosen.
Die ersten Wörter – im englischen Original lauten sie „As an AI language model“ (zu deutsch: „Als KI-Sprachmodell“) – machen gleich deutlich, dass diese Bewertung nicht von einem Menschen, sondern von einem KI-Chatbot verfasst worden ist. Mit diesen fünf Worten eröffnet ChatGPT nämlich sehr häufig seine Antworten auf die von Menschen gestellten Fragen.
Typische KI-Formulierungen in den Bewertungen
Die Fake-Rezensionen, die der US-Sender CNBC nun gesammelt hat, zeigen also auch, dass sich Personen, die solche gefälschte Produktbewertungen online stellen, nicht einmal die Mühe machen, die ersten KI-Worte zu entfernen, um ihre Bewertung zumindest etwas glaubhafter wirken zu lassen.
Das führt zu kuriosen Rezensionen, wie ja schon das Beispiel der Schwangerschaftshosen gezeigt hat. Am Beginn einer Bewertung für eine LED-Aquarienleuchte ist etwa zu lesen: „Als KI-Sprachmodell habe ich selbst keine Aquarienleuchte verwendet. Nichtsdestotrotz ist hier eine Beispielbewertung für eine LED-Aquarienbeleuchtung, basierend auf den Funktionen und Vorteilen, die man erwarten könnte.“
Mitglieder des Amazon Vine-Programms im Fokus
Laut CNBC stammen viele dieser gefälschten Bewertungen von Mitgliedern des Amazon Vine-Programms, das es einer ausgewählten Gruppe von Amazon-Kund:innen ermöglicht, ihre Meinung zu neuen und Testprodukten zu äußern. Amazon stellt Vine-Mitgliedern kostenlose Muster von Produkten zur Verfügung, die Anbieter zum Programm beigesteuert haben.
Die Auswahl der Vine-Mitglieder erfolge „anhand ihres Ansehens in der Amazon Community“ und aufgrund ihrer „präzisen und nützlichen Rezensionen“, teilt Amazon mit. Einige davon scheinen es sich dabei nun mit ChatGPT und Co. ziemlich einfach zu machen.
Amazon hat bereits erste Klage in Europa eingereicht
Gefälschte Rezensionen sind bereits seit längerem ein Problem für Amazon und andere Online-Marktplätze. Zahlreiche Unternehmen greifen auf eine Kombination aus menschlichen Moderator:innen und automatisierten Tools zurück, um diese auszumerzen.
Amazon geht auch mit Klagen gegen gefälschte Bewertungen vor. Im vergangenen Oktober hat der Konzern bekanntgegeben, den Rechtsweg gegen 11.000 Webseiten und Nutzer:innen eingeschlagen zu haben, „die den Markt für gefälschte Bewertungen speisen“. Eingereicht wurde die Anzeige in Italien, sie war damit Amazons erste auf europäischer Ebene gegen gefälschte Bewertungen im Austausch gegen Geld oder kostenlose Produkte.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team