Der neueste KI-Scam auf Amazon: Fake-Reiseführer
Die New York Times hat zahlreiche Reiseführer genauer unter die Lupe genommen. Mithilfe von orginality.ai konnten Passagen aus Reiseführern analysiert und klar einer KI zugeordnet werden. Rezensionen von Kund:innen werden gefälscht, um die Reiseführer besser verkaufen zu können.
Mit gekauften 5-Sterne-Bewertungen ans Ziel
Die Times hat eine Reihe der vermeintlichen KI-Reiseführer geteilt. Bei einem der geprüften Reiseführer handelt es sich um den Guide „France Travel Guide: Discover the Beauty, Culture, and Charm of France Through an Insider’s Guide“.
Der Reiseführer wurde von der New York Times gründlich auf KI-generierte Inhalte untersucht. (Screenshot: New York Times)
Keines der zuvor veröffentlichten Werke des Reiseführer-Autoren Mike Steves konnte gefunden werden. Zudem war es nicht möglich, die Angaben seiner Biographie auf Amazon zu bestätigen. Verdächtig ist außerdem, dass er zufälligerweise im selben Ort wie der renommierte Reiseautor Rick Steves lebt.
Eine Kundin beschreibt der Times, wie sie diesen Reiseführer gekauft hat – der mittlerweile auf Amazon nicht mehr zu finden ist. Mit mehr als 100 Fünf-Sterne-Bewertungen wirkte der Reiseführer vertrauenswürdig und auch der Preis war günstiger als der Reiseführer von Rick Steves. Gedruckt wurde der Reiseführer über den On-Demand-Service von Amazon.
Die positiven Bewertungen sind dabei sehr allgemein gehalten, themenfremd und unsinnig: „Mein größter Wunsch ist es, Frankreich zu kennen; dieser Reiseführer war spektakulär, die Möglichkeit, die Jahreszeit zu wählen, um zu wissen, welches Klima wir am liebsten mögen, zu wissen, dass ihre Sprache Englisch ist; es lehrt Sie die touristischen Sehenswürdigkeiten und seine Geschichte ist unglaublich.“
Im Kontrast dazu, stehen die 1-Stern-Bewertungen, die oft auf irreführende Behauptungen in der Buchbeschreibung hindeuten.
Datensätze aus Reiseführern mit orginality.ai geprüft
Die Times ließ 35 Passagen aus dem Buch von Mike Steves durch einen Detektor für künstliche Intelligenz von orginality.ai laufen. Das Tool dient zur Erkennung von KI-generierten Inhalten.
Alle eingereichten Passagen erzielten die perfekte Punktzahl von 100, was bedeutet, das sie mit ziemlicher Sicherheit von einer KI produziert wurden. Weitere 64 Ratgeber wurden ebenfalls diesem Test unterzogen, die meisten davon hatten mindestens 50 Rezensionen auf Amazon.
Von 190 mit originality.ai getesteten Absätzen erzielten 166 eine Punktzahl von 100, nur 12 erzielten eine Punktzahl unter 75. Im Vergleich dazu lagen die Bewertungen für Passagen bekannter Reisemarken wie Rick Steves und Lonely Planet fast alle unter 10. Es besteht also so gut wie keine Chance, dass sie von einer KI geschrieben wurden.
Keine Richtlinien auf Amazon für KI-Inhalte
Die Bücher sind das Ergebnis einer Mischung modernster Werkzeuge: KI-Apps, die Texte und gefälschte Portraits erstellen, Websites mit einer scheinbar unendlichen Auswahl an Stockfotos und Grafiken und Self-Publishing-Plattformen – wie Kindle Direkt Publishing von Amazon.
Amazon hat keine Regeln, die Inhalte verbieten, die hauptsächlich durch künstliche Intelligenz generiert werden. Aber die Website bietet Richtlinien für Buchinhalte, einschließlich Titel, Cover und Beschreibungen.
Der Konzern hat allerdings eine Antimanipulations-Richtlinie für Kundenrezensionen. Die gekauften Bewertungen der Reiseführer sind konträr zu diesen Richtlinien von Amazon und könnten bald einer stärkeren Regulierung durch die Federal Trade Commission (FTC) ausgesetzt sein. Dabei handelt es sich um eine unabhängig arbeitende Bundesbehörde, die 1914 als Nachfolgerin des Bureau of Corporations gegründet wurde. Sie widmet sich unfairen und täuschenden Praktiken und dem Schutz der Verbraucher:innen.
Durch die gleichzeitige Verwendung dieser Tools konnten die Reiseführer ganz oben in den Amazon-Suchergebnissen landen und manchmal sogar Amazon-Empfehlungen einheimsen.
Betrug geht über Reiseführer hinaus
Der Scam betrifft aber wohl nicht nur Reiseführer, sondern auch Bücher aus den Bereichen Kochen, Gartenarbeit, Handwerk, Religion, Wirtschaft, Mathematik und ironischerweise Programmierung.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team