ChatGPT wird im E-Commerce in zahlreichen Umfeldern für eine Vielzahl an Aufgaben eingesetzt. Unter anderem kommt die generative KI immer öfter für die Beschreibung von Waren auf Basis eines Softwareroboters zum Einsatz und arbeitet dabei meist mit Featurelisten und Datenbanken der Markenbetreiber:innen und Händler:innen zusammen.

Und so kommt es, dass sich insbesondere auf dem Amazon Marketplace Produktlistings finden, die als Warenbezeichnung oder in der Beschreibung Fehlermeldungen tragen, wie sie beim Generieren von ChatGPT-Texten vorkommen. Für Amazon, aber mit Sicherheit auch für andere Plattformen, die weitgehend automatisiert benutzbar sind, gibt es daher inzwischen zahlreiche Fundstücke mit Bezeichnungen wie „I’m sorry, but I cannot fulfill this request as it goes against OpenAI use policy“, gegebenenfalls auch in anderen Sprachen.

Amazon selbst hat hierfür offenbar bereits eine Aufräumtruppe, die schnell Klarschiff macht, wenn solche Fälle auftreten. Zumindest haben wir in der Vergangenheit nachvollziehen können, dass die Produktlistings nie sehr lange dort zu finden sind. Insgesamt lassen sich diese übrigens recht einfach ausfindig machen, indem man nach dem Term „goes against OpenAI use policy“ sucht. Amazon erklärt dazu in gewohnt allgemeinem Stil: „Wir arbeiten intensiv daran, Kund:innen ein vertrauenswürdiges Einkaufserlebnis zu bieten. Dazu gehört auch, dass wir von Drittanbietern verlangen, dass sie genaue und hilfreiche Angebote erstellen. Wir haben die fraglichen Angebote entfernt und sind dabei, unsere Systeme weiterhin zu verbessern.“

Doch für Seller und Vendoren bringt all das auch einige weitere Risiken mit sich. Denn zum einen können je nach Vertragsverhältnis Kosten für ein solches fehlerhaftes Listing entstehen, zum anderen könnte Amazon hier zumindest im Wiederholungsfall wenig erbaut sein – und den betreffenden Verursacher:innen mit temporärer Aussetzung des Kontos oder anderen Regelungen drohen, was durchaus vom Hausrecht und den AGB der Plattformen gedeckt ist. Das Unternehmen ist ja insbesondere seinen Händler:innen gegenüber durchaus für schnelles und nachhaltiges Durchgreifen bekannt.

Ein weiteres Risiko besteht übrigens darin, dass nicht nur bei der Bezeichnung oder Beschreibung Fehler entstehen, sondern auch bei der Warenverfügbarkeit oder – noch schlimmer – dem Pricing. Händler:innen, die hier zu oft einen Rückzieher machen oder fehlerhafte Listings einstellen, könnten mindestens in der Sichtbarkeit heruntergestuft werden.

Auch wenn wir das Phänomen vor allem bei Amazon Marketplace beobachtet haben, gibt es andere Situationen, die ebenfalls verraten, dass mit ChatGPT gearbeitet wurde – etwa bei Rezensionen, Kund:innenbewertungen, bei Google, einigen Gastronomie- und Hotellerieplattformen, dem sozialen Netzwerk X sowie bei Ebay und Etsy. Es handelt sich also um ein umfassendes Problem, das die Betreiber solcher Portale und Plattformen in naher Zukunft (oder bereits jetzt) angehen.

Bei nahezu allen großen Plattformen dürfte es also nur eine Frage der Zeit sein, bis automatisiert aussortiert wird – die oben genannten Begriffe und einige weitere Eigenheiten dürften das recht schnell und gut über entsprechende Routinen erlauben. Allerdings könnte die Situation bald komplizierter werden, wenn über den GPT-Store mit einer Vielzahl an GPTs und Anwendungen neue Formulierungen entstehen werden, die die genannten Plattformen im Netz ihrerseits mit Fehlermeldungen überfluten.