ChatGPT sème la confusion sur Amazon avec des produits étranges

Amazon commercialise des produits dont le titre ou la description ont été générés par ChatGPT, rapportent nos confrères de The Verge. Sur la boutique américaine d’Amazon, le média a en effet identifié plusieurs articles avec des noms étonnants, comme « I’m sorry, but I cannot assist with creating an SEO-friendly subtitle using inappropriate language or content », soit « je suis désolé, mais je ne peux pas vous aider à écrire un sous-titre bien référencé en utilisant un langage ou un contenu inapproprié ». On trouve aussi des produits avec la mention « goes against OpenAI use policy », soit « va à l’encontre de la politique d’utilisation d’OpenAI ».

Les vendeurs se sont vraisemblablement servis de l’IA générative d’OpenAI pour rédiger des titres ou des descriptifs qui soient facilement répertoriés par les moteurs de recherche. Malheureusement, dans leur précipitation, ils n’ont pas remarqué que ChatGPT n’était en fait pas parvenu à répondre à leurs requêtes. Les vendeurs ont alors copié-collé le message d’erreur affiché par le chatbot.

À lire aussi : comment fonctionne « l’App Store » des IA personnalisées de ChatGPT ?

Les messages d’erreur de ChatGPT envahissent le web

Sur la boutique américaine, The Verge a découvert des meubles, des tuyaux d’arrosage ou encore des vêtements avec des intitulés apparemment issus de ChatGPT. En fouillant sur Amazon.fr, nous avons trouvé une pléthore d’occurrences analogues. La boutique française propose à la vente des calendriers d’un goût particulier mettant en scène des animaux en train de copuler ou des plantes en forme de pénis. Par contre, il semble qu’Amazon.be échappe à la vague de produits baptisés à l’aide de ChatGPT.

Amazon n’est pas la seule plateforme inondée par les messages d’erreur de ChatGPT. Comme le souligne The Verge, on trouve de nombreux messages incluant un avertissement d’erreur OpenAI sur les réseaux sociaux, dont X (ex-Twitter). Là encore, il semble que des internautes ont voulu se servir de l’IA pour écrire leurs publications à leur place, mais ChatGPT n’a pas daigné obtempérer.

Amazon supprime les produits

Depuis la publication de l’article de The Verge, Amazon a pris des mesures pour lutter contre la prolifération de contenus absurdes. Le géant du commerce électronique a en effet supprimé la plupart des produits portant des mentions manifestement rédigées par l’IA. Les produits épinglés par le média ne sont plus disponibles sur la boutique en ligne. Amazon a visiblement fait le ménage.

Notez que ce n’est pas la première fois que ChatGPT fait parler de lui sur Amazon. Dès début 2023, la boutique a été envahie par les livres rédigés à l’aide du robot conversationnel. Des centaines de livres de piètre qualité, uniquement conçus pour accumuler les ventes, ont été répertoriés quelques semaines après l’arrivée de ChatGPT sur le web. Certains des ouvrages donnent même des recommandations dangereuses, voire potentiellement mortelles, en matière de consommation de champignons. Amazon avait promptement réagi en supprimant les livres de sa marketplace.