Le racisme est très répandu dans le e-commerce, une meilleure régulation est nécessaire

Dans la lutte contre le racisme et la haine en ligne, les réseaux sociaux sont dans le collimateur des autorités à cause des très nombreuses publications, contenus et commentaires racistes et haineux. Pour lutter contre ce phénomène, un observatoire de la haine en ligne a été créé. Des mouvements de boycott de Facebook par de très grandes marques ont aussi permi à la Fédération mondiale des annonceurs (WFA) de faire signer des engagements à Facebook, Twitter et YouTube pour tenter de mettre fin à leur laxisme vis à vis du contenu haineux. Mais ce "mal du siècle" a aussi gagné du terrain sur les sites de commerce en ligne. Amazon ou Rue du Commerce ont été dénoncés récemment en raison de la disponibilité de nombreux produits racistes sur leurs plateformes. Ce type de vente gêne fortement les annonceurs, dont les publicités s'affichent autour de ces produits de propagande racistes, mais aussi les consommateurs, qui les voient apparaître dans les résultats des recherches ou dans les suggestions. Une meilleure régulation semble nécessaire.

Des casquettes  «Black Lives Don't Matter»  et des déguisements d'enfants déportés étaient disponibles en ligne

Amazon a supprimé de sa plateforme une casquette raciste avec le slogan «Black Lives Don't Matter»  après la révolte suscitée sur Twitter et après avoir reçu de nombreuses plaintes des utilisateurs indignés. La casquette, décrite comme «propagande idéologique fasciste flagrante»  par certains usagers, aurait contourné les algorithmes d'Amazon en utilisant des descriptions trompeuses.
Du côté d'Amazon, les conditions d'utilisation stipulent que des  «Matériaux offensants et controversés» sont interdits et que la plateforme «n'autorise pas les produits qui promeuvent, incitent ou glorifient la haine, la violence, l'intolérance raciale, sexuelle ou religieuse, ou promeuvent des organisations ayant de telles opinions». Amazon affirme que lorsque les vendeurs enfreignent cette politique, des mesures sont prises, qui peuvent aller jusqu'à la suspension immédiate des comptes, la destruction des stocks dans les centres de distribution sans remboursement et la résiliation de la relation commerciale avec le vendeur.
Un porte-parole d'Amazon a déclaré à Business Insider  que "tous les vendeurs doivent suivre les directives de vente et ceux qui ne le font pas seront soumis à des mesures, y compris la suppression potentielle de leur compte". Mais malgré ces déclarations, le problème persiste, car les délais de réaction et de retrait sont trop longs.
Même imprudence pour un site Francais. À l'approche d'Halloween, le site Rue du Commerce proposait aux parents d'acheter à leurs enfants des déguisements d'enfants déportés, du temps de la seconde guerre mondiale, en taille 4, 5 ou 6 ans. Le vendeur, le français AS Discount PEM proposait deux autres « déguisements » épuisés en version garçon et en version fille, dans des tailles plus grandes. Pour contourner les contrôles, le nom des déguisements (proposés en 2017 et censurés à l'époque ) « Tenue d'enfant déporté » avaient été changés par « Tenue d’enfant évacué ».

De meilleures contrôles sont-ils possibles?

Ce type de sites peut contrôler les descriptions des objets, pour détecter les contenus offensants, mais, comment censurer une casquette si la description n'indique pas le message brodé sur la casquette?
Selon l’avocate anglaise spécialisée dans les dossiers de racisme Alexandra Wilson, Amazon a besoin de meilleurs contrôles pour repérer ce type de propagande et pouvoir analyser non seulement les descriptions, mais aussi les photos des produits racistes, car ce n'est pas la première fois que cela se produit. C’est le cas notamment de nombreux vêtements ou objets (tasses, porte clés) qui portent des messages racistes.
Dans un contexte de recrudescence des actes d’antisémitisme en Europe ces dernières années, une IA a été concue par une Ong allemande pour repérer le langage antisémite caché  et analyser les images haineuses. La preuve que la technologie, même si elle est en retard, est capable de freiner ce type de propagande sur les sites de e-commerce.