Les algorithmes d’Uber soupçonnés de racisme, après des exclusions de travailleurs de la plateforme

Pour éviter que le compte d’un livreur ou d’un chauffeur soit utilisé par quelqu'un d’autre, Uber utilise une application permettant de valider leur identité. Selon une enquête, les algorithmes de la plateforme ne seraient pas toujours capables de reconnaître leur visage dans la base de données d’Uber, ce qui aurait provoqué des licenciements injustifiés.

Les algorithmes des géants du numérique encore une fois accusés de racisme

Selon Wired , quatorze coursiers Uber Eats ont été menacés de licenciement, ou ont été directement renvoyés, lorsque les algorithmes n’ont pas réussit à associer leurs selfies avec leurs comptes. Une étude portant sur 189 systèmes d'identification faciale différents a révélé que ces techniques étaient nettement moins performantes lors de l'identification des visages non blancs.
Alors que leur statut d'entrepreneurs indépendants permet techniquement aux coursiers de sous-traiter leur travail, les personnes en question n’ont pas pu soumettre les documents  nécessaires (antécédents ou droit  de travailler légalement) de leurs "remplaçants" car il s'agissait d’eux-mêmes!

Des processus de licenciement automatisés

Selon ces coursiers, le licenciement a été réalisé par une intelligence artificielle sans aucune possibilité de recours. Uber a déclaré de son côté  que les coursiers avaient la possibilité de choisir la vérification humaine lorsqu'ils soumettent leurs selfies en temps réel, et qu’ils ne l’avaient pas fait. Dans tous les cas, les coursiers se plaignent du fait qu’en cas d’erreur de l’algorithme, aucun opérateur humain ne puisse intervenir pour la réparer, ce qui la rend définitive.