Perspective : le nouvel outil de Google pour lutter contre les propos déplacés

Devant la propagation impressionnante de propos racistes, sexistes et insultants, Google a décidé d'agir. Le géant d'Internet a donc lancé un nouvel outil, conçu avec Jigsaw (ex-Google Ideas), pour tenter d'éradiquer ce terrible phénomène aux conséquences parfois désastreuses.

Son nom? Perspective. Son job? Repérer les commentaires abusifs, les analyser et les signaler à l'éditeur. Car cet outil ne s'adresse pas aux particuliers mais à une clientèle avertie de médias et diffuseurs de contenus.

Wikipedia et le New York Times ont eu la primeur sur Perspective, qui n'est pour l'instant disponible qu'en anglais. Un développement en d'autres langues est prévu.

Mais concrètement, comment fonctionne cet outil de lutte contre les discriminations en ligne? Il agit comme un filtre, en se référant à sa base comportant des milliers de commentaires jugés "toxiques", comme des exemples qui vont l'aider à analyser puis noter les nouveaux commentaires sur chaque contenu.

Ensuite, Perspective va envoyer un signalement à l'éditeur, qui pourra consulter ce commentaire abusif et éventuellement décider de tout de même le publier sur son site.

Et si l'outil va analyser des milliers de commentaires tout seul, comme tous les filtres il pourra en laisser passer quelques uns et avoir des failles. C'est pourquoi une fonctionnalité permettra aux utilisateurs de signaler eux-mêmes certains messages qu'ils jugeront déplacés. Si Perspective approuve, la base de données s'agrandira. Dans le cas contraire, le commentaire en question sera laissé à la vue de tous.