Instagram : l'intelligence artificielle pour bloquer les commentaires haineux

Le réseau social de partage de photos Instagram, détenu par Facebook, a annoncé jeudi qu'il allait filtrer les commentaires haineux grâce à l'intelligence artificielle, nouvelle illustration des tentatives des groupes internet pour limiter les contenus problématiques.

"Beaucoup (d'utilisateurs) nous ont dit que les commentaires négatifs et agressifs les empêchaient de profiter pleinement d'Instagram et de s'exprimer librement", écrit le co-fondateur et patron d’Instagram Kevin Systrom sur le site du réseau social.

"Pour (les) aider, nous avons mis au point un filtre qui bloquera certains commentaires agressifs sur les publications et les vidéos en direct", poursuit-il, précisant que les utilisateurs auront le choix d'activer ou non ce système.

Le filtre est d'abord lancé pour les commentaires en anglais avant son extension à d'autres langues, est-il précisé.

"Notre équipe a appris à nos systèmes à reconnaître certains types de commentaires agressifs (...), de façon à ce que vous n’ayez pas à les voir", poursuit le responsable.

"Cet outil va s'améliorer avec le temps", précise-t-il, ajoutant qu'Instagram lance aussi jeudi un filtre anti-spam.

Les géants d'internet utilisent de plus en plus l'intelligence artificielle pour filtrer les contenus, notamment via "l'apprentissage automatique des machines" ("machine learning") qui permet aux algorithmes de s'améliorer automatiquement au fur et à mesure qu'ils examinent les contenus.

Cette annonce intervient alors que les réseaux sociaux sont régulièrement accusés de ne pas filtrer suffisamment les publications et de laisser proliférer les propos haineux, les apologies du terrorisme ou les fausses informations ("fake news").

Ils multiplient donc ces derniers mois les annonces détaillant leurs efforts en la matière (embauches, recherche, collaborations...).

Facebook, Microsoft, Twitter et YouTube (Google) ont annoncé par exemple cette semaine le lancement d'un forum internet contre le terrorisme, destiné à mieux filtrer les contenus litigieux et à en expurger leurs plateformes.