Des algorithmes pour aider à lutter contre l’antisémitisme

Cette semaine, le réseau social Twitter a été accusé de privilégier les visages de personnes blanches par rapport à ceux de personnes noires lors du recadrage automatique des images. Les critiques signalaient un biais raciste car l'algorithme semble, très souvent, recadrer l'image sur le visage de la personne blanche. Comme nous l’expliquions récemment dans un article, les algorithmes sont en effet loin d'être neutres, car ils reproduisent les stéréotypes de leurs créateurs. Heureusement, ils peuvent aussi être conçus et entraînés pour faire le contraire, c’est à dire lutter contre le racisme. Dans ce sens, une équipe internationale de scientifiques a annoncé le 21 septembre un nouveau projet pour stopper la propagation de l'antisémitisme en ligne à l'aide d’une intelligence artificielle.

Analyser le Web pour décoder l'antisémitisme et freiner les radicalisations

La Fondation allemande Alfred Landecker a annoncé lundi 21 septembre dans un communiqué qu’une équipe composée de chercheurs du King’s College de Londres et d’autres institutions scientifiques d’Europe et d’Israël, a développé une «approche très complexe et basée sur l'IA pour identifier l'antisémitisme en ligne». Ce travail est mené conjointement par des linguistes, des informaticiens et des historiens.
Ce projet arrive dans un contexte particulier: on a noté une recrudescence des actes d’antisémitisme un peu partout dans le monde mais plus spécifiquement en Europe ces dernièrs années. La France a connu une augmentation de 27% des faits à caractère antisémite entre 2018 et 2019, soit 687 cas en 2019 contre 541 en 2018. En ligne, le défi est de rendre visible l’antisémitisme en ligne et le démasquer.
En plus de détecter le contenu antisémite, ce projet vise à éviter que de plus en plus d'utilisateurs ne se radicalisent sur le Web. Pour cela il est important d'identifier les dimensions réelles de cet antisémitisme en progresion, “en tenant compte des formes implicites qui pourraient devenir plus explicites avec le temps”, a déclaré Matthias Becker, un linguiste et chef de projet de l'Université technique de Berlin.

La technologie vient en aide à l'humain, là où l'oeil n'est plus suffisant

La technologie s'avère utile non seulement pour accélérer la recherche et parcourir rapidement des volumes massifs de données et images, mais elle peut aussi maintenant décoder le langage, qui est parfois implicite, ainsi que les stéréotypes.
L'approche interdisciplinaire allant de la linguistique aux études sur l'antisémitisme et l'apprentissage automatique, permet d’identifier les codes du langage antisémite.
Une grande partie du contenu antisémite s'exprime de manière codifiée pour éviter d’être repéré (« juice » au lieu de « jews » en anglais par exemple), avec des allusions à certains récits de conspiration, ou avec la reproduction de stéréotypes. Ces codes rendent plus difficile à détecter la diffamation, ce qui rend nécessaire la combinaison d'approches qualitatives fondées sur l'IA, pensent les scientifiques.
Le projet actuel se concentre initialement sur l'Allemagne, la France et le Royaume-Uni, mais sera ensuite élargi pour couvrir d'autres pays et langues, ce qui, selon la fondation semble très important car l'antisémitisme continue à augmenter. Par exemple, lors de la montée des théories complotistes antisémites à propos de la création et de la propagation du COVID-19.