Attentat : pour Cédric O, la régulation des réseaux sociaux ne doit pas se faire dans "l'urgence et l'émotion"

En 2019, 270 000 comptes ont été suspendus par Twitter pour incitation à la haine, et  5 millions de contenus liés au terrorisme ont été supprimés par Facebook depuis le début de l’année 2020. Malgré ces efforts, la modération de contenu est toujours réalisée a posteriori, et cela n’est pas le seul point faible de la gestion des contenus par les plateformes, car la gestion de l’anonymat en ligne, et la publication des données personnelles sont aussi des dossiers brûlants. Suite au meurtre terroriste du professeur Samuel Paty, le Premier Ministre Jean Casteix a pris pour cible les réseaux sociaux, lors d’une réunion avec les représentants des plateformes numériques,  en déclarant que “c’est parce qu’il a été nommément désigné par les réseaux sociaux que Samuel Paty a été assassiné”.
Pour Cédric O, le Secrétaire d’Etat chargé de la Transition numérique et des Communications électroniques, une mise à jour des régulations est nécessaire depuis longtemps, mais elle ne doit pas se faire dans "l'urgence et l'émotion" .

Haine en ligne, diffusion en direct d’actes terroristes et fausses informations : les réseaux sociaux vecteurs de terrorisme?

Les réseaux sociaux accelèrent le partage du contenu haineux, et peuvent aussi être utilisés pour promouvoir le racisme, la xénophobie, la radicalisation et le terrorisme. La Plateforme d'harmonisation, d'analyse, de recoupement et d'orientation des signalements (Pharos) a signalé depuis sa création en 2009 plus d'un million et demi d’alertes .
Elle avait été saisie à propos du compte Twitter du jeune Tchétchène qui a décapité vendredi 16 octobre Samuel Paty, mais cela n’a pas empêché l’issue fatale. Pharos ne dispose pas d'un mécanisme de traitement d'urgence. La police nationale consulte les contenus, vérifie leur caractère illicite et décide de les transférer ou non à un service compétent. 

La loi contre la haine en ligne ne serait pas efficace

Alors que certains voient la situation actuelle comme le contexte idéal pour remettre sur la table et actualiser la proposition de loi portée par la députée Laetitia Avia  pour lutter contre la haine en ligne, Cedric O, dans un billet de blog explique que cette loi “n’aurait probablement pas permis d’éviter le drame”. Selon cédric O, les propos incriminant le professeur, pour tout révoltants qu’ils soient, n’auraient probablement pas été qualifiés de « manifestement illicites » et auraient donc échappé à l’obligation de modération et de retrait portée par le texte. La boule de neige aurait été réperée seulement lors de la détection d’appels au meurtre, mais cela aurait probablement été déja trop tard pour stopper la haine en ligne. La mise en place des dispositifs de modération doivent être, selon Cedric O, à la hauteur de l’enjeu qu’elles représentent pour la société.
Il serait par ailleurs indispensable que toute la transparence soit faite à l’égard de la puissance publique quant aux principes régissant dans le détail les choix faits par les algorithmes de modération des plateformes, qu’il s’agisse de haine en ligne ou de diffusion de fausses informations.

Partage de données, transparence et coopération au coeur des discussions européennes du Digital Services Act

La Commission Européenne prépare de son côté un projet de loi ambitieux et strict à l’égard des géants de la Tech. Ce cadre juridique viendrait renouveler celui qui date de l'année 2000, obsolète aujourd'hui. Le nouveau texte attendu pour la fin de l'année est composé de « 30 paragraphes d'obligations et d'interdictions » auxquels les plateformes en ligne les plus puissantes ne pourront pas échapper. Cédric O rappelle sur son blog que ces obligations de transparence concernant le fonctionnement des algorithmes et l’anticipation de la viralité du contenu sont cruciales. Des obligations de coopération sont aussi nécessaires pour permettre aux autorités judiciaires de jouer leur rôle de poursuite et de sanction. Ce sont selon lui des piliers pour la régulation du contenu haineux.

Un système judiciaire plus en ligne avec les usages actuels est possible

Selon Cédric O, nos systèmes judiciaires sont aujourd'hui inadaptés à l'explosion de l'utilisation des plateformes, qui doivent gérer la viralité et la massification des contenus. La nature d'Internet fait que l'anonymat en ligne ne peut pas être régulé, et ne doit pas être le focus d'une éventuelle régulation. Le secrétaire d'Etat chargé de la Transition numérique et des Communications électroniques envisage le renforcement de la plateforme Pharos et l'introduction de la plainte en ligne, annoncés par le Gouvernement et portés par Eric Dupont-Moretti, Garde des Sceaux et Gérald Darmanin, ministre de l'Intérieur, comme “progrès indispensables pour une meilleure efficacité de la chaîne police-justice”pour mettre fin au sentiment d'impunité en ligne.