YouTube prépare la possibilité de signaler un contenu créé par l'intelligence artificielle

Alors que l'intelligence artificielle s'immisce dans tous types de contenus, YouTube permettra bientôt de signaler ce type de création pour éviter les impostures et les manipulations. La plateforme demandera aussi aux créations qui s'en servent de le préciser systématiquement.

Manipulation électorale, arnaques, deep-fakes... Le potentiel de l'intelligence artificielle est presque sans limites, pour le meilleur et pour le pire.

"Nous allons rendre possible [le fait — ndlr] de demander le retrait de contenus générés par de l'intelligence artificielle ou d'autres contenus manipulés pour simuler une personne identifiable, y compris son visage et sa voix", ont expliqué Emily Moxley et Jennifer Flannery O'Connor, vice-présidentes chargées de la gestion des produits chez YouTube.

L'un des critères pris en compte pour détecter ce type de contenu sera bien sûr la possibilité d'identification d'une personne réelle dans la vidéo. Le logiciel devrait aussi faire attention à la vraisemblance des éléments de décor, aux décalages anormaux ou encore aux scènes irréalistes. Il faudra par ailleurs faire attention aux styles artistiques (musicaux, par exemple), qui peuvent facilement être copiés.

"Il pourrait s'agir d'une vidéo créée par intelligence artificielle qui présente de manière réaliste un évènement qui ne s'est jamais produit ou du contenu montrant quelqu'un disant ou faisant quelque chose qu'il n'a pas dit ou fait", ont ajouté les deux responsables.

"C'est tout particulièrement important dans les cas où le contenu aborde des sujets sensibles comme des élections, des conflits, des crises de santé publique ou des personnalités", ont-elles relevé.

En cas de non-conformité à ces règles, le contenu sera retiré de YouTube ou suspendu du programme de partage des revenus publicitaires.

Reste à savoir si c'est la quantité de signalements qui fera foi, ou bien les preuves, ou encore si ce sera à un comité interne et obscur de prendre toutes les décisions. S'il faut évidemment se méfier de l'intelligence artificielle, il ne faudrait pas que cela devienne une énième raison de censurer à tour de bras.