E-reputation : de fausses photos de femmes nues “deep fake” créées par des robots sur Telegram

Auteur(s)
FranceSoir
Publié le 28 octobre 2020 - 12:01
Image
Telegram
Crédits
Christian Wiediger / Unsplash
Un bot intégré dans une application de messagerie accélère la diffusion de ce type d’image
Christian Wiediger / Unsplash

Les polémiques sont nombreuses concernant les cas de harcèlement ou de menaces basés sur des fuites de photos dénudées. Ces affaires risquent dangereusement de se multiplier, même si l'on prend bien soin de ne jamais se prendre en photo en petite tenue. De nouveau outils permettent en effet de convertir n'importe quelle photo d'une personne habillée en fausse photo dénudée, voire pornographique. Des robots dotés d'intelligence artificielle sont capables de créer des dizaines de milliers de ces photos très réalistes appelées “deep fakes” en quelques clics. Selon le site The Verge  des chercheurs ont trouvé un «écosystème deepfake», responsable de la création de plus de 100 000 images des femmes nues sur demande, sur la messagerie cryptée Telegram.

Des utilisateurs profitent des services d’un “bot” sur Telegram

Selon le projet de recherche cité par The Verge, les utilisateurs qui interagissent avec ces robots disent qu'ils créent principalement des nus de femmes qu'ils connaissent à l'aide d'images récupérées sur les réseaux sociaux, qu'ils partagent ensuite et échangent entre eux sur divers canaux Telegram.
Ce sont les chercheurs de Sensity, société  américane qui propose des services de défense contre la propagation des deep fakes, qui ont découvert ce réseau de création et partage de deep fakes de femmes nues. Selon un rapport publié par la société le 20 octobre dernier,  environ 70% des utilisateurs qui partagent ce type d’images sont basés en Russie et dans les pays voisins.

L'automatisation de la création des nus “deep fakes” facilite leur propagation

Une intelligence artificielle génère des faux nus, soit partiels ou portant des “watermarks”, pour les utilisateurs des services gratuits, soit complets, et sans restriction d'utilisation, pour les utilisateurs payants. Pour quelques centimes on peut «découvrir» les images gratuites, floutées ou portant une “watermark”.
Pour le PDG de Sensity équiper un bot intégré dans une application de messagerie accélère la diffusion de ce type d’image. Plus besoin d'être codeur, développeur, et de naviguer dans les sites open source.
Ces images et vidéos peuvent être ensuite utilisées pour l'extorsion, le chantage, le harcèlement, etc. Cependant, pour l'instant, les chercheurs de Sensity n’ont pas recueilli de preuves directes de l'utilisation des créations du bot à ces fins. En tout cas “il est clair que cette technologie constitue « une menace sérieuse pour la réputation et la sécurité personnelle”.

La CNIL italienne a ouverte une enquête contre ce logiciel qui «déshabille» les femmes

Vendredi 23 octobre la CNIL italienne a fait référence à des articles de presse rapportant le cas des femmes victimes de ce type particulier de «deep fake». Des utilisateurs ont trouvé la trace d’un programme informatique dérivé d'un logiciel appelé "DeepNude", et ont alerté l'autorité italienne. Le logiciel a déjà été supprimé par son créateur, mais il reste disponible sur Telegram sous forme de bots, constate l'organisme régulateur italien. Pour cette raison, une enquête contre le réseau social pour atteintes graves à la dignité et à la vie privée est ouverte en Italie. Ces logiciels sont une menace claire à la réputation en ligne des femmes et des hommes visés, et en particulier des mineurs. Cette enquête vise donc à éviter ce que l'autorité interprète comme des dégâts irréparable sur la réputation des victimes.
La circulation incontrôlée d'images pourrait aussi amener à des formes de harcèlement réelles. De plus, la facilité d'utilisation de ce programme rend toute personne ayant publié une photo sur le Web potentiellement victime. Cela s'applique presque à tout utilisateur d’Internet.

À LIRE AUSSI

Image
zoom
Le Cyberscore : la nouvelle proposition du Gouvernement pour informer sur les risques en ligne
Le “cyberscore” a été adopté en première lecture au Sénat le 22 octobre. De la même façon que le Nutriscore a pour objectif d’informer le consommateur sur la nature nu...
26 octobre 2020 - 10:33
Société
Image
Microsoft surveille les moustiques à l'aide des nouvelles technologies pour prédire la prochaine épidémie
Robotique, IA et moustiques : comment Microsoft compte prédire la prochaine épidémie
Alors que nous sommes en pleine “deuxième vague” de l'épidémie de Coronavirus, avec l’impression qu’il est impossible de freiner sa progression, d'autres spécialistes ...
15 octobre 2020 - 11:54
Société

L'article vous a plu ? Il a mobilisé notre rédaction qui ne vit que de vos dons.
L'information a un coût, d'autant plus que la concurrence des rédactions subventionnées impose un surcroît de rigueur et de professionnalisme.

Avec votre soutien, France-Soir continuera à proposer ses articles gratuitement  car nous pensons que tout le monde doit avoir accès à une information libre et indépendante pour se forger sa propre opinion.

Vous êtes la condition sine qua non à notre existence, soutenez-nous pour que France-Soir demeure le média français qui fait s’exprimer les plus légitimes.

Si vous le pouvez, soutenez-nous mensuellement, à partir de seulement 1€. Votre impact en faveur d’une presse libre n’en sera que plus fort. Merci.

Je fais un don à France-Soir

Dessin de la semaine

Portrait craché

Image
Kamala Harris
Kamala Harris, ou comment passer de la reine de la justice californienne à valet par défaut
PORTRAIT CRACHE - Samedi 27 juillet, la vice-présidente américaine Kamala Harris a officialisé sa candidature à la présidence des États-Unis, une semaine après le retr...
03 août 2024 - 12:49
Politique
Soutenez l'indépendance de FS

Faites un don

Nous n'avons pas pu confirmer votre inscription.
Votre inscription à la Newsletter hebdomadaire de France-Soir est confirmée.

La newsletter France-Soir

En vous inscrivant, vous autorisez France-Soir à vous contacter par e-mail.