E-reputation : de fausses photos de femmes nues “deep fake” créées par des robots sur Telegram

Les polémiques sont nombreuses concernant les cas de harcèlement ou de menaces basés sur des fuites de photos dénudées. Ces affaires risquent dangereusement de se multiplier, même si l'on prend bien soin de ne jamais se prendre en photo en petite tenue. De nouveau outils permettent en effet de convertir n'importe quelle photo d'une personne habillée en fausse photo dénudée, voire pornographique. Des robots dotés d'intelligence artificielle sont capables de créer des dizaines de milliers de ces photos très réalistes appelées “deep fakes” en quelques clics. Selon le site The Verge  des chercheurs ont trouvé un «écosystème deepfake», responsable de la création de plus de 100 000 images des femmes nues sur demande, sur la messagerie cryptée Telegram.

Des utilisateurs profitent des services d’un “bot” sur Telegram

Selon le projet de recherche cité par The Verge, les utilisateurs qui interagissent avec ces robots disent qu'ils créent principalement des nus de femmes qu'ils connaissent à l'aide d'images récupérées sur les réseaux sociaux, qu'ils partagent ensuite et échangent entre eux sur divers canaux Telegram.
Ce sont les chercheurs de Sensity, société  américane qui propose des services de défense contre la propagation des deep fakes, qui ont découvert ce réseau de création et partage de deep fakes de femmes nues. Selon un rapport publié par la société le 20 octobre dernier,  environ 70% des utilisateurs qui partagent ce type d’images sont basés en Russie et dans les pays voisins.

L'automatisation de la création des nus “deep fakes” facilite leur propagation

Une intelligence artificielle génère des faux nus, soit partiels ou portant des “watermarks”, pour les utilisateurs des services gratuits, soit complets, et sans restriction d'utilisation, pour les utilisateurs payants. Pour quelques centimes on peut «découvrir» les images gratuites, floutées ou portant une “watermark”.
Pour le PDG de Sensity équiper un bot intégré dans une application de messagerie accélère la diffusion de ce type d’image. Plus besoin d'être codeur, développeur, et de naviguer dans les sites open source.
Ces images et vidéos peuvent être ensuite utilisées pour l'extorsion, le chantage, le harcèlement, etc. Cependant, pour l'instant, les chercheurs de Sensity n’ont pas recueilli de preuves directes de l'utilisation des créations du bot à ces fins. En tout cas “il est clair que cette technologie constitue « une menace sérieuse pour la réputation et la sécurité personnelle”.

La CNIL italienne a ouverte une enquête contre ce logiciel qui «déshabille» les femmes

Vendredi 23 octobre la CNIL italienne a fait référence à des articles de presse rapportant le cas des femmes victimes de ce type particulier de «deep fake». Des utilisateurs ont trouvé la trace d’un programme informatique dérivé d'un logiciel appelé "DeepNude", et ont alerté l'autorité italienne. Le logiciel a déjà été supprimé par son créateur, mais il reste disponible sur Telegram sous forme de bots, constate l'organisme régulateur italien. Pour cette raison, une enquête contre le réseau social pour atteintes graves à la dignité et à la vie privée est ouverte en Italie. Ces logiciels sont une menace claire à la réputation en ligne des femmes et des hommes visés, et en particulier des mineurs. Cette enquête vise donc à éviter ce que l'autorité interprète comme des dégâts irréparable sur la réputation des victimes.
La circulation incontrôlée d'images pourrait aussi amener à des formes de harcèlement réelles. De plus, la facilité d'utilisation de ce programme rend toute personne ayant publié une photo sur le Web potentiellement victime. Cela s'applique presque à tout utilisateur d’Internet.