Amazon va donner à Alexa la capacité de reproduire les voix humaines, même celles des morts

Amazon va lancer une nouvelle fonctionnalité de son assistant vocal Alexa. À partir d'une seule minute d'audio, Alexa sera capable d'imiter la voix de n'importe qui, mort ou vivant. Certains se réjouissent de cette innovation, mais d’autres signalent les limites éthiques de la technologie et son caractère effrayant, capable de faire “parler les morts” et d’imiter des qualités humaines.

Faire lire un livre à une grand-mère décédée

Rohit Prasad, scientifique en chef d’Alexa chez Amazon, a déclaré le mercredi 22 juin, lors d'un événement en direct Amazon à Las Vegas, que son équipe avait demandé à Alexa de capter une voix à partir d'un court clip audio et de la convertir en un morceau audio plus long. Il a montré une courte vidéo sur la façon dont les gens pourront utiliser cette technologie dans la vraie vie. Dans le clip, un garçon demande : "Alexa, grand-mère peut-elle finir de me lire le Magicien d'Oz ?" Le haut-parleur intelligent confirme la demande dans sa voix par défaut, puis passe à une voix moins robotique, qui raconte un extrait du roman pour enfants. Pour Rohit Prasad, cette fonctionnalité qui va arriver chez Alexa est particulièrement pertinente aujourd’hui, car de nombreuses personnes souffrent de la perte anticipée ou inattendue de membres de leur famille : "Bien que l'IA ne puisse pas éliminer cette douleur de la perte, elle peut certainement faire durer leurs souvenirs", a-t-il déclaré. 

Des craintes pour la sécurité des données personnelles

Des utilisateurs n’ont pas tardé à remarquer les possibilités que cela donnerait à des criminels tentés d’usurper l'identité de quelqu'un. Les escrocs pourraient, par exemple, utiliser cette technologie pour passer des appels aux proches de leurs victimes en demandant des virements d’argent, ou des informations personnelles (numéro de carte bancaire) pour les voler.

Les barrières éthiques du deepfake

Alors qu’Amazon n'a pas précisé quand cette technologie sera disponible au public, les critiques ne se sont pas faites attendre. Les experts s'inquiètent depuis longtemps de la capacité de l'IA à imiter les fonctions humaines. L'année dernière, une application qui permettait d’animer une photo et de la faire parler en ajoutant le texte souhaité grâce à une voix de synthèse, avait déjà été très critiquée. DeepNostalgia, l’app qui permet d’obtenir des images en mouvement de personnes mortes décédées, a donné des frissons à plus d’un utilisateur, qui ont trouvé cette innovation technologique plutôt déplaisante, car “redonner une âme" aux morts, n’est pas au goût de tout le monde.