L’ONU s'inquiète de la prolifération de la reconnaissance faciale

Faute de cadre global, l’ONU a publié un communiqué de presse et un rapport qui alerte sur les risques que les nouvelles technologies de surveillance font peser sur les droits de l'Homme. Alors que les drones et les outils d’intelligence artificielle se sont généralisés dans le contexte de la pandémie de coronavirus, l'ONU réclame un moratoire sur la vente et l'utilisation de ces technologies.

Les technologies issues de l’IA peuvent avoir des effets catastrophiques si l’on ne protège pas les droits humains

Selon le rapport de l’ONU, à cause de la complexité de ces technologies, et du manque de transparence de la part des acteurs gouvernementaux et privés au sujet de leur implémentation, les citoyens ne peuvent pas comprendre les implications et les effets des systèmes d’IA sur la société et leurs propres droits. Le rapport signale des dysfonctionnements déjà constatés, comme des outils d'IA qui ont empêché des gens de toucher des aides sociales, de trouver un emploi ou qui ont mené à des arrestations d'innocents. Des décisions automatisées qui peuvent s'avérer catastrophiques. Malgré ces risques, il est impossible, selon le rapport, de se priver de cette technologie, car “l’utilité de l’IA pour la population est indéniable”. Selon Michelle Bachelet, Haut commissaire des Nations Unies aux droits de l’Homme, c’est aux États d’imposer un moratoire sur ces technologies.

Bientôt un cadre européen pour encadrer les technologies de la surveillance ?

En Europe, la reconnaissance faciale fait partie des préoccupations de la Commission. Le 21 avril dernier, une proposition de règlement visant à harmoniser et réglementer les applications en matière d’intelligence artificielle, de reconnaissance faciale, de traçabilité et de surveillance a été présentée.