L'UE propose un encadrement de l’IA, de la surveillance et de la reconnaissance faciale

Auteur(s)
FranceSoir
Publié le 26 avril 2021 - 12:43
Image
Le futur de l'écriture par intelligence artificielle: les robots écrivains pour bientôt?
Crédits
Pixabay
La Commission Européenne a présenté le 21 avril dernier une proposition de règlement visant à harmoniser et réglementer les applications en matière d’intelligence artificielle
Pixabay

Pour mieux encadrer les nouvelles technologies sans que les citoyens en soient forcément conscients, la Commission européenne a présenté le 21 avril dernier une proposition de règlement visant à harmoniser et réglementer les applications en matière d’intelligence artificielle, de reconnaissance faciale, de traçabilité et de surveillance. Que compte faire l’Europe pour limiter les dégâts de la relation homme-machine?

La manipulation algorithmique, la reconnaissance faciale et l’IA au service du renseignement interdites... sauf exceptions

Dans certains pays comme la Chine, l’intelligence artificielle est utilisée pour mesurer la fiabilité d'un individu et promouvoir des comportements spécifiques. Cette pratique serait interdite par la proposition de règlement de L’UE. Malgré une position ferme en faveur de la protection de la vie privée et une interdiction totale des systèmes de reconnaissance biométrique en temps réel (telle que la reconnaissance faciale), elle pourra quand même être utilisée dans certains cas, comme les attaques terroristes, les enlèvements, ou la recherche des criminels. En revanche, les technologies qui permettent la reconnaissance des émotions ou certains traits biométriques tels que le sexe, la race, la sexualité et l'orientation politique, utiles au ciblage commercial, ne sont pas interdites.
La proposition de règlement veut également limiter la manipulation des personnes par “des techniques subliminales au-delà de leur conscience”, ainsi que les technologies qui “exploitent les vulnérabilités” de groupes, y compris des enfants ou les personnes handicapées. Cela pourrait, par exemple, court-circuiter le plan de Facebook pour lancer sa version Instagram pour enfants (qui utiliserait des algorithmes pour montrer un contenu pertinent aux utilisateurs), mais cela n’est pas sûr. En effet, l’étanchéité de ces interdictions dépendra de la formulation précise des articles du projet de loi, avec des clauses qui précisent les interdictions, explique Politico

La dangerosité de l’IA dépendra de son secteur d’application

Comme le signale le précedent livre blanc de la Commission européenne sur l’IA, on distingue les differentes types d’intelligence artificielle en qualifiant certaines à "haut risque" selon leur secteur d’application ou leur finalité. Certaines utilisations sont plus susceptibles de nuire à la société et aux droits individuels, et sont soumises à des règles plus strictes. Des "systèmes adéquats d'évaluation et d'atténuation des risques" devront être mis en place. Ces secteurs sensibles sont l'utilisation dans les transports, l'éducation, l'emploi, la notation de crédit ou les demandes de prestations, mais aussi les contrôles aux frontières ou encore l'administration de la justice et les processus démocratiques. 

Un comité de supervision est-il suffisant pour protéger les citoyens de la discrimination algorithmique?

L'exigence d’un suivi, d’un traçage et d’une évaluation constante de l’IA est présentée comme le recours pour garantir la bonne utilisation des algorithmes. Cependant, certains députés, militants et universitaires sont sceptiques et affirment que cela sera insuffisant pour protéger les citoyens, surtout si dans certains cas, on parlerait d'auto-évaluation. Un comité européen de l’intelligence artificielle serait censé superviser l’application de la loi et de partager les meilleures pratiques.

Une loi qui veut plaire aux intérêts économiques tout en respectant les exigences de respect des libertés individuelles

Lors d'une conférence de presse, Margrethe Vestager, responsable du numérique à la Commission européenne et Thierry Breton, commissaire chargé du marché intérieur ont présenté cette proposition de législation comme une occasion pour avancer dans la course technologique mondiale et pour placer l’Europe à la tête de l’innovation en matière d’intelligence artificielle, mais en faisant en sorte que, en Europe, “l'IA respecte nos valeurs et nos règles”. Alors que partis politiques et associations des droits de l’homme jugent certaines postures du règlement trop peu protectrices, lobbys et entrepreneurs du secteur des nouvelles technologies estiment que cette proposition sera un obstacle et un frein à l'innovation et à l'économie.

L'article vous a plu ? Il a mobilisé notre rédaction qui ne vit que de vos dons.
L'information a un coût, d'autant plus que la concurrence des rédactions subventionnées impose un surcroît de rigueur et de professionnalisme.

Avec votre soutien, France-Soir continuera à proposer ses articles gratuitement  car nous pensons que tout le monde doit avoir accès à une information libre et indépendante pour se forger sa propre opinion.

Vous êtes la condition sine qua non à notre existence, soutenez-nous pour que France-Soir demeure le média français qui fait s’exprimer les plus légitimes.

Si vous le pouvez, soutenez-nous mensuellement, à partir de seulement 1€. Votre impact en faveur d’une presse libre n’en sera que plus fort. Merci.

Je fais un don à France-Soir

Dessin de la semaine

Portrait craché

Image
Castex
Jean Castex, espèce de “couteau suisse” déconfiné, dont l'accent a pu prêter à la bonhomie
PORTRAIT CRACHE - Longtemps dans l’ombre, à l’Elysée et à Matignon, Jean Castex est apparu comme tout droit venu de son Gers natal, à la façon d’un diable sorti de sa ...
13 avril 2024 - 15:36
Politique
Soutenez l'indépendance de FS

Faites un don

Nous n'avons pas pu confirmer votre inscription.
Votre inscription à la Newsletter hebdomadaire de France-Soir est confirmée.

La newsletter France-Soir

En vous inscrivant, vous autorisez France-Soir à vous contacter par e-mail.