Un futur règlement européen sur l'intelligence artificielle vise à garantir la sécurité de l'IA, le respect des droits fondamentaux, de la démocratie et le développement des entreprises.Le 8 décembre 2023, les négociateurs du Parlement et du Conseil européens sont parvenus à un accord provisoire sur la législation sur l’intelligence artificielle (IA).
Le texte prévoit d'interdire :- les systèmes de catégorisation biométrique utilisant des caractéristiques sensibles (opinions politiques, religieuses, philosophiques, orientation sexuelle ou race);- l'extraction non ciblée d’images faciales sur Internet ou par vidéosurveillance pour créer des bases de données de reconnaissance faciale ;- la reconnaissance des émotions sur le lieu de travail et les établissements d’enseignement ;- la notation sociale basée sur le comportement social ou les caractéristiques personnelles ;- les systèmes d'IA qui manipulent le comportement humain pour contourner le libre arbitre ;- l'IA utilisée pour exploiter les vulnérabilités des personnes (en raison de leur âge, de leur handicap, de leur situation sociale ou économique).
Les négociateurs sont convenus d'une série de garanties et d'exceptions limitées pour l'utilisation des systèmes d'identification biométrique dans les espaces accessibles au public à des fins répressives, sous réserve d'une autorisation judiciaire préalable et pour des listes d'infractions strictement définies. Les systèmes d'identification biométrique "à distance" seront utilisés strictement dans le cadre de la recherche ciblée d'une personne condamnée ou soupçonnée d'avoir commis un crime grave.
Les systèmes d’identification biométrique "en temps réel" répondront à des conditions strictes et leur utilisation sera limitée dans le temps et dans l'espace :- la recherche ciblée de victimes (enlèvement, traite, exploitation sexuelle) ;- la prévention d'une menace terroriste précise et actuelle ;- la localisation ou l'identification d'une personne soupçonnée d'avoir commis l'un des crimes spécifiques mentionnés dans le règlement (terrorisme, traite, exploitation sexuelle, meurtre, enlèvement, viol, vol à main armée, participation à une organisation criminelle, crime contre l'environnement).
Les citoyens auront le droit de déposer des plaintes concernant les systèmes d'IA et de recevoir des explications sur les décisions basées sur des systèmes d'IA à haut risque qui ont une incidence sur leurs droits.
Le non-respect des règles peut entraîner des amendes allant de 7,5 millions d’euros ou 1,5 % du chiffre d’affaires à 35 millions d’euros ou 7 % du chiffre d’affaires mondial, en fonction de l’infraction et de la taille de l’entreprise.
