La nouvelle législation sur l’intelligence artificielle vise à équilibrer le potentiel innovant de cette technologie avec la protection des droits fondamentaux et des valeurs démocratiques. Selon le texte de l’accord, l’objectif est de prévenir les risques liés à l’utilisation de l’IA à haut risque, tout en encourageant l’innovation responsable.
Les gouvernements des pays membres de l’Union européenne et le Parlement européen ont conclu un accord sur les premières règles générales au monde régissant l’utilisation de l’intelligence artificielle. Si cette législation était adoptée, elle pourrait influencer la manière dont les entreprises développent et déploient des systèmes d’intelligence artificielle à l’avenir. Les obligations liées aux risques potentiels et à l’impact des technologies pourraient stimuler la recherche de solutions plus sûres et plus éthiques.
Signature d’un accord provisoire sur l’intelligence artificielle
Il sera également intéressant de voir comment cette réglementation interagit avec d’autres développements mondiaux en matière de politique technologique. La coopération internationale pourrait devenir cruciale pour relever les défis posés par l’intelligence artificielle à l’échelle mondiale, tout en évitant la fragmentation des normes et des réglementations.
C’est en effet après plusieurs discussions que les négociateurs ont réussi à surmonter des divergences sur plusieurs questions controversées, telles que l’utilisation de l’intelligence artificielle dans la surveillance policière ou les exigences de transparence pour les systèmes basés sur l’intelligence artificielle afin d’exclure les dommages potentiels qu’ils pourraient causer à la santé humaine, à la sécurité publique et à d’autres domaines.
Les débats se sont conclus par la signature d’un accord provisoire sur la loi sur l’intelligence artificielle.
« Ce règlement vise à garantir la protection des droits fondamentaux, de la démocratie, de l’État de droit et de la durabilité environnementale face à l’intelligence artificielle à haut risque, tout en favorisant l’innovation et en faisant de l’Europe un leader dans ce domaine« , selon le communiqué du Parlement européen.
La réglementation, qui doit encore être approuvée par le Parlement et le Conseil européen, établit des obligations pour l’intelligence artificielle en fonction de ses risques potentiels et de son niveau d’impact. Cette réglementation devrait entrer en vigueur en 2026.
Interdiction du Social Scoring
Les négociateurs ont convenu de l’interdiction des systèmes de catégorisation biométrique utilisant des caractéristiques sensibles telles que les croyances politiques, religieuses, la race ou l’orientation sexuelle. La surveillance policière prédictive et la collecte non ciblée d’images faciales sur le réseau ou d’enregistrements de caméras de surveillance pour la création de bases de données de reconnaissance faciale sont également interdites.
Le règlement interdit également la reconnaissance des émotions sur le lieu de travail et dans les établissements éducatifs, le score social basé sur le comportement social ou les caractéristiques personnelles, ainsi que les systèmes d’IA manipulant le comportement humain pour contourner le libre arbitre.
L’utilisation de l’IA pour exploiter les vulnérabilités des personnes, liées par exemple à leur âge, leur handicap, leur situation sociale ou économique, est interdite. Le non-respect des règles serait sanctionné par des amendes allant de 7,5 millions d’euros, ou 1,5 % des revenus de l’entreprise, à 35 millions d’euros (7 % du volume de ses revenus) en fonction de l’infraction et de la taille de l’entreprise.
Le règlement établit des procédures d’évaluation des risques et de responsabilité dans certaines domaines d’application de l’intelligence artificielle, et prévoit des mécanismes pour les tests sécurisés d’innovations dans ce secteur.
Les réactions politiques
Plusieurs personnalités politiques européennes ont salué le consensus sur ce qui serait la première législation sur l’IA. Ainsi, « Historique ! L’UE devient la première région à établir des règles claires pour l’utilisation de l’intelligence artificielle« , a écrit Thierry Breton, commissaire européen au Marché intérieur.
Dans le même sens, « La loi sur l’IA établit des normes pour les grands modèles d’intelligence artificielle, garantissant qu’ils ne présentent pas de risques systémiques pour l’Union européenne et offrant de solides protections pour nos citoyens et nos démocraties contre tout abus de la technologie par les autorités publiques« , a commenté de son côté le député européen roumain Dragos Tudorache, l’un des promoteurs du règlement.
L’adoption de cette législation représente un pas significatif vers la création d’un cadre réglementaire mondial pour cette technologie émergente. Certains observateurs estiment que l’UE, en élaborant ces règles, pourrait influencer d’autres régions du monde à suivre son exemple dans la recherche d’une utilisation responsable de l’intelligence artificielle.
Le débat sur la régulation de l’IA soulève également des questions complexes liées à l’éthique et à la protection des droits individuels. Les interdictions spécifiques, telles que celles sur la reconnaissance faciale non ciblée et la manipulation des émotions humaines, reflètent une préoccupation croissante quant aux possibles abus de cette technologie dans la société.
En fin de compte, l’UE semble être en train de jeter les bases d’une gouvernance mondiale de l’intelligence artificielle. Si cette législation est adoptée, elle pourrait influencer non seulement la façon dont l’intelligence artificielle est développée en Europe, mais également servir de modèle pour d’autres régions cherchant à équilibrer l’innovation technologique avec la protection des droits fondamentaux.
Article: IA: Musk et le cofondateur d’Apple appellent à ralentir l’entraînement de l’intelligence artificielle
