AI Act : L’Europe fait valoir ses valeurs, tout en compromis

Qu’est-ce que l’AI Act ?

L’AI Act est une proposition législative de l’Union européenne visant à réglementer les systèmes d’intelligence artificielle. Cette législation encadre l’utilisation de l’IA, en mettant l’accent sur la transparence, la responsabilité et la sécurité des systèmes d’IA. Les systèmes d’IA utilisés dans l’Union européenne doivent être sûrs et fiables, tout en minimisant les risques liés aux défaillances ou aux comportements inattendus des algorithmes.
La législation cherche à promouvoir une utilisation éthique de l’IA, tout en veillant à ce que les systèmes d’IA respectent les droits fondamentaux, tels que la protection de la vie privée, la non-discrimination et la dignité humaine. Elle établit des exigences réglementaires spécifiques pour certains types d’IA considérés comme à haut risque, tels que les systèmes utilisés dans les secteurs de la santé, de la sécurité, et de la gestion des infrastructures critiques.

Un règlement historique sur l’intelligence artificielle adopté par l’UE

L’Union Européenne a récemment pris des mesures pour réglementer l’intelligence artificielle. Après plusieurs jours de débats, un accord a été conclu et un texte de règlement a été adopté. Thierry Breton, commissaire en charge du marché intérieur et maître d’œuvre dans les négociations, a qualifié cet événement de « moment historique ». En effet, l’UE est la première puissance à encadrer cette technologie. Cependant, les débats ont été particulièrement âpres entre ceux qui souhaitaient une régulation souple pour ne pas brider l’innovation et les partisans d’un corpus de contraintes sur l’usage de l’IA.
Le ministre Jean-Noël Barrot a indiqué que le texte constituait « une étape dans un chantier qui s’est ouvert il y a quatre ans qui nécessite des discussions supplémentaires ». Il appelait à la mise en place de « discussions techniques » pour améliorer certains points. Thierry Breton, lui, a répliqué que l’IA Act est « résolument pro-business ».

Un compromis pour réguler les IA génératives

Le règlement sur l’intelligence artificielle impose des obligations en fonction du niveau de risque des systèmes d’IA. Les systèmes jugés à « haut risque » doivent réaliser une analyse d’impact avant leur mise sur le marché, et une obligation de transparence et d’explicabilité des modèles est mise en place. La question des IA génératives a également suscité de nombreux débats. La France et l’Allemagne étaient plutôt favorables à une auto-régulation pour protéger leurs champions, Mistral AI et Alep Alpha. Mais les parlementaires européens souhaitaient plus de contraintes sur les acteurs dominants, majoritairement américains. Un compromis a été trouvé avec un modulo des obligations en fonction des « risques systémiques » présentés par les modèles d’IA génératives.

Interdictions et exceptions du règlement

Le texte de règlement établit également une liste de systèmes d’IA interdits, tels que les systèmes de catégorisation biométrique utilisant des caractéristiques sensibles, l’extraction non ciblée d’images faciales pour créer des bases de données de reconnaissance faciale, la reconnaissance des émotions sur le lieu de travail et les établissements d’enseignement, la notation sociale basée sur le comportement ou les caractéristiques personnelles, et les systèmes manipulant le comportement humain et exploitant les vulnérabilités des personnes. Des exceptions sont prévues, notamment pour les forces de l’ordre, avec des conditions strictes.

Mise en place d’une structure de contrôle européenne

Enfin, une structure de contrôle rattachée à la Commission européenne sera chargée de surveiller la bonne application du texte. En cas de manquement, elle pourra infliger des amendes pouvant aller jusqu’à 35 millions, soit 7 % du chiffre d’affaires mondial. Les États membres vont maintenant travailler sur l’adaptation de leur loi nationale à ce règlement qui devrait rentrer en vigueur en 2026.