UE: première réglementation de l’intelligence artificielle
L’Union européenne a estimé urgent de se doter d’une réglementation pour limiter les dérives de l’IA.
Barbara Speziali
Publié lundi 18 mars 2024
Lien copié
#Intelligence artificielle Les Etats membres de l’Union européenne viennent d’approuver l’Artificial Intelligence Act, une législation inédite au niveau mondial pour réguler l’intelligence artificielle.
L’intelligence artificielle (IA) est en train de s’imposer dans tous les domaines de notre vie quotidienne, ouvrant la voie à des innovations spectaculaires. Elle comporte néanmoins des risques certains. La diffusion de fausses photographies a notamment alerté sur le danger de manipulation de l’opinion. L’Union européenne (UE) a donc estimé urgent de se doter d’un cadre juridique complet pour limiter les dérives de l’IA tout en sécurisant l’innovation. Lancées en avril 2021, les négociations ont été difficiles, certains Etats membres, comme la France et l’Allemagne, craignant qu’une régulation excessive n’entrave le développement de leurs start-up.
L’apparition de ChatGPT en novembre 2022 a obligé les négociateurs à accélérer les discussions. Un premier accord a été trouvé en décembre dernier, confirmé le 2 février par le Conseil.
«Il s’agit d’une réglementation historique, une première mondiale», s’est félicité Thierry Breton, commissaire au marché intérieur, estimant que les négociateurs avaient trouvé «l’équilibre parfait entre l’innovation et la sécurité». De son côté, la présidence belge a salué une réglementation qui vise à rendre l’IA «plus sûre et respectueuse des droits fondamentaux de l’UE».
Niveaux de risques
L’UE a choisi une approche fondée sur les risques liés à l’IA, définissant quatre niveaux de risques. La plupart des applications d’IA tomberont dans la catégorie «risque minimal» et ne devront pas se conformer à des obligations particulières. Cette catégorie inclut, par exemple, les jeux vidéo compatibles avec l’IA ou les filtres anti-spam. Les systèmes d’IA à «risque limité» devront respecter des exigences de transparence minimales, permettant aux utilisateurs d’être conscients qu’ils interagissent avec une machine et de décider s’ils veulent poursuivre la conversation. Cela comprend les systèmes d’IA qui génèrent ou manipulent du contenu image, audio ou video. Ces systèmes devront respecter la législation européenne en matière de droit d’auteur. Ils devront aussi s’assurer que leurs produits seront bien identifiés comme artificiels.
Le troisième niveau, «à haut risque», comprend les systèmes qui utilisent la technologie de l’IA dans des domaines sensibles comme les transports, l’éducation, les ressources humaines ou le maintien de l’ordre. Ces systèmes seront soumis à des obligations strictes, comme celles de prévoir un contrôle humain sur la machine, l’établissement d’une documentation technique ou la mise en place d’un système de gestion du risque.
Interdictions
Enfin, les systèmes d’IA qui présentent un «risque inacceptable» seront interdits. Il s’agit notamment de l’identification biométrique à distance des personnes dans les lieux publics. Elle sera toutefois autorisée pour certaines missions des forces de l’ordre liées à la sécurité, comme la lutte contre le terrorisme. Les systèmes de notation citoyenne, qui classent les personnes en fonction de leur comportement, de leur statut socio-économique et de leurs caractéristiques personnelles, seront également interdits, de même que les jouets activés par la voix, qui encouragent les comportements dangereux chez les enfants. Pour superviser toutes ces mesures, la Commission européenne prévoit de créer un comité européen de l’IA.
Selon les autorités européennes, cette nouvelle réglementation devrait favoriser l’innovation en permettant aux petites entreprises d’IA de développer leurs applications dans des environnements protégés. «La loi sur l’IA est un tremplin pour les start-up européennes et les chercheurs, leur permettant de prendre la tête de course vers une IA fiable», a estimé Thierry Breton. Le secteur technologique se montre toutefois plus dubitatif. La réglementation devrait entrer en vigueur en 2025, après sa ratification – a priori acquise – par le Parlement européen ce printemps.
La précipitation n'est pas de mise
A la suite des récents développements de l’IA, le Conseil fédéral a demandé fin novembre au Département fédéral de l’environnement, des transports, de l’énergie et de la communication d’élaborer d’ici à fin 2024 un aperçu des réglementations possibles en matière d’IA.
«Pour le moment, nous ne voyons pas de nécessité d’action immédiate en Suisse» estime-t-on à economiesuisse. «Il est trop tôt pour édicter des règlementations. Une règlementation précipitée aurait un impact négatif sur l’innovation, la concurrence et la coopération internationale.» Une législation basée sur le modèle européen n’est pas souhaitable. «L’AI Act de l’UE présente deux problèmes majeurs», explique François Baur, conseiller en affaires européennes. «Premièrement, étant basé sur une technologie spécifique et en très rapide évolution, il risque d’être dépassé et donc inefficace. Deuxièmement, il est axé sur les risques et non sur les opportunités, ce qui freine considérablement l’innovation.» N’est-il cependant pas trop tard, pour la Suisse, d’envisager d’établir sa propre règlementation? «L’arsenal juridique suisse étant – à juste titre – technologiquement neutre et fondé sur des principes, il s’applique aussi à l’IA. La situation en Suisse est tout sauf un no man’s land!», souligne François Baur. «Pensons à la nouvelle loi sur la protection des données ou aux dispositions du Code civil sur les atteintes à la personnalité. Ces réglementations peuvent déjà s’appliquer à l’IA. La précipitation n’est donc pas de mise.» Quelles seront les conséquences de l’AI Act pour les entreprises suisses? «Il est trop tôt pour le dire», répond François Baur. «Il faudra voir comment ce texte sera précisé et comment il sera ensuite appliqué concrètement avant de pouvoir se prononcer quant aux conséquences pour les entreprises suisses et aux éventuelles adaptations qui pourraient s’avérer nécessaires.»
En autorisant les services tiers, vous acceptez le dépôt et la lecture de cookies et l'utilisation de technologies de suivi nécessaires à leur bon fonctionnement. Voir notre politique de confidentialité.
