Le 12 juillet 2024, était publié au Journal officiel de l’Union européenne, le règlement établissant des règles harmonisées concernant l’intelligence artificielle (IA) : le règlement (UE) n° 2024-1689 du 13 juin 2024 (1). Ce texte est le résultat de nombreuses années de travail en vue d’offrir aux citoyens européens une IA digne de confiance, et visant à encadrer le développement et l’usage des systèmes d’IA en Europe. Une de ses premières obligations concrètes est entrée en application le 2 février 2025 : il s’agit de l’obligation de garantie de maîtrise de l’intelligence artificielle, imposée aux fournisseurs et aux déployeurs desdits systèmes.
obligation de garantie de maîtrise de l’IA : qu’est-ce que cela signifie ?
La première partie du RIA entre en application !
L’article 4 du règlement impose aux fournisseurs et déployeurs de systèmes d’IA de garantir un niveau suffisant de maîtrise de l’intelligence artificielle qu’ils conçoivent, vendent, exploitent ou encore utilisent, pour leur personnel et les autres personnes s’occupant du fonctionnement et de l’utilisation des systèmes d’IA pour leur compte.
L’objectif est de permettre aux personnes concernées d’acquérir « les notions nécessaires pour prendre des décisions éclairées » (RIA, considérant 20). Ces notions peuvent varier en fonction du contexte, des connaissances techniques, de l’expérience, l’éducation et la formation des personnes concernées.
L’idée est de fournir à « tous les acteurs pertinents de la chaîne de valeur de l’IA les connaissances nécessaires pour en garantir le respect approprié et la mise en application correcte » (RIA, considérant 20).
Quels impacts pour les entreprises et les organisations ?
La première partie du RIA entre en application !
Depuis le 2 février 2025, tout fournisseur ou entité, qu’elle soit privée ou publique, fournissant ou utilisant un système d’IA devra être en mesure de garantir que son personnel et les autres personnes s’occupant du fonctionnement et de l’utilisation de ces systèmes ont un niveau suffisant de maîtrise de l’IA.
Cette obligation de garantie de maîtrise de l’intelligence artificielle est donc imposée sur un périmètre extrêmement large puisqu’il ne se limite pas aux systèmes d’IA fournis ou utilisés mais s’étend à la maîtrise de l’IA de manière globale.
Quelles sont les sanctions ?
La première partie du RIA entre en application !
En cas de non-respect de l’obligation de garantie de maîtrise de l’IA, le RIA prévoit que les Etats-membres pourront déterminer le régime des sanctions et autres mesures d’exécution (comme des avertissements ou des mesures non monétaires de type publication de la sanction ou encore engagement de mise en conformité) qui doivent être effectives, proportionnées et dissuasives (RIA, article 99).
Lesdites sanctions devraient être significatives pour les déployeurs et les fournisseurs qui ne respecteraient pas cette obligation.
En effet, l’impact de l’utilisation de systèmes d’IA sans être formé est majeur et pourrait mener à des situations graves.
Pourquoi cette garantie est-elle essentielle ?
La première partie du RIA entre en application !
Cette obligation de garantie de maîtrise de l’IA ne se réduit pas à une simple obligation de formation.
Elle vise en effet à s’assurer que les fournisseurs et utilisateurs de systèmes d’intelligence artificielle soient à la fois conscients tant des dangers de l’IA et que du rôle central que chacun doit pouvoir jouer pour « […] promouvoir l’adoption de l’intelligence artificielle (IA) axée sur l’humain et digne de confiance […] » (RIA, considérant 1).
C’est pourquoi l’Union européenne veut s’assurer que l’intelligence artificielle ne soit pas utilisée à l’aveugle mais qu’elle soit maîtrisée par ceux qui conçoivent les systèmes d’IA ou qui en font usage, notamment dans des activités aussi sensibles que la gestion des ressources humaines, les métiers du droit, la santé ou encore la banque, la finance et l’assurance.
Comment se mettre en conformité ?
La première partie du RIA entre en application !
En vue de se mettre en conformité, les fournisseurs et déployeurs de systèmes d’intelligence artificielle doivent donc :
• procéder à une cartographie de l’ensemble des systèmes d’IA qu’ils conçoivent ou qu’ils utilisent, y compris du shadow IA (c’est-à-dire des systèmes d’IA non officiellement mis en œuvre par la DSI et souvent importés dans l’organisation par ces collaborateurs qui utilisent, parfois à des fins privées, tel ou tel système sans en maîtriser toutes les conséquences) ;
• identifier le personnel concerné par la fourniture ou l’utilisation de systèmes d’IA dans l’organisation ;
• élaborer un programme de formation tenant compte des « […] connaissances techniques, [de] leur expérience, [de] leur éducation et [de] leur formation ainsi que le contexte dans lequel les systèmes d’IA sont destinés à être utilisés, et en tenant compte des personnes ou des groupes de personnes à l’égard desquels les systèmes d’IA sont destinés à être utilisés » (RIA, article 4). Ce programme ne peut donc pas être un programme uniforme au sein de l’organisation puisqu’il doit nécessairement être adapté en fonction des critères rappelés ci-avant ;
• mettre en œuvre un système de validation des acquis qui seul permet d’attester que les personnes formées disposent du niveau de maîtrise suffisant requis par le règlement.
Il s’agit donc d’un chantier considérable dont les maîtres d’ouvrage sont nécessairement la direction générale, la DRH et les responsables des directions impactées.
Un tel chantier impose par ailleurs de mettre en œuvre des compétences mêlant :
• conduite du changement ;
• connaissances juridiques ;
• programme pédagogique adapté ;
• système de mesure et de validation des connaissances.
Le temps est donc compté puisque – comme indiqué plus haut cette obligation de garantie de maîtrise de l’IA est d’ores et déjà en vigueur – quand bien même la quasi-totalité des autres dispositions du règlement ne seront pleinement applicables qu’à compter du 2 août 2026.
Vous trouverez, ici, plus d’éléments sur le Code IA de la route en vue de vous mettre en conformité avec le RIA.
- Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (règlement sur l’intelligence artificielle) JOUE L 2024/1689, 12.07.2024.
Frédéric Forster
Avocat, Directeur du pôle Télécoms
Jennifer Bessi
Avocate, Directrice du département Sociétés et Fiscalité du numérique
Pour en apprendre davantage
À l'aube d'une ère où l'intelligence artificielle (IA) est en passe de devenir un compagnon quotidien...
La cobotique juridique #3 : Les malfaçons. Ce troisième épisode détaille les différents facteurs de malfaçons et comment les corriger...
