Le 16 février 2024, les géants du numérique ont dévoilé l’accord : « Tech Accord to Combat Deceptive Use of AI in 2024 Elections » (1) contre les dérives de l’IA.
Cette union vise à empêcher que l’intelligence artificielle ne génère des contenus fallacieux, dans le cadre spécifique des élections à travers le monde de 2024. L’accord réunit aussi bien producteurs (Google, OpenAI) que diffuseurs (Meta, Tiktok) de tels contenus.
La régulation des contenus générés par IA en période électorale : un enjeu fondamental pour la démocratie
Union géants du numérique contre les dérives de l’IA dans les élections
L’essor des technologies d’IA générative bouleverse le paysage de la communication politique. Si ces outils offrent de nouvelles possibilités pour promouvoir des idées et des candidats, ils soulèvent également des inquiétudes quant à leur potentiel de manipulation et de désinformation.
Les contenus générés par IA, tels que les deepfakes, peuvent être utilisés pour diffuser de fausses informations ou pour discréditer des candidats. Ces pratiques menacent l’intégrité des processus électoraux et la confiance des citoyens dans les institutions démocratiques.
Face à ces enjeux, les principales entreprises du numérique ont conclu un accord le 16 février 2024 visant à lutter contre la diffusion de contenus politiques trompeurs générés par IA en période électorale.
Sont spécialement visés : « les contenus audio, les vidéos ou les images convaincants générés par IA, qui, de façon malhonnête, simulent ou modifient l’apparence, la voix ou les actes de candidats, d’organisateurs de scrutins, ou d’autres acteurs-clés d’élections démocratiques, ou qui fournissent de fausses informations aux électeurs sur quand, où et comment voter ».
Pour mener à bien cette mission contre les dérives de l’IA, les entreprises signataires envisagent plusieurs actions :
- • utiliser des logiciels pour détecter les contenus générés par IA;
- • développer des outils pour marquer et étiqueter ces contenus, assurant ainsi une meilleure traçabilité ;
- • renforcer la mise à disposition d’outils de signalement pour les internautes.
L’évolution du cadre juridique : vers un encadrement plus précis
Union géants du numérique contre les dérives de l’IA dans les élections
En parallèle de cette initiative, les autorités publiques s’emparent du sujet.
Au niveau national, le législateur français a récemment adopté la loi visant à sécuriser et à réguler l’espace numérique (SREN) (2). Cette loi, entrée en vigueur le 23 mai 2024, traite notamment des dérives de l’IA du genre deepfakes ou « hypertrucages ». Cet outil aspire à être efficace en matière de désinformation politique.
La loi SREN modifie par exemple l’article 226-8 du code pénal qui prévoit dorénavant : « Est puni d’un an d’emprisonnement et de 15 000 euros d’amende le fait de porter à la connaissance du public ou d’un tiers, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention » (3).
Au niveau européen, l’AI Act a complété le DSA (4) entré en vigueur le 17 février 2024 (5). L’AI Act qui entrera en vigueur en 2026 consacre l’obligation d’étiquetage des contenus générés par IA.
Le règlement prévoit ainsi que « les fournisseurs de systèmes d’IA, y compris les systèmes GPAI, générant du contenu audio, graphique, vidéo ou textuel de synthèse, doivent veiller à ce que les sorties du système d’IA soient marquées dans un format lisible par machine et détectables comme étant générées ou manipulées artificiellement. Les fournisseurs veillent à ce que leurs solutions techniques soient efficaces, interopérables, robustes et fiables dans la mesure où cela est techniquement faisable, en tenant compte des spécificités et des limites des différents types de contenu, des coûts de mise en œuvre et de l’état de l’art généralement reconnu, tel que cela peut être reflété dans les normes techniques pertinentes ».
Les géants du numérique face au défi de l’autorégulation des contenus générés par IA
Union géants du numérique contre les dérives de l’IA dans les élections
Par cet accord, les géants du numérique cherchent à démontrer au législateur leur capacité à s’autoréguler en matière de contenus qu’ils produisent et diffusent.
Toutefois, l’accord reste flou quant aux moyens d’action spécifiques que les entreprises signataires envisagent pour remplir cette mission. Cette prudence répond à une double exigence : il est essentiel de lutter contre les contenus trompeurs susceptibles d’influencer les électeurs, mais cette lutte ne doit pas compromettre la liberté d’expression des internautes.
En effet, cette liberté est essentielle dans le cadre des débats démocratiques. Par conséquent, les actions du législateur et des entreprises concernées doivent veiller à ne pas restreindre cette liberté. Les internautes doivent avoir la possibilité d’utiliser l’IA pour créer et partager des contenus satiriques voire provocateurs.
C’est pourquoi les entreprises signataires de l’accord précisent qu’elles devront « faire attention au contexte, et préserver l’expression éducative, documentaire, artistique, satirique ainsi que politique » des contenus.
En conclusion, la régulation des contenus générés par une intelligence artificielle et le contrôle des éventuelles dérives de l’IA est un sujet particulièrement délicat. Une collaboration entre les entreprises du numérique et les législateurs est nécessaire pour contrôler efficacement les dérives potentielles. Une porte-parole d’OpenAI l’a récemment souligné dans un communiqué : « We agree that rigorous debate is crucial given the significance of this technology, and we’ll continue to engage with governments, civil society and other communities around the world » (6).
- Accord technologique pour combattre l’utilisation trompeuse de l’IA lors des élections de 2024.
- Loi n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l’espace numérique.
- Art. 226-8 du Code pénal.
- DSA ou Digital Services Act (règlement européen sur les services numériques).
- Règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE.
- « Nous sommes d’accord sur le fait qu’un débat rigoureux est crucial étant donné l’importance de cette technologie, et nous continuerons à dialoguer avec les gouvernements, la société civile et d’autres communautés à travers le monde ».
Avec la collaboration d’Adrien Chevreuil, stagiaire, étudiant en 3ème année de Licence à la Faculté de droit et de science politique, Université de Rennes, Magistère Juriste d’Affaires Franco-Britannique (JAFB).
Pour en apprendre davantage
À l'aube d'une ère où l'intelligence artificielle (IA) est en passe de devenir un compagnon quotidien...
La cobotique juridique #2 : L’art de l’invite. Comment réussir les prestations juridiques entre 20 et 80% de la version finale...