La Chine s’est dotée d’une réglementation encadrant le recours aux services d’IA générative en Chine « 生成式人工智能管理暂行办法 ». Les mesures présentées comme provisoires et adoptées en mai dernier, sont entrées en application le 15 août 2023.
1 – Les enjeux et défis à l’aune de la cohabitation IA générative / être humain
Le développement et le recours exponentiels à l’IA générative sont les vecteurs d’une profonde mutation des modes de création et consommation de contenus informationnels et/ou culturels.
Ils focalisent l’intérêt du grand public, des investisseurs et des chercheurs. Ils amènent de surcroît les Etats à conduire et confronter leurs réflexions.
Le sujet en est la manière d’appréhender et réguler un essor technologique initiateur d’une dynamique de croissance économique et porteur d’enjeux de souveraineté nationale.
En France, ce questionnement se traduit notamment par la mise en place, en septembre 2023, d’un Conseil stratégique sur l’intelligence artificielle générative.
Constitué d’un aréopage d’experts et présidé par la Première Ministre, il a pour vocation de « maîtriser toute la chaîne de valeur, d’anticiper les impacts économiques et sociaux, de protéger les créateurs et les données personnelles ».
Une mission, instituée par l’Arcom, se consacrera aux usages de l’intelligence artificielle dans les domaines de la communication audiovisuelle et numérique. Les travaux se fonderont notamment sur les discussions en cours au sein de l’Union européenne au sujet du projet de règlement européen.
Un « service de l’intelligence artificielle », instauré en janvier 2023 par la Cnil, procédera à la publication d’un plan d’action destiné à :
- appréhender le fonctionnement des systèmes d’IA et leur impact sur les personnes physiques ;
- encadrer le développement d’IA respectueuses de la vie privée ;
- fédérer et accompagner les acteurs innovants de l’écosystème IA en France et en Europe ;
- auditer et contrôler les systèmes d’IA et protéger les personnes.
Un guide sur les règles applicables au partage et à la réutilisation de données, en cours de rédaction par la Cnil, sera par ailleurs prochainement soumis à consultation.
2 – Approche sémantique : notions et définitions
2.1 – Le dispositif chinois
Il convient, dans un premier temps, de définir les notions communément employées par les acteurs du secteur et utilisées par les dispositifs d’encadrement européen et chinois.
La loi chinoise comporte, en son article 22, la définition des trois termes suivants :
- technologie d’IA générative : modèles et technologies associées ayant la
capacité de générer du texte, des images, de l’audio, de la vidéo et d’autres contenus ; - fournisseur de services d’IA générative : organisation ou individu qui utilise la technologie pour fournir des services d’IA générative ;
- utilisateur de services d’IA générative :
- toute personne physique ou morale qui génère du contenu en utilisant elle-même des services d’IA générative ;
- toute personne physique ou morale qui a autorité sur l’utilisation du système.
2.2 – Le projet de dispositif européen
Le projet de règlement européen, en son article 3, propose une cinquantaine de définitions, dont les suivantes :
- système d’intelligence artificielle (système d’IA) : système conçu pour fonctionner avec des éléments d’autonomie qui, sur la base des données et des entrées générées par la machine et/ou par l’homme, déduit la manière d’atteindre un ensemble donné d’objectifs en faisant appel à l’apprentissage automatique et/ou à des approches axées sur la logique et les connaissances, et produit des résultats générés par le système sous la forme de contenu (systèmes d’IA générative), ainsi que de prédictions, de recommandations ou de décisions qui influencent l’environnement avec lequel le système interagit ;
- système d’IA à usage général : système d’IA qui exécute des fonctions de portée générale (reconnaissance d’images ou de paroles, génération de contenus audio ou vidéo, détection de modèles, traitement de requêtes, traduction, etc.). Peu importe la manière dont il est mis sur le marché ou mis en service, y compris sous la forme d’un logiciel libre. Ainsi, un système d’IA à usage général peut être utilisé dans une pluralité de contextes, voire même intégré dans une pluralité d’autres systèmes d’IA ;
- fournisseur : personne physique ou morale, autorité publique, agence ou tout autre organisme qui développe ou fait développer un système d’IA et le met sur le marché ou le met en service sous son propre nom ou sa propre marque, à titre onéreux ou gratuit ;
- utilisateur : personne physique ou morale, y compris autorité publique, agence ou autre organisme sous l’autorité de laquelle ou duquel le système est utilisé.
3 – Réflexions et régulation en République Populaire de Chine
3.1 – Les finalités du dispositif
3.1.1 – Les secteurs impactés
La mobilisation du gouvernement de la République populaire de Chine pour promouvoir l’application industrielle de l’Intelligence artificielle, notamment par le biais d’investissements majeurs pour soutenir les entreprises innovantes, atteste de la poursuite d’un objectif plural :
- volet économique : initier une dynamique de croissance et de prospérité économique fondée non plus sur l’exportation de produits manufacturés mais sur la recherche et l’application industrielle en matière de technologies d’intelligence artificielle ;
- volet environnemental : soutenir la transition écologique, la Chine étant reconnue comme l’un des Etats contribuant le plus à l’accroissement de l’émission de gaz à effet de serre au niveau mondial ;
- volet social : améliorer le niveau et les conditions de vie de la population active, l’informer des évolutions technologiques en vue d’emporter son adhésion aux orientations stratégiques définies par le gouvernement ;
- volet sécuritaire : renforcer la sécurité nationale : éviter la captation et l’exportation des données personnelles des citoyens chinois, prévenir toute attaque informatique ou campagne de désinformation, favoriser l’usage d’outils de surveillance des populations (technologie de reconnaissance faciale, reconnaissance de la démarche, système de notation des citoyens notamment) ;
- volet militaire : adoption de dispositifs d’armement intelligents plus performants susceptibles de réduire les pertes en vies humaines ou encore amélioration des techniques de collecte et d’interception des renseignements.
3.1.2 – Les fondements sociétaux préservés
Le dispositif entend garantir :
- les valeurs socialistes fondamentales : tout contenu invitant les citoyens à contrevenir à la sécurité, aux intérêts nationaux, à la stabilité économique, politique et sociale est ainsi prohibé. Cette interdiction s’étend également aux contenus incitant à la propagation de la haine, discriminatoires, violents ou pornographiques. De manière générale, tout contenu susceptible de déroger aux réglementations en vigueur est prohibé.
- l’éthique et le secret des affaires : il est exclu qu’une entreprise exerce un monopole sur un marché ou qu’elle puisse être convaincue de pratiques concurrentielles déloyales ;
- les droits et intérêts légitimes d’autrui : incluant notamment la préservation de l’intégrité physique et morale, des droits à l’image, à la réputation, à l’honneur et à la préservation de la vie privée et des données personnelles.
3.1.3 – Un enjeu géostratégique
L’incitation par le gouvernement chinois à l’instauration d’une relation privilégiée entre les partenaires publics et privés s’explique par sa volonté d’accroître sa compétitivité sur les marchés technologiques, de renforcer son influence dans la zone géographique Asie-Pacifique, voire de se positionner en concurrent des États-Unis dans la course au leadership mondial et par voie de conséquence de confronter un modèle fondé sur la planification par l’Etat des orientations stratégiques et économiques au modèle néolibéral américain.
3.2 – La portée du dispositif
Le nouveau dispositif, revendiqué comme étant temporaire donc transitoire, s’agrège à un corpus de règles préétablies, édictées par la loi sur la cybersécurité, la loi sur la sécurité des données, la loi sur la protection des informations personnelles, la loi sur la science et le progrès technologique et toutes autres lois et réglementations administratives applicables dans le but de promouvoir le développement sain et l’application standardisée de l’intelligence artificielle générative, de sauvegarder la sécurité nationale et les intérêts sociaux publics et de protéger les droits et intérêts légitimes des personnes physiques comme des personnes morales.
Ce texte, structuré en 24 articles, entend faciliter la promotion d’un « contenu de qualité, positif, sain et inspirant ».
Entre dans le champ d’application de la nouvelle réglementation, la fourniture de textes, images, fichiers audio et vidéo et/ou tout autre contenu destiné au grand public sur le territoire national. Peu importe que ces contenus soient diffusés par des fournisseurs implantés en Chine ou dans des pays tiers.
Ce dispositif novateur et incitatif d’une IA inclusive, destiné à soutenir et encadrer l’investissement, notamment étranger, et l’expansion de services d’IA performants, ne s’étend ni aux administrations publiques ni aux utilisations à des fins de recherche et de développement, ni aux services d’intelligence artificielle générative qui ne seraient pas destinés au grand public sur le territoire national.
Les fournisseurs étrangers ont, quant à eux, toute latitude pour faire bénéficier les utilisateurs chinois de leurs services dès lors qu’ils ne s’affranchissent pas de la réglementation.
3.3 – Les obligations du fournisseur au regard de la réglementation chinoise
3.3.1 – La contractualisation des relations
Un contrat de service formalise la relation entre les utilisateurs et le fournisseur de services d’IA générative, assimilé à un producteur de contenus d’informations en ligne, en spécifiant les droits et obligations des deux parties.
3.3.2 – Le rôle du fournisseur
Un fournisseur assume la responsabilité de producteur de contenu d’informations sur le réseau, conformément à la loi, et remplit les obligations de sécurité des informations sur le réseau.
Si des données personnelles sont impactées, le fournisseur assumera, en qualité de sous-traitant, la responsabilité de la protection des données.
3.3.3 – La sensibilisation des utilisateurs
Il lui revient de fournir des services sûrs, stables et continus aux utilisateurs qu’il doit accompagner en vue de leur permettre une meilleure compréhension et utilisation de la technologie Al générative.
Une attention particulière doit être portée aux utilisateurs mineurs pour prévenir la survenance d’un état de dépendance aux technologies d’intelligence artificielle.
3.3.4 – Le traitement des données de formation
Le fournisseur de services d’IA générative chinois est censé réaliser les activités de traitement des données de formation, telles que la préformation et la formation optimisée, selon les conditions suivantes :
- utilisation des données et des modèles sous-jacents provenant de sources légitimes ;
- respect des droits de propriété intellectuelle des tiers ;
- recueil du consentement de la personne concernée ou à défaut respect de tout protocole défini par les texte en vigueur ;
- établissement de mesures efficaces pour améliorer la qualité des données de formation et
renforcer leur authenticité, leur exactitude, leur objectivité et leur diversité.
3.3.5 – Les règles d’étiquetage et d’annotation
Un fournisseur doit étiqueter le contenu généré tel que les images et les vidéos.
En phase de développement, le fournisseur doit :
- établir des règles d’annotation claires, spécifiques et pratiques, ;
- procéder à une évaluation de la qualité de l’annotation des données ;
- effectuer une vérification par échantillonnage de l’exactitude du contenu annoté ;
- fournir la formation nécessaire au personnel pour le sensibiliser davantage au respect des lois et réglementations, et le guider dans la conduite des travaux d’annotation.
3.3.6 – La protection des données
Il lui appartient également de protéger les informations saisies, d’utiliser les enregistrements des utilisateurs conformément à la loi, de ne pas collecter d’informations personnelles inutiles, de ne pas conserver illégalement les informations saisies et de ne pas utiliser des enregistrements concourant à l’identification des utilisateurs ni les fournir illégalement à des tiers.
Le prestataire doit accepter et traiter, dans les plus brefs délais, les demandes individuelles de consultation, copie, correction, complément et suppression de ses informations personnelles conformément à la loi.
3.3.7 – Les recours et sanctions
Un fournisseur découvrant un contenu illégal est astreint à prendre rapidement les mesures idoines, telles que l’arrêt du service ou l’élimination du contenu répréhensible.
De même, s’il constate qu’un utilisateur utilise l’IA générative à des fins illégales, il se doit de mettre en œuvre des mesures coercitives comme un avertissement, la restriction, la suspension ou l’arrêt du service et en référer aux autorités compétentes.
Il est également imposé au fournisseur l’établissement et l’amélioration du mécanisme de plainte et de signalement, la mise en place de portails pratiques de plaintes et de signalement, la publication des procédures de traitement et des délais de retour d’information, l’acceptation et le traitement rapide des plaintes et rapports du public, ainsi que la fourniture des commentaires sur les résultats.
Un utilisateur constatant qu’un fournisseur de service s’affranchit des dispositions légales applicables, peut déposer plainte à son encontre.
Les autorités compétentes sont susceptibles de diligenter une procédure d’inspection et de contrôle à l’encontre d’un fournisseur indélicat. Ce dernier s’expose à des sanctions administratives ou pénales, si la preuve de la constitution d’un délit peut être rapportée. Avertissement, injonction de rectification, suspension de la fourniture du service sont les sanctions administratives possibles.
Le fournisseur apportera son concours aux opérations de vérification en expliquant notamment les sources, les échelles et les types de données de formation, les règles d’annotation et les mécanismes algorithmiques.
4 – Réflexions et régulation au sein de l’Union européenne
4.1 – La recherche d’une voie unique dans le concert européen des nations
Le Parlement européen étudie actuellement une proposition de règlement établissant des règles harmonisées concernant l’intelligence artificielle. Cette proposition, initiée le 21 avril 2021, a également pour dénomination « Artificial Intelligence Act » (AI Act).
Les finalités, protéiformes, sont les suivantes :
- veiller à ce que les systèmes d’intelligence artificielle mis sur le marché de l’Union et utilisés dans l’Union soient sûrs et respectent la législation en vigueur en matière de droits fondamentaux et les valeurs de l’Union ;
- garantir la sécurité juridique pour faciliter les investissements et l’innovation ;
- renforcer la gouvernance et l’application effective de la législation existante en matière de droits
fondamentaux et de sécurité ; - faciliter le développement d’un marché unique pour des applications d’intelligence artificielle légales, sûres et dignes de confiance, tout en empêchant la fragmentation du marché.
Le 14 juin 2023, le Parlement européen a adopté toute une série d’amendements sur ce texte, dont l’amendement 399 qui introduit un nouvel article 28 ter instituant les obligations du fournisseur d’un système d’IA à finalité générique.
4.2 – Les obligations du fournisseur au regard du projet de règlement européen
4.2.1 – Les système d’intelligence artificielle à finalité générale
Cet article régit la mise à disposition sur le marché ou la mise en service d’un système d’intelligence artificielle à finalité générale.
Ce système peut être :
- fourni en tant que modèle autonome ;
- intégré dans un système ou un produit ;
- adressé sous licence libre et ouverte, en tant que service ;
- délivré via d’autres canaux de distribution.
Le fournisseur devra veiller à traiter et intégrer uniquement des jeux de données qui font l’objet de mesures appropriées de gouvernance des données pour les systèmes d’IA à finalité générale, en particulier de mesures visant à examiner l’adéquation des sources de données, les éventuels biais et l’atténuation appropriée.
Ce système d’intelligence artificielle à finalité générale est à enregistrer dans la base de données de l’Union.
Un fournisseurs de système d’intelligence artificielle à finalité générale utilisé dans un systèmes d’intelligence artificielle destiné spécifiquement à générer, avec différents niveaux d’autonomie, des contenus tels que des textes, des images, des contenus audio ou des vidéos complexes («IA générative») ou un fournisseur spécialisé dans la transformation d’un système d’intelligence artificielle à finalité générale en un système d’intelligence artificielle générative :
- se réfère aux obligations en matière de transparence énoncées à l’article 52, paragraphe 1 du projet de règlement européen ;
- forme et, le cas échéant, conçoit et développe le système d’intelligence artificielle à finalité générale de manière à assurer des garanties appropriées contre la production de contenus qui sont en violation du droit de l’Union et dans le respect des droits fondamentaux, dont la liberté d’expression ;
- documente et met à la disposition du public un résumé suffisamment détaillé de l’utilisation des données d’entraînement protégées par la législation sur le droit d’auteur, sans préjudice de la législation de l’Union ou nationale en matière de droit d’auteur.
4.2.2 – Les valeurs de l’Union réaffirmées
Le texte pose comme postulat le respect par le fournisseur du service, avant et tout au long de sa mise à disposition sur le marché, des dispositifs législatifs en vigueur.
Les domaines concernés sont, en particulier, la santé, la sécurité, les droits fondamentaux, l’environnement, la démocratie et le droit de l’Union.
Le fournisseur a toute liberté pour définir les mesures appropriées à l’identification, la réduction et l’atténuation des risques raisonnablement prévisibles pour la santé, la sécurité, les droits fondamentaux, l’environnement, la démocratie et l’état de droit. Et ce, avant et tout au long du développement.
Pour ce faire, il pourra invoquer la participation d’experts indépendants ou encore la rédaction d’une documentation sur les risques non atténuables restants après développement.
4.2.3 – La production d’une documentation technique
La documentation technique détaillée et d’instructions d’utilisation intelligibles produite vise à :
- permettre aux fournisseurs en aval de se conformer aux obligations qui leur incombent ;
- pouvoir la produire sur simple demande des autorités nationales compétentes pendant une période prenant fin 10 ans après la mise sur le marché ou la mise en service.
4.2.4 – La préservation de l’environnement
Le système d’intelligence artificielle à finalité générale est conçu et développé :
- afin d’atteindre, tout au long de son cycle de vie, des niveaux appropriés de performance, de prévisibilité, d’interprétabilité, de possibilité d’apporter des corrections, de sécurité et de cybersécurité évalués au moyen de méthodes appropriées, telles que l’évaluation des modèles avec la participation d’experts indépendants et en s’appuyant sur des analyses documentées et des essais approfondis lors de la conceptualisation, de la conception et du développement ;
- en s’appuyant sur les normes applicables pour réduire la consommation d’énergie, l’utilisation des ressources et les déchets, ainsi que pour accroître l’efficacité énergétique et l’efficacité globale du système, sans préjudice du droit de l’Union et du droit national en vigueur en la matière ;
- avec des fonctionnalités permettant de mesurer et d’enregistrer la consommation d’énergie et de ressources, et, lorsque c’est techniquement possible, d’autres incidences sur l’environnement que le déploiement et l’utilisation des systèmes pourraient avoir tout au long de leur cycle de vie.
4.2.5 – Une garantie de qualité
L’élaboration d’un système de gestion de la qualité répond à la nécessité de garantir et attester pleinement, par des documents, le respect des exigences de l’article 28 ter.
Il se fonde sur l’état de la technique généralement reconnu et les méthodes d’évaluation et de mesure les plus récentes, considérés comme variables d’ajustement.
4.2.6 – Des similitudes
L’amendement rejoint la règlementation chinoise quant au respect des obligations en matière de transparence. Le fournisseur doit s’attacher à définir et mettre en œuvre des mesures efficaces pour améliorer la transparence du service. De manière générale, il lui incombe d’optimiser la qualité, l’authenticité, l’exactitude, l’objectivité et la diversité des contenus.
5 – Les relations sino européennes en matière d’intelligence artificielle
Selon ses rédacteurs, ce dispositif illustre la volonté de la République populaire de Chine d’inscrire son action dans une réflexion globale destinée à :
- favoriser la formulation de règles juridiques et éthiques internationales ;
- encourager les échanges et contributions internationales sur la base de l’égalité et du bénéfice mutuel.
Dans cette optique, elle œuvre à l’instauration d’un rapprochement avec l’Union européenne.
Un dialogue relatif à la gouvernance et la régulation juridique et éthique de l’IA, initié en septembre 2020, s’est poursuivi en septembre 2023.
Un échange de vues entre l’Union européenne et la Chine se déroule également dans les domaines de la science et des technologies innovantes dans le cadre d’une feuille de route commune.
L’Union européenne, partie intégrante du G7, contribue pour sa part aux travaux entrepris notamment dans le cadre du sommet d’Hiroshima, qui s’est déroulé en mai 2023.
Actant du fort impact socio-économique de l’IA générative, les membres du G7 ont confirmé la nécessité d’une gouvernance en adéquation avec les valeurs du G7 en matière de technologies immersives et d’IA générative. Ils viennent en effet de présenter les principes directeurs internationaux en matière d’intelligence artificielle (IA) et un code de conduite volontaire pour les développeurs d’IA dans le cadre du processus d’Hiroshima sur l’IA d’octobre 2023.
Par ailleurs, la Chine s’est jointe au Royaume-Uni, aux États-Unis, à l’Union européenne et à vingt-quatre autres pays pour convenir que l’intelligence artificielle représente un risque important. Les participant au sommet sur la sécurité de l’IA, organisé par le gouvernement britannique début novembre 2023, ont signé la Déclaration internationale dite de Bletchley.
____________________________________
Pour en savoir plus sur le projet européen
- AIA-EU, vers un règlement européen sur l’intelligence artificielle, Alain-bensoussan.com 03-06-2021.
- Intelligence artificielle : nouveau projet de Règlement (I), Alain-bensoussan.com 17-06-2021.
- Intelligence artificielle : nouveau projet de Règlement (II), Alain-bensoussan.com 24-06-2021.
- Mieux comprendre l’impact de l’IA sur le développement des compétences, Alain-bensoussan.com 12-11-2021.
- Colloque « Vers des Intelligences Artificielles dignes de confiance » du 13-12-2022, Alain-bensoussan.com 08-12-2022.
- Harmoniser les règles civiles de responsabilité en matière d’IA en Europe, Alain-bensoussan.com 23-02-2023.