Alain Bensoussan consacre sa dernière chronique du magazine Planète robots n°74 au cadre éthique international de l’IA, préalable à de futures normes juridiques.
Jusqu’où peut-on aller dans l’autonomie et le pouvoir de décision d’un système d’IA ? Qui décide des valeurs qui seront inculquées aux algorithmes lors de leur « apprentissage » ?
Ces questions, parmi bien d’autres, montrent combien un encadrement éthique est indispensable pour tenir compte des développements rapides de l’IA. C’est ce que souligne l’Unesco qui a apporter une première pierre à cet édifice normatif.
La recommandation de l’Unesco sur l’éthique de l’IA
La recommandation sur l’éthique de l’intelligence artificielle dont la version finale a été adoptée le 23 novembre 2021 par les 193 États membres de l’Organisation des Nations Unies pour l’éducation, la science et la culture (Unesco).
CSelon sa directrice générale Audrey Azoulay, ce texte « est une réponse forte [qui] fixe le premier cadre normatif mondial tout en donnant aux États la responsabilité de l’appliquer à leur niveau » sur l’éthique de cette technologie.
Nul doute que cette recommandation fera date. Les valeurs et principes qu’elle énonce vont, selon l’Unesco, « aider à élaborer et à appliquer des mesures politiques et des normes juridiques fondées sur les droits, en fournissant des orientations en vue du développement rapide des technologies ».
Ce texte inédit par son ampleur (1) décline des valeurs universelles en principes, puis en actions, afin de fixer un cadre de référence, sorte de « plan directeur » pour sa transposition par les États membres signataires.
Par exemple, dans le domaine des libertés fondamentales, la recommandation proscrit l’utilisation des systèmes d’IA « à des fins de notation sociale ou de surveillance de masse ».
Les enjeux éthiques de l’IA
La recommandation de l’Unesco rappelle que les « systèmes d’IA doivent, tout au long de leur cycle de vie, améliorer la qualité de vie des êtres humains, en laissant aux individus ou groupes le soin de définir la notion de « qualité de vie », tant qu’il n’y a ni violation des droits de l’homme et des libertés fondamentales, ni atteinte à la dignité humaine au sens de cette définition ».
Pour cela, l’Unesco invite les Etats membres à « évaluer de façon continue l’impact humain, social, culturel, économique et environnemental des technologies de l’IA ».
Assurément, de tels mécanismes sont de nature à instaurer la confiance nécessaire dans les systèmes à base d’intelligence artificielle.
Isabelle Pottier
Lexing Département Etudes et publications
Lire l’article : « les enjeux éthiques de l’IA », Planète robots n° 74.
(1) Plus de 50 000 contributions de chercheurs, d’ONG et d’acteurs de la société civile issus du monde entier.