Une charte éthique de l’ IA dans les systèmes judiciaires

Alain Bensoussan présente, dans Planète Robots, la charte éthique de l’ IA dans les systèmes judiciaires adoptée par le Conseil de l’Europe en décembre 2018 (1).

C’est là une des premières illustrations claires de la régulation souple par les valeurs qui fait émerger un « droit souple fondamental » issu d’un dialogue des normes.

IA dans les systèmes judiciaires : l’émergence d’un droit souple fondamental

Cette charte fait suite à une étude du Conseil de l’Europe, « Algorithmes et droits humains » (2), préparée par le Comité d’experts sur les intermédiaires d’internet (MSI-NET), sur les dimensions des droits humains dans les techniques de traitement automatisé des données et leurs éventuelles implications réglementaires.

Elle fournit un cadre de principes destinés à guider les décideurs politiques, les juristes, professionnels de la justice et les concepteurs d’algorithmes dans la gestion du développement rapide de l’IA dans les processus judiciaires nationaux.

Ce cadre vise également à renforcer la confiance des utilisateurs judiciaires dans ces systèmes. La CEPEJ souligne qu’il est crucial de « garantir que l’IA reste un outil au service de l’intérêt général et que son utilisation se fasse dans le respect des droits individuels ».

L’éthique dès la conception : « Human rights by design »

Le premier principe posé par la charte de l’ IA dans les systèmes judiciaires concerne le respect des droits fondamentaux. Il s’agit d’assurer une conception et une mise en œuvre des outils et des services d’IA qui soient compatibles avec les droits fondamentaux, notamment le droit à la protection des données personnelles.

Pour cela la charte de l’ IA dans les systèmes judiciaires préconise de privilégier les approches dites d’ « éthique dès la conception » (ethical by design) ou de « droits de l’homme dès la conception » (Human rights by design) tels que  protégés par les Conventions CEDH et STE n° 108 (3).

Le second principe concerne « la non-discrimination » et vise à s’assurer que les traitements ne reproduisent pas ou n’aggravent pas des discriminations résultant de préjugés qui auraient été inclus dans les données d’apprentissage des systèmes d’IA.

Le troisième principe concerne « la qualité et la sécurité » du traitement des décisions juridictionnelles et des données judiciaires et le quatrième la « transparence, neutralité et intégrité intellectuelle ».

Enfin, s’agissant du principe de « maîtrise par l’utilisateur », il vise à bannir une approche prescriptive et permettre à l’usager d’être un acteur éclairé et maître de ses choix. La CEPEJ préconise la conduite « d’actions d’alphabétisation numérique » des usagers et de débats impliquant les professionnels de la justice, à l’occasion de la mise en œuvre de tout système d’information s’appuyant sur l’IA. (Lire la suite)