L’encadrement des systèmes d’IA en matière de gestion RH est le thème abordé par Alain Bensoussan dans le dernier numéro de Planète Robots. Le recours à l’IA dans la gestion des ressources humaines est, comme ailleurs, autant source de progrès que porteur de risques pour les droits des personnes.
D’où l’importance d’encadrer ces « systèmes à haut risque ».
Le projet de règlement sur les systèmes d’IA (IA Act) (1) actuellement en cours de discussion, les identifie comme étant par nature « à haut risque » et subordonne leur mise sur le marché ou en service au respect d’un ensemble d’obligations.
Les SIA en matière de RH : des systèmes « à haut risque »
Le RSIA opère une classification des systèmes d’IA en 4 niveaux, en fonction de l’échelle de risques : 1 (risque minimum), 2 (faible risque), 3 (à haut risque) et 4 (risque inacceptable) (2).
Il répertorie comme étant « à haut risque » les applications d’IA utilisées dans des domaines jugés cruciaux tels que l’ « emploi et la gestion de la main-d’œuvre » car susceptibles de causer des violations graves des droits fondamentaux.
Celles-ci concernent le recrutement et la sélection de personnes physiques (diffusion des offres d’emploi, pré-sélection, filtrage), la promotion et le licenciement, l’attribution de tâches basées sur le comportement ou les caractéristiques personnelles de chacun, le suivi et l’évaluation des performances et comportement des travailleurs sous contrat.
Appréhender la mise en conformité dès maintenant
L’absence de garde-fous au stade de la conception et du développement d’un système d’IA en matière d’emploi engendre des risques de discrimination importants au regard des caractéristiques des jeux de données d’entrainement de l’IA (sexe, âge, lieu de résidence, handicap, nationalité, origine, situation familiale, etc.).
La phase de nettoyage des données d’entraînement, de validation et de test est une étape essentielle pour la constitution d’un jeu de données conforme aux exigences du RSIA.
Les commanditaires de systèmes d’IA spécifiques au recrutement et à la gestion du personnel doivent notamment :
- décliner dans les cahiers des charges des prestataires développeurs les obligations réglementaires évoquées :
- sous forme de spécifications fonctionnelles afin de sécuriser le SIA au stade de sa conception.
- faciliter ainsi l’évaluation de conformité nécessaire à sa mise en service.
Lire la suite : « L’encadrement des Systèmes d’IA en matière de gestion RH », Planète robots n°79.
Isabelle Pottier
Lexing Département Etudes et publications
Notes
(1) Cf. Chronique Droits et devoirs PR n° 70, Sept-Oct. 2021.
(2) Voir notre ouvrage, « Algorithmes et droit », Editions Lexing, Mai-Juin 2023.