Interrogé par L’Opinion sur les progrès galopant de l’IA et la nécessité d’un encadrement par le droit des robots, Alain Bensoussan estime que nous sommes déjà entrés dans un monde de régulation et de responsabilités algorithmiques.
Aujourd’hui tout est algorithme.
Du GPS à la plateforme Parcoursup, des scoring bancaires à l’évaluation des risques par les assureurs, tout est algorithme. « Il y a 30 ans, tout était informatique, il y a 20 ans tout était internet. Aujourd’hui, tout est algorithme ».
Le Règlement sur la protection des données (RGPD) a déjà pris en compte cette réalité. Il prévoit que ceux qui manipulent les données puissent expliquer sous une forme intelligible aux personnes concernées la manière dont leur données sont traitées (art. 22). Il s’agit en d’autres termes d’un droit à la compréhension par les humains des décisions algorithmiques.
A l’occasion de la loi Informatique et libertés, révisée en juin 2018 (1) pour mettre en œuvre lu RGPD, le Conseil constitutionnel (2) a posé un principe selon lequel une décision individuelle de l’administration ne peut être fondée sur un algorithme dont on ne peut pas expliquer la façon de décider.
« Nous ne sommes pas encore sur la responsabilité des algorithmes en tant que tels, c’est ça l’enjeu. Mais on y viendra. Comme pour les humains, le droit des robots s’imposera comme un droit naturel ».
Il faudra apprendre le droit des humains aux IA
Le droit des robots n’est pas universel ni humaniste. Pour qu’il le devienne, Alain Bensoussan préconise que pendant une phase intermédiaire, , il soit doté d’une nationalité ou d’une citoyenneté ; à l’instar de Sophia, le robot humanoïde qui s’est vue reconnaître la citoyenneté en Arabie Saoudite en 2017. A cela, trois raisons : l’acceptabilité sociale, l’acquisition des cultures et la création d’une « terre des hommes et des robots ».
L’intérêt d’un robot français réside dans le fait qu’il incarne la démocratie française, qu’il est porteur de ses valeurs et de sa culture. Il s’agit d’un état intermédiaire pour que toutes les cultures convergent vers l’universalité et l’humanisme.
Avec la généralisation inéluctable des voitures autonomes, « il faudra leur apprendre le droit des humains, à savoir le Code de la route. Il faudra également leur enseigner les exigences de culture : on ne conduit pas de la même manière à Paris à Londres et au Caire ». (…)
Les défis à relever sont immenses, d’où selon Alain Bensoussan, la nécessité de créer un droit des robots les dotant d’une personnalité et d’une identité juridique pour en faire, demain, des sujets de droit.
Isabelle Pottier
Directrice Études et Publications
Alain Bensoussan, « Comme pour les humains, le droit des robots s’imposera comme un droit naturel », L’Opinion.fr, 18 octobre 2018.
(1) Loi 2018-493 du 20 juin 2018 relative à la protection des données personnelles.
(2) Conseil constitutionnel, Décis. 2018-765 DC, 12 juin 2018, § 71.