Alain Bensoussan consacre sa dernière chronique dans Planète Robots n°69 aux jeux d’échecs, « véritable préconfigurateur de la mixité homme-robot ».
Les échecs ont inspiré les premières recherches d’intelligence artificielle sur l’automatisation des processus de décision. Depuis la défaite du champion du monde Garry Kasparov face au supercalculateur Deep Blue en 1997, on sait que la machine est plus forte que l’homme aux échecs. Elle réussit à battre non seulement les meilleurs compétiteurs humains mais également les maîtres « virtuels » du domaine.
Ainsi l’algorithme AlphaZero s’impose face aux meilleurs logiciels spécialisés dans les échecs (programme Stockfish), le jeu de go (AlphaGo) et le shogi (Elmo). Désormais, vouloir l’emporter sur une IA est totalement illusoire au regard de la puissance de calcul et des capacités d’apprentissage de la machine.
Aujourd’hui, les décisions humaines sont de plus en plus dépendantes d’IA, à telle enseigne qu’on peut y voir
« un véritable préconfigurateur de la mixité homme-robot »,
Ces avancées ne vont pas sans soulever quelques inquiétudes.
L’opacité des algorithmes d’apprentissage automatique
Avec l’apprentissage automatique, les machines sont capables d’apprendre par elles-mêmes, à partir de données sans programmation explicite. Leurs décisions n’étant plus « programmées » par l’homme, mais le résultat d’IA auto apprenantes, « leurs actions échappent souvent à la compréhension et ne sont plus à la portée du contrôle par l’homme » (GEE, 9 mars 2018). Ainsi, l’impossibilité d’expliquer la façon dont fonctionnent ces réseaux de neurones constitue un véritable point faible à leur acceptabilité.
Cette difficulté tient à l’opacité des algorithmes d’apprentissage automatique. C’est le fameux problème de la « boîte noire » souligné par le mathématicien et député Cédric Villani pour qui, il faut favoriser « l’explicabilité » si l’on veut démystifier l’intelligence artificielle (Rapport VILLANI, mars 2018).
Organiser la mixité « homme-robot »
Au regard du degré croissant d’autonomie que les robots acquièrent, qui leur permet de réagir seuls à l’environnement et à un certain degré d’imprévu, mais également d’interagir de manière indépendante avec des tiers, les robots doivent se voir conférer une personnalité juridique autonome. Une affirmation qui relève de l’évidence au fur et à mesure que ceux-ci seront dotés d’une intelligence de moins en moins « faible » (Blog Expert Le Figaro, août 2018).
Isabelle Pottier
Lexing Département Etudes et publications
Lire l’article, « Des jeux d’échecs aux robots, vers l’hybridation homme-machine », Planète robots n°69, Septembre-Octobre 2021.