Les algorithmes prédictifs sont au cœur des enjeux économiques, éthiques et juridiques de notre société.
En effet, l’attrait que présentent les méthodes analytiques et outils prédictifs suscite l’intérêt d’une multitude d’organismes dans différents domaines, comme la finance, les assurances, le marketing.
Mais les avancées de cette technologie sont particulièrement considérables en matière de santé et de médecine. Ainsi, les algorithmes prédictifs sont utilisés pour la réalisation de diagnostics génétiques en vue de permettre de prédire quels seront les patients qui ont le plus de probabilité d’être atteints d’une pathologie donnée, ou encore pour déterminer les mutations génétiques impliquées dans le développement de certaines maladies.
Pour une autre illustration, des chercheurs sont parvenus à créer un programme d’analyse linguistique ayant pour objectif de détecter chez un patient les risques de développer une psychose.
Les services d’assistance et d’urgence se lancent également dans cette tendance, avec le déploiement d’algorithmes prédictifs permettant de prédire la gravité des blessures des occupants d’une voiture accidentée, par exemple, afin d’anticiper et d’organiser de manière adéquate l’arrivée des secours ou encore l’admission aux urgences d’un établissement hospitalier. De même, des outils d’aide au diagnostic clinique se développent et un calculateur de risque de décès à destination des 40-70 ans vient même de voir le jour.
Plus que de simples tendances, les algorithmes prédictifs permettent donc de faire émerger de véritables prédictions.
Si ces avancées technologiques en matière de santé représentent un gain dans l’absolu, le déploiement et la multiplication d’outils basés sur des algorithmes prédictifs se heurtent à certaines difficultés éthiques, mais également juridiques.
En premier lieu, les analyses prédictives nécessitent l’utilisation de données à caractère personnel. Or, le traitement de telles données est soumis à diverses dispositions, notamment à la loi dite Informatique et libertés (1). A cet égard, les dispositions applicables imposent le respect d’un certain nombre d’obligations et de principes, tels que le principe de limitation de la finalité du traitement, l’obligation de ne collecter que des données strictement pertinentes, adéquates, de recueillir le consentement des personnes concernées dans certaines hypothèses et l’obligation d’effectuer des formalités déclaratives auprès de la Cnil.
De plus, s’agissant de données de santé, et donc de données sensibles au sens de la loi susvisée, une obligation renforcée en vue de la préservation de leur sécurité et de leur confidentialité s’impose, et ce d’autant plus que de telles données peuvent être soumises au secret professionnel.
L’hébergement de données de santé sur support informatique est également soumis à un régime particulier, un agrément spécifique devant être obtenu avant de pouvoir procéder à une telle activité.
Aussi, tout projet de déploiement d’outils ou de services fondés sur des algorithmes prédictifs doit être préalablement géré au regard du concept de « privacy by design », ce concept consistant à concevoir des produits et des services en prenant en compte dès leur conception les aspects liés à la protection de la vie privée et des données à caractère personnel.
En second lieu, la création et le développement d’outils de médecine prédictive, mais également leur utilisation, peuvent être soumis à des formalités ou conditions particulières s’agissant des acteurs de tels projets. A titre d’exemple, en fonction de la technologie envisagée, il conviendra de déterminer si l’outil ne peut être utilisé que par l’intermédiaire de professionnels de santé ou directement par les patients. Dans cette hypothèse, qu’advient-il de l’obligation de conseil ? N’existe-t-il pas des risques que la fourniture d’un tel outil soit considérée comme un acte d’exercice illégal de la médecine ?
En outre, l’objet même des produits ou services de santé prédictive pourrait imposer d’obtenir des autorisations ou agréments spécifiques.
Ces interrogations doivent donc être soulevées en amont, dans le cadre de la conception du projet, afin d’anticiper toute difficulté à venir.
Enfin, les algorithmes prédictifs constituent, au regard des prédictions réalisées, un véritable outil d’aide à la prise de décision. Des difficultés peuvent donc en résulter en termes de répartition des responsabilités associées. Ces difficultés se posent dans les relations entre les fournisseurs de technologies et les professionnels de santé, mais également à l’égard des patients.
Un médecin réalisant un diagnostic au moyen d’un outil de prédiction est-il déchargé de toute responsabilité ? Qui est responsable d’une erreur dans la détermination du niveau d’urgence en vue de la prise en charge d’un patient au regard d’une analyse prédictive ? Comment encadrer ou limiter cette responsabilité ? Quels aspects anticiper dans le cadre de la contractualisation avec les professionnels de santé et /ou les patients ?
Autant de questions que la conception d’outils de médecine prédictive fondés sur des algorithmes de prédiction impose de se poser (et d’y répondre) avant tout déploiement effectif.
Alain Bensoussan
Lexing Droit Marketing électronique
(1) Loi 78-17 du 6-1-1978 modifiée.