Article
« L’intelligence artificielle en santé (…) peut contribuer à améliorer l’accès aux soins des citoyens, grâce à des dispositifs de pré-diagnostic médical ou d’aide à l’orientation dans le parcours de soin », signait le député Cédric Villani dans son rapport sur l’intelligence artificielle, publié en mars dernier.
Mais c’est un nouveau rapport sur le thème de l’intelligence artificielle (IA) et de la santé dans le cadre des États Généraux de la Bioéthique, intitulé « Numérique et santé : quels enjeux éthiques pour quelles régulations ? », qui vient d’être publié lundi 19 novembre.
Deux enjeux éthiques
Ce nouveau rapport a été produit par un groupe de travail animé par Claude Kirschner, directeur de recherche à l'Institut national de recherche en informatique et en automatique (Inria), et David Gruson, ex-délégué général de la Fédération hospitalière de France (FHF) et porteur de l’initiative « Ethik-IA », et commandé par le comité consultatif national d’éthique pour les sciences de la vie et de la santé (CCNE).
Le document met notamment en exergue deux enjeux éthiques associés au déploiement de la médecine algorithmique : « La délégation du consentement éclairé à un algorithme et la minoration de la prise en compte des situations individuelles ».
Rééquilibrer la relation entre patients et professionnels de santé
Le groupe de travail pose un constat, en citant en particulier la contribution de France Assos Santé, qui explique que « la question n’est pas de craindre ou de placer un espoir inconsidéré dans l’intelligence artificielle ». Selon l’organisation, qui regroupe 80 associations de patients, si l’IA « augmente sans aucun doute les capacités d’analyse médicale, la question est simplement, mais au plus haut point, de veiller à poursuivre le rééquilibrage de la relation entre patients et professionnels de santé ».
« Que restera-t-il de l’effectivité du choix du patient au moment de consentir aux soins ? », s’interroge le rapport, pour qui le numérique et la médecine algorithmique s’appuient sur des données massives « faisant la preuve de leur efficacité en termes de qualité des soins et d’efficience ».
De l’universalité de la prise en charge individuelle
Claude Kirschner et David Gruson citent également le rapport produit par le Conseil national de l’Ordre des médecins (Cnom), qui recommande « que le développement des dispositifs techniques ayant recours à l’intelligence artificielle soit incité à aller dans le sens d’un marché industriel d’aide à la décision médicale et non pas vers celui qui dicterait au médecin comme au patient une décision rendue par l’algorithme qui s’imposerait à eux sans être susceptible de critique ou de transgression. »
Reste l’enjeu de la « minoration relative de la prise en compte des situations individuelles ». Autrement dit, comment le numérique peut accentuer l’application au niveau individuel de résultats obtenus sur des groupes de population ? « Cet enjeu éthique est associé à la nature même des algorithmes qui reposent sur des calculs de probabilités reposant sur des traitements massifs de données », expose le rapport.
Vers de nouveaux dispositifs de régulation
C’est la question d’une « systématisation de raisonnements fondés sur des modèles dont des limites peuvent être liées à leur capacité à prendre en compte l’ensemble des caractéristiques et des préférences de chaque patient ». Pour les auteurs, ces enjeux éthiques « doivent faire l’objet de dispositifs de régulation ».
Comment se délier de ces défis éthiques dans le développement de la médecine algorithmique ? « La personne doit pouvoir être informé préalablement du recours à un dispositif numérique dans son parcours de prise en charge en santé » : le rapport préconise notamment l’insertion d’un principe de « garantie humaine » du numérique, qui « permettrait à la France de se positionner positivement précurseur au niveau international ».
Une loi pour bientôt ?
Cela signifierait « des procédés de vérification régulière – ciblée et aléatoire – des options de prise en charge proposées par le dispositif numérique » et « l’aménagement d’une capacité d’exercice d’un deuxième regard médical humain à la demande d’un patient ou d’un professionnel de santé ».
« Cet aspect du numérique en santé sera-t-il retenu comme une grande priorité dans le cadre de la future loi ? », s’est interrogé le Pr Jean-François Delfraissy, président du CCNE, lundi lors d’un colloque organisé à l'occasion de la publication officielle du rapport, rapporte l’APMnews. « On a tous les éléments pour penser que oui, mais il faut être prudent », a-t-il ajouté.