Comment l’Intelligence Artificielle discrimine les personnes âgées… et quelque-part les maltraite

Les stéréotypes négatifs envers les personnes âgées inclues dans les systèmes d’intelligence artificielle (IA), de plus en plus présents dans le domaine de la santé, menacent directement la qualité des soins aux aînés, met en garde l’OMS mercredi.

Dans le domaine de la santé, le potentiel de l'Intelligence Artificielle est énorme pour améliorer la qualité des soins mais "l'encodage de stéréotypes, de préjudices ou de discrimination dans l'IA ou leur manifestation dans la façon dont on l'utilise pourrait miner la qualité des soins pour les personnes âgées", souligne l'Organisation mondiale de la santé dans un nouveau mémoire sur le sujet.

L'IA repose sur l'utilisation de vastes bases de données qui sont souvent compilées, partagées et analysées de manière peu transparente.

Comme cela a déjà été démontré pour le genre ou l'origine, ces vastes bases de données peuvent être biaisées et reproduire voire amplifier des pratiques âgistes déjà largement répandues dans les systèmes de soins.

"Les hommes âgés bénéficient souvent d'examens plus poussés que les femmes âgées, ou ont plus de chances de recevoir certains traitements ou soins préventifs", souligne la docteure Vania de la Fuente-Nunez qui fait partie de la cellule "vieillir en bonne santé" de l'OMS, dans un entretien à l'AFP.

Elle pointe aussi du doigt les accès aux soins intensifs ou à de l'oxygène décidés sur la base de l'âge, durant les phases les plus critiques de la pandémie de Covid-19.

Les algorithmes de l’intelligence artificielle peuvent avoir un effet systématiquement discriminant 

"Les algorithmes de l'IA peuvent incruster les inégalités existantes dans le domaine de la santé et avoir un effet systématiquement discriminant beaucoup plus large qu'un individu biaisé", souligne le mémoire.

Ces défauts peuvent encore être aggravés par la sous-représentation des personnes âgées dans les bases de données utilisées. En basant les algorithmes sur des données cumulées à partir des populations jeunes on prend le risque de manquer ce qui est spécifiques aux aînés en matière de santé.

Pour autant, le mémoire souligne aussi les bénéfices que la santé des personnes âgées peut tirer de l'IA, en matière de prévention des chutes ou d'autres urgences médicales, grâce à la collecte de données par le biais d'accessoires connectés par exemple.

L'IA peut ainsi aider à faire une médecine plus préventive en permettant de mieux prédire l'évolution d'une maladie ou les risques.

Mais si elle permet de compenser en partie un manque de personnel, l'IA risque aussi de réduire le contact physique entre soignants et patients âgés.

Et par conséquent "on limite les occasions de combattre l'âgisme à travers les interactions entre générations", souligne la docteure de la Fuente-Nunez.

Entre l’IA et les personnages âgées « un énorme fossé numérique »

Elle souligne un autre risque : "nous voyons cette tendance à créer (ces systèmes) pour les personnes âgées plutôt qu'avec elles".

Et il y a bien sûr "un énorme fossé numérique", prévient la docteure, lequel peut aussi isoler les aînés, moins enclins à adopter de nouvelles technologies, et les mettre en marge d'un système de santé où la numérisation s'impose à marche forcée.

Le mémoire recommande de remédier à ce problème en informant mieux les personnes âgées sur le numérique mais aussi de les impliquer dans tous les aspects qui peuvent affecter la façon dont on les soigne.

Il faut les associer non seulement à l'élaboration des algorithmes mais aussi les inclure dans des comités d'éthique par exemple ou s'assurer que les agences sanitaires les consultent pour détecter et éliminer les biais en amont.

"L'IA est porteuse de promesses, mais il faut être prudent parce qu'elle présente aussi des risques", a résumé la docteure de la Fuente-Nunez.

Avec AFP

Portrait de La rédac'

Vous aimerez aussi

« Bonjour Monsieur. Je vous en prie, installez-vous. Alors… comment allez-vous depuis la dernière fois ? »

Et si, dans quelques années, cette...

Avec leur appli Wistim, Alexandra Mesner et Sarah Peyrelevade digitalisent le parcours de soins en AMP afin de le simplifier. Côté patientes comme...

Le système de santé dans son ensemble est responsable de 8 % des gaz à effet de serre en France. Un chiffre trois fois plus important que la...

Le gros dossier

 

Le magazine What’s Up Doc est édité par l’agence Planète Med.