Article
Aussi prometteuse qu’il soit, le développement de l’IA dans le domaine de la santé ne doit pas faire l’impasse sur l’éthique. C’est est en tout cas la conviction défendue par l’OMS dans un guide de bonnes pratiques dédié à l’éthique et à la gouvernance de l’intelligence artificielle dans le domaine de la santé. « Selon le rapport, les technologies doivent mettre l'humain au cœur de sa conception, de son déploiement et de son utilisation », résume le directeur général, Dr Tedros, après que l’OMS ait travaillé dix-huit mois sur la question.
Diagnostic, traitement, recherche, veille sanitaire… Les apports potentiels de l’IA dans le domaine de la santé sont indéniables. Un nouvel élan que l’organisation onusienne lie à de nombreux défis. « Notamment une collecte et une utilisation contraires à l’éthique de données relatives à la santé, les biais introduits dans les algorithmes et les risques pour la sécurité des patients, la cybersécurité et l’environnement », énumère brièvement l’organisation de santé dans ce rapport.
Pour favoriser l’émergence d’une IA humaine, l’OMS, assistée de spécialistes « de premier plan en éthique, technologie numérique, droit, droits de l’homme », a résumé les principes fondateurs qui doivent régir l’arrivée de ces nouvelles technologies en santé. Une ambition qu’elle cantonne à six piliers. À savoir :
- Protéger l’autonomie humaine. « L'utilisation de l'IA peut conduire à des situations dans lesquelles le pouvoir de décision pourrait être transféré aux machines », assure l’OMS. Un scénario catastrophe qui doit être évité en laissant la décision médicale et le contrôle des systèmes de santé entre des mains « humaines. » « Le respect de l'autonomie humaine implique également [de] garantir que les prestataires disposent des informations nécessaires pour faire une utilisation sûre et efficace des systèmes d'IA et que les gens comprennent le rôle que de tels systèmes jouent dans leurs soins », poursuit l’OMS.
- Promouvoir le bien-être et la sécurité des personnes ainsi que l’intérêt public. Pour l’OMS, pas de doute : les technologies de l’IA « ne doivent pas nuire aux gens ». Un objectif auquel les concepteurs des technologies d’IA doivent répondre en s’appuyant sur un cadre réglementaire strict « en matière de sécurité, d'exactitude et d'efficacité pour des cas d'utilisation ou des indications bien définies. »
- Assurer la transparence, la clarté et l’intelligibilité. « Les technologies d'IA devraient être intelligibles ou compréhensibles pour les développeurs, les professionnels de la santé, les patients », assure l’OMS. Outre rendre les informations accessibles, cette exigence éthique passe par « rendre la technologie de l'IA explicable en fonction de la capacité » de compréhension de l’interlocuteur. Un moyen efficace de s’assurer d’une véritable transparence. « Ces informations facilitent une consultation publique significative […] sur la façon dont la technologie est conçue et comment elle devrait ou ne devrait pas être utilisée », assure l’organisation onusienne.
- Favoriser la responsabilité et l’imputabilité. Bien que les tâches soient réalisées par une machine, l’OMS souhaite que la responsabilité des actions menées par l’IA soit laissée aux « parties prenantes ». « Si quelque chose ne va pas avec une technologie d'IA, il devrait y avoir une responsabilité, débute l’OMS. Des mécanismes appropriés devraient être disponibles pour que les individus et des groupes qui sont affectés par les décisions basées sur des algorithmes puissent obtenir réparation »
- Garantir l'inclusion et l'équité. Qui dit nouvelles technologies attenantes à la santé dit impérieuse nécessité d’accessibilité. « L'inclusivité exige que l'IA pour la santé soit conçue pour encourager l'utilisation et l'accès les plus larges possibles, indépendamment de l'âge, du sexe, du revenu, de la race, de l'origine ethnique, de l'orientation sexuelle, des capacités ou d'autres caractéristiques protégées par les codes des droits de la personne », résume l’OMS.
- Promouvoir une IA réactive et durable. L’IA doit prendre en compte l’environnement sociétal dans lequel elle s’inscrit. Une exigence éthique qui passe notamment par la prise en compte de son impact écologique. « La durabilité exige également que les gouvernements et les entreprises se préparent à faire face aux perturbations prévues sur les lieux de travail », poursuit l’OMS, avant de citer notamment l’adaptation des professionnels de santé aux systèmes d’IA et les pertes d’emplois que ces derniers pourront occasionner.
Ces ambitions formulées, reste à savoir si elles seront écoutées. « L'OMS espère que ces principes serviront de base aux gouvernements, aux développeurs, aux entreprises, à la société civile et aux organisations intergouvernementales afin d’adopter une approche éthique de l’IA en santé », conclut l’OMS.