L’éthique algorithmique au chevet de la médecine numérique

Une éthique relookée en mode 4.0

Jérôme Béranger est chercheur (PhD) associé - Inserm 1027 de l’Université Paul Sabatier de Toulouse, co-fondateur du label ADEL que nous vous avons présenté la semaine dernière. il répond à nos questions sur le concept d’éthique en santé numérique

 

What’s up Doc. Dans votre dernier ouvrage : « Les Big Data et l’éthique » vous employez le terme d’ « éthique algorithmique ». Pouvez-vous nous dire ce que cela signifie concrètement ?

 

Jérôme Béranger. Y a-t-il une éthique propre au numérique ? Le digital crée de toute part des injonctions contradictoires qui ont par conséquent des répercussions éthiques spécifiques aux Nouvelles Technologies de l’information et la communication (NTIC). L’éthique algorithmique est une éthique appliquée aux NTIC afin de les accompagner et même de les encadrer. Elle a trois composantes :

-L’éthique des données, garantissant le traitement équitable de données et la protection des droits individuels, tout en permettant l’usage des Big Data à des fins scientifiques ou commerciales ;

-L’éthique des algorithmes, qui étudie les problèmes éthiques et de responsabilités des concepteurs de données scientifiques, concernant les conséquences imprévues et indésirables de celles-ci, ainsi que les occasions manquées sur la conception et le déploiement d’algorithmes complexes autonomes ;

-L’éthique des pratiques, identifiant un cadre éthique approprié pour façonner un code déontologique sur la gouvernance et la gestion des données.

 

WUD. Quels sont les enjeux et les apports de cette éthique algorithmique ?

 

JB. Le traitement des données numériques pose plusieurs problématiques liées au cycle de vie de la donnée :

-La protection : perte, mutation, transformation, etc. ;

-La sécurité : vol, malveillance, usurpation d’identité, etc. ;

-La réputation de l’usager : usage incontrôlé, litige, réseaux sociaux, etc. ;

-Le contrôle : respect de la propriété intellectuelle, de la vie privée, de la protection des données sensibles, du droit à l’oubli, etc. ;

-La dépendance : maîtrise du processus, contrats, visibilité et changements, etc.

En regard, cinq principaux domaines de préoccupations éthiques sont identifiés : le consentement éclairé ; la propriété des données ; la vie privée (comprenant l’anonymisation et la protection des données) ; la fracture digitale entre ceux qui ont accès au numérique et ceux qui l’ont pas ; l’épistémologie et l’objectivité.

 

Le principe de notre éthique algorithmique appliquée aux Big Data médicales est de permettre une étude complète des données de santé à caractère personnel, de l’interface homme-machine ou encore de l’infosphère qui concilie à la fois la technologie et l’éthique médicale. Notre modélisation permet de partir de l’universel, du général et de l’abstrait pour tendre vers la pratique, le particulier et le concret.

 

WUD. Quelles sont les préconisations éthiques sur la conception, la mise en place et l’usage des Big Data en santé ?

 

JB. La gouvernance numérique devient une stratégie indispensable à l’entreprise 2.0 qui souhaite tendre vers un modèle 4.0. Elle doit comprendre de nombreuses fonctionnalités telle que la maîtrise avec traçabilité des dispositifs et des accès, déduplication des données, suppression des données et des contenus non pertinents. Ou encore la restitution avec les fonctions de recherche et de visualisation, la recherche sémantique et spontanée, le Data Mining. Mais ce n’est qu’un aperçu ! C’est un travail de réflexion en amont du développement technique, qui doit se poursuivre tout le long de la création des outils et des données, et encore après… C’est ce que j’appelle la « responsability by design » ou l’ « ethics by design » !

 

WUD. Où en sommes-nous en France des considérations éthiques en santé numérique ? Votre label ADEL est un moyen de faire évoluer les choses (cf. article WUD), mais que faut-il d’autres : formation ? recherche ? réglementation ?...

 

JB. La médecine 4.0, s’appuyant entre autres sur le traitement des Big Data, doit apporter du sens à ces données. Cela passe nécessairement par des algorithmes sémantiques et éthiques, ainsi que par la construction d’ontologies qui consistent à représenter les risques et à apprendre aux ordinateurs à travailler pour le bien-fondé des personnes en tendant vers une info-éthique.

L’évolution de la relation médecin-patient appelle une culture de la donnée qui fait, aujourd’hui, encore défaut.

Se pose également le problème de la transparence des algorithmes de recommandations et de traitement. Un outil conçu par l’homme ne peut être neutre et objectif. C’est pourquoi il apparaît fondamental d’en vérifier le contenu et la fonctionnalité via un encadrement rigoureux, et mettre en place des procédures de recours.

Notre société doit donc se doter de moyens afin de pouvoir évaluer systématiquement les finalités, l’impact et les répercussions de ces dispositifs algorithmiques. Cela passe nécessairement par une éthique algorithmique que l’on intègrerait dans les formations professionnelles et universitaires, la recherche scientifique et les réglementations en vigueur qui concernent l’écosystème digital…

 

 

Bibliographie pour aller plus loin :

Les systèmes d’information en santé et l’éthique, d’HIppOCRaTE à [email protected], 2015, Iste éditions.

Les Big Data et l’éthique, le cas de la datasphère médicale, 2017, Iste éditions.

 

 

Source: 

Propos recueillis par Alice Deschenau

Portrait de La rédaction

Vous aimerez aussi

Lequel d’entre nous ne s’est jamais laissé aller à donner un conseil médical par téléphone ? Un p’tit coup de fil plutôt que 10 min de consult’,...

Le gros dossier

 

Le magazine What’s Up Doc est édité par l’agence Planète Med.