TROUVER UN POSTE
OU UN REMPLA'

rechercher
Vous devez choisir un critère
TROUVER SA FORMATION

voir les formations
TROUVER SA BOURSE
DE RECHERCHE

Bourse Prix

voir les bourses de recherche
Enquêtes
Nous, médecins de 2030
Intelligence artificielle : qui est responsable en cas d’erreur médicale ?
What's up doc | numéro 36 | février 2018 | Thomas Moysan | Enquêtes
Réagir/commenter Ajouter aux favoris Envoyer Imprimer    Partager sur Facebook Partager sur Twitter Partager sur LinkedIn+  Partager
Le développement d’outils robotiques équipés d’intelligence artificielle dans le domaine de la médecine pourrait voir à l’avenir un vide juridique se creuser au détriment du corps médical.
La responsabilité du médecin-utilisateur de robots propulsés par des algorithmes qui intègrent dans leurs protocoles une forme d’IA se pose. L’enjeu ? Encadrer la prise de décision lorsqu’elle n’émane pas directement du corps médical humain. « Il y a urgence : le médecin n’aura qu’un droit d’opposition très rapide face à un acte thérapeutique qui lui paraîtra complètement anormal », alerte Alain Bensoussan, avocat spécialiste en droit des nouvelles technologies.

Dans le droit, rien n’existe : ni en France, ni à l’étranger

Aujourd’hui, les techniques d’IA ne sont pas encadrées dans le droit : rien n’existe, ni en France, ni à l’étranger. Les robots d’aide chirurgicale ou l’assistance au diagnostic pilotée par la Silicon Valley ne sont pas responsables légalement en cas d’erreur de jugement. Et pourtant, les algorithmes propulsant l'IA dans un bras robotisé ou une application médicale portent de lourdes responsabilités. « Lorsqu’il est en autonomie de décision, le robot décide de l’opération, de la stratégie de cette opération et de comment il va mener et analyser son propre protocole », explique Alain Bensoussan.

Aujourd’hui, le médecin utilisateur passe sur la plupart des outils existants d’une position d’acteur à une position de superviseur. « Ça revient à un dispositif médical avec la responsabilité du fabriquant du fait de produits défectueux », ajoute Me Bensoussan. La responsabilité légale reste donc entre les mains du médecin, mais « plus les robots vont être autonomes, plus il sera difficile pour le médecin de prendre ses responsabilités ».

(Cliquer sur l'image pour agrandir)


Vers un état-civil pour les robots ?

Car l’IA se glisse peu à peu dans les dispositifs robotisés qui ne sont pourtant que le prolongement de la main du chirurgien. « Le problème, c’est qu’il y a de l’intelligence artificielle même en fin d’exécution. » Par exemple, pour corriger les vibrations de la main, le robot lui-même peut compenser, sans demander l’avis de l’utilisateur. Et les technologies qui amènent une prise d’initiative propre à un algorithme intelligent, conçu pour imiter les processus cognitifs du médecin, vont se multiplier dans les mois à venir.

Alors, quelles sanctions pour ces dispositifs en cas d’erreur médicale ? « Un système en cascade », imagine Alain Bensoussan. « Seraient responsables : en premier niveau le robot comme personne morale, puis le médecin-superviseur, et ensuite le propriétaire et le fabriquant ». Mais pour y arriver, les lignes de code informatique propulsant l’IA devraient se voir attribuer une identité électronique, « avec une gouvernance, un capital, une adresse », explique ce spécialiste, militant pour un droit des robots sans lequel il ne sera pas possible, selon lui, de réguler ou sanctionner, faute de responsables.
What's up doc | numéro 36 | février 2018 | Thomas Moysan | Enquêtes
Réagir/commenter Ajouter aux favoris Envoyer Imprimer    Partager sur Facebook Partager sur Twitter Partager sur LinkedIn+  Partager
LES AUTRES ARTICLES « NOUS, MÉDECINS DE 2030 »
LIRE AUSSI...
LE GOUVERNEMENT, CRÉATEUR DE PRÉVENTION ?
D’ici 2022, le Gouvernement compte investir 400 millions d’euros dans la prévention. Une démarche globale plutôt inédite (...)
L’HOMÉOPATHE EST UN MÉDECIN COMME LES AUTRES
Tempête dans un verre d’eau pour les uns, véritable révolution pour les autres, le phénomène #Fakemed qui agite actuellement (...)
NUTRIDIAL : SUIVI DE PATIENTS SOUS DIALYSE
Trois millions de Français sont touchés par l’insuffisance rénale, dont près de 41 000 concernés par la dialyse. Pour ces (...)