Tribune : le Coronavirus et S.A.R.R.A.

Dans son roman d'anticipation, David Gruson - directeur du programme Santé du Groupe Jouve – Fondateur d’Ethik-IA et membre de la Chaire Santé de ScPo Paris - imaginait la prise en charge d'une épidémie de type Ebola à Paris, par une intelligence artificielle, S.A.R.R.A. Dans cette tribune qu'il nous a fait parvenir, il établit les ressemblances entre la gestion actuelle du coronavirus et ce qu'il avait imaginé dans son roman. 
 

"Dans un contexte de gestion de crise en cours, toutes les pensées doivent d’abord être tournées vers les victimes, leurs familles et les professionnels qui œuvrent en Chine, en France et dans de nombreux pays à enrayer le développement épidémique du coronavirus. Il est évidemment beaucoup trop tôt pour en déterminer l’ampleur exact et il convient, bien sûr, de relayer avec force les appels de la Ministre de la Santé et de l’OMS à rester sur les données scientifiques et à éviter les fausses informations en tous genres qui circulent dans la séquence actuelle.

Depuis que cette épidémie est venue sur la scène médiatique, j’ai reçu de nombreux témoignages de lecteurs de la fiction SARRA une intelligence artificielle, publiée en 2018[1], et m’appelant à commenter les nombreux points de similitudes avec ce que nous vivons en ce moment. Je ne l’aurais sans doute pas fait de ma seule initiative mais, pour être direct, je ne peux évidemment pas me réjouir de la justesse de l’anticipation et c’est cette notion qu’il me semble utile de relever.
Car l’un des objectifs de « SARRA » était précisément de donner à voir une dystopie pour bien faire mesurer les risques combinés d’une gestion de risque épidémique et d’un usage sans retenue éthique de la révolution technologique de l’intelligence artificielle dans le domaine de la santé.
Mon message – qui découlait des enseignements que j’avais retirés d’une situation très complexe de suspicion de cas d’Ebola que nous avions affrontée fin 2014 avec les équipes du CHU de La Réunion – n’est donc pas encore suffisamment passé. En effet, tout laisse penser que notre réalité risque d’emprunter les traits du Monde de SARRA :

  • Un Monde de com’, d’abord. Tout est dit. A tort et à travers. Les médias s’emballent, les pires scénarios s’échafaudent en laissant au second plan une analyse rationnelle de gestion de risques. Par le prisme des réseaux sociaux, nous glosons, clashons, sur-élaborons un réel qui, comme dans les prédictions les plus noires d’un Paul Watzlawick dans La Réalité de la Réalité, finit par se résumer au message lui-même. Dans cet embrouillamini, les acteurs qui prennent la parole – et du recul – pour en revenir aux faits et aux données scientifiques ont un mérite devenu très rare en valeur relative face au tombereau de fake news dont nous sommes abreuvés ;

 

  • Un monde d’intérêts, ensuite. La fiction était le théâtre des logiques industrielles et économiques d’acteurs globaux (l’entreprise chinoise FU-TECH et l’américaine PanGoLink) mais aussi des intérêts de gouvernements cherchant à apparaître « en maîtrise » de la situation, quitte parfois à travestir le réel. La santé publique y était, presque à chaque instant, mise en balance avec ces autres dimensions. Il serait évidemment abusif et inexact d’en venir à des constats aussi lapidaires dans la gestion du coronavirus. Mais nous n’en sommes peut-être qu’au début du processus et cette « pesée » d’intérêts pourrait se faire jour si la magnitude des impacts politiques et économiques atteignait un haut potentiel de déstabilisation de systèmes en place ;

 

  • Un monde de prismes divergents dans la gestion de la crise. Dans « SARRA », je dressais le tableau de l’application brutale d’une quarantaine pour 90 000 personnes en plein cœur de Paris, mesure assortie d’un cortège d’incompréhensions et de tentatives d’évitement. L’IA finissait par en venir à des choix radicaux dans la gestion de la crise en portant atteinte à quelques-uns dans l’intérêt hyper-rationnalisé – sans états d’âme humanistes – de la protection du plus grand nombre. Dans la gestion du coronavirus, alors que la Chine met en œuvre des mesures drastiques de confinement de millions de personnes dans une logique de défense de l’intérêt collectif, les pays occidentaux retiennent d’abord le prisme de la protection des personnes de leurs ressortissants. L’individu ou le collectif ? Qui doit l’emporter dans la santé publique du XXIe siècle ? Ce questionnement renvoie bien sûr aux systèmes de valeurs éthiques mais aussi aux modes d’organisations – libérales ou illibérales, démocratiques ou autoritaires – de nos sociétés ;

 

  • Un monde de caricatures et de résurgence d’une certaine peur de l’Autre. Dans SARRA, en 2025, les « robots chinois » de FU-TECH interviennent comme un repoussoir pour nos concitoyens. En 2020, l’ineptie est peut-être parfois plus grande encore. J’ai déjà entendu parler d’un « virus chinois » (??!!) et les médias relayent des réactions complètement irrationnelles de soudaine défiance vis-à-vis de tout ce qui vient de Chine ;

 

  • Un monde où nous sommes à la remorque de la technologie, enfin. Un écart est encore à relever ici par rapport à la fiction. Certes, l’IA est déjà présente dans la gestion du coronavirus avec la présentation de modèles numériques prédictifs du développement épidémique. Nous n’en sommes pas encore à « SARRA » et à la production automatisé d’un vaccin synthétisé par l’IA pour répondre à la diffusion du pathogène. Mais mesurons bien que les briques technologiques sont déjà en place pour cela : dès juillet 2019, une équipe australienne de l’Université Flinders avait, en effet, communiqué sur la production automatisée d’un adjuvant au vaccin de la grippe saisonnière par intelligence artificielle[2]. Considérons également que cette épidémie de coronavirus se déclenche dans l’un des pays les plus avancés dans le domaine de l’intelligence artificielle (IA) en santé. La Chine a été capable de construire en dix jours un hôpital à Wuhan. Si l’épidémie devait encore s’aggraver, le recours aux dernières avancées permises par la technologie pour répondre au risque y serait en toute logique examiné.

 
J’ai déjà eu l’occasion de l’écrire dans ces colonnes : le pire n’est jamais sûr. Et il nous appartient de l’éviter. La France a, avec l’Europe, un rôle à jouer pour cela. Elle doit défendre sans relâche un parti pris de recul et d’esprit critique médical et scientifique dans la gestion de l’épidémie elle-même. Face à l’IA et à la technologie, notre pays doit être aussi celui de la Garantie Humaine, notion introduite dans la révision en cours de la loi de bioéthique. L’objectif opérationnel est de s’ouvrir à l’innovation permise par l’IA en santé tout en supervisant la Machine pour éviter des dérives hyper-rationalistes dans une logique d’application sans retenue – et sans conscience – de l’intérêt du plus grand nombre. Pour être efficaces face à la crise, restons d’abord Humains."
 

 S.A.R.R.A, un roman d'anticipation sanitaire
 
2025. Une intelligence artificielle est chargée de trouver une réponse à un risque d’épidémie d’Ebola en plein coeur de Paris. Toutes les hypothèses circulent sur l’origine de la contamination, y compris celle du terrorisme biologique. La Machine administrative, politique et médiatique est prête à s’emballer tandis que le programme SARRA – capable de synthétiser un vaccin pour répondre à l’épidémie – est mis en fonctionnement.
 
Sorti en juin 2018 par la maison d’édition d’anticipation Beta Publisher, S.A.R.R.A. a tout de suite rencontré le succès, porté par une campagne de trailers sur les réseaux sociaux dans lesquels sont mises en scène des situations tirées de la crise évoquée dans le livre. 
La singularité et la force de S.A.R.R.A. est précisément de donner à voir une IA « ni bonne, ni mauvaise » en soi. Mais une IA qui agit dans un contexte de crise majeure et qui doit répondre aussi au jeu de nos fragilités humaines et de nos aspirations, petites ou grandes, justes ou méprisables, et souvent contradictoires entre elles.
Un tome 2 est attendu pour le mois de mars prochain et une adaptation sous forme de série télé est dans les tuyaux.
 
Portrait de David Gruson

Vous aimerez aussi

Le projet de loi relatif à la bioéthique a été présenté lors du Conseil des ministres du 24 juillet dernier. L’occasion de faire un point sur son...
Comme quoi venir avec sa bite et son couteau ne suffit pas
Médecin de formation, Pierre-Louis Laget, est chercheur en histoire du patrimoine à Lille et spécialiste de l’histoire hospitalière. Avec lui, What’s...

Le gros dossier

 

Le magazine What’s Up Doc est édité par l’agence Planète Med.