L'IA en médecine et la garantie humaine : la machine n’aura (presque) pas le dernier mot

Jamais, au grand jamais, on ne verra d’IA autonome prenant des décisions toute seule sans en référer à un médecin ! C'est l’Union européenne qui le prévoit, dans l’article 14 de l’AI Act, le règlement adopté en 2024 pour encadrer le développement de ces technologies. Les concepteurs de modèles d’IA doivent prévoir « un contrôle effectif par des personnes physiques pendant leur période d’utilisation », exige le législateur européen. Ces personnes physiques doivent notamment être en mesure de « surveiller correctement » les modèles, « y compris en vue de détecter et de traiter les anomalies, les dysfonctionnements et les performances inattendues ».

Mais surveiller l'IA ne risque-t-il pas de limiter le gain de temps ? 

Voilà qui est rassurant quand on connaît la capacité de cer