Article
L'OMS a publié une analyse des dangers et des avantages de l'utilisation des grands modèles multimodaux (LMM), un type de technologie d'IA générative à croissance rapide, en matière de santé, jeudi 16 janvier. Ces LMM peuvent utiliser plusieurs types de données, y compris du texte, des images et des vidéos, et générer des résultats qui ne sont pas limités au type de données introduites dans l'algorithme. "On prévoit que les LMM seront largement utilisés et appliqués dans les soins de santé, la recherche scientifique, la santé publique et la mise au point de médicaments", indique l'OMS.
L'organisation définit cinq domaines qui pourrait utiliser cette technologie : le dépistage, par exemple pour répondre aux demandes écrites des patients; la recherche scientifique et le développement de médicaments; l'enseignement médical et infirmier; les tâches administratives; et l'usage par les patients, par exemple pour l'examen des symptômes.
Du potentiel… mais aussi des erreurs
Bien que cette technologie présente un grand potentiel, l'OMS souligne qu'il a aussi été montré que ces LMM peuvent produire des résultats faux, inexacts, biaisés, ou incomplets, ce qui pourrait évidemment avoir des conséquences fâcheuses. "Alors que les LMM sont de plus en plus utilisés dans les soins de santé et la médecine, les erreurs, les mauvais usages et, en fin de compte, les préjudices causés aux individus sont inévitables".
L’organisation formule donc plus de 40 recommandations à l'intention des gouvernements, des entreprises technologiques et des prestataires de soins de santé sur la manière de tirer parti de cette technologie en toute sécurité.
Éviter un monopole des géants de la tech
L'OMS lance un appel à la mise en place de règles en matière de responsabilité pour "garantir que les usagers lésés par un LMM soient correctement indemnisés ou disposent d'autres formes de recours". La conformité des LMM avec les réglementations existantes, notamment en matière de protection des données, suscite aussi des inquiétudes.
Par ailleurs, le fait que les LMM soient souvent développés et déployés par les géants de la technologie suscite également des inquiétudes et risque d'asseoir la domination de ces entreprises, selon l'OMS. L'organisation recommande donc que les LMM soient développés non seulement par les scientifiques et les ingénieurs, mais aussi par les professionnels de la santé et les patients.
https://www.whatsupdoc-lemag.fr/article/ia-en-sante-comment-distinguer-le-bon-grain-du-bullshit
L'OMS met également en garde contre la vulnérabilité des LMM aux risques en matière de cybersécurité, qui pourraient mettre en péril les informations relatives aux patients, voire la fiabilité des soins de santé. Enfin, elle conclut que les gouvernements devraient charger des autorités de régulation d'approuver l'utilisation des LMM dans les soins de santé, et demande la mise en place d'audits afin d'évaluer l'impact de cette technologie.
Avec AFP