Dans une déclaration à l’agence Lusa, Carlos Cortes souligne que « l’IA doit être développée pour servir la médecine et jamais pour la défigurer », plaidant pour la création urgente d’une agence nationale pour l’IA en santé, dotée d’autonomie, de multidisciplinarité et de compétences techniques pour superviser et réguler l’utilisation de l’IA dans le contexte clinique.
« Cette entité devrait fonctionner comme une structure permanente d’observation et de protection des valeurs fondamentales de la médecine : la centralité du patient, le respect de l’acte médical, la relation de confiance médecin-patient et la défense de soins de santé humanisés », a-t-il déclaré.
« La prolifération de systèmes d’IA générative, souvent sans contrôle de qualité ou validation scientifique, peut produire des contenus cliniques erronés, biaisés ou décontextualisés, amplifiant ainsi les phénomènes de désinformation médicale », d’autant plus que, lorsque les filtres corrects sont appliqués, ces outils peuvent générer des recommandations apparemment crédibles, mais incorrectes.
Le président affirme que, « tout comme la désinformation compromet la littératie en santé, elle sape la confiance dans le savoir médical et peut induire des comportements à risque chez les patients », soulignant qu’il est essentiel que l’utilisation de l’IA en santé se passe dans des environnements supervisés.
Carlos Cortes conclut en disant qu' »il est encore une fois indispensable que les médecins soient les validateurs de l’information clinique et que leur autorité technico-scientifique ne soit pas diluée par des automatismes opaques ».
Cette semaine, la plateforme espagnole Maldita a alerté sur la circulation sur des sites et réseaux sociaux de témoignages de personnes ayant demandé des diagnostics à des modèles d’IA.
Des affirmations comme « j’ai demandé à ChatGPT de lire ma main et il a détecté un cancer de la peau » ou « ChatGPT diagnostique une femme avec un cancer un an avant les médecins » circulent sur les réseaux sociaux, précisant que l’outil d’IA est capable de réaliser des diagnostics médicaux.
Cependant, les résultats des ‘chatbots’ d’IA sont basés sur des probabilités, les données d’apprentissage peuvent ne pas être fiables et ils ne peuvent pas effectuer l’analyse exhaustive qu’un médecin fait, précise la plateforme.