« Il est fondamental d’affirmer que l’IA ne peut pas et ne doit pas être un substitut au jugement clinique, à l’expérience médicale ni au contact humain. Le diagnostic est une partie essentielle de l’acte médical, qui implique non seulement des données objectives mais aussi une interprétation contextuelle, une écoute active et de l’empathie », a déclaré Carlos Cortes à Lusa.
Le doyen a ajouté que l’IA doit être vue comme un outil d’aide à la décision clinique et non comme un agent autonome de diagnostic.
Carlos Cortes insiste sur le fait que les outils d’IA ne sont pas équipés pour faire des diagnostics, car ils manquent de « preuve scientifique solide, de mécanismes de validation rigoureux et, surtout, de transparence algorithmique qui permettrait aux médecins de comprendre et de faire confiance aux décisions suggérées ».
La Commission pour l’Intelligence Artificielle de l’Ordre des Médecins souligne que « l’adoption de l’IA en médecine ne doit se faire qu’à partir d’une validation scientifique, avec explicabilité, responsabilisation et supervision médicale continue. L’intégration de l’IA dans les flux cliniques exige le respect de principes éthiques tels que l’autonomie, la non-maléfience et la justice ».
En cas de diagnostics incorrects, le doyen mentionne que les « conséquences peuvent être très graves : retards dans le début des thérapies appropriées, aggravation des états cliniques, exposition à des traitements inutiles ou inappropriés, souffrances évitables et même perte de vies humaines », tout en soulignant que de tels systèmes ne prennent pas de responsabilité morale.
En outre, l’absence d’explicabilité de nombreux algorithmes complique l’identification des erreurs, floute la frontière de la responsabilité et menace la confiance des patients envers les médecins et la médecine.
Le responsable ajoute qu’au Portugal, aucun cas où l’utilisation de l’IA aurait entraîné des conséquences cliniques significatives n’a été identifié, bien que l’absence de cas ne doive pas être confondue avec l’absence de risque.
« La mise en œuvre de technologies disruptives exige une veille continue, une capacité d’audit, des systèmes de signalement structurés et une réglementation proactive », d’autant plus que le pays ne dispose pas d’une entité dédiée au suivi de l’IA dans la santé, ce qui représente un « manque grave dans le secteur où la sécurité clinique, les droits des patients et l’intégrité de l’acte médical sont en jeu », conclut le doyen.
Les déclarations du doyen surviennent après que la plateforme espagnole Maldita a alerté sur la circulation sur les ‘sites’ et réseaux sociaux des témoignages de personnes ayant demandé des diagnostics à des modèles d’IA.
Des allégations telles que « j’ai demandé à ChatGPT de lire ma main et il a détecté un cancer de la peau » ou « ChatGPT a diagnostiqué une femme avec un cancer un an avant les médecins » circulent sur les réseaux sociaux, affirmant que l’outil d’IA est capable de poser des diagnostics médicaux.
Cependant, les résultats des ‘chatbots’ d’IA se basent sur des probabilités, les données d’entraînement peuvent ne pas être fiables et ne peuvent pas effectuer l’analyse approfondie qu’un médecin réalise, indique la plateforme.