Watson, l’IA d’IBM, donne de mauvais conseils dans le traitement des cancers

Aug 3, 2018
Vote on Hacker News

watson-ia-ibm-mauvais-conseils-cancers

Une enquête révèle que, utilisée dans un centre de recherche et de traitement sur le cancer, l’Intelligence Artificielle (IA) d’IBM, Watson, a donné des recommandations dangereuses. De plus, l’IA n’était pas entraînée à partir de cas réels, mais de recommandations de médecins…

Le docteur Watson risque-t-il de vous tuer ? La question est sans doute exagérée, car l’IA d’IBM n’a encore jamais été utilisée pour prendre seule des décisions en terme de traitement. Mais des documents internes à IBM, révélés par Andrew Norden, ancien chef adjoint chargé de la santé de la société, prouvent une utilisation inquiétante dans le cadre d’un partenariat avec le Mémorial Sloan-Kettering Cancer Center (MSKCC).

Quand Watson propose un traitement qui… aggrave l’hémorragie d’un patient !

Le but était d’entraîner l’IA à diagnostiquer et à traiter les patients atteints de cancers, afin d’en faire un adjuvant efficace à la recherche et aux traitements de cette maladie. Mais les documents d’IBM prouvent que l’IA a très régulièrement fait des mauvaises recommandations, parfois dangereuses.

Le bon docteur Watson a par exemple conseillé à un patient atteint d’un cancer, qui saignait abondamment, de prendre un médicament dont un des effets secondaires est… d’aggraver les hémorragies ! Un conseil qui n’a pas été suivi, heureusement !

Un encadrement et un entraînement rigoureux sont indispensables à une IA bien portante

Les documents révèlent également que l’entraînement de Watson n’était pas rigoureux : au lieu de recevoir des données réelles de patients de l’hôpital, tout au long de leur traitement, l’IA était nourrie avec des propositions de traitement rédigées directement par des médecins, dans des cas hypothétiques. Et ce alors qu’un porte-parole d’IBM a affirmé que Watson avait pris en charge « plus de 84 000 patients »

Au bout du compte, cette affaire prouve que Watson n’est pas prêt d’être un bon conseiller pour le traitement du cancer. Elle est surtout emblématique de la nécessité d’un apprentissage rigoureux et d’un encadrement humain efficace pour pouvoir profiter sans risque des technologies liées à l’IA. Particulièrement dans le domaine du médical… Elémentaire, mon cher Watson ?