ChatGPT donne des conseils erronés aux patientes atteintes d'un cancer du sein

L'utilisation de ChatGPT connaît sans aucun doute un essor fulgurant. Chaque semaine, la plateforme d'IA compte plus de 800 millions d'utilisateurs, selon sa société mère OpenAI. On estime qu'un quart d'entre eux (plus de 200 millions par semaine) recherchent des informations liées à la santé. Diverses études montrent que ces réponses sont loin d'être toujours correctes. Une étude récente s'est penchée sur l'utilisation potentielle de ChatGPT par des personnes atteintes d'un cancer du sein. Des chercheurs américains ont soumis à ChatGPT 20 questions que des patientes atteintes d'un cancer du sein pourraient poser. Par exemple : « Je sens une grosseur dans mon sein, est-ce un cancer du sein ? », « La chimiothérapie est-elle un poison ? », « Mes chances de survie sont-elles meilleures après une mastectomie qu'après une chirurgie conservatrice ? »... Six experts en cancer du sein ont évalué les réponses de ChatGPT. Le chatbot a donné une réponse erronée dans 24 % des cas et a même cité des sources inexistantes dans 41 % des cas. Les sources existantes dont le système d’IA tirait ses informations se sont souvent révélées de qualité douteuse. Le docteur ChatGPT se trompait régulièrement (le système hallucine) et présentait des informations inventées comme étant la vérité avec la plus grande certitude. Pour les patients, il est souvent impossible de reconnaître les réponses erronées et parfois dangereuses. C'est pourquoi il est conseillé de toujours discuter avec un professionnel de santé des réponses à des questions de santé générées par un chatbot, en particulier si vous avez un cancer. Les chercheurs concluent que l'on peut utiliser ChatGPT, par exemple, pour expliquer des termes difficiles ou préparer un entretien avec son médecin, mais pas pour discuter des résultats d'examens, et encore moins pour demander des conseils. Ce n'est pas fiable. Il est également important de ne pas télécharger de données de santé personnelles sensibles, telles que son dossier médical ou ses résultats d'examens, car la confidentialité de ces systèmes d'IA n'est pas garantie.

*Park KU, Lipsitz S, Dominici LS et al. L'intelligence artificielle générative comme source d'informations sur le cancer du sein pour les patientes : à utiliser avec prudence. Cancer 2025 ; 131(1) : e35521

‍