Le Dr Sina Bari, chirurgien en exercice et leader des soins de santé en IA chez la société de données iMerit, a pu constater par lui-même comment ChatGPT peut induire les patients en erreur avec des conseils médicaux erronés.
« J’ai récemment reçu un patient et lorsque j’ai recommandé un médicament, il a fait imprimer un dialogue de ChatGPT indiquant que ce médicament avait 45% de chances de provoquer une embolie pulmonaire », a déclaré le Dr Bari à TechCrunch.
Lorsque le Dr Bari a approfondi ses recherches, il a découvert que les statistiques provenaient d’un article sur l’impact de ce médicament sur un sous-groupe de personnes atteintes de tuberculose, qui ne s’appliquait pas à son patient.
Et pourtant, lorsque OpenAI a annoncé la semaine dernière son chatbot dédié ChatGPT Health, le Dr Bari a ressenti plus d’enthousiasme que d’inquiétude.
ChatGPT Health, qui sera déployé dans les semaines à venir, permet aux utilisateurs de parler de leur santé au chatbot dans un cadre plus privé, où leurs messages ne seront pas utilisés comme données de formation pour le modèle d’IA sous-jacent.
«Je pense que c’est génial», a déclaré le Dr Bari. « C’est quelque chose qui est déjà en train de se produire, donc le formaliser afin de protéger les informations des patients et de mettre certaines garanties autour de celles-ci (…) va le rendre d’autant plus puissant à utiliser pour les patients. »
Les utilisateurs peuvent obtenir des conseils plus personnalisés de ChatGPT Health en téléchargeant leurs dossiers médicaux et en les synchronisant avec des applications comme Apple Health et MyFitnessPal. Pour les personnes soucieuses de leur sécurité, cela déclenche immédiatement des signaux d’alarme.
Événement Techcrunch
San Francisco
|
13-15 octobre 2026
« Tout d’un coup, des données médicales sont transférées d’organisations conformes à la loi HIPAA vers des fournisseurs non conformes », a déclaré à TechCrunch Itai Schwartz, co-fondateur de la société de prévention des pertes de données MIND. « Je suis donc curieux de voir comment les régulateurs aborderaient cette question. »
Mais aux yeux de certains professionnels du secteur, le chat est déjà sorti du sac. Désormais, au lieu de rechercher les symptômes du rhume sur Google, les gens parlent à des chatbots IA : plus de 230 millions de personnes parlent déjà de leur santé à ChatGPT chaque semaine.
« C’était l’un des plus grands cas d’utilisation de ChatGPT », a déclaré à TechCrunch Andrew Brackin, partenaire de Gradient qui investit dans les technologies de la santé. « Il est donc tout à fait logique qu’ils veuillent créer une version plus privée, sécurisée et optimisée de ChatGPT pour ces questions de santé. »
Les chatbots IA ont un problème persistant d’hallucinations, un sujet particulièrement sensible dans le domaine de la santé. Selon le modèle d’évaluation de la cohérence factuelle de Vectara, le GPT-5 d’OpenAI est plus sujet aux hallucinations que de nombreux modèles de Google et Anthropic. Mais les entreprises d’IA voient le potentiel de remédier aux inefficacités dans le domaine de la santé (Anthropic a également annoncé un produit de santé cette semaine).
Pour le Dr Nigam Shah, professeur de médecine à Stanford et scientifique en chef des données pour Stanford Health Care, l’incapacité des patients américains à accéder aux soins est plus urgente que la menace que ChatGPT dispense de mauvais conseils.
« À l’heure actuelle, vous vous adressez à n’importe quel système de santé et vous souhaitez rencontrer le médecin de premier recours – le temps d’attente sera de trois à six mois », a déclaré le Dr Shah. « Si votre choix est d’attendre six mois pour voir un vrai médecin, ou de parler à quelqu’un qui n’est pas un médecin mais qui peut faire certaines choses pour vous, lequel choisiriez-vous ? »
Le Dr Shah pense qu’une voie plus claire pour introduire l’IA dans les systèmes de santé vient du côté des prestataires plutôt que du côté des patients.
Les revues médicales ont souvent rapporté que les tâches administratives peuvent consommer environ la moitié du temps d’un médecin de premier recours, ce qui réduit considérablement le nombre de patients qu’il peut voir au cours d’une journée donnée. Si ce type de travail pouvait être automatisé, les médecins pourraient voir plus de patients, réduisant peut-être le besoin pour les gens d’utiliser des outils comme ChatGPT Health sans l’intervention supplémentaire d’un vrai médecin.
Le Dr Shah dirige une équipe à Stanford qui développe ChatEHR, un logiciel intégré au système de dossier de santé électronique (DSE), permettant aux cliniciens d’interagir avec les dossiers médicaux d’un patient de manière plus rationalisée et plus efficace.
« Rendre le dossier médical électronique plus convivial signifie que les médecins peuvent passer moins de temps à en parcourir tous les coins et recoins pour trouver les informations dont ils ont besoin », a déclaré le Dr Sneha Jain, l’un des premiers testeurs de ChatEHR, dans un article de Stanford Medicine. « ChatEHR peut les aider à obtenir ces informations dès le départ afin qu’ils puissent consacrer du temps à ce qui compte : parler aux patients et comprendre ce qui se passe. »
Anthropic travaille également sur des produits d’IA qui peuvent être utilisés du côté des cliniciens et des assureurs, plutôt que simplement son chatbot Claude destiné au public. Cette semaine, Anthropic a annoncé Claude for Healthcare en expliquant comment il pourrait être utilisé pour réduire le temps consacré à des tâches administratives fastidieuses, comme la soumission de demandes d’autorisation préalable aux assureurs.
« Certains d’entre vous voient des centaines, voire des milliers de cas d’autorisation préalable par semaine », a déclaré Mike Krieger, CPO d’Anthropic, lors d’une récente présentation à la conférence sur les soins de santé de JP Morgan. « Alors imaginez réduire de 20 à 30 minutes chacun d’entre eux : c’est un gain de temps considérable. »
À mesure que l’IA et la médecine sont de plus en plus étroitement liées, il existe une tension inévitable entre les deux mondes : la principale motivation d’un médecin est d’aider ses patients, tandis que les entreprises technologiques sont en fin de compte responsables envers leurs actionnaires, même si leurs intentions sont nobles.
« Je pense que cette tension est importante », a déclaré le Dr Bari. « Les patients comptent sur nous pour être cyniques et conservateurs afin de les protéger. »
