Google supprime les aperçus de l’IA pour certaines requêtes médicales

À la suite d’une enquête menée par le Guardian qui a révélé que les aperçus de l’IA de Google offraient des informations trompeuses en réponse à certaines requêtes liées à la santé, la société semble avoir supprimé les aperçus de l’IA pour certaines de ces requêtes.

Par exemple, le Guardian a initialement rapporté que lorsque les utilisateurs demandaient « quelle est la plage normale pour les analyses de sang du foie », on leur présentait des chiffres qui ne tenaient pas compte de facteurs tels que la nationalité, le sexe, l’origine ethnique ou l’âge, ce qui les amenait potentiellement à penser que leurs résultats étaient sains alors qu’ils ne l’étaient pas.

Désormais, le Guardian indique que les aperçus de l’IA ont été supprimés des résultats pour « quelle est la plage normale pour les tests sanguins du foie » et « quelle est la plage normale pour les tests de la fonction hépatique ». Cependant, il a constaté que des variantes de ces requêtes, telles que « plage de référence lft » ou « plage de référence de test lft », pouvaient toujours conduire à des résumés générés par l’IA.

Lorsque j’ai essayé ces requêtes ce matin – plusieurs heures après que le Guardian a publié son article – aucune d’entre elles n’a abouti à l’affichage d’aperçus de l’IA, bien que Google m’ait toujours donné la possibilité de poser la même requête en mode IA. Dans plusieurs cas, le résultat le plus important était en fait l’article du Guardian sur la suppression.

Un porte-parole de Google a déclaré au Guardian que la société ne « commente pas les suppressions individuelles dans la recherche », mais qu’elle s’efforce de « apporter de larges améliorations ». Le porte-parole a également déclaré qu’une équipe interne de cliniciens a examiné les requêtes mises en évidence par le Guardian et a constaté que « dans de nombreux cas, les informations n’étaient pas inexactes et étaient également étayées par des sites Web de haute qualité ».

TechCrunch a contacté Google pour des commentaires supplémentaires. L’année dernière, la société a annoncé de nouvelles fonctionnalités visant à améliorer la recherche Google pour les cas d’utilisation dans le domaine de la santé, notamment des aperçus améliorés et des modèles d’IA axés sur la santé.

Vanessa Hebditch, directrice des communications et de la politique du British Liver Trust, a déclaré au Guardian que la suppression est une « excellente nouvelle », mais a ajouté : « Notre plus grande préoccupation avec tout cela est qu’il s’agit de pinailler un seul résultat de recherche et que Google peut simplement désactiver les aperçus de l’IA pour cela, mais il ne s’attaque pas au plus gros problème des aperçus de l’IA pour la santé.