Un rapport médical de Deloitte commandé par le gouvernement canadien et qui a coûté environ 1,6 million de dollars à une province contenait des erreurs qui auraient pu être générées par l’IA, ce qui en fait le deuxième pays cette année à affirmer que la vérification des faits par le cabinet de conseil était erronée.
L’erreur a été découverte dans une enquête publiée samedi par The Independent, un organisme de presse canadien progressiste couvrant Terre-Neuve-et-Labrador, la province la plus orientale du Canada, et incluse dans un rapport de 526 pages distribué par le gouvernement du pays en mai.
Le rapport conseillait le ministère de la Santé et des Services sociaux du gouvernement alors dirigé par les libéraux sur des sujets tels que les soins virtuels, les incitations à la rétention et l’impact de la pandémie de COVID-19 sur les travailleurs de la santé alors que le secteur de la santé de la province était confronté à une pénurie d’infirmières et de médecins.
Le rapport de Deloitte contenait de fausses citations, tirées d’articles universitaires fabriqués pour tirer des conclusions d’analyses coûts-avantages, et citait de vrais chercheurs pour des articles qui n’avaient pas réellement mené la recherche, a découvert The Independent. Il s’agissait notamment d’articles fictifs co-écrits par des chercheurs qui affirmaient n’avoir jamais travaillé ensemble.
« Deloitte Canada soutient fermement les recommandations proposées dans notre rapport », a déclaré un porte-parole de Deloitte Canada à Fortune dans un communiqué. « Nous avons révisé le rapport et apporté un petit nombre de corrections de citations, mais cela n’affecte pas le résultat du rapport. L’IA n’a pas été utilisée pour créer le rapport, mais a plutôt été utilisée de manière sélective pour prendre en charge un petit nombre de citations de recherche. »
Le long rapport cite également un article universitaire paru dans la Revue canadienne de thérapie respiratoire, mais une recherche dans cette base de données n’a encore rien révélé.
« Proposer quelque chose comme ça semble être une utilisation assez intensive de l’IA pour créer des emplois », a déclaré Gail Tomblin-Murphy, professeure adjointe à l’école de sciences infirmières de l’Université Dalhousie en Nouvelle-Écosse, à The Independent. Tomblin-Murphy a été cité par Deloitte dans un article universitaire « inexistant ». Elle a ajouté que sur les six autres auteurs cités dans les fausses citations, elle n’en avait travaillé qu’avec trois.
« Et je pense vraiment que cela comporte de nombreux défis. Nous devons être très prudents pour nous assurer que les preuves qui éclairent les rapports sont les meilleures preuves, qu’il s’agit de preuves vérifiées. Et en fin de compte, ces rapports doivent être précis et fondés sur des preuves et aider à faire avancer les choses, pas seulement parce qu’ils sont préjudiciables au gouvernement ou au public. »
Lundi, le rapport était toujours sur le site Web du gouvernement canadien.
Le gouvernement canadien a dépensé un peu moins de 1,6 million de dollars pour ce rapport, payé en huit versements, selon une demande d’accès à l’information publiée dans un article de blog mercredi dernier.
Tony Wakeham, chef du Parti progressiste-conservateur et nouveau premier ministre de l’État, a prêté serment fin octobre. Le bureau du premier ministre de Terre-Neuve-et-Labrador et le ministère de la Santé et des Services sociaux de la province n’ont pas immédiatement répondu à la demande de commentaires de Fortune sur le rapport de mai et n’ont pas abordé la question publiquement.
Ces révélations font suite à l’annonce du mois dernier selon laquelle Deloitte avait exploité l’IA dans un rapport de 290 000 $ publié en juillet pour aider le gouvernement australien à réprimer les aides sociales. Mais les chercheurs ont signalé ces hallucinations dans une étude de 237 pages qui comprenait des références à des documents de recherche universitaires inexistants et des citations fabriquées de toutes pièces à partir de décisions de tribunaux fédéraux.
Dans une étude révisée secrètement téléchargée sur le site Web du gouvernement australien, le cabinet de conseil a admis avoir utilisé le système de langage d’IA génératif Azure OpenAI pour créer le rapport.
« Les mises à jour effectuées n’affectent pas le contenu substantiel, les conclusions ou les recommandations du rapport », a déclaré Deloitte dans la section de recherche mise à jour.
Les cabinets membres de Deloitte en Australie ont été tenus de verser une restitution partielle au gouvernement en réponse au rapport. Aucune information n’a encore été dévoilée concernant d’éventuels remboursements du rapport canadien.
