Au cours du week-end, un certain nombre de conversations apparemment privées avec le chatbot Claude d’Anthropic ont fait surface dans les résultats de recherche publics de Google. Certaines conversations incluraient des informations sensibles telles que des clés de portefeuille cryptographique et des informations personnelles telles que des noms et des adresses.
Le problème affectait les discussions dans lesquelles les utilisateurs utilisaient la fonction « partager » de Claude, qui est généralement utilisée pour envoyer un enregistrement d’une conversation à une autre personne.
Le problème est apparu au cours du week-end, lorsque les membres d’un canal de discussion Claude sur le site de médias sociaux Reddit ont remarqué que lorsqu’ils tapaient certaines expressions de recherche dans Google, une longue liste de conversations partagées avec Claude apparaissait. Des artefacts Claude (outils interactifs et mini-applications que les gens créent dans Claude) sont également apparus dans les résultats.
Les sujets de discussion qui semblent avoir été exposés par inadvertance allaient de l’érotisme aux discussions de programmation, en passant par les notes de travail et les fausses critiques de livres. Une discussion intitulée « Partagée par Anthropic » montrait Claude produisant du contenu explicite qui violait les politiques d’Anthropic en matière d’érotisme.
« Nous donnons aux gens le contrôle du partage public de leurs conversations avec Claude et, conformément à nos principes de confidentialité, nous ne partageons pas notre répertoire de discussion ou notre plan de site avec des moteurs de recherche tels que Google », a déclaré un porte-parole d’Anthropic à Fortune. « Ces liens partageables ne peuvent être déduits ou découverts que si vous choisissez de les partager vous-même. Lorsque quelqu’un partage une conversation, ce contenu devient accessible au public et, comme tout autre contenu Web public, peut être archivé par des services tiers. »
La société semble avoir résolu le problème, car les liens ne sont plus disponibles via Google via une technique partagée sur Reddit. Pourtant, au moment d’écrire ces lignes, de nombreux liens de discussion précédemment publiés restaient actifs et accessibles à ceux qui connaissaient déjà le lien.
Les conversations de Claude sont privées par défaut. Les seules discussions concernées sont celles que l’utilisateur a « partagées » avec d’autres. Le bouton de partage de Claude fonctionne de la même manière que la plupart de ses concurrents. Lorsqu’un utilisateur sélectionne un bouton, Claude crée un instantané de la conversation avec une adresse Web unique et l’envoie à une personne ou à un petit groupe en utilisant ce lien.
Ce lien ne vous donne pas accès à votre compte complet ni à tous les chats auxquels vous avez participé.
Ce n’est pas la première fois que les discussions de Claude apparaissent dans les recherches publiques de Google. Selon Forbes, le même type de problème a touché l’entreprise l’année dernière, avec un problème presque identique exposant environ 100 000 conversations ChatGPT sur Google. Le chatbot Grok d’Elon Musk a également été affecté par le même problème dans le passé.
En effet, la fonction « partager » du chatbot IA créait une URL unique pour la conversation, et ces liens étaient automatiquement publiés et exposés aux moteurs de recherche, souvent à l’insu de l’utilisateur.
Alors que les utilisateurs partagent de plus en plus d’informations sensibles avec les chatbots, de tels incidents risquent d’exposer de grandes quantités de données et d’informations personnelles. Les discussions partagées sont généralement plus confidentielles que des éléments tels que les documents partagés, car les gens considèrent les chatbots comme un lieu où réfléchir à voix haute à des questions professionnelles, de santé et juridiques qu’ils ne souhaitent pas nécessairement rendre publiques. Le fait qu’OpenAI, Anthropic et xAI aient chacun rencontré des versions de la même erreur suggère également que l’industrie a du mal à résoudre définitivement le problème.
