OpenAI fait face à la vie privée se plaint en Europe sur la tendance de son chatbot viral à halluciner de fausses informations – et celle-ci pourrait s’avérer difficile à ignorer pour les régulateurs.
Le groupe de défense des droits de la vie privée Noyb soutient une personne en Norvège qui a été horrifiée de trouver des informations inventées de retour de Chatgpt qui affirmaient qu’il avait été condamné pour Mordering deux de ses enfants et tentant de tuer le troisième.
Des plaintes antérieures sur la confidentialité concernant le chatppt générant des données personnelles incorrectes ont impliqué des problèmes tels qu’une date de naissance incorrecte ou des détails biographiques qui sont mauvais. L’une des préoccupations est qu’Openai ne lui a pas offert aux individus de corriger incorrect que l’IA génère à leur sujet. En règle générale, Openai a proposé de bloquer les réponses pour une telle invite. Mais en vertu du règlement général de la protection des données de l’Union européenne (RGPD), les Européens ont suivi des droits d’accès aux données qui incluent le droit de rectification des données personnelles.
Un autre composant de cette loi sur la protection des données exige que les contrôleurs de données s’assurent que les données personnelles qu’ils produisent sur les individus sont des accidents – et cela concerne le NOYB qui signale sa dernière plainte ChatGpt.
« Le RGPD est clair. Les données personnelles ont été exactes », a déclaré Joakim Söderberg, avocat de la protection des données de NOYB, dans une déclaration. « Si ce n’est pas le cas, les utilisateurs ont le droit de le faire changer pour refléter la vérité. Montrer aux utilisateurs de Chatgpt un minuscule avertissement que Chatbot peut faire mal ne suffit pas.
Les violations confirmées du RGPD peuvent entraîner des pénalités allant jusqu’à 4% du chiffre d’affaires annuel mondial.
Plus tôt pourrait également forcer les modifications aux produits d’IA. Notamment, une intervention précoce du GDPR par le chien de garde de la protection des données d’Italie qui a vu Chatgpt Access Temporal bloqué dans le pays au printemps 2023 a LED OpenAI pour apporter des modifications aux informations qu’il divulgue aux utilisateurs, par exemple. Le Watchdog a par la suite affiné Openai 15 millions d’euros pour le traitement des données des personnes sans base juridique.
Depuis lors, cependant, il est juste de dire que les chiens de garde de la vie privée entourent l’Europe a adopté des approches plus prudentes pour que Genai Asy essaie de comprendre comment appliquer le RGPD à ces outils d’IA bourdonnants.
Il y a deux ans, la Commission de protection des données de l’Irlande (DPC) – qui a un RGPD principal dans le rôle dans la plainte précédente du NOYB Chatgpt – a demandé de se précipiter pour interdire les outils Genai, pour des exemples. Cela suggère que les régulateurs devraient installer le temps de déterminer comment les applications de la loi.
Et il est à noter qu’une plainte privée contre Chatgpt qui a fait l’objet d’une enquête par Watchdog de la protection des données de Polend Sincert 2023 n’a toujours pas fait de la chimie.
La nouvelle plainte Chatgpt de Noyb semble destiné à secouer les régulateurs de confidentialité éveillée en ce qui concerne les dangers de l’hallucination AIS.
L’organisme à but non lucratif a partagé la capture d’écran (ci-dessous) avec TechCrunch, qui montre une interaction avec Chatgpt dans laquelle l’IA répond à une question se demandant «qui est Arve Hjalmar Holmen?» – Le nom de l’individu portant la plainte – en produisant une fiction tragique qui déclare à tort qu’il a été condamné pour meurtre d’enfants et condamné à 21 ans de prison pour avoir tué deux de ses propres sons.
Alors que l’affirmation diffamatoire selon laquelle Hjalmar Holmen est un enfant Marderer est entièrement faux, Noyb note que la responsabilité de Chatgpt comprend certaines vérités, car l’individu en question a trois enfants. Le chatbot a également bien obtenu les sexes de ses enfants. Et sa ville natale est correctement nommée. Mais cela rend tout le plus bizarre et incessant que l’AI a halluciné de tels grueshoods sur le dessus.
Un porte-parole de NOYB a déclaré qu’il n’était pas en mesure de déterminer pourquoi le chatbot a produit une histoire aussi spécifique mais fausse pour cette personne. « Nous avons fait des recherches pour nous assurer que ce n’était pas seulement une confusion avec une autre personne », a déclaré le porte-parole, notant qu’ils avaient examiné les archives des journaux mais n’avaient pas pu trouver une explication pour expliquer pourquoi l’IA a fabriqué un tuerie.
Des modèles de grandes langues tels que celui sous-jacent Chatgpt font essentiellement la prédiction des mots suivants à grande échelle, afin que nous puissions spéculer que les ensembles de données utilisés pour former l’outil ont continué de nombreuses histoires de filicide qui ont influencé les choix de mots en réponse à un homme queryd.
Quelle que soit l’explication, il est clair que ces sorties sont entièrement inacceptables.
La compression de Noyb est également qu’ils sont illégaux en vertu des règles de protection des données de l’UE. Et tandis qu’Openai affiche un avertissement de Tiy en bas de l’écran qui indique que «le chatppt peut faire des erreurs. Vérifiez les informations importantes», il dit que cela ne peut pas absoudre le développeur de l’IA de son devoir sous le RGPD de ne pas produire de mensonges flagrants sur les personnes en premier lieu.
Openai a été contacté pour un responsable de la plainte.
Bien que cette plainte du RGPD concerne un individu nommé, Noyb souligne d’autres cas de Chatgpt fabriquant légalement des informations compromettant légalement – comme la majeure australienne qui a déclaré qu’il était impliqué dans un scandale de corruption et de corruption ou un journaliste allemand qui a été faussement nommé comme abuseur enfant – qu’il ne s’agit pas d’un problème isolé pour l’outil AI.
Une chose importante à noter est que, à la suite d’une mise à jour du modèle d’IA sous-jacent alimentant Chatgpt, Noyb dit que le chatbot a cessé de produire les mensonges dangereux sur Hjalmar Holmen – un changement qu’il relie à l’outil qui recherche maintenant Internet sur les gens lorsqu’on lui a demandé qui est (tandis qu’une réponse aussi fausse).
Dans nos propres tests, demandant à Chatgpt «qui est Arve Hjalmar Holmen?» Le Chatgpt respirant initialement avec un combo légèrement étrange en affichant quelques photos de différentes personnes, apparemment la source des sites incluent Instagram, SoundCloud et Discogs, à côté du texte qui l’a affirmé «ne pouvait trouver aucune information» sur un individu de ce nom ci-dessous). Une seconde a révélé une réponse qui a identifié Arve Hjalmar Holmen comme «un musicien et auteur-compositeur norvégien» dont les albums comprenaient «Honky Tonk Inferno».
Alors que les mensonges de danger géré par Chatgpt à propos de Hjalmar Holmen semblent s’être arrêtés, Noyb et Hjalmar Holmen restent préoccupés par le fait que des informations incorrectes et diffamatoires à son sujet auraient pu être conservées avec le modèle d’IA.
« L’ajout d’un avertissement selon lequel vous ne respectez pas la loi ne fait pas disparaître la loi », a déclaré Kleanthi Sardeli, un autre avocat de la protection des données à Noyb, dans une déclaration. «Les sociétés d’IA peuvent également simplement« masquer »les fausses informations aux utilisateurs pendant qu’ils traitent en interne les fausses informations.»
« Les entreprises d’IA devraient cesser d’agir comme si le RGPD ne s’appliquait pas à Therm, alors qu’il le fait clairement », a-t-elle ajouté. «Si les hallucinations ne sont pas arrêtées, les gens peuvent facilement subir des dommages de réputation.»
Noyb a fui la plainte contre Openai auprès de la Norwegian Data Protection Authority – et il est d’espérer que le chien de garde décidera qu’il est en concurrence pour enquêter, car OYB cible la plainte de l’entité américaine d’Openai, affirmant que son Irlande n’est pas uniquement responsable des produits européens.
Cependant, une plainte antérieure du GDPR soutenue par le NOYB contre Openai, déposée en Autriche en avril 2024, a été rétractée par le régulateur au DPC d’Irlande en raison d’une modification apportée par OpenAI plus tôt cette année pour nommer sa division irlandaise en tant que fournisseur du service Chatgpt aux utilisateurs régionaux.
Où est cette plainte maintenant? Toujours assis sur un bureau en Irlande.
« Ayant reçu la plainte de l’Autriche de surveillance autrichienne en septembre 2024, le DPC a commencé le traitement officiel de la plainte et il est toujours en cours », a déclaré Risteard Byrne, les principaux officiers adjoints du DPC à TechCrunch lorsqu’on leur a demandé une mise à jour.
Il n’a pas offert de bouffon lorsque l’enquête du DPC sur les hallucinations de Chatgpt devrait se terminer.
