OpenAI a reçu des assignations à comparaître de plusieurs États dans le cadre d’une enquête sur la sécurité de ses utilisateurs de chatbot alors qu’elle se prépare à devenir publique pour la première fois.
ChatGPT, la société à l’origine du chatbot populaire, a déclaré qu’elle répondrait aux demandes de renseignements de manière « constructive » et a déclaré qu’elle avait déjà pris des mesures pour protéger ses clients.
« L’IA est une technologie nouvelle et puissante, et nous travaillons chaque jour pour apporter ses avantages aux gens de manière responsable et en toute sécurité », a déclaré un porte-parole dans un communiqué envoyé par courrier électronique. « Nous prenons au sérieux les préoccupations soulevées par le procureur général de l’État. »
OpenAI a été critiqué après que ChatGPT aurait offert des mots d’encouragement aux utilisateurs qui envisageaient le suicide ou une activité criminelle. La manière dont ils utilisent les données de santé des clients et d’autres informations personnelles est également sous surveillance.
Jeudi, l’entreprise a été poursuivie en justice par un Canadien qui accusait un chatbot d’être responsable de la décision de sa fille de se pendre. Début juin, le procureur général de Floride a porté plainte contre l’entreprise à la suite de deux fusillades distinctes au cours desquelles un tireur présumé aurait posé des questions à ChatGPT alors qu’il planifiait un crime.
OpenAI a déclaré dans un communiqué que son modèle encourage à plusieurs reprises les individus à rechercher de l’aide dans le monde réel, notamment auprès de professionnels de la santé mentale. La société a également déclaré avoir coopéré avec les forces de l’ordre lors des deux fusillades.
La nouvelle enquête intervient quelques jours seulement après que la société a déposé des documents auprès des régulateurs américains de la sécurité en vue de son introduction en bourse tant attendue. Son rival en matière d’intelligence artificielle, SpaceX, a célébré son introduction en bourse vendredi. Le fabricant de fusées fondé par Elon Musk dirige également une entreprise d’IA responsable d’un chatbot rival appelé Grok.
La manière dont les gouvernements devraient réagir aux impacts positifs et aux dangers potentiels de l’IA devient une question politique majeure.
Les régulateurs européens ont ouvert une enquête sur Musk’s Grok pour contenu antisémite et sexuel, y compris de faux nus. Anthropic, une autre société de chatbots qui se prépare à son introduction en bourse, a été invitée vendredi par l’administration Trump à cesser de proposer deux de ses modèles en ligne aux utilisateurs internationaux pour des raisons de sécurité nationale.
Le Wall Street Journal a été le premier à rendre compte de l’assignation à comparaître d’OpenAI.
L’Associated Press a envoyé samedi des courriels à plus d’une douzaine de procureurs généraux d’État pour obtenir des détails sur l’enquête, mais n’a reçu aucune réponse.
Dans un communiqué, OpenAI a souligné les mesures prises pour assurer la sécurité des enfants lorsqu’ils utilisent des chatbots.
« Le ChatGPT d’aujourd’hui inclut une expérience plus protectrice pour les mineurs et les personnes confrontées à des situations difficiles, et comprend des garanties qui les dirigent vers des ressources du monde réel et des contacts humains de confiance », indique en partie le communiqué. « Nous pensons que les enfants doivent être traités comme des enfants, c’est pourquoi nous avons créé des prévisions d’âge, publié des outils permettant aux parents de guider leurs enfants dans l’utilisation de l’IA et interdit les publicités ciblant les enfants. »
