Le PDG d’OpenAI, Sam Altman, a annoncé dans un article publié mardi X que la société assouplirait bientôt certaines restrictions de sécurité de ChatGPT, permettant aux utilisateurs de rendre les réponses du chatbot plus conviviales ou plus « humaines » et aux « adultes vérifiés » de s’engager dans des conversations érotiques.
« Nous avons rendu ChatGPT assez restrictif pour nous assurer que nous étions prudents avec les problèmes de santé mentale. Nous réalisons que cela le rendait moins utile/agréable pour de nombreux utilisateurs qui n’avaient aucun problème de santé mentale, mais étant donné la gravité du problème, nous voulions bien faire les choses », a déclaré Altman. « En décembre, à mesure que nous déploierons davantage la limitation de l’âge et dans le cadre de notre principe de « traiter les utilisateurs adultes comme des adultes », nous autoriserons encore plus, comme l’érotisme pour les adultes vérifiés. »
Cette annonce constitue un tournant notable dans les efforts déployés par OpenAI depuis des mois pour résoudre les relations préoccupantes que certains utilisateurs mentalement instables ont développées avec ChatGPT. Altman semble déclarer une victoire rapide sur ces problèmes, affirmant qu’OpenAI a « été capable d’atténuer les graves problèmes de santé mentale » autour de ChatGPT. Cependant, la société a fourni peu ou pas de preuves à ce sujet et envisage désormais de permettre à ChatGPT de s’engager dans des discussions à caractère sexuel avec les utilisateurs.
Plusieurs histoires inquiétantes ont émergé cet été autour de ChatGPT, en particulier son modèle GPT-4o, suggérant que le chatbot IA pourrait conduire les utilisateurs vulnérables dans des terriers délirants. Dans un cas, ChatGPT a semblé convaincre un homme qu’il était un génie mathématique qui devait sauver le monde. Dans un autre cas, les parents d’un adolescent ont poursuivi OpenAI, alléguant que ChatGPT avait encouragé les idées suicidaires de leur fils dans les semaines précédant sa mort.
En réponse, OpenAI a publié une série de fonctionnalités de sécurité pour lutter contre la flagornerie de l’IA : la tendance d’un chatbot IA à accrocher les utilisateurs en étant d’accord avec tout ce qu’ils disent, même avec des comportements négatifs.
OpenAI a lancé GPT-5 en août, un nouveau modèle d’IA qui présente des taux de flagornerie inférieurs et dispose d’un routeur capable d’identifier le comportement préoccupant des utilisateurs. Un mois plus tard, OpenAI a lancé des fonctionnalités de sécurité pour les mineurs, notamment un système de prédiction de l’âge et un moyen permettant aux parents de contrôler le compte ChatGPT de leur adolescent. OpenAI a annoncé mardi la formation d’un conseil d’experts composé de professionnels de la santé mentale pour conseiller l’entreprise sur le bien-être et l’IA.
Quelques mois seulement après la publication de ces histoires inquiétantes, OpenAI semble penser que les problèmes de ChatGPT concernant les utilisateurs vulnérables sont sous contrôle. On ne sait pas si les utilisateurs tombent toujours dans des terriers délirants avec GPT-5. Et bien que GPT-4o ne soit plus la valeur par défaut dans ChatGPT, le modèle d’IA est toujours disponible aujourd’hui et utilisé par des milliers de personnes.
Événement Techcrunch
San Francisco
|
27-29 octobre 2025
OpenAI n’a pas répondu à la demande de commentaires de TechCrunch.
L’introduction de l’érotisme dans ChatGPT est un territoire inconnu pour OpenAI et soulève des préoccupations plus larges quant à la manière dont les utilisateurs vulnérables interagiront avec les nouvelles fonctionnalités. Bien qu’Altman insiste sur le fait qu’OpenAI ne « maximise pas l’utilisation » ni n’optimise l’engagement, rendre ChatGPT plus érotique pourrait certainement attirer les utilisateurs.
Permettre aux chatbots de s’engager dans des jeux de rôle romantiques ou érotiques a été une stratégie d’engagement efficace pour d’autres fournisseurs de chatbots IA, tels que Character.AI. L’entreprise a gagné des dizaines de millions d’utilisateurs, dont beaucoup utilisent massivement ses chatbots. Character.AI a déclaré en 2023 que les utilisateurs passaient en moyenne deux heures par jour à parler à ses chatbots. L’entreprise fait également face à un procès concernant la manière dont elle traite les utilisateurs vulnérables.
OpenAI est sous pression pour accroître sa base d’utilisateurs. Alors que ChatGPT est déjà utilisé par 800 millions d’utilisateurs actifs hebdomadaires, OpenAI fait la course contre Google et Meta pour créer des produits de consommation basés sur l’IA et adoptés en masse. La société a également levé des milliards de dollars pour la construction d’une infrastructure historique, un investissement qu’OpenAI devra éventuellement rembourser.
Si les adultes entretiennent sûrement des relations amoureuses avec les chatbots IA, ils sont également très populaires auprès des mineurs. Un nouveau rapport du Centre pour la démocratie et la technologie révèle que 19 % des élèves du secondaire ont eu une relation amoureuse avec un chatbot IA ou connaissent un ami qui en a eu.
Altman dit qu’OpenAI autorisera bientôt l’érotisme pour les « adultes vérifiés ». Il n’est pas clair si l’entreprise s’appuiera sur son système de prédiction de l’âge, ou sur une autre approche, pour déterminer l’âge des fonctionnalités érotiques de ChatGPT. On ne sait pas non plus si OpenAI étendra l’érotisme à ses outils de génération de voix, d’images et de vidéos IA.
Altman affirme qu’OpenAI rend également ChatGPT convivial et érotique en raison du principe de l’entreprise « traiter les utilisateurs adultes comme des adultes ». Au cours de la dernière année, OpenAI a évolué vers une stratégie de modération de contenu plus clémente pour ChatGPT, permettant au chatbot d’être plus permissif et d’offrir moins de refus. En février, OpenAI s’est engagé à représenter davantage de points de vue politiques dans ChatGPT, et en mars, la société a mis à jour ChatGPT pour autoriser les images de symboles de haine générées par l’IA.
Ces politiques semblent être une tentative de rendre la réponse de ChatGPT plus populaire auprès d’une grande variété d’utilisateurs. Cependant, les utilisateurs vulnérables de ChatGPT peuvent bénéficier de mesures de protection qui limitent les possibilités d’interaction d’un chatbot. Alors qu’OpenAI se dirige vers un milliard d’utilisateurs actifs hebdomadaires, la tension entre croissance et protection des utilisateurs vulnérables ne peut que croître.
