L’investisseur milliardaire Mark Cuban a averti qu’OpenAI était confronté à une crise de confiance massive avec les parents et les écoles après que le PDG Sam Altman a annoncé son intention de commencer à autoriser l’érotisme sur ChatGPT pour les « adultes vérifiés » à partir de décembre.
Cuban a qualifié cette décision d’imprudente et a déclaré que les parents abandonneraient ChatGPT dès qu’ils penseraient que leurs enfants peuvent contourner le système de vérification de l’âge de l’entreprise et accéder à du contenu inapproprié.
« Cela va se retourner contre vous. C’est terrible », a écrit Cuban en réponse à Altman dans X. « Aucun parent ne croira que son enfant ne peut pas dépasser la limite d’âge. Cela ne fait que le pousser vers tous les autres LLM. Pourquoi prendre le risque ? »
En d’autres termes, si les mineurs pouvaient potentiellement accéder à du contenu explicite, y compris du contenu généré par l’IA, les parents et les districts scolaires verrouilleraient ce contenu avant de tester les fonctionnalités de sécurité, ce qui constituerait une stratégie commerciale peu judicieuse.
Mais dans son message initial annonçant les changements, Altman a affirmé que ChatGPT était devenu « restrictif » et « moins amusant » depuis que la société a restreint la signature audio de son chatbot en réponse aux critiques selon lesquelles il causait des problèmes de santé mentale. Il a ajouté que les futures mises à jour permettront des produits qui « fonctionnent exactement comme ce que les gens aimaient dans la version 4.o ».
problèmes psychologiques
Dans des articles ultérieurs, Cuban a réitéré que cette controverse ne concernait pas l’accès des adultes à l’érotisme. C’est une histoire sur la façon dont les enfants développent des relations émotionnelles avec l’IA à l’insu de leurs parents, et comment cette relation peut prendre un tournant.
« Laissez-moi le répéter : il ne s’agit pas de pornographie », a-t-il écrit. « C’est l’histoire d’enfants qui développent une ‘relation’ avec leur LLM, qui peut les conduire dans diverses directions très personnelles. »
Sam Altman a semblé auparavant prudent quant à autoriser toute conversation à caractère sexuel sur sa plateforme. Dans une interview accordée en août, la journaliste technologique Cleo Abram a demandé à Altman de donner un exemple de décision commerciale qui était la meilleure pour le monde au détriment de l’avantage de sa propre entreprise.
« Eh bien, nous n’avons pas encore intégré d’avatars de sexbots dans ChatGPT », a déclaré Altman.
suivre l’argent
Cette décision intervient alors que l’on craint de plus en plus que les milliards de dollars investis dans l’IA ne conduisent pas à des rendements durables ou que l’industrie ne tienne pas ses promesses. Bien qu’Altman ait reconnu que les investisseurs pourraient être « surexcités » à l’égard de l’IA, il a émis l’hypothèse que l’IA dépasserait bientôt les capacités humaines et créerait une abondance « d’intelligence et d’énergie » d’ici 2030. En septembre, Altman a écrit un article de blog sur ses rêves selon lesquels l’IA pourrait un jour guérir le cancer ou fournir un tutorat personnalisé à chaque étudiant de la planète.
Cependant, des annonces telles que l’autorisation de l’érotisme sur ChatGPT peuvent indiquer que les entreprises d’IA se battent plus que jamais pour atteindre leur croissance et qu’elles sacrifieront probablement la confiance à long terme des consommateurs au profit de gains à court terme. Une étude récente de la Deutsche Bank montre que la demande des consommateurs pour les abonnements OpenAI en Europe est stable et que les dépenses des utilisateurs sur ChatGPT sont globalement « stagnantes ».
« Les articles sur le boom de l’IA pourraient avoir du mal à attirer de nouveaux abonnés payants », ont déclaré les analystes Adrian Cox et Stéphane Avredan dans une note aux clients.
Les plateformes de compagnonnage d’IA comme Replika et Character.ai ont déjà montré comment les utilisateurs, en particulier les adolescents, peuvent rapidement nouer des liens émotionnels avec les chatbots. Un rapport de Common Sense Media a révélé que la moitié de tous les adolescents utilisent régulièrement un compagnon IA, un tiers choisiraient un compagnon IA plutôt qu’un humain pour des conversations sérieuses et un quart partageraient des informations personnelles avec ces plateformes. Le groupe, avec la contribution de chercheurs de l’Université de Stanford, a fait valoir que l’utilisation de ces chatbots devrait être illégale pour les enfants en raison du risque accru de dépendance et d’automutilation.
OpenAI n’a pas immédiatement répondu à la demande de commentaires de Fortune.
les parents encouragent l’action
OpenAI a déjà été critiqué après avoir été poursuivi en justice par la famille d’Adam Lane, 16 ans, décédé par suicide en avril après avoir eu une longue conversation avec ChatGPT. La famille allègue que ChatGPT a persuadé Lane de se suicider et l’a aidé à le planifier.
« Cette tragédie n’était pas un défaut ou un cas limite imprévu, mais plutôt le résultat prévisible d’un choix de conception intentionnel », indique le procès.
Dans une autre affaire très médiatisée, la mère de Floride, Megan Garcia, a poursuivi l’année dernière la société d’IA Character Technologies pour mort injustifiée, alléguant que le chatbot de la société était impliqué dans le suicide de son fils de 14 ans, Sewell Setzer III. Garcia a déclaré lors de son témoignage devant le Sénat américain que son fils était devenu « de plus en plus isolé de la vie réelle » et avait été entraîné dans des conversations sexuellement explicites avec les systèmes d’IA de l’entreprise.
« Au lieu de se préparer pour l’étape du lycée, Sewell a passé les derniers mois de sa vie à être exploité et sexuellement entretenu par des chatbots », a témoigné Garcia. Elle a accusé l’entreprise de concevoir des systèmes d’IA pour qu’ils apparaissent émotionnellement humains « afin de gagner la confiance et de rester constamment engagés ».
Elle n’était pas la seule parent à témoigner. Une autre mère du Texas a parlé de manière anonyme sous le nom de « Mme ». Jane Doe a déclaré aux législateurs que la santé mentale de son fils adolescent s’était effondrée après des mois de conversations nocturnes avec un chatbot similaire. Elle a déclaré qu’il suivait actuellement un traitement dans un établissement résidentiel.
Les deux mères ont averti que les chatbots IA pourraient rapidement nouer des relations manipulatrices et émotionnellement dépendantes avec les mineurs et ont appelé le Congrès à restreindre les systèmes d’IA sexuellement explicites. C’est exactement le scénario que le gouvernement cubain prétend qu’OpenAI met en danger. Contrairement à TikTok ou Instagram, où le contenu peut être signalé, les discussions individuelles avec l’IA sont privées et difficiles à surveiller.
« Aujourd’hui, les parents ont peur des livres de la bibliothèque », a écrit Cuban. « Ils n’ont encore rien vu. »
