Les entreprises technologiques commencent à être plus strictes quant à ce que les utilisateurs peuvent faire sur leurs plateformes. Instagram s’est concentré sur la restriction des utilisateurs possédant des comptes pour adolescents, notamment en commençant à bloquer les contenus et les comptes inappropriés. Mais OpenAI s’est plutôt concentré sur l’authentification et a rapidement permis aux comptes adultes vérifiés de participer à des activités érotiques sur ChatGPT.
Ces développements font suite à plusieurs poursuites judiciaires alléguant que les deux sociétés technologiques négligent la sécurité des enfants en nuisant intentionnellement à leur santé mentale et en leur apprenant à se faire du mal.
Aujourd’hui sur Commotion, l’hôte invité Amir Niazi s’entretient avec la journaliste technologique Samantha Cole et l’analyste politique Vas Bednar de l’impact des restrictions d’âge et de l’authentification sur la sécurité future de ces plateformes.
Vous trouverez ci-dessous quelques points saillants, édités pour plus de longueur et de clarté. Pour plus de discussions, écoutez et suivez Commotion avec Elamin Abdelmahmoud sur votre lecteur podcast préféré.
Regarder | L’épisode d’aujourd’hui sur YouTube :
Amir : Selon vous, quelle est la cause de ce virage vers l’érotisme ? Pourquoi ChatGPT maintenant ?
Vas : L’assouplissement de ces restrictions pour les utilisateurs adultes augmentera probablement l’engagement et la durée d’utilisation et potentiellement augmentera les prix des abonnements et des adhésions premium en termes de ce que les gens paient. Nous savons qu’ils ont perdu et perdent encore des revenus importants.
Les gens le font pour diverses raisons, notamment la nouveauté, la curiosité et le temps. Cela ne veut pas nécessairement dire que c’est bon ou significatif.
Amir : J’ai entendu des histoires de personnes épousant leurs – je ne sais même pas comment vous appelez ces choses – les avatars ChatGPT, les créations avec lesquelles ils parlent. Donc, pour ces personnes qui se trouvent déjà trop impliquées dans cet outil numérique, je ne peux pas imaginer que ce soit mieux.
Vasu : Je pense que ce nouveau positionnement des chatbots en tant que compagnons, compagnons de toutes sortes, compagnons plus romantiques, est dangereux et nuisible. Je pense que cela change nos attentes en matière de relations dans notre vie quotidienne. Je pense que si vous avez un chatbot qui vous complimente tout le temps, pense que tout ce que vous dites est génial, est super sympa, pense que vous êtes super intelligent et répond immédiatement à chaque fois que vous écrivez quelque chose, dans un contexte non érotique, il y a un risque que les gens débordent et commencent à l’attendre de leurs amis aussi.
Amir : Samantha, donc le terme « utilisateur adulte vérifié » désigne la façon dont (PDG d’OpenAI) Sam Altman vend cet accès, mais comment cela fonctionne-t-il ? Qui peut réellement avoir une conversation érotique avec un compagnon ?
Samantha : Tout récemment, OpenAI a fait cette annonce qui n’a pas retenu beaucoup d’attention. Parce que c’était assez mécanique et pas très excitant. Mais au fond, ils essaient de reconnaître les adolescents qui utilisent la plateforme. Ceci est évidemment à la lumière des nombreux cas véritablement tragiques d’adolescents utilisant ChatGPT pour se faire du mal ou pire. Je pense donc qu’en partie, ils cherchent à s’assurer qu’ils ne laissent pas les adolescents l’utiliser de manière nuisible, mais en même temps, ils cherchent également à s’assurer qu’ils ne perdent pas les adultes très importants qui veulent rester sur la plateforme, qui veulent les garder engagés et qui paient pour des abonnements professionnels.
Donc, cet aspect de la vérification de l’âge auquel il fait allusion ici est quelque chose qui est répandu aux États-Unis, et je sais qu’on en discute depuis un certain temps au Canada et au Royaume-Uni, et que ces projets de loi sont également adoptés. Je pense donc qu’il comprend probablement qu’il ne peut pas se laisser arnaquer par des sexbots et qu’il ne peut pas non plus ne pas vérifier son âge, car quelque chose de très grave pourrait arriver et il pourrait entrer très difficilement.
En tant que personne qui couvre fréquemment la vérification de l’âge, cela me préoccupe beaucoup. En effet, la vérification de l’âge peut porter atteinte à la vie privée et la manière dont elle a été déployée jusqu’à présent nécessite des pièces d’identité gouvernementales sur divers sites Web. Si vous utilisez une plate-forme contenant du contenu qui n’est pas sûr pour le travail, vous devrez fournir une pièce d’identité gouvernementale et peut-être un selfie pour les données biométriques. Je le vois rassembler tout cela dans un seul grand programme global et avancer dans cette direction. Si vous voulez avoir des relations sexuelles sur ChatGPT, vous devez montrer votre pièce d’identité, et beaucoup de gens le souhaitent. Je pense donc qu’il est tout à fait naturel de penser que les gens fourniraient leur identité à OpenAI. Je ne sais pas si je l’aime ou non.
Vasu : Les gens ont beaucoup confiance dans cette barre d’outils, n’est-ce pas ? Fuites de données, curiosités érotiques, partager ces histoires peut être très invasif et préjudiciable sur le plan professionnel. Après tout, à quoi ça sert ? Pour nous vendre des choses, pour en savoir plus sur nous ? C’est la chose la plus perverse. Oubliez les chatbots qui disent des choses sexy. Je pense qu’il y a quelque chose de vraiment pervers dans tout cela.
Vous pouvez entendre la discussion complète de l’émission d’aujourd’hui sur le podcast « Commotion with Elamin Abdelmahmoud » disponible sur CBC Listen ou partout où vous obtenez vos podcasts.
Panneau produit par Thai Calendar.
