Les Redditors du monde entier ont été scandalisés la semaine dernière après avoir appris qu’une équipe de chercheurs a publié un essaim de robots d’imprécision humaine en forme d’human L’expérience à grande échelle a été conçue pour explorer à quel point l’IA peut être persuasive.
Les bots ont affiché plus de 1 700 commentaires, adoptant des personnages comme les survivants de maltraitance ou des identités controversées comme un défenseur de la matière anti-Black Lives.
Pour Reddit, l’incident était à Mini-Nuit-Mare. La marque de Reddit est associée à l’authenticité – un endroit où de vraies personnes viennent partager de véritables opinions. Si cet écosystème axé sur l’homme est perturbé par Sols AI ou devient un endroit où les gens ne peuvent pas croire qu’ils obtiennent des informations d’humains réels, cela pourrait faire plus que menacer l’identité centrale de Reddit. Les résultats de Reddit pourraient être en jeu, car la société vend désormais son contenu à Openai pour la formation.
La société a condamné «une expérience inappropriée et très conditionnelle» et a déposé une plainte auprès de l’université qui l’a dirigé. Mais cette expérience était uniquement l’une de ce qui sera probablement de nombreux cas de bots génératifs AI qui permettent d’être des humains sur Reddit pour diverses raisons, du scientifique au manipulateur politiquement.
Pour protéger les utilisateurs de la manipulation des bot et «garder Reddit Human», la société a discrètement signalé une action à venir – qui peut être impopurée avec les utilisateurs qui viennent à Reddit pour une autre raison: l’anonymat.
Lundi, le PDG de Reddit, Steve Huffman, a partagé dans un article que Reddit commencerait à travailler avec «divers services tiers» pour vérifier l’humanité d’un utilisateur. Cela représente une étape importante pour une plate-forme qui a historiquement exigé toute information personnelle pour que les utilisateurs puissent créer un compte.
« Pour garder Reddit humain et répondre aux exigences réglementaires en évolution, nous allons avoir besoin d’un peu plus d’informations », a écrit Huffman. « Plus précisément, nous aurons besoin de savoir que vous êtes un humain, et dans certaines locations, si vous êtes un adulte. Mais nous ne voulons jamais connaître votre nom ou qui vous êtes. »
Événement TechCrunch
Berkeley, que
|
5 juin
Réserver maintenant
(Les sociétés de médias sociaux ont déjà commencé à mettre en œuvre des vérifications d’identité après au moins neuf États et au Royaume-Uni et adopté des lois exigeant la vérification de l’âge pour protéger les enfants sur leurs plateformes.)
Un porte-parole de Reddit a refusé d’expliquer dans les circonstances que la société obligerait les utilisateurs à passer par un processus de vérification, bien qu’ils aient confirmé que Reddit prend déjà des mesures pour interdire les «mauvais» robots. Le porte-parole ne partagera pas non plus de détails sur les services tiers que la société utiliserait ou le type d’information personnellement identifiant les utilisateurs que les utilisateurs auraient à offrir.
De nombreuses entreprises comptent aujourd’hui sur des plates-formes de vérification comme Persona, Alloy, Stripe Identity, Plaid et Footprint, qui exigent incontournable de l’ID délivré par le gouvernement pour vérifier l’âge et l’humanité. Il y a la technologie plus récente et plus spéculative, comme les outils de Sam Altman pour l’humanité et son appareil «preuve d’humain».
Les adversaires des chèques d’identité indiquent qu’il existe des risques de confidentialité et de sécurité des données pour partager vos informations personnelles avec les plateformes de médias sociaux. Cela est particulièrement vrai pour une plaffée comme Reddit, où les gens viennent publier des expériences qu’ils n’auraient peut-être jamais si leurs noms leur impliquaient.
Il n’est pas difficile d’imaginer un monde dans lequel les autorités pourraient assigner Reddit pour l’identité, par exemple, par exemple, une adolescente enceinte interrogeant des avortements sur R / Women dans les États où il est désormais illégal. Il suffit de voir comment Meta a remis des conversations privées entre une femme du Nebraska et sa fille de 17 ans, qui disposent les plans du dernier de mettre fin à une grossesse. L’assistance de Meta a conduit la loi sur la loi à acquérir un mandat de perquisition, ce qui entraîne des accusations de crime pour la mère et la fille.
C’est exactement le risque que Reddit espère éviter en tapant des entreprises externes pour fournir «les informations essentielles et en notant d’autre», par Huffman, qui a souligné que «nous ne voulons jamais connaître votre nom ou qui vous êtes».
« L’anonymat est essentiel à Reddit », a-t-il déclaré.
Le PDG a également noté que Reddit continuerait d’être «extrêmement protecteur de vos informations personnelles» et «continuera de repousser les demandes excessives ou déraisonnables des autorités publiques ou privées».
