La nouvelle application sociale d’Openai est une fille avec un terrifiant Sam Altman Deepfakes

Dans une vidéo sur la nouvelle application de médias sociaux de type Tiktok d’Openai, Sora, une ferme industrielle sans fin de porcs roses grogne et renifle dans leurs stylos-each est équipé d’un thergh et d’un écran de smartphone, qui joue un flux de vidéos vériques. Un Sam Altman terriblement réaliste regarde directement la caméra, comme s’il établit un contact direct direct avec le spectateur. L’altman généré par l’AI-AI demande: «Mes cochons apprécient-ils leur pente?»

C’est ce que c’est que l’utilisation de l’application Sora, moins de 24 heures après son lancement au public dans une période d’accès à l’oreille à invitation.

Dans la vidéo suivante sur Sora pour vous, Altman réapparaît. Cette fois, il se tient dans un champ de Pokémon, où des créatures comme Pikachu, Bulbasaur et un grognement à moitié cuit se gambadent à travers l’herbe. Le PDG d’Openai regarde la caméra et dit: « J’espère que Nintendo des ne nous poursuivait pas. » Ensuite, il y a beaucoup plus de scènes fantastiques mais réalistes, qui présentent souvent Altman lui-même.

Il sert Pikachu et Eric Cartman boit à Starbucks. Il crie sur un client derrière le comptoir dans un McDonald’s. Il vole les GPU nvidia d’une cible et s’enfuit, seulement pour se faire prendre et implorer la police de ne pas prendre sa précieuse technologie.

Les gens de Sora qui génèrent des vidéos d’Altman obtiennent surtout un coup de pied de la façon dont Openai semble violer les lois sur le droit d’auteur. (Sora aurait obliger les détenteurs de droits d’auteur pour opter pour l’utilisation de leur contenu – inversant l’approche typique où les créateurs doivent expliquer à cette utilisation – dont la légalité est discutable.)

« Ce contenu peut violer nos garde-corps concernant la ressemblance tierce », dit Ai Altman dans une vidéo, faisant écho à l’avis qui apparaît après avoir soumis une invite à générer de vrais célébrités ou personnages. Ensuite, il éclate de rire hystérique comme s’il sait ce qu’il dit est un non-sens – l’application est une fille avec des vidéos de Pikachu faisant ASMR, Naruto commandant Krabby Patties et Mario fumant de l’herbe.

Ce ne serait pas un problème si Sora 2 n’était pas si impressionnant, surtout par rapport à la pente encore plus muet sur l’application Meta Ai et son nouveau flux social (oui, Meta essaie également de faire Ai tiktok, et non, non, non, non, non, non, non, non, non, personne, personne ne veut).

Openai a affiné son générateur de vidéos pour dépeindre adéquatement les lois de la physique, qui font des résultats plus réalistes. Mais plus ces vidéos sont réalistes, plus il sera facile pour cette création de contenu synthétique de proliférer sur le Web, où il peut battre un vecteur de désinformation, d’intimidation et d’autres utilisations néfastes.

Mis à part son flux et ses profils algorithmiques, la caractéristique déterminante de Sora est qu’il est basalement un générateur DeepFake – c’est ainsi que nous avons eu tant de vidéos d’Altman. Dans l’application, vous pouvez créer ce qu’Openai appelle un «camée» de vous-même en téléchargeant des données biométriques. Lorsque vous rejoignez l’application pour la première fois, vous êtes invite à créer votre appareil photo facultatif via un processus rapide où vous vous enregistrez en lisant certains numéros, puis en tournant la tête d’un côté à l’autre.

Chaque utilisateur de Sora peut contrôler qui est autorisé à générer des vidéos en utilisant son camée. Vous pouvez ajuster ce paramètre entre quatre options: «seulement moi», «les gens que j’approuve», «mutuels» et «tout le monde».

Altman a rendu son camée à la disposition de tous, ce que le flux de Sora a été inondé de vidéos de Pikachu et de Bob éponge en suppliant Altman pour cesser de former l’IA sur eux.

Cela doit être une décision délibérée de la part d’Altman, peut-être comme un moyen de montrer qu’il ne pense pas que son produit est dangereux. Mais les utilisateurs profitent déjà du camée d’Altman pour remettre en question l’éthique de l’application elle-même.

Après avoir regardé suffisamment de vidéos de GPUS Sam Altman dans les bols des gens à Sus Kitchens, j’ai décidé de tester la fonctionnalité Camo sur Myyself. C’est généralement une mauvaise idée de télécharger vos données biométriques sur une application sociale ou toute application d’ailleurs. Mais j’ai défié mes meilleurs instincts pour le journalisme – et, si la maison honnête, un peu de curiosité morbide. Ne suivez pas mon exemple.

Ma première tentative de faire un camée a été infructueuse, et un pop-up m’a dit que mon téléchargement de directives sur les applications victimes de téléchargement. Je pensais que j’avais suivi les instructions de près, alors j’ai essayé à nouveau, seulement pour trouver le même pop-up. Ensuite, j’ai réalisé le problème – je portais un débardeur, et mes épaules étaient peut-être un peu trop à la goût de l’application. Il a en fait une caractéristique de sécurité raisonnable, conçue pour prendre un contenu inapproprié, bien que j’étais en fait entièrement vêtu. Donc, j’ai changé en t-shirt, à nouveau attaché, et contre mon meilleur jugement, j’ai créé mon camée.

Pour mon premier Deepfake de moi-même, j’ai décidé de créer une vidéo de quelque chose que je ne ferais jamais dans la vraie vie. J’ai demandé à Sora de créer une vidéo dans laquelle je professe mon amour éternel pour les Mets de New York.

Cette invite a été rejetée, probablement parce que j’ai nommé une franchise spécifique, j’ai donc demandé à Sora de faire une vidéo de moi parlant de baseball.

« J’ai grandi à Philadelphie, donc les Phillies sont basalement la bande originale de mes étés », a déclaré mon Ai Deepfake, parlant d’une voix très contrairement à la mienne, mais dans une chambre qui ressemble exactement à la mienne.

Je n’ai pas dit à Sora que je suis un fan des Phillies. Mais l’application Sora est en mesure d’utiliser votre adresse IP et votre histoire de Chatgpt pour adapter ses responsabilités, donc elle a fait une supposition éclairée, car j’ai enregistré la vidéo à Philadelphie. Au moins, Openai ne savait pas que je ne suis pas vraiment de la région de Philadelphie.

Lorsque j’ai partagé et explicatif la vidéo sur Tiktok, un commentaire a écrit: «Chaque jour, je me réveille avec de nouvelles horreurs au-delà de ma compréhension.»