Vous pouvez diffamer les morts. Mais cela ne signifie pas que vous devriez les falsifier.

Zelda Williams, fille du regretté acteur Robin Williams, a un message poignant pour les fans de son père.

« S’il vous plaît, arrêtez de m’envoyer des vidéos de papa. Arrêtez de croire que je veux voir ou que je comprendrai. Je ne le fais pas et je ne le ferai pas », a-t-elle écrit dans un post sur son histoire Instagram sur World. « Si vous avez de la décence, arrêtez de faire ça à lui et à moi, même à tout le monde, point final. C’est stupide, c’est une perte de temps et d’énergie, et croyez-moi, ce n’est pas ce qu’il voudrait. « 

Ce n’est probablement pas une coïncidence si Williams a été amené à publier ceci quelques jours seulement après la sortie du modèle vidéo Sora 2 et de l’application sociale Sora d’Openai, qui donnent aux utilisateurs le pouvoir de générer des deepfakes très réalistes d’eux-mêmes, de leurs amis et de certains personnages de dessins animés.

Cela incluait également les morts, qui semblent être des jeux équitables car il n’est pas illégal de diffamer le défunt, selon le Student Press Law Center.

Sora ne vous permettra pas de générer des vidéos de personnes vivantes – sauf s’il s’agit de vous-même ou d’un ami qui vous a donné la permission d’utiliser leur image (ou « Cameo », comme l’appelle openai). Mais cela limite les dons aux morts, qui peuvent pour la plupart être générés sans barrages routiers. L’application, qui n’est encore disponible que sur invitation, a été inondée de vidéos de personnages historiques comme Martin Luther King, jr., Franklin Delano Roosevelt et Richard Nixon, ainsi que de célébrités décédées comme Bob Ross, John Lennon, Alex Trebek et, oui, Robin Williams.

La manière dont Openai fixe la limite en matière de génération de vidéos des morts n’est pas claire. Sora 2 ne générera pas, par exemple, le président de la formation Jimmy Carter, décédé en 2024, ni Michael Jackson, décédé en 2009, bien qu’il ait créé des vidéos à l’effigie de Robin Williams, décédé en 2014, selon les tests de Techcrunch. Et tandis que la fonctionnalité Cameo d’OpenAi permet aux gens de définir des instructions sur la façon dont ils apparaissent dans les vidéos que d’autres en génèrent – des garde-fous qui sont à l’origine des premières critiques de Sora – les défunts n’ont pas leur mot à dire. Je parie que Richard Nixon se retournerait sérieusement s’il pouvait voir le Deepfake que j’ai fait de lui en faveur de l’abolition de la police.

OPENAI n’a pas répondu à la demande de commentaires de Techcrunch sur l’autorisation de Deepfaking Dead People. Cependant, il est possible que la falsification de célébrités mortes comme Williams soit conforme aux pratiques acceptables de l’entreprise ; LE PRÉSENT JURIDIQUE MONTRE QUE LA SOCIÉTÉ NE SERA probablement PAS TENUE RESPONSABLE DE LA DIFFAMATION DU DÉCÉDÉ.

« Voir l’héritage de vraies personnes se condenser en » Cela ressemble vaguement, donc c’est suffisant « , juste pour que d’autres personnes puissent produire d’horribles slops Tiktok. Les marionnettistes est exaspérant », a écrit Williams.

Les critiques d’OPENAI accusent la société d’avoir adopté une approche rapide et lâche à ce sujet, à savoir que Sora a été rapidement inondé de clips IA de personnages protégés par le droit d’auteur comme Peter Griffin et Pikachu lors de sa sortie. Le PDG Sam Altman avait initialement déclaré que les studios et agences hollywoodiennes DEVRAIENT EXPLICITEMENT SE RETRAIT SI ILS NE VEULENT PAS QUE LEUR IP SOIT INCLUSE DANS LES VIDÉOS GÉNÉRÉES PAR SERA. La Motion Picture Association a déjà appelé Openai à prendre des mesures sur cette question, déclarant dans une déclaration que « une loi sur le droit d’auteur bien établie protège les droits des créateurs et s’applique ici ». Il a depuis déclaré que la société révélerait cette position.

Sora est peut-être le câble deepfake le plus dangereux accessible aux gens à ce jour, étant donné le réalisme de ses résultats. D’autres plates-formes comme Xai sont à la traîne, mais ont encore moins de garde-fous que Sora, ce qui permet de générer des deepfakes pornographiques de vraies personnes. Alors que d’autres sociétés rattrapent Openai, nous créerons un précédent horrifiant si nous traitons de vraies personnes – vivantes ou mortes – comme nos joueurs personnels.