Deux adolescents qui ont utilisé l’intelligence artificielle pour créer de fausses photos nues de leurs camarades de classe dans une école privée de Pennsylvanie ont été mis en probation mercredi après que des dizaines de victimes ont déclaré que les images avaient eu un effet traumatisant sur eux.
Les garçons avaient alors 14 ans. Ils ont admis ce mois-ci avoir créé environ 350 images montrant au moins 59 jeunes filles de moins de 18 ans et d’autres victimes qui n’ont pas encore été identifiées.
Les autorités affirment que les garçons ont pris des images des filles à partir de photos d’école, d’annuaires, de discussions sur Instagram, TikTok et FaceTime en 2023 et 2024 et les ont transformées en images pour adultes illustrant la nudité et des actes sexuels.
Plus de 100 élèves et parents de la Lancaster Country Day School ont comparu devant le tribunal, où les victimes ont décrit le choc de devoir identifier leur visage aux détectives sur des photos pornographiques. En Pennsylvanie, les procédures judiciaires pour mineurs sont normalement fermées au public, mais l’audience s’est déroulée devant un juge, donnant aux résidents locaux une rare opportunité de voir et d’entendre.
Ils ont décrit des effets secondaires tels que des crises d’angoisse, une perte de confiance, une incapacité à se concentrer sur leurs devoirs et la peur que les images puissent un jour faire surface de manière inattendue.
« Je ne comprendrai jamais pourquoi ils ont fait ça », a déclaré une victime au juge Leonard Brown. « Mon innocence a été détruite. »
« Comme c’est atroce d’évoquer ces sentiments encore et encore », a déclaré une jeune femme à Brown. Une autre femme a retenu ses larmes en accusant l’un des accusés d’avoir exprimé une « fausse empathie » lorsque les filles partageaient leur douleur avant que l’on sache qu’il était impliqué dans la création et la diffusion des images. Une autre femme encore a déclaré que tous ses amis avaient été transférés d’école et « avaient besoin d’une thérapie traumatologique pour même se promener dans le quartier ».
Les deux jeunes hommes sont restés tout le temps sans expression, entourés de leurs avocats et de leurs parents, qui les ont décrits comme des pédophiles et des pervers « malades et pervers ».
Ils ont refusé plusieurs occasions de commenter le cas du juge, qui a déclaré qu’il n’avait pas entendu le garçon assumer ses responsabilités ou s’excuser.
« Cela a été un processus malheureux, long et douloureux pour toutes les personnes impliquées », a déclaré Heidi Freese, avocate de l’un des accusés. « Il y a des questions juridiques très intéressantes et fondamentales entourant les accusations dans cette affaire, et celles-ci seront tranchées dans une affaire distincte à un autre jour. »
Brown a ordonné à chacun d’effectuer 60 heures de travaux d’intérêt général, de n’avoir aucun contact avec la victime et de payer un montant non précisé à titre de dédommagement. Brown a déclaré que l’affaire pourrait être classée dans deux ans s’il n’y avait pas de problèmes juridiques supplémentaires.
Brown a déclaré en prononçant la sentence que s’ils étaient adultes, ils auraient probablement été envoyés dans une prison d’État. Il a déclaré qu’ils devraient « saisir cette occasion pour se remettre en question ».
Le règlement du procès en Pennsylvanie intervient quelques jours après que trois adolescents du Tennessee ont poursuivi xAI d’Elon Musk, affirmant que l’outil Grok de la société avait modifié de vraies photos en images ouvertement sexuelles. Les lycéens demandent le statut de recours collectif au nom de milliers d’autres personnes qui ont également été victimes en tant que mineurs, selon le procès.
Un scandale en Pennsylvanie en 2024 a conduit à des manifestations étudiantes, à la démission des chefs d’établissement et à des poursuites pénales contre deux adolescents.
Nadeem Besar, un avocat de Philadelphie qui représente au moins 10 des victimes, a déclaré mardi qu’il prévoyait d’intenter une action en justice contre « l’école et toute personne que nous pensons responsable de la création et de la diffusion de ces deepfakes ».
Il n’a pas encore vu les photos, mais a déclaré qu’il espère que la procédure judiciaire révélera « exactement quand, où et comment l’école a eu connaissance, comment les garçons ont créé ces images, quelles plateformes ont été utilisées pour créer ces images et comment elles ont été distribuées ».
À mesure que l’IA devient plus accessible et plus puissante, les législateurs de tout le pays ont adopté des lois visant à interdire les deepfakes.
L’année dernière, le président Donald Trump a signé le Take It Down Act, qui interdit la publication d’images intimes, y compris les deepfakes, sans consentement et oblige les sites Web et les réseaux sociaux à supprimer ce contenu dans les 48 heures après avoir été informé par une victime.
Selon le groupe de défense des consommateurs Public Citizen, 46 États ont actuellement des lois en place pour lutter contre les deepfakes, et quatre autres (Alaska, Missouri, Nouveau-Mexique et Ohio) ont présenté des projets de loi.
____
Les rédacteurs d’Associated Press Jeff Mulvihill à Haddonfield, New Jersey, et Holly Raymer à Concord, New Hampshire, ont contribué.
