À l’ère de l’IA, la réalité peut être réécrite du jour au lendemain. Un jour, vous soutenez publiquement l’un de vos candidats à la mairie préférés, et le lendemain, une citation générée par l’IA dit le contraire.
Cette situation est également arrivée à l’ancien maire de New York, Bill de Blasio (la différence importante étant que le d est en minuscule plutôt qu’en majuscule). Quelques jours avant l’élection du maire de New York, un journaliste du Times à Londres a envoyé un courrier électronique à quelqu’un qu’il pensait être Bill de Blasio pour lui faire part de ses réflexions sur la politique du démocrate Zoran Mamdani, en tête de la course.
Les résultats étaient inattendus, comme l’a écrit une personne interrogée : « À mon avis, ce calcul ne résiste pas à un examen minutieux et les obstacles politiques sont importants. » Après que d’autres médias et réseaux sociaux en aient parlé, le vrai Bill de Blasio s’est levé et a affirmé que l’histoire était complètement fausse et fabriquée et ne reflétait pas son point de vue.
La personne qui se fait passer pour lui a admis avoir utilisé ChatGPT pour rédiger des réponses critiquant le plan fiscal de Mamdani, affirmant qu’il était peu probable qu’il collecte les fonds nécessaires pour atteindre ses objectifs.
Ce scénario est désormais résolu et soulève d’autres questions. Que feriez-vous si vous étiez trompé par l’IA, les deepfakes ou quelqu’un en ligne ?
« Ce que nous nous demandons ici, c’est à quel point il sera facile à l’avenir de falsifier des voix, de fabriquer des histoires et de victimiser les journalistes et les rédacteurs en chef de cette manière et de victimiser le public de cette manière », a déclaré l’ancien maire de New York à Fortune.
Pour une personne de haut niveau, le risque d’être cloné ne pourrait pas être plus élevé. En tant que personne ayant été personnellement confrontée au « surréalisme » de la parodie, j’ai demandé au vrai Bill de Blasio comment il avait géré ce scénario et quelles mesures il pensait être importantes pour aller de l’avant à l’ère de l’IA.
Réponse rapide et vérification d’identité
M. de Blasio a déclaré que, comme aucun journaliste ne l’avait jamais contacté au sujet de l’incident et que la publication ne disposait d’aucune information de contact, son meilleur recours à l’époque était de répondre immédiatement à la publication en ligne (X) et de prétendre qu’elle était fausse.
« Les excuses et les demandes de suppression en ligne ont eu pour effet d’attirer leur attention », a-t-il déclaré.
Des outils tels que Sora d’OpenAI et Veo 3 de Google ont facilité la création d’images et de vidéos irréalistes mais réalistes d’événements tels que les émeutes, la criminalité, la désinformation politique, les fausses déclarations et la fraude avec du contenu généré par l’IA. Les vidéos de Sora affichent un filigrane mobile indiquant qu’il s’agit de créations d’IA, mais certains experts affirment que cela pourrait être supprimé avec quelques efforts.
« Tout ce que vous pouvez faire, c’est aller en ligne et nier ce que c’est », a déclaré de Blasio. « Si quelqu’un écrit une histoire sur moi en train de cambrioler un magasin, et que je ne vole pas de magasin, je peux simplement dire que c’est faux tout de suite au lieu de laisser quelqu’un d’autre s’en occuper. »
La fraude à l’IA peut également se produire sur le lieu de travail
Les deepfakes constituent une menace évidente pour les personnalités publiques, mais ils peuvent également avoir un impact sur le lieu de travail.
« Sur le lieu de travail, la fraude ne ressemble pas toujours à de la fraude », a déclaré Steve Lenderman, responsable de la prévention de la fraude chez HCM Platforms.
« Les fraudeurs ciblent souvent les employés des ressources humaines, de la paie et des finances en se faisant passer pour des cadres ou des collègues et en utilisant des voix générées par l’IA ou des e-mails similaires pour demander des paiements urgents ou des informations sur les employés. Lorsqu’il s’agit de prévention de la fraude, la curiosité est une question de protection, pas de paranoïa », a déclaré Lenderman à Fortune.
Le conseil de Lenderman : agissez rapidement et documentez tout. Les captures d’écran, les liens et les messages peuvent être utiles lorsque vous faites rapport à votre employeur ou à votre équipe informatique. Vous pouvez arrêter les dégâts, réinitialiser les mots de passe, verrouiller les comptes concernés et activer l’authentification multifacteur. « Plus tôt nous agirons, plus nous aurons de chances d’arrêter les acteurs malveillants avant qu’ils ne puissent causer de graves dommages. La transparence et la rapidité sont les meilleures défenses dans des cas comme celui-ci », a-t-il ajouté.
Nécessité d’une action en justice
L’expérience d’usurpation d’identité a conduit M. de Blasio à croire qu’une action plus forte est nécessaire concernant les risques pour la sécurité des technologies émergentes. En 2023, il s’est exprimé lors d’une conférence de l’Université Harvard sur l’absence de politique concernant la réglementation de l’IA.
« L’idée selon laquelle l’IA est en quelque sorte l’exception à la règle et devrait être la seule technologie qui n’a jamais été réglementée est insensée », dit-il.
« S’il représente quelqu’un en train de commettre un crime, cela devrait être un crime, et les entreprises technologiques ne devraient pas aider ou encourager ceux qui publient ce contenu inapproprié et illégal. »
