Le représentant de l’État de New York, Alex Boas, un démocrate actuellement candidat au Congrès dans le 12e district de Manhattan, affirme que l’une des utilisations les plus alarmantes de l’intelligence artificielle, les très réels deepfakes, est moins une crise insoluble qu’un échec dans la mise en œuvre des correctifs existants.
« Pouvons-nous découvrir les deepfakes ? Parce que c’est un problème qui peut être résolu et pour lequel je pense que la plupart des gens ratent le coche », a déclaré Boas dans un récent épisode du podcast Bloomberg « Odd Lots », animé par Joe Weisenthal et Tracy Alloway.
Plutôt que de former les gens à repérer les défauts visuels dans les fausses images et audio, a déclaré Boas, les décideurs politiques et l’industrie technologique devraient s’appuyer sur des approches cryptographiques bien établies, similaires à celles qui ont rendu possible la banque en ligne dans les années 1990. À l’époque, les sceptiques doutaient que les consommateurs fassent confiance aux transactions financières sur Internet. Les choses ont changé avec la prolifération du HTTPS, qui utilise des certificats numériques pour vérifier l’authenticité d’un site Web.
« C’était un problème qui pouvait être résolu », a déclaré Boaz. « Essentiellement, les mêmes techniques s’appliquent aux images, à la vidéo et à l’audio. »
Boas a souligné une « norme de métadonnées gratuite et open source » connue sous le nom de C2PA, abréviation de Content Provenance and Authenticity Coalition for Content Provenance and Authenticity. Cela permet aux auteurs et aux plateformes de joindre des informations d’identification inviolables aux fichiers. La norme permet un enregistrement cryptographique indiquant si le contenu a été capturé sur un appareil réel, généré par l’IA, et comment il a été modifié au fil du temps.
« Le défi est qu’il faut arriver à un point où cela devient l’option par défaut parce que l’auteur doit le joindre », a déclaré Bores.
L’objectif, selon lui, est un monde dans lequel la plupart des médias légitimes publient ce type de données de provenance, et que « si vous regardez une image et n’en avez pas de preuve cryptographique, vous devriez vous méfier ».
Boas a déclaré que grâce à la transition du HTTP vers le HTTPS, les consommateurs savent instinctivement qu’ils ne peuvent pas faire confiance aux sites bancaires dépourvus de connexion sécurisée. « C’est comme aller sur le site Web de votre banque et charger simplement le HTTP, n’est-ce pas ? Vous êtes immédiatement méfiant, mais vous pouvez toujours générer une image. »
L’IA est au centre des enjeux politiques et économiques, et les deepfakes sont devenus une préoccupation particulière en matière d’élections, de fraude financière et de harcèlement en ligne. Boas a déclaré que certains des incidents les plus dommageables impliquent des images sexuelles non consensuelles, telles que celles ciblant des filles d’âge scolaire, et que même des contrefaçons clairement identifiées peuvent avoir des conséquences réelles. Il a fait valoir que les lois au niveau des États interdisant la pornographie deepfake, y compris à New York, risquaient d’être limitées par de nouveaux efforts fédéraux visant à anticiper les règles des États en matière d’IA.
Le vaste programme de Boas en matière d’IA constitue déjà un point chaud dans l’industrie. Il est l’auteur du Raise Act, un projet de loi qui vient d’être promulgué vendredi dernier et qui vise à imposer des exigences de sécurité et de reporting à un petit nombre de laboratoires d’IA dits « frontières », notamment Meta, Google, OpenAI, Anthropic et XAI. La loi sur l’augmentation des salaires oblige ces entreprises à publier des plans de sécurité, à divulguer les « incidents de sécurité graves » et à s’abstenir de vendre des modèles qui échouent à leurs tests internes.
Le projet de loi a été adopté par l’Assemblée de l’État de New York avec le soutien des deux partis, mais a également déclenché une réaction violente de la part d’un super PAC pro-IA soutenu par d’éminents investisseurs et dirigeants technologiques qui auraient promis des millions de dollars pour vaincre Boas lors des primaires de 2026.
Boas, qui a travaillé auparavant comme data scientist et chef d’entreprise privée fédérale chez Palantir, a déclaré que sa position n’est pas anti-industrie, mais plutôt une tentative de codifier les protections que les grands laboratoires d’IA ont déjà approuvées dans le cadre d’engagements volontaires avec la Maison Blanche et lors de sommets internationaux sur l’IA. Pour des entreprises comme Google et Meta, a-t-il déclaré, se conformer à la loi sur l’augmentation des salaires « signifierait l’embauche d’un employé supplémentaire à temps plein ».
Concernant les lots impairs, Boas a déclaré que l’authentification du contenu cryptographique doit ancrer toute réponse politique aux deepfakes. Mais il a également souligné que les étiquettes techniques ne constituent qu’une pièce du puzzle. Les lois qui interdisent explicitement les utilisations nuisibles (telles que les matériels pédophiles truqués) restent importantes, a-t-il déclaré, d’autant plus que le Congrès n’a pas encore adopté de normes fédérales complètes.
« L’IA est déjà intégrée dans la vie (des électeurs) », a déclaré Boas, citant des exemples tels que les jouets IA pour enfants et les robots qui imitent les conversations humaines.
Vous pouvez regarder l’interview complète de Boaz sur Odd Lots ci-dessous.
