Les meilleurs conseillers politiques et législateurs chinois ont entendu parler des inconvénients du blitz de l’intelligence artificielle dans un pays où plus de 249 millions de personnes utilisent des produits générés par l’IA.
Lors de l’assemblée générale annuelle du Congrès national de Chine et du Conseil politique populaire, communément appelé «deux sessions», les participants ont entendu les préoccupations des principaux militants techniques et des secoueurs sur les pentes glissantes qui pourraient conduire à la propagation de Forfakes profonds à partir de percées de pointe comme Deepseek.
Alors que l’IA révolutionne rapidement la vie quotidienne, elle soulève également des défis clés, tels que la création de foldages profonds convaincants, la dépendance aux données et les hallucinations de données, une partie de la production de contenu fabriqué généré par des algorithmes.
Les dirigeants d’entreprises dans des secteurs tels que les appareils électroménagers, la cybersécurité, la fabrication de l’appareil domestique et les fournisseurs de services d’IA ont soulevé ces questions avec les législateurs et les décideurs. Dans le décompte, leurs entreprises représentent des millions d’utilisateurs et une énorme quantité de données.
Ti gong
Le président-directeur général de Xiaomi, Lei Jun, a participé à deux séances.
Le besoin urgent de droit de l’IA
La montée en puissance de Deepfakes, y compris les faux visages et les voix générés par l’IA, constitue une menace sérieuse à la confiance et à la crédibilité dans la communication numérique, ont averti les cadres. Le président-directeur général de Xiaomi, Lei Jun, également membre de l’Assemblée populaire nationale, a souligné l’émergence de « zones de catastrophe » des activités illégales et contrefarisées créées par l’utilisation inappropriée de l’IA.
Avec un portefeuille diversifié de smartphones, de véhicules électriques et d’appareils intelligents, Xiaomi se méfie particulièrement de la tendance, citant une accessibilité accrue des outils d’IA, des obstacles techniques réduits et la facilité de création de Forfakes anonymes.
Deepfakes sont également exploités dans la fraude financière et créent le soutien des fausses célébrités afin de tromper les victimes. Une usurpation d’identité réaliste peut inciter les gens à fabriquer des informations personnelles et à transférer des fonds. Les faux fac-similés de personnages célèbres comme Elon Musk et l’expert bien connu des maladies infectieuses, le Dr Zhang Wenhong, sont fréquemment utilisés comme appâts.
Un autre problème pressant est la création d’un contenu fantastique avec des modèles d’IA génératifs tels que DePseek et Sora, selon le député national d’Iflytek et le président Liu Qingfeng.
Selon le China Internet Network Information Center, ou CNNIC, la possibilité d’une désinformation généralisée est importante.
Les modèles d’inférence avancés augmentent la cohérence logique du contenu généré par l’IA, ce qui rend de plus en plus difficile la distinction entre les informations authentiques et fabriquées. Cela crée le risque de désinformation biaisée qui se perpétue et constitue un « cercle vicieux » dans lequel la confiance du public et la stabilité sociale s’érodaient.
L’observateur Internet Lan Xi a critiqué Deepseek dans un récent article pour « Détruire le paysage Internet chinois » avec sa production. Il a cité des exemples de contenu généré par l’IA comme les histoires historiques forgées et le voyage des artistes fictifs.
Les chefs de cybersécurité de 360 Tech et Qianxin ont reflété ces préoccupations et ont souligné les défis de sécurité de l’ère de l’IA. D’autres questions, telles que les vulnérabilités dans les voitures intelligentes et la robotique, ont également soulevé des préoccupations généralisées.
Zhu Shenshen / Shine
Le magasin Iflytek à Shanghai vend des gadgets AI.
Proposition de réglementation de l’IA
Un thème commun parmi les leaders de la technologie est que les systèmes doivent identifier le contenu généré et contre-les profonds.
Le LIU d’Iflytek a proposé d’établir une « base de données de connaissances et de connaissances sûre, fiable, fiable et dynamiquement ». Il a également exhorté les régulateurs et les plateformes technologiques à développer des systèmes de gestion des hallucinations pour les données et les nettoyages réguliers de ces données.
Le président du TCL, Li Dongsheng, est également un législateur national, prônant un système d’étiquetage du contenu généré par l’IA et suggérant une révocation de l’admissibilité aux amendes ou aux violations. Il a également souligné le besoin de traçabilité du contenu d’IA sur la plate-forme.
Lei de Xiaomi a appelé au développement de la technologie de reconnaissance de contenu de l’IA et à améliorer les processus pour recueillir des preuves d’infraction. Il a proposé une augmentation des sanctions pénales pour les crimes compatibles AI, notamment la respiration profonde, en particulier dans les écoles primaires et secondaires, et a proposé de renforcer l’éducation publique sur l’éthique de l’IA.
Imaginertina
Les gens ont assisté au sommet de l’IA à Paris le mois dernier, affichant une déclaration de gouvernance de l’IA signée par 60 pays, dont la Chine.
Gouvernance internationale de l’IA
Le LI de TCL a également proposé une coopération mondiale sur la gouvernance de l’IA et a fait référence à une déclaration de Paris sur «l’intelligence artificielle complète et durable pour les personnes et les planètes».
L’UE et les États-Unis poursuivent une stratégie de gouvernance claire de l’IA.
Connu pour ses réglementations strictes sur la protection des données, l’UE priorise l’éthique préventive et la surveillance humaine. Les États-Unis soutiennent une approche plus flexible et met l’accent sur les solutions axées sur le marché, sauf dans le domaine de la sécurité nationale.
La tension entre l’éthique préventive et les expériences perturbatrices souligne les défis mondiaux de la gouvernance de l’IA.
En Chine, les chefs de technologie contribuent activement au développement de leurs propres cadres de gouvernance de l’IA.
La récente controverse sur l’assistant de l’IA de Tencent Yuanbao, qui est devenue populaire après avoir intégré son service Deepseek, a déclenché une controverse sur les contrats utilisateur. L’accord original a accordé la licence Tencent « irrévocable, permanente, gratuite » pour utiliser le contenu à des fins telles que l’optimisation du modèle et le marketing. En réponse aux critiques, la meilleure société de technologie chinoise Tencent a changé son accord à trois reprises cette semaine.
Cet incident met en évidence la perception croissante du public des droits des données et la nécessité d’un contrôle transparent des utilisateurs, en établissant un antécédent qui équilibre les préoccupations concernant le développement de l’IA et la propriété numérique.
Le président et membre du 360 Tech de l’organisme consultatif politique, Hongyi, a déclaré qu’il soutenait une approche plus flexible de la réglementation du modèle d’IA et met l’accent sur l’auto-politique de l’industrie.
« Vous ne pouvez pas les fermer avec toutes les erreurs et la désinformation », a déclaré Zhou. « Ils peuvent s’adapter par auto-correction, ce qui encouragerait les entreprises comme des gens plus profonds en Chine. »
Un point semble clair. La Chine a établi une voie unique pour la gouvernance de l’IA qui s’appuie sur une approche conjointe qui implique l’industrie technologique, les régulateurs et le public.
