La Californie a franchi une étape importante vers la réglementation de l’intelligence artificielle avec le gouverneur Gavin Newsom, où Gavin Newsom signe de nouvelles lois des États qui nécessitent de grandes sociétés d’IA. Beaucoup d’entre eux ont son siège social dans l’État et ont publiquement divulgué des plans pour atténuer les risques potentiellement catastrophiques posés par des modèles d’IA avancés.
La loi commence également le développement de CalCompute, un consortium gouvernemental chargé de créer des mécanismes pour signaler de graves cas de sécurité, étendre la protection des dénonciateurs aux employés des entreprises de l’IA et créer des grappes informatiques publiques pour la recherche et l’innovation de l’IA sûre, éthique et durable. En suivant ces nouvelles règles, avec des sociétés convaincantes comme Openai, Meta, Google Deepmind et Anthropic, la Californie peut établir efficacement des normes de surveillance de l’IA.
Newsom a élaboré la loi comme un équilibre entre encourager la protection du public et l’innovation. Dans sa déclaration, il a écrit: « La Californie a prouvé qu’elle peut établir des réglementations pour protéger nos communautés et s’assurer que l’industrie de l’IA croissante continue de prospérer. Cette loi équilibre cela. »
Écrit par le sénateur Scott Wiener, la loi fait suite à une tentative infructueuse d’adopter des lois sur l’IA similaire l’année dernière. Wiener a déclaré que la nouvelle loi connue en sténographie SB 53 (dans le cas du projet de loi du Sénat 53) se concentre sur la transparence plutôt que sur les écarts par rapport au précédent projet de loi SB 1047 rejeté par les journaux l’année dernière.
« Les passages SB 53 ont remporté des victoires remarquables à travers la Californie et l’industrie de l’IA », a déclaré Sunny Gandhi, vice-président des affaires politiques de l’encodage de l’IA, coparrainé par SB 53. Le cadre d’un écosystème d’IA compétitif, sûr et respecté à l’échelle mondiale. «
Les réponses de l’industrie aux nouvelles lois sont divisées. Jack Clark, co-fondateur de la société d’IA Anthropic, qui a soutenu le SB 53, a écrit à X: il a souligné que si les normes fédérales restent importantes pour empêcher un patchwork de réglementations de l’État, la Californie a créé un cadre qui équilibre la sécurité publique avec l’innovation continue.
Openai, qui n’a pas soutenu le projet de loi, a ajouté au média: « Nous sommes ravis que la Californie ait créé une voie importante à l’harmonie avec le gouvernement fédéral, qui est l’approche la plus efficace de la sécurité de l’IA », ajoutant que si la loi est correctement mise en œuvre, la coopération entre les gouvernements fédéral et les États sur le déploiement de l’IA sera possible. Le porte-parole de Meta, Christopher Sgro, a également déclaré aux médias qu’il « soutient les réglementations équilibrées de l’IA, » qualifiant SB 53 de « pas positif dans cette direction » et que Meta a hâte de travailler avec les législateurs pour protéger les consommateurs tout en favorisant l’innovation.
En dépit d’être une loi au niveau de l’État, la loi californienne aura une portée mondiale, car 32 des 50 meilleures entreprises d’IA du monde sont basées dans l’État. Le projet de loi obligerait les entreprises sur l’IA à signaler des accidents au California Department of Emergency Services, à protéger les dénonciateurs et à permettre aux ingénieurs et aux autres employés de soulever des problèmes de sécurité sans mettre leur carrière en danger. Le SB 53 comprend également des sanctions civiles pour des violations pouvant être appliquées par le procureur général de l’État, mais les experts politiques de l’IA comme Miles Brundage ont des sanctions relativement faibles.
Brundage, ancien responsable de la recherche politique à OpenAI, a déclaré dans un article sur X que SB 53 représente « un pas en avant », mais que le rapport nécessitait « la transparence réelle », un seuil de risque minimum plus fort et une évaluation tierce techniquement robuste.
Collin McCune, chef des affaires gouvernementales à Andreessen Horowitz, a également averti la loi, « il y a un risque de presser des startups, de ralentir l’innovation et de mettre en place les plus grands acteurs », et a déclaré qu’il établirait un préccente dangereux pour les réglementations de l’État par état qui permettent aux startups de créer un patchwork de 50 administrations de conformité. Plusieurs sociétés d’IA qui se sont opposées au projet de loi ont également avancé des arguments similaires.
La Californie vise à promouvoir la transparence et la responsabilité dans le secteur de l’IA grâce à ses exigences pour la divulgation publique et les rapports de cas. Cependant, des critiques comme McCune ont fait valoir que la loi pourrait rendre la conformité difficile à établir le contrôle des petites entreprises et de Big Tech IA.
Thomas Woodside, co-fondateur de Secure IA Project, a appelé les préoccupations de démarrage «exagérées».
« Le projet de loi ne s’applique qu’aux entreprises qui forment des modèles d’IA. Il s’agit d’une énorme quantité de calculs qui coûtent des centaines de millions de dollars, et les petites startups ne peuvent pas », a-t-il déclaré à Fortune. « C’est pour signaler quelque chose de très grave qui ne va pas, la protection des dénonciateurs et un niveau de transparence très fondamental. Aucune autre obligation ne s’applique aux entreprises avec des revenus annuels de moins de 500 millions de dollars. »
