L’auteur de la Californie SB 1047, le projet de loi sur la sécurité de l’IA le plus controversé du pays de 2024, est de retour avec un nouveau projet de loi sur l’IA qui pourrait secouer la Silicon Valley.
Le sénateur de l’État de Californie, Scott Wiener, a présenté un nouveau projet de loi vendredi qui protégerait les employés de la direction des laboratoires d’IA, leur permettant de s’exprimer s’ils pensent qu’ils pensent que les systèmes d’IA de l’entreprise pourraient être un «risque critique» pour la société. Le nouveau projet de loi, SB 53, créerait également un cluseur comportant de cloud public, appelé Calcomte, pour donner aux chercheurs et aux startups les ressources informatiques nécessaires pour développer une IA qui profite au public.
Le dernier projet de loi sur l’IA de Wiener, le SB 1047 de Californie, a déclenché un débat animé à travers le pays autour de la façon de gérer les systèmes d’IA massifs qui conduisent des catastrophes. SB 1047 visait à empêcher la possibilité de très grands modèles d’IA créant des événements catastrophiques, tels que la perte de vies ou les cyberatacks coûtant plus de 500 millions de dollars en dommages-intérêts. Cependant, le gouverneur Gavin Newsom Ultimataly a opposé son veto au projet de loi en septembre, affirmant que le SB 1047 n’était pas la meilleure approche.
Mais le débat sur le SB 1047 est rapidement devenu laid. Certains leaders de la Silicon Valley ont déclaré que SB 1047 nuirait à l’avantage concurrentiel de l’Amérique dans la race mondiale de l’IA, et a affirmé que le projet de loi avait été inspiré par des craintes irréalistes que les systèmes d’IA puissent provoquer des scénarios de dons de science-fiction. Pendant ce temps, le sénateur Wiener a allégué que certains capital-risqueurs se livraient à une «campagne de propagande» contre son projet de loi, spécifiant en partie à la réclamation de Y Combinator selon laquelle SB 1047 enverrait des fondateurs de startup en prison, a soutenu que les experts en affirmation étaient trompeurs.
SB 53 Essentiellly prend les parties les moins controversées de SB 1047 – comme les protections de dénonciation et l’établissement d’un cluster CalCompute – et les reconditionne dans un nouveau projet de loi sur l’IA.
Notamment, Wiener ne s’éloigne pas du risque d’IA existentiel au SB 53. Le nouveau projet de loi protège spécifiquement les dénonciateurs qui croient que leurs employeurs créent un système d’IA qui présente un «risque critique». Le projet de loi définit le risque critique comme un «risque prévisible ou matériel que le développement, le stockage ou le déploiement d’un développeur d’un modèle de fondation, tel que défini, entraînera la mort ou des blessures graves à plus de 100 personnes, soit plus d’un milliard de dollars en dommages-intérêts. «
Le SB 53 limite les développeurs de modèles d’IA frontaliers – y compris probablement Openai, Anthropic et XAI, entre autres – de riposter contre les employés qui divulguent des informations au procureur général de Californie, aux autorités fédérales ou à d’autres employés. En vertu du projet de loi, ces développeurs seraient tenus de faire rapport aux dénonciateurs sur certains processus internes que les dénonciateurs trouvent concernant.
Quant à CalCompute, SB 53 établirait un groupe pour construire un cluster public cloud computing. Le groupe se composerait de représentants de l’Université de Californie, ainsi que d’autres chercheurs publics et privés. Il ferait des recommandations sur la façon de construire CalCompute, de la taille du cluster et des utilisateurs et des organisations devraient y avoir accès.
De race, il est très tôt dans le processus législatif pour le SB 53. Le projet de loi doit être révisé et adopté par les organismes législatifs de la Californie avant d’atteindre le bureau du gouverneur Newsom. Les législateurs de l’État attendront sûrement la réaction de la Silicon Valley au SB 53.
Cependant, 2025 pourrait être une année plus difficile pour adopter des factures de sécurité de l’IA par rapport à 2024. La Californie a adopté 18 factures refoulées en AI en 2024, mais voient maintenant le mouvement A IA Doom a perdu Grind.
Le vice-président JD Vance a rapporté au Sommet de l’action de l’IA de Paris que l’Amérique ne s’intéressait pas à une sécurité de l’IA, mais ne privilégie plutôt l’innovation de l’IA. Bien que le cluster CalCompute établi par SB 53 puisse sûrement être considéré comme un progrès de l’IA, il est clair comment les efforts législatifs entourent l’IA existentielle Rosk Wilk s’en sortira en 2025.
