Les dirigeants de la Silicon Valley, dont David Sacks, tsar de l’IA et de la cryptographie à la Maison Blanche, et Jason Kwon, directeur de la stratégie d’OpenAI, ont fait sensation en ligne cette semaine pour leurs commentaires sur les groupes promouvant la sécurité de l’IA. Dans des cas distincts, ils ont allégué que certains partisans de la sécurité de l’IA ne sont pas aussi vertueux qu’il y paraît et agissent soit dans leur propre intérêt, soit dans celui de marionnettistes milliardaires en coulisses.
Les groupes de sécurité de l’IA qui se sont entretenus avec TechCrunch affirment que les allégations de Sacks et d’OpenAI sont la dernière tentative de la Silicon Valley d’intimider ses détracteurs, mais certainement pas la première. En 2024, certaines sociétés de capital-risque ont répandu des rumeurs selon lesquelles un projet de loi californien sur la sécurité de l’IA, SB 1047, enverrait les fondateurs de startups en prison. La Brookings Institution a qualifié la rumeur de « fausse déclaration » sur le projet de loi, mais le gouverneur Gavin Newsom a quand même finalement opposé son veto.
Que Sacks et OpenAI aient eu ou non l’intention d’intimider les critiques, leurs actions ont suffisamment effrayé plusieurs défenseurs de la sécurité de l’IA. De nombreux dirigeants d’organisations à but non lucratif contactés par TechCrunch la semaine dernière ont demandé à s’exprimer sous couvert d’anonymat pour épargner à leurs groupes des représailles.
Cela souligne les controverses sur la tension croissante de la Silicon Valley entre la construction de l’IA de manière responsable et sa construction pour en faire un produit de consommation massive – un thème que mes collègues Kirsten Korosec, Anthony Ha et moi-même aborderons dans le podcast Equity de cette semaine. Nous nous penchons également sur une nouvelle loi sur la sécurité de l’IA adoptée en Californie pour réglementer les chatbots, ainsi que sur l’approche d’OpenAI en matière d’érotisme dans ChatGPT.
Mardi, Sacks a écrit un article sur les startups dans la paperasse. Anthropic a été le seul grand laboratoire d’IA à approuver le projet de loi 53 (SB 53) du Sénat californien, un projet de loi qui fixe les exigences en matière de rapports de sécurité pour les grandes entreprises d’IA, et qui a été promulgué le mois dernier.
Sacks répondait à un essai viral du co-fondateur d’Anthropic, Jack Clark, sur ses craintes concernant l’IA. Clark a prononcé l’essai sous forme de discours lors de la conférence sur la sécurité Curve AI à Berkeley quelques semaines plus tôt. Assis dans le public, cela ressemblait certainement à un véritable récit des réserves d’un technologue à l’égard de ses produits, mais Sacks ne le voyait pas de cette façon.
Sacks a déclaré qu’Anthropic mène une « stratégie sophistiquée de capture de la réglementation », même s’il convient de noter qu’une stratégie véritablement sophistiquée n’impliquerait probablement pas de faire du gouvernement fédéral un ennemi. Dans un article de suivi sur X, Sacks a noté qu’Anthropic s’est positionné « systématiquement comme un ennemi de l’administration Trump ».
Événement Techcrunch
San Francisco
|
27-29 octobre 2025
Cette semaine également, Jason Kwon, directeur de la stratégie d’OpenAI, a écrit un article sur X expliquant pourquoi l’entreprise envoyait des assignations à comparaître à des organisations à but non lucratif chargées de la sécurité de l’IA, telles que Encode, une organisation à but non lucratif qui milite en faveur d’une politique responsable en matière d’IA. (Une assignation à comparaître est une ordonnance légale exigeant des documents ou un témoignage.) Kwon a déclaré qu’après qu’Elon Musk ait poursuivi OpenAI – en raison de craintes que le créateur de ChatGPT ne se soit détourné de sa mission à but non lucratif – OpenAI a trouvé suspect la façon dont plusieurs organisations ont également soulevé leur opposition à sa restructuration. Encode a déposé un mémoire d’amicus à l’appui du procès de Musk, et d’autres organisations à but non lucratif se sont prononcées publiquement contre la restructuration d’OpenAI.
« Cela a soulevé des questions de transparence quant à savoir qui les finançait et s’il y avait une coordination », a déclaré Kwon.
NBC News a rapporté cette semaine qu’OpenAI avait envoyé de larges assignations à comparaître à Encode et à six autres organisations à but non lucratif qui critiquaient l’entreprise, demandant leurs communications liées à deux des plus grands opposants d’OpenAI, Musk et le PDG de Meta, Mark Zuckerberg. OpenAI a également demandé à Encode des communications liées à sa prise en charge du SB 53.
Un éminent leader de la sécurité de l’IA a déclaré à TechCrunch qu’il existe une division croissante entre l’équipe des affaires gouvernementales d’OpenAI et son organisation de recherche. Alors que les chercheurs en sécurité d’OpenAI publient fréquemment des rapports révélant les risques des systèmes d’IA, l’unité politique d’OpenAI a fait pression contre le SB 53, affirmant qu’elle préférerait avoir des règles uniformes au niveau fédéral.
Joshua Achiam, responsable de l’alignement des missions d’OpenAI, a parlé de l’envoi d’assignations à comparaître à des organisations à but non lucratif par son entreprise dans un article sur X cette semaine.
« Au risque de mettre ma carrière en danger, je dirai : cela ne semble pas génial », a déclaré Achiam.
Brendan Steinhauser, PDG de l’Alliance à but non lucratif pour la sécurité de l’IA (qui n’a pas été assignée à comparaître par OpenAI), a déclaré à TechCrunch qu’OpenAI semble convaincu que ses détracteurs font partie d’une conspiration dirigée par Musk. Cependant, cet argument n’est pas le cas, et une grande partie de la communauté de la sécurité de l’IA est assez critique à l’égard des pratiques de sécurité de xAI, ou de leur absence.
« De la part d’OpenAI, cela vise à faire taire les critiques, à les intimider et à dissuader d’autres organisations à but non lucratif de faire de même », a déclaré Steinhauser. « Pour Sacks, je pense qu’il s’inquiète du fait que le mouvement (pour la sécurité de l’IA) se développe et que les gens veulent demander des comptes à ces entreprises. »
Sriram Krishnan, conseiller politique principal pour l’IA à la Maison Blanche et ancien associé général d’a16z, est intervenu dans la conversation cette semaine avec sa propre publication sur les réseaux sociaux, qualifiant les défenseurs de la sécurité de l’IA de déconnectés. Il a exhorté les organisations chargées de la sécurité de l’IA à parler « aux personnes du monde réel qui utilisent, vendent et adoptent l’IA chez elles et dans leurs organisations ».
Une étude récente de Pew a révélé qu’environ la moitié des Américains sont plus préoccupés qu’enthousiasmés par l’IA, mais on ne sait pas exactement ce qui les inquiète. Une autre étude récente est allée plus en détail et a révélé que les électeurs américains se soucient davantage des pertes d’emploi et des deepfakes que des risques catastrophiques causés par l’IA, sur lesquels se concentre largement le mouvement pour la sécurité de l’IA.
Répondre à ces problèmes de sécurité pourrait se faire au détriment de la croissance rapide de l’industrie de l’IA – un compromis qui inquiète de nombreuses personnes dans la Silicon Valley. Alors que les investissements dans l’IA soutiennent une grande partie de l’économie américaine, la crainte d’une réglementation excessive est compréhensible.
Mais après des années de progrès non réglementés de l’IA, le mouvement pour la sécurité de l’IA semble prendre un réel élan à l’approche de 2026. Les tentatives de la Silicon Valley pour lutter contre les groupes axés sur la sécurité pourraient être le signe qu’ils fonctionnent.
