Bienvenue dans Eye on AI avec la journaliste Sharon Goldman. Dans cet épisode : Le président Trump a des problèmes avec les centres de données d’IA avant les élections de mi-mandat… Ne faites pas confiance à l’IA pour gérer vos déclarations de revenus… L’outil d’IA d’Anthropic, Claude, est au cœur de la campagne américaine en Iran, au milieu d’une querelle amère.
Les discussions sur la sécurité de l’IA se concentrent souvent sur la technologie elle-même : la puissance des modèles et les risques qu’ils peuvent présenter. Mais le différend de cette semaine impliquant Anthropic, OpenAI et le ministère de la Défense met en évidence un problème plus profond. La mesure dans laquelle le pouvoir sur l’avenir de l’IA est concentré entre les mains de quelques chefs d’entreprise et responsables gouvernementaux qui décident de la manière dont ces systèmes sont construits, déployés et utilisés.
Les critiques de l’industrie mettent depuis longtemps en garde contre le risque de « capture industrielle ». Cela signifie un avenir dans lequel le développement de systèmes d’IA puissants sera concentré dans un petit nombre d’entreprises travaillant en étroite collaboration avec les gouvernements, et où la sécurité des systèmes dépendra des incitations et de la concurrence de ceux qui les gèrent. Par exemple, le chercheur Yoshua Bengio a déclaré que la possibilité que le secteur de l’IA soit dominé par un petit nombre d’entreprises d’ici 2023 est le « problème secondaire » derrière les risques existentiels posés par la technologie.
Il n’est donc pas particulièrement rassurant de lire hier le mépris exprimé par le PDG d’Anthropic, Dario Amodei, à l’égard du PDG d’OpenAI, Sam Altman, dans une note divulguée qu’Amodei a envoyée aux employés vendredi. La lettre de colère d’Amodei, apparemment envoyée à tous les employés d’Anthropic via Slack, intervient après qu’OpenAI a annoncé un accord pour fournir de l’IA au ministère de la Défense, et que le secrétaire de l’Armée Pete Hegseth a déclaré que l’échec d’Anthropic à parvenir à un accord similaire posait un « risque pour la chaîne d’approvisionnement ».
Amodei a qualifié les messages d’OpenAI de « menteurs », de « théâtre de sécurité » et « d’exemple de qui ils sont réellement », et a décrit de nombreux commentaires d’Altman comme des « mensonges flagrants » et du « gaslighting ».
Altman a pris une photo publique de lui-même à Anthropic. Il a récemment qualifié l’une des campagnes du Super Bowl de l’entreprise de « manifestement frauduleuse » et l’a accusée de « double langage ». Ce conflit est également devenu visible de manière plus symbolique. Lors d’un récent sommet, Altman et Amodei ont fait la une des journaux lorsqu’ils ont refusé de se tenir la main pour une photo de groupe avec le Premier ministre Narendra Modi.
Alors que le gouvernement américain prend peu de mesures pour réglementer l’IA et que les efforts internationaux en matière de sécurité de l’IA sont largement au point mort, le monde s’appuie effectivement sur l’autorégulation de l’industrie. OpenAI et Anthropic ont publiquement approuvé ce paradigme et signé des engagements volontaires en matière de sécurité. Les sociétés ont également parfois collaboré pour effectuer des évaluations indépendantes de la sécurité de leurs modèles respectifs avant leur sortie.
Mais le fossé apparent entre les dirigeants des deux laboratoires d’IA les plus influents et la concurrence intense qui les oppose soulèvent des questions inconfortables sur le degré de coopération que l’on peut raisonnablement espérer en matière de sécurité.
Les pressions concurrentielles affectent déjà les deux entreprises en matière de sécurité de l’IA. Anthropic a récemment révisé sa politique de mise à l’échelle responsable et a déclaré qu’elle ne refuserait plus unilatéralement le développement de nouveaux modèles simplement parce que nous ne savons pas encore comment les rendre sûrs. Et OpenAI a fait ses propres ajustements, supprimant l’interdiction explicite de l’utilisation militaire et en temps de guerre de sa politique en 2024 et déplaçant son attention de la recherche sur la sécurité vers le développement de produits, à tel point que l’ancien leader du Super Alignment Jan Reike (qui a quitté Anthropic à la mi-2024) a écrit dans X que chez OpenAI, « la culture et les processus de sécurité ont pris le pas sur les produits brillants ».
Les approches actuelles en matière de sécurité supposent que les entreprises et les gouvernements agiront en fin de compte avec retenue. Mais l’avenir de la sécurité de l’IA pourrait en fin de compte dépendre de la manière dont quelques acteurs puissants gèrent les pressions de la concurrence, de la géopolitique et des mélodrames occasionnels de la Silicon Valley.
Voici donc d’autres nouvelles sur l’IA pour vous.
Sharon Goldman
[email protected]
@SharonGoldman
Le sort de l’IA
Pourquoi le hedge fund IA de Leopold Aschenbrenner parie énormément sur les compagnies d’électricité et les mineurs de Bitcoin pour favoriser une course à la « superintelligence » – Écrit par Sharon Goldman
OpenAI positionne les outils de codage comme une passerelle vers les agents d’IA pour les entreprises alors que les utilisateurs du Codex atteignent 1,6 million – Écrit par Jeremy Kahn
La startup sud-coréenne WRTN est en passe de dépasser les 100 millions de dollars de revenus récurrents annuels, profitant du boom du divertissement par l’IA alimenté par l’épidémie de solitude. – Écrit par Nicholas Gordon
L’IA dans l’actualité
Le président Trump est aux prises avec des problèmes liés aux centres de données d’IA à l’approche des élections de mi-mandat. Selon les rapports de CNBC et d’autres, le président jouer aux cartes Les États-Unis sont confrontés à un dilemme politique croissant alors qu’ils se précipitent pour construire des centres de données d’IA énergivores avant les élections de mi-mandat de 2026. L’infrastructure nécessaire pour alimenter le boom de l’IA a suscité des inquiétudes concernant la hausse des prix de l’électricité et la pression sur le réseau, provoquant des réactions négatives de la part des électeurs et des communautés. En conséquence, y compris les grandes entreprises technologiques OpenAI, Microsoft, Google, Amazone, métaet oracle—S’engage à couvrir les coûts d’énergie et d’infrastructure associés aux centres de données d’IA pour aider les consommateurs à éviter des factures de services publics plus élevées. L’accord volontaire, promu par la Maison Blanche comme moyen d’apaiser les inquiétudes des électeurs, reflète des tensions plus larges. Alors que les décideurs politiques espèrent tirer des avantages économiques et géopolitiques de l’adoption rapide de l’IA, les demandes massives de puissance de cette technologie créent des pressions politiques et environnementales qui deviennent de plus en plus difficiles à ignorer.
Ne faites pas confiance à l’IA pour payer vos impôts. Dans une conclusion qui ne devrait surprendre personne, le test du New York Times a révélé que l’IA n’est pas à la hauteur de la législation fiscale américaine, soulignant une limitation importante des chatbots IA d’aujourd’hui. Cela signifie qu’ils ont encore du mal à accomplir des tâches qui nécessitent un raisonnement précis en plusieurs étapes. Pour évaluer la capacité de la technologie à produire des déclarations de revenus fédérales, cet article a testé quatre chatbots IA : Gemini de Google, ChatGPT d’OpenAI, Claude d’Anthropic et Grok de xAI pour voir dans quelle mesure ils géraient huit situations fiscales hypothétiques. Ils ont eu du mal et ont mal calculé leurs remboursements ou leurs montants à l’Internal Revenue Service de plus de 2 000 $ en moyenne. Même lorsque tout le matériel nécessaire était fourni, y compris tous les formulaires à remplir, le chatbot a raté certains calculs. Ce problème reflète une limitation fondamentale des modèles de langage à grande échelle. Les modèles linguistiques sont conçus pour prédire les mots probables plutôt que pour suivre avec précision des informations complexes et interconnectées, ce qui les rend efficaces pour la description et le résumé, mais faibles pour les tâches procédurales telles que la déclaration de revenus. Les experts affirment que le système pourrait être amélioré avec des outils d’inférence et des couches de vérification supplémentaires, mais pour l’instant, il fonctionne mieux comme assistant plutôt que comme remplaçant. Cela nous rappelle encore une fois que même si l’IA remodèle les secteurs du codage aux soins de santé, certaines tâches apparemment simples peuvent s’avérer étonnamment difficiles.
L’outil d’IA d’Anthropic, Claude, est au centre de la campagne américaine dans un Iran âprement en conflit. Un nouveau rapport du Washington Post souligne à quel point l’IA est rapidement passée de l’expérimentation au champ de bataille. Selon le journal, l’armée américaine utilisait un système de ciblage basé sur l’IA appelé Maven Smart System. Palantir et incorporer humainLe modèle de Claude a aidé à identifier et à prioriser les cibles lors de la récente campagne américaine en Iran, accélérant la planification militaire qui prenait autrefois des semaines pour une prise de décision en temps quasi réel. Mais ce déploiement intervient au milieu d’un conflit amer entre Anthropic et le Pentagone sur les limites de l’utilisation de la technologie dans la guerre, notamment sur les armes autonomes et la surveillance de masse. Cet épisode met en évidence à la fois l’importance stratégique croissante des systèmes d’IA aux frontières et la tension entre les exigences des gouvernements en faveur d’un déploiement rapide et les entreprises qui cherchent à fixer des limites de sécurité.
Faites attention aux chiffres de l’IA
25 milliards de dollars
C’est le montant des revenus annuels générés par OpenAI à la fin du mois dernier, a rapporté The Information, et il était en hausse de 17 % par rapport aux 21,4 milliards de dollars de revenus annualisés à la fin de l’année, selon deux personnes proches des chiffres.
OpenAI génère plus de revenus que son plus proche rival, Anthropic, mais l’écart se réduit rapidement. Le chiffre d’affaires annuel d’Anthropic a récemment dépassé les 19 milliards de dollars, soit près du triple de ce qu’il était à la fin de l’année dernière et en hausse de 36 % au cours des deux dernières semaines.
OpenAI calcule le chiffre d’affaires annuel en multipliant par 12 le chiffre d’affaires des quatre dernières semaines. Une source a déclaré que le taux annuel de l’entreprise serait plus proche de 30 milliards de dollars, en extrapolant à partir de la hausse des revenus de la semaine dernière.
La croissance rapide d’Anthropic a été alimentée par une forte demande pour des modèles d’IA axés sur le codage, ce qui a permis à l’entreprise de combler rapidement l’écart de revenus avec OpenAI. En 2025, OpenAI était environ trois fois plus rentable qu’Anthropic.
Calendrier IA
2-5 mars : Mobile World Congress, Barcelone, Espagne.
12-18 mars : Sud par sud-ouest, Austin, Texas.
16-19 mars : Nvidia GTC, San Jose, Californie
6-9 avril : HumanX, San Francisco.
