Bienvenue dans Eye on AI. Voici Béatrice Nolan. Dans le numéro d’aujourd’hui :
Certains pensent que le hack Hugging Face d’OpenAI est un coup de pub. La Maison Blanche a accusé M. Moonshot de distiller des fables anthropiques. Les progrès de l’IA quadrupleront les bénéfices d’Alphabet, mais les liquidités s’évaporeront. Et les investisseurs disent que Kimi K3 pourrait bien être un autre « moment de recherche profonde ».
OpenAI est au centre des actualités virales.
Lors de cet incident, que certains commentateurs ont comparé à l’intrigue du film « The Terminator » de 1984, deux des modèles d’IA d’OpenAI ont échappé à un test supervisé, se sont connectés et ont utilisé cet accès pour pirater les systèmes de la société rivale Hugging Face. Plus précisément, OpenAI déclare que le modèle n’était pas malveillant, il essayait simplement d’accomplir une tâche donnée et de trouver un moyen de tricher. Les entreprises ont depuis déclaré avoir travaillé ensemble pour corriger les failles de sécurité associées.
Pour les chercheurs en sécurité, l’incident est l’un des exemples les plus clairs des risques contre lesquels ils mettent en garde depuis des années. Mais pour d’autres, il s’agissait d’une « bonne » communication suspecte pour OpenAI.
Pour être clair, rien ne prouve que cet incident soit une fabrication. Hug Face a également confirmé que le piratage était réel et les deux sociétés ont publié des rapports sur l’incident.
Pourtant, les médias sociaux regorgeaient de théories selon lesquelles le piratage était une tentative d’OpenAI de capturer un moment « mythique ». Même de nombreux acteurs de l’industrie de l’IA ont réagi en roulant les yeux collectivement. « L’ensemble du billet de blog se lit comme un gadget marketing volé par OAI à Anthropic », a écrit un utilisateur de X.
« Je ne sais pas s’il s’agit de l’événement le plus important jamais réalisé en matière de sécurité de l’IA dans le monde réel, ou du coup marketing le plus cynique que j’ai vu depuis un moment », a écrit un autre chercheur en IA sur LinkedIn. Plusieurs ingénieurs avec lesquels j’ai parlé dans de grandes entreprises technologiques ont également déclaré que leur premier réflexe était de supposer que le piratage était une sorte de publicité.
S’il est vrai que ce piratage a fait la une des journaux mondiaux, faire planter les serveurs d’une entreprise rivale n’est généralement pas considéré comme un bon marketing. Mais les critiques accusent depuis des années les grandes sociétés d’IA de se livrer à ce type de « marketing noir ». Depuis les avertissements selon lesquels l’IA pourrait anéantir des catégories entières d’emplois, jusqu’à la décision d’Anthropic de refuser la diffusion publique de Mythos parce qu’il était « trop dangereux », en passant par les affirmations des dirigeants de laboratoire selon lesquelles un modèle incontrôlable pourrait tuer tout le monde sur la planète, les entreprises qui vendent l’IA sont parmi les plus virulentes pour mettre en garde contre ses nombreux dangers.
Même si certaines de ces préoccupations peuvent être légitimes, c’est aussi un bon moyen de faire la une des journaux et d’attirer l’attention sur votre produit. D’autres soutiennent que c’est également un moyen pour les grandes entreprises technologiques d’acquérir un plus grand contrôle sur le développement avancé de l’IA, arguant que les modèles deviennent si dangereux que nous ne devrions faire confiance qu’à quelques privilégiés.
Mais le public et l’industrie semblent être avisés de cette stratégie. L’AI Institute semble maintenant être dans une situation où ils ont passé tellement de temps à élaborer des scénarios apocalyptiques que leurs modèles sont si dangereusement puissants que lorsque quelque chose de vraiment alarmant se produit, l’instinct de nombreuses personnes les a avertis de supposer que cela se produisait.
« Beaucoup de gens disent que cela ne peut pas être tout à fait vrai, que c’est un mensonge ou que c’est juste un coup de pub », m’a dit Charlie Eriksen, chercheur en sécurité chez Aikido Security. « Cela suggère que Frontier Labs n’est pas intrinsèquement digne de confiance. Dans ce cas, cela n’a aucun sens pour eux d’inventer quelque chose sans des incitations claires et raisonnables. »
Qui vérifie les devoirs de laboratoire ?
Ce manque de confiance pose un problème car une grande partie des informations dont dispose l’industrie sur la sécurité et les performances de l’IA proviennent des laboratoires eux-mêmes. En règle générale, les modèles sont d’abord déployés en interne et testés par l’équipe de sécurité avant leur sortie. Si personne ne croit ces entreprises lorsque de réels dangers émergent, ou pire, s’il ne peut pas vraiment leur faire confiance, cela limite ce que les gouvernements, les entreprises et le public peuvent apprendre sur les modèles potentiellement dangereux qu’ils développent.
Selon les experts en sécurité, l’un des problèmes est qu’il n’existe aucun moyen de vérifier de manière indépendante ce qui se passe dans le laboratoire. Le laboratoire n’a pas besoin de remettre des journaux d’incidents ou de se soumettre à une sorte d’audit indépendant pour prouver que ce qu’il dit sur la fonctionnalité du modèle est réellement vrai.
Dans ce cas, tout l’épisode fait connaître le modèle d’OpenAI, en particulier le modèle qui n’a pas encore été publié, qui pourrait devenir GPT-6 si les rumeurs sont vraies, tout en donnant à Hugging Face une chance de faire valoir ses arguments en faveur d’un open source américain plus puissant entre les mains de ses défenseurs. C’est une situation gagnant-gagnant pour deux entreprises qui, en théorie, ont des incitations opposées. Je ne dis pas qu’aucun d’entre eux n’est faux, mais il est également vrai qu’il n’y a aucun moyen de les éliminer, ce qui est un problème en soi.
Après tout, il ne fait aucun doute que les modèles d’IA peuvent être corrompus de cette manière. Cette semaine en a prouvé beaucoup. Et il y a déjà eu des exemples similaires de ce type de désaccord. Mais cela montre que les laboratoires qui les fabriquent érodent la capacité du public à croire ce qu’ils disent, même s’ils disent la vérité, et cela pourrait constituer un problème plus grave.
Voici donc d’autres nouvelles sur l’IA pour vous.
Béatrice Nolan
[email protected]
@beafreyanolan
Le sort de l’IA
Le modèle d’OpenAI est devenu voyou et a piraté Hugging Face. Les experts disent qu’il s’agit d’un signal d’alarme, mais il pourrait y avoir ensuite des comportements plus inquiétants. — Par Béatrice Nolan
L’incident de piratage d’OpenAI était un coup de semonce. Est-ce que cela sera enfin un signal d’alarme pour créer des règles de sécurité pour l’IA ? — écrit par Jeremy Kahn et Emily Forlini
Sam Altman et Jony Ive ont formé une équipe de rêve pour réinventer le matériel. C’est désormais au centre de la bataille pour l’avenir d’OpenAI — par Emily Forlini et Sebastian Herrera
Anthropic et SpaceX viennent de donner à Google le plus gros bénéfice trimestriel de l’histoire de l’entreprise (sur papier) — Écrit par Eva Roytburg
Exclusif : Arrakis sort de la clandestinité avec 38 millions de dollars de financement en capital-risque, pariant que les plus grands avantages de l’IA résideront dans le travail industriel et non dans le travail de bureau – Écrit par Jeremy Kahn
L’IA dans l’actualité
La Maison Blanche a accusé M. Moonshot de distiller des fables anthropiques. Le secrétaire au Trésor, Scott Bessent, a déclaré mercredi que les sociétés chinoises d’IA pourraient faire face à des sanctions et à une inscription sur la liste des entités pour ce qu’il a appelé le vol de propriété intellectuelle « à l’échelle industrielle » par distillation de modèles. L’avertissement est intervenu quelques heures après que le directeur de la politique technologique de la Maison Blanche, Michael Kratsios, a accusé Moonshot d’extraire systématiquement le modèle américain et a affirmé que la société avait acquis et utilisé les serveurs GB300 de Nvidia, soumis à des restrictions à l’exportation, y compris en Thaïlande, pour former ses systèmes. Certains experts contestent que le nouveau Kimi K3 de Moonshot puisse avoir été produit principalement en distillant Anthropic’s Fable, qui a longtemps été caché au public. L’épisode a déclenché un débat houleux au sein du gouvernement américain sur le modèle de promiscuité de la Chine, avec Dean Ball d’OpenAI parmi ceux qui font pression pour des restrictions sur son utilisation. En savoir plus sur TechCrunch.
Les progrès de l’IA quadrupleront les bénéfices d’Alphabet. Le bénéfice d’Alphabet au deuxième trimestre a quadruplé pour atteindre 112,1 milliards de dollars, principalement grâce aux gains d’environ 77 milliards de dollars réalisés par SpaceX et les actions liées à l’IA d’Anthropic après l’introduction en bourse de SpaceX en juin, a annoncé mercredi la société. Les revenus ont augmenté de 24 % à 119,8 milliards de dollars, dépassant les attentes de Wall Street de 116,5 milliards de dollars, et les revenus du cloud ont augmenté de 82 % à 24,8 milliards de dollars, la demande dépassant la capacité de traitement. Le backlog cloud de Google a atteint 514 milliards de dollars, contre 106 milliards de dollars pour la même période l’année dernière. Alphabet a également relevé ses prévisions de dépenses d’investissement pour 2026 de 195 à 205 milliards de dollars, soit plus du double du chiffre de l’année dernière, alors qu’il est en concurrence avec OpenAI et Anthropic dans la nouvelle concurrence du chinois Moonshot AI. Gemini a atteint 950 millions d’utilisateurs mensuels. Cependant, la société a dépensé un montant record de liquidités au cours du trimestre et le flux de trésorerie disponible a fini par être négatif de 6 milliards de dollars. C’est la première fois que l’entreprise enregistre un flux de trésorerie disponible négatif depuis son introduction en bourse en 2004. Pour en savoir plus, consultez le New York Times.
Le personnel d’OpenAI a été « paniqué » par le hack Hugging Face. Le Financial Times a rapporté que même si le personnel d’OpenAI travaillant sur les tests et la sécurité n’a pas été surpris, il a été « paniqué » lorsque le modèle s’est échappé du bac à sable sécurisé, s’est connecté et a volé les informations de connexion de Hugging Face. Cette violation surviendrait alors qu’OpenAI encourage de plus en plus la formation par apprentissage par renforcement dans sa concurrence avec Anthropic pour les capacités de cybersécurité. L’approche récompense les modèles qui accomplissent des tâches avec détermination, et les initiés affirment que l’entreprise a été avertie que les modèles pourraient éventuellement sortir de ces contraintes. Une personne proche d’OpenAI a blâmé une combinaison de « courses très rapides » et de préparations de sécurité inadéquates qui sous-estimaient les capacités du modèle. Lire la suite dans le Financial Times.
Anthropic fera un don supplémentaire de 20 millions de dollars à Public First Action. Anthropic a fait don de 20 millions de dollars supplémentaires à Public First Action 501(c)(4), qui finance le super PAC de sécurité AI Public First, a confirmé la société. Comme les 20 millions de dollars initialement donnés plus tôt cette année, ils ne peuvent pas être utilisés pour soutenir des candidats, mais les nouvelles contributions se limitent à la « mission d’éducation publique et politique » de l’organisation plutôt qu’aux dépenses de campagne. Ces révélations soulèvent de nouvelles questions sur la puissance de feu électorale dont disposent réellement les partisans de la sécurité de l’IA à l’approche des élections de mi-mandat. Le PAC de Public First n’a divulgué que 3,48 millions de dollars de dépenses jusqu’à présent, mais cela éclipse les 125 millions de dollars que le réseau rival Leading the Future prétend avoir collectés auprès de donateurs, dont le président d’OpenAI, Greg Brockman, et les cofondateurs d’Andreessen Horowitz, Marc Andreessen et Ben Horowitz. Pour plus d’informations, consultez Transformateurs.
M. Rubio a demandé aux diplomates de minimiser les discussions sur le « kill switch » de l’IA américaine. Le secrétaire d’État Marco Rubio a demandé aux diplomates de décourager la rhétorique du « kill switch » autour des exportations américaines d’IA, selon un câble du département d’État de juillet consulté par Reuters. La discussion faisait suite à la brève décision de l’administration Trump du 12 juin visant à empêcher les résidents non américains d’accéder au modèle Mythes et Fables d’Anthropic pour des raisons de sécurité nationale, une interdiction qui a été levée plus tard ce mois-là, mais qui a également alimenté les appels à la « souveraineté numérique » européenne et les commentaires des législateurs européens accusant les États-Unis d’avoir une influence substantielle sur les piles technologiques de leurs alliés. Le câble affirme que de telles restrictions ne constituent pas un « coupe-circuit » et demande aux diplomates de promouvoir l’IA américaine comme étant supérieure, tout en qualifiant de futiles les efforts des souverains rivaux en matière d’IA. Un analyste a déclaré que la vente était difficile étant donné le recours plus large de l’administration aux droits de douane et aux sanctions contre ses alliés. Voir les détails sur Reuters.
Faites attention aux chiffres de l’IA
314 milliards de dollars
L’analyste de marché IG, Tony Sycamore, estime que depuis que Moonshot AI a présenté son modèle Kimi K3 à poids ouvert la semaine dernière, ce montant a été effacé des valorisations combinées pré-IPO d’Open AI et d’Anthropic. Les chiffres d’IG ne proviennent pas de ventes d’actions réelles, mais du « marché pré-IPO », un produit de trading dans lequel les clients parient sur la capitalisation boursière attendue d’une société privée au moment de son introduction en bourse.
Les calculs de Sycamore estiment que la valorisation implicite d’Anthropic a chuté d’environ 7 % pour atteindre environ 1 560 milliards de dollars, tandis que la valorisation implicite d’OpenAI a chuté d’environ 6 % pour atteindre 1 240 milliards de dollars. Cette situation pourrait changer étant donné qu’aucune des deux sociétés n’est cotée en bourse, mais cela reste un signe notable de la rapidité avec laquelle la confiance des investisseurs dans les valorisations de Frontier AI peut changer.
K3 atteint des performances de pointe à une fraction du prix, mais il remet en question l’une des hypothèses fondamentales qui sous-tendent la réputation d’OpenAI et d’Anthropic : que les laboratoires américains disposent d’un avantage technologique et financier durable. Les investisseurs commencent à se demander pourquoi ils paieraient un supplément pour la version américaine si un modèle chinois beaucoup moins cher fonctionne tout aussi bien. Les investisseurs ont fait des comparaisons avec le « moment de recherche approfondie » de l’année dernière. C’est à ce moment-là que le modèle R1 à faible coût de la startup chinoise a effacé la valeur marchande de Nvidia de près de 600 milliards de dollars en une seule séance de bourse, obligeant à une évaluation plus large pour déterminer si les dépenses américaines en IA sont surévaluées. En savoir plus Bloomberg ici.
Calendrier IA
4-6 août : Ai4 2026, Las Vegas.
16-17 novembre : Forum d’innovation Fortune 500 à Détroit. Cliquez ici pour demander votre participation.
6-12 décembre : Conférence sur les systèmes de traitement de l’information neuronale (Neurips). Sydney, Australie.
7 et 8 décembre : Fortune Brainstorm AI, San Francisco. Cliquez ici pour demander votre participation.
