Bonjour et bienvenue dans Eye on AI… Dans cet épisode : OpenAI et le nouvel accord de Microsoft… Elon Musk lance Grokipedia… Les ingénieurs de données ont du mal avec les charges de travail de l’IA… et les navigateurs IA constituent-ils un risque pour la sécurité ?
Bonjour, je m’appelle Béatrice Nolan. Je représente Jeremy Khan, qui revient aujourd’hui du Fortune Global Forum à Riyad. Parmi les grandes nouvelles de l’IA, OpenAI et Microsoft ont annoncé avoir conclu un accord sur l’avenir de leur partenariat, permettant à OpenAI d’achever sa restructuration d’entreprise tant attendue.
L’accord transforme la branche auparavant à but lucratif d’OpenAI en une société d’utilité publique capable d’émettre des actions traditionnelles, donnant ainsi aux actionnaires une voix potentiellement plus importante dans la gouvernance d’OpenAI. Ces deux changements ont été considérés comme importants pour qu’OpenAI puisse continuer à lever les milliards de dollars de capital dont elle a besoin pour construire des modèles d’IA plus avancés, construire des centres de données plus grands et devenir une plate-forme technologique importante pour les consommateurs et les entreprises.
Aux termes de l’accord, le nouveau OpenAI Group PBC continuera d’être géré par la Fondation à but non lucratif OpenAI. Près d’un an de négociations avec Microsoft aurait provoqué d’importantes tensions entre les deux sociétés et aurait constitué le principal obstacle à la restructuration d’OpenAI. Et à première vue, il semble que Microsoft ait extrait d’importantes concessions de son laboratoire d’IA.
Le géant de la technologie, qui a investi plus de 13 milliards de dollars dans OpenAI depuis 2019, va acquérir une participation de 27 % dans OpenAI. Compte tenu de la valorisation actuelle d’OpenAI, la position de Microsoft vaudrait environ 135 milliards de dollars. Il maintiendra également l’accès à la technologie OpenAI jusqu’en 2032, y compris aux modèles qui atteignent les jalons de l’intelligence artificielle générale (AGI). La question de savoir si un modèle franchit ce seuil (qu’OpenAI définissait auparavant publiquement comme un système d’IA capable d’effectuer les tâches cognitives les plus rentables aussi bien ou mieux que les humains) sera également désormais vérifiée par un panel d’experts indépendants.
Auparavant, seul OpenAI pouvait déterminer quand l’AGI était atteint, ce qui était considéré comme un levier potentiel pour mettre fin ou modifier les droits de Microsoft dans le cadre du partenariat. L’accord aurait accru les tensions, Microsoft craignant qu’OpenAI puisse déclarer prématurément l’AGI utilisant des modèles d’IA hautes performances comme étape, ce qui aurait des implications financières et de propriété intellectuelle importantes pour les deux sociétés. La commission indépendante basée sur cette décision est donc une victoire pour Microsoft.
L’accord permet également à Microsoft de poursuivre l’AGI seul ou en collaboration avec des tiers, tout en exigeant qu’OpenAI partage bon nombre de ses technologies de recherche et de ses avancées. Dans le cadre du nouvel accord, Microsoft conservera l’accès à de nombreuses méthodes et systèmes de recherche sous-jacents d’OpenAI, mais la société n’aura plus accès au matériel grand public d’OpenAI ni aux poids des modèles et aux détails de l’architecture de base des modèles considérés comme « recherche ». (Nous conservons les droits sur ces détails techniques clés sur les modèles de produits OpenAI jusqu’en 2032.)
Néanmoins, cela donne à Microsoft une visibilité sur des éléments tels que l’infrastructure de formation des modèles et les techniques d’optimisation d’OpenAI, ainsi que la possibilité de tirer parti de ce que nous avons appris des méthodes de recherche d’OpenAI et d’appliquer ces connaissances au développement de nos propres modèles AGI. Ce qui pourrait encore compliquer les choses, c’est le partenariat élargi de Microsoft avec Anthropic, qui rend désormais Claude disponible pour Microsoft 365 et Excel.
Microsoft a cédé son exclusivité cloud à OpenAI, ce que l’analyste technologique Zeus Keravala a qualifié de « concession importante de sa part ». Cependant, il a également noté que l’entreprise avait obtenu d’OpenAI d’importantes concessions structurelles qui vont au-delà de cela.
« Ces concessions garantissent la longévité et la valeur de l’investissement de Microsoft », a-t-il déclaré à Fortune. « Essentiellement, Microsoft échangeait l’exclusivité du cloud computing contre une certitude technique et un accès IP à long terme qu’il avait de toute façon du mal à atteindre. »
Les investisseurs semblent être d’accord, puisque le titre de la société a augmenté de 2 % la veille de la publication de ses résultats du troisième trimestre, ramenant sa valorisation boursière au-dessus de la barre des 4 000 milliards de dollars.
La victoire réglementaire d’OpenAI
OpenAI, pour sa part, aura accès à l’intégralité du financement promis par des investisseurs, notamment SoftBank, Thrive et d’autres sociétés de capital-risque, conditionnées à la restructuration. Cette décision permettra à OpenAI de lever plus facilement des fonds supplémentaires à l’avenir.
L’entreprise semble également avoir surmonté d’importants obstacles réglementaires. Suite à l’annonce de la transaction, la procureure générale du Delaware, Kathy Jennings, a annoncé que son bureau avait émis une « déclaration de non-objection » au projet de recapitalisation de l’entreprise.
« Nous avons obtenu des concessions garantissant que les actifs caritatifs étaient utilisés aux fins prévues, que la sécurité était une priorité et qu’OpenAI s’engageait à rester ici en Californie », a déclaré le procureur général de Californie, Rob Bonta, à Fortune. En conséquence, Bonta a déclaré que son bureau « n’a pas l’intention d’aller en justice pour s’opposer au plan de recapitalisation d’OpenAI ».
Il s’agit d’un coup dur pour plusieurs organisations à but non lucratif qui ont fait campagne contre la réorganisation, arguant qu’OpenAI s’est éloigné de sa mission principale consistant à développer l’AGI d’une manière qui « profite à toute l’humanité » et a donné la priorité à l’expédition de produits plutôt qu’à la sécurité de son IA.
Ces groupes à but non lucratif avaient fait pression sur le bureau du procureur général pour bloquer l’accord. Des groupes de défense, des groupes à but non lucratif, certains anciens employés d’OpenAI et le cofondateur d’OpenAI devenu adversaire commercial, Elon Musk, se sont publiquement opposés à la restructuration sous divers angles. Musk a affirmé que cette décision était la preuve que le PDG d’OpenAI, Sam Altman, et le co-fondateur Greg Brockman avaient été fraudés lorsqu’ils avaient fait don des premiers millions de dollars pour créer l’institut. Certains soutiennent que la réorganisation risque de générer des bénéfices qui devraient avoir un but public caritatif dans les poches des investisseurs en capital-risque, des cofondateurs et des employés d’OpenAI.
OpenAI tente d’apaiser certaines de ces objections en promettant que la Fondation OpenAI, à but non lucratif, fournira des subventions importantes à des fins philanthropiques. Cela comprend un engagement de 25 milliards de dollars récemment annoncé dans des projets visant à améliorer la santé, à traiter les maladies ou à rendre la société plus résiliente à certaines des perturbations que l’IA pourrait provoquer, comme le potentiel de pertes d’emplois généralisées.
Néanmoins, une fois les approbations réglementaires obtenues et les préoccupations de Microsoft résolues, OpenAI a finalement créé une entité commerciale et a reçu des milliards de dollars en capital. Et Microsoft continue de conserver l’essentiel de ce qu’il trouve précieux dans le partenariat OpenAI, tout en s’assurant une participation importante qui pourrait constituer une aubaine pour ses propres actionnaires.
Voici donc d’autres nouvelles sur l’IA pour vous.
Béatrice Nolan
Le sort de l’IA
L’IA open source est « le jeu de la Chine maintenant » et c’est un problème pour les États-Unis et leurs alliés, déclare Beatrice Nolan, partenaire d’Andreessen Horowitz
Maintenant que nous savons que l’IA ne supprimera pas tous nos emplois, la Silicon Valley doit réparer son tort fondamental : le théâtre de l’automatisation doit cesser – Joel Fron
Le PDG de Qualcomm prévient que « tout le monde se bat pour gagner » lorsqu’il s’agit de bulles d’IA – mais il est trop tôt pour dire qui réussira – Beatrice Nolan
Après que Microsoft ait investi 13 milliards de dollars dans OpenAI, son chef de l’IA dénonce les fonctionnalités érotiques comme ChatGPT : « C’est extrêmement dangereux » — Sasha Rogelberg
Soyez attentif à l’actualité de l’IA
Elon Musk a lancé Grokipedia comme nouveau rival de Wikipédia. Elon Musk a présenté sa nouvelle entreprise, Grokipedia, une encyclopédie basée sur l’IA, comme une alternative impartiale à Wikipédia. Les premières pages ressemblent au format de Wikipédia, mais avec un ton plus à droite, selon le Washington Post. Le média a également souligné plusieurs erreurs factuelles. Musk a déjà contesté Wikipédia, critiquant publiquement ce qu’il considère comme l’inclinaison du site vers la gauche. Le site, lancé cette semaine, compte actuellement environ 885 000 articles, soit bien moins que les plus de 8 millions d’articles de Wikipédia. En savoir plus sur le Washington Post.
Claude ajoute des outils d’intégration Excel et de données de marché en temps réel. Anthropic a déployé une mise à niveau axée sur la finance de son chatbot Claude, ajoutant une intégration directe avec Microsoft Excel et sept nouveaux connecteurs de données en temps réel. Claude d’Anthropic vous permet désormais d’analyser, de modifier et de générer des feuilles de calcul directement dans Excel, offrant ainsi aux professionnels de la finance une manière plus interactive de travailler avec les données. Le nouveau connecteur relie Claude aux principales plateformes financières telles que Moody’s, London Stock Exchange Group et MT Newswires, vous donnant accès aux mises à jour en direct du marché, aux enregistrements des conférences sur les résultats et à la recherche en investissement. Anthropic a également introduit six nouvelles « compétences d’agent » alignées sur la finance, permettant à Claude de créer des rapports, de modéliser les flux de trésorerie et de générer automatiquement des profils d’entreprise. Cliquez ici pour plus de détails.
Qualcomm se lance dans la course aux puces IA avec les processeurs des centres de données. Qualcomm a annoncé une entrée majeure sur le marché des centres de données IA avec deux nouvelles puces accélératrices conçues pour contrer la domination de Nvidia et d’AMD. La puce est conçue pour alimenter l’inférence de l’IA plutôt que la formation, peut remplir tout un rack de serveur refroidi à l’eau et est construite sur l’unité de traitement neuronal Hexagon de Qualcomm, utilisée dans les puces de smartphone. Alors que la demande en informatique IA devrait générer des dépenses dans les centres de données pouvant atteindre 6 700 milliards de dollars d’ici 2030, l’entrée de Qualcomm représente une expansion significative au-delà de son activité traditionnelle de puces mobiles. Le cours de l’action Qualcomm a augmenté de 11 % suite à cette annonce. En savoir plus sur CNBC.
OpenAI appelle les États-Unis à augmenter leur production d’énergie pour rester en tête dans la course à l’IA. OpenAI appelle le gouvernement américain à augmenter considérablement la production d’énergie du pays, avertissant que sans de nouveaux investissements énergétiques majeurs, il risque de prendre du retard sur la Chine dans la course mondiale à l’IA. Dans une soumission de 11 pages adressée au Bureau de la politique scientifique et technologique de la Maison Blanche, la société a appelé les États-Unis à s’engager à construire 100 gigawatts de nouvelle capacité énergétique chaque année, soit près du double de la quantité que le pays ajoutera en 2024. OpenAI a noté que la Chine a ajouté 429 gigawatts l’année dernière, contre 51 gigawatts aux États-Unis, créant ce qu’elle appelle un nouveau « fossé électronique ». En savoir plus sur CNBC.
Focus sur la recherche en IA
Un autre rapport du MIT indique que les avantages de l’IA ne sont peut-être pas aussi évidents que prévu. Cette fois, c’est la partie codage. Un nouveau rapport MIT Technology Review Insights réalisé en collaboration avec Snowflake révèle que malgré la prolifération des outils d’IA visant à améliorer la productivité, 77 % des ingénieurs de données sont confrontés à des charges de travail plus lourdes. Une enquête menée auprès de 400 cadres supérieurs en technologie a révélé que 83 % des organisations ont déjà adopté des outils d’ingénierie de données basés sur l’IA, mais que 45 % d’entre eux ont cité la complexité de l’intégration et 38 % des outils de reporting désorganisés et fragmentés comme principaux défis d’adoption. Selon le rapport, alors que l’IA automatise de nombreuses tâches liées aux données, la prolifération de systèmes non connectés crée un paradoxe de productivité dans lequel les tâches individuelles sont plus rapides mais les flux de travail globaux sont plus lents. Les ingénieurs de données consacrent désormais 37 % de leur temps à des projets liés à l’IA, contre 19 % il y a deux ans, et ce pourcentage devrait atteindre 61 % d’ici deux ans.
Calendrier IA
10-13 novembre : Web Summit, Lisbonne.
26-27 novembre : Conférence mondiale sur l’IA, Londres.
2-7 décembre : NeurIPS, San Diego.
8 et 9 décembre : Fortune Brainstorming AI San Francisco. Cliquez ici pour demander votre participation.
nourriture pour le cerveau
Les navigateurs Web IA présentent-ils des risques de sécurité ? Après qu’OpenAI ait publié son navigateur Web tant attendu la semaine dernière, j’ai écrit sur certains des risques liés à l’injection rapide. Depuis lors, il n’est peut-être pas surprenant que davantage de risques en matière de sécurité soient apparus. La société de sécurité LayerX a découvert une vulnérabilité critique dans le navigateur ChatGPT Atlas qui pourrait permettre à un attaquant d’injecter des instructions malveillantes dans la mémoire de ChatGPT. Les pirates peuvent utiliser des attaques de falsification de requêtes intersites (CSRF) pour exploiter la session d’un utilisateur connecté et intégrer des instructions cachées qui persistent sur tous les appareils et navigateurs. Une fois infecté, ChatGPT peut exécuter ces instructions sans le savoir et déployer des logiciels malveillants. Les tests de LayerX ont montré que le navigateur ChatGPT Atlas était particulièrement vulnérable, bloquant seulement environ 5,8 % des attaques de phishing testées, exposant les utilisateurs jusqu’à 90 % plus à risque, par rapport à Chrome et Edge, qui ont bloqué environ la moitié de ces attaques. La cybersécurité a toujours été un jeu du chat et de la souris, les entreprises identifiant et corrigeant les failles de sécurité, mais l’ampleur des risques de sécurité soulève la question suivante : les risques sont-ils trop importants pour que l’on puisse se fier à l’accès approfondi au système requis pour que les navigateurs IA soient utiles ?
