Bienvenue dans Eye on AI avec la journaliste Sharon Goldman. Dans ce numéro : Les dépenses du directeur financier de Microsoft en matière d’IA font face aux préoccupations liées à la bulle technologique… Comment l’IA a aidé un homme (et son frère) à bâtir une entreprise de 1,8 milliard de dollars… Apple réprime l’application de codage Vibe.
L’IA peut désormais écrire du code plus rapidement que les humains ne peuvent le saisir. En utilisant des outils de « codage dynamique » comme Claude Code d’Anthropic et Codex d’OpenAI, les développeurs construisent et expédient avec plaisir à un rythme qui aurait été inimaginable il y a à peine un an. Même Boris Cherny, le créateur de Claude Code, se vante que toutes les dernières versions ont été, oui, écrites par Claude Code.
Cependant, même si le codage Vibe peut être rapide, il peut également introduire des bugs et des vulnérabilités subtiles. Et l’erreur humaine n’a pas disparu. Claude Code fait actuellement l’objet d’un examen minutieux après que son propre code source ait été accidentellement divulgué cette semaine en raison d’une erreur d’emballage.
Pour les entreprises, ces types de vulnérabilités ne constituent pas un problème en premier lieu. Dans les grandes entreprises dotées de bases de code tentaculaires, il ne s’agit pas seulement d’écrire du code plus rapidement, il s’agit également de garantir que le code est correct, sécurisé et conforme aux systèmes internes et aux mandats externes. Alors que les outils d’IA commencent à générer automatiquement du code prêt pour la production, le goulot d’étranglement passe de la création de logiciels à la validation. Et à l’échelle de l’entreprise, des millions de modifications de code peuvent circuler dans le système chaque année, et même de petites erreurs peuvent rapidement se transformer en risques importants.
Cela m’a rappelé une interview que j’ai faite avec Itamar Friedman il y a deux ans. Itamar Friedman, co-fondateur et PDG de Qodo, un outil de révision du code de l’IA qui vient de lever 70 millions de dollars pour s’attaquer à ce qu’il appelle un problème croissant de « slop de l’IA » dans les bases de code.
Lorsque j’ai parlé pour la première fois à Friedman début 2024, lorsque la société s’appelait CodiumAI, il a parlé d’« ingénierie des flux ». Il s’agit d’un système dans lequel un modèle génère du code et un autre modèle le critique, ajoutant des couches de tests et de réflexion. Mais il était clair que « l’intégrité du code » était importante, car générer du code était beaucoup plus facile que de s’assurer qu’il était correct et fonctionnait correctement.
Lors d’une conversation avec Friedman hier, il a fait valoir que les outils de codage d’IA actuels basés sur LLM sont conçus pour accomplir des tâches, pas pour les remettre en question, et que des « couches de gouvernance et de confiance » distinctes sont essentielles pour décider de ce qui devrait (et ne devrait pas être) expédié.
« Lorsque nous parlons de qualité logicielle réelle et de gouvernance du code, l’IA seule ne suffit pas », a-t-il déclaré. « Ce dont nous avons vraiment besoin, c’est d’une sagesse formelle », a-t-il déclaré, expliquant qu’en tant que développeur dans une grande organisation, écrire du code de haute qualité ne se limite pas à être intelligent. Il s’agit de savoir comment une entreprise particulière fait les choses – toutes les connaissances uniques au sein de l’organisation.
Il a expliqué que Qodo analyse la manière dont les développeurs d’une organisation écrivent et révisent réellement le code, examine les demandes d’extraction, les commentaires et les modifications passées, et traduit cela en un ensemble de règles qui définissent ce que « bon » signifie pour l’entreprise. Ces règles sont automatiquement appliquées et tout nouveau code qui enfreint les règles est signalé.
Le défi pour les entreprises à l’ère de l’IA est qu’elles veulent aller plus vite, mais elles n’ont pas la liberté de modifier leur base de code à moins d’être sûres que le code restera fiable.
« C’est le vide que nous essayons de combler », a déclaré Friedman. Friedman a passé trois ans en tant que directeur de la vision industrielle chez Alibaba avant de lancer sa société actuelle, Qodo, en 2022, quelques mois seulement avant de lancer ChatGPT. Il a expliqué que les clients de Qodo, notamment Walmart, Nvidia, Ford et Texas Instruments, souhaitent des temps de réponse rapides, mais comprennent également que leurs systèmes reposent sur des couches de connaissances et de contraintes accumulées.
Il a en outre ajouté que le paysage actuel du codage vidéo surestime la fiabilité de ces outils à court terme et sous-estime le degré de confiance nécessaire pour les rendre viables dans le monde réel à long terme.
Voici donc d’autres nouvelles sur l’IA pour vous.
Sharon Goldman
[email protected]
@SharonGoldman
Le sort de l’IA
Alors que les prix de l’énergie montent en flèche et que les chaînes d’approvisionnement sont perturbées en raison de la guerre en Iran, la stratégie asiatique en matière d’IA est mise à l’épreuve. – Écrit par Angelica Ahn
Le « slop » de l’IA inonde YouTube Kids : plus de 200 organisations et experts appellent à son interdiction – Caterina Giino
Les modèles d’IA prévoient secrètement d’empêcher l’arrêt d’autres modèles d’IA, découvrent des chercheurs – Écrit par Jeremy Kahn
Anthropic a accidentellement divulgué le code source de son outil de codage d’IA quelques jours après avoir accidentellement publié son prochain modèle connu sous le nom de Mythos. – Écrit par Béatrice Nolan
L’IA dans l’actualité
Les dépenses en IA du directeur financier de Microsoft défient les inquiétudes liées à la bulle technologique. Ce nouveau profil époustouflant de Bloomberg détaille comment la directrice financière de Microsoft, Amy Hood, est devenue l’une des figures les plus puissantes et les plus controversées qui façonnent la stratégie d’IA de l’entreprise, chargée de faire le lien entre les dépenses d’infrastructure galopantes et le risque de prendre du retard dans la course à l’IA. Selon Bloomberg, Hood a appelé à une pause dans la construction de certains centres de données à grande échelle de Microsoft fin 2024, remettant en question les prévisions de demande trop optimistes. La décision a effrayé les investisseurs et a peut-être contribué à la pénurie de capacité actuelle, la demande en IA ayant augmenté plus rapidement que prévu. Hood, connue en interne pour sa surveillance étroite et sa discipline en matière de coûts, a contribué à maintenir les marges bénéficiaires de Microsoft stables alors même que ses rivaux ouvraient les vannes des dépenses, mais son approche prudente est désormais au centre d’un dilemme aux enjeux élevés auquel sont confrontées les grandes technologies dans leur ensemble. C’est une manière d’investir de manière suffisamment agressive pour s’imposer dans l’IA sans aller trop loin dans un marché encore incertain et potentiellement bouillonnant.
Comment l’IA a aidé un homme (et son frère) à bâtir une entreprise de 1,8 milliard de dollars. L’entrepreneur Matthew Gallagher a utilisé une suite d’outils d’IA pour lancer Medvi, une société de télémédecine qui vend des médicaments amaigrissants pour seulement 20 000 dollars et pratiquement sans personnel, selon le New York Times. Les revenus ont atteint 401 millions de dollars la première année, et avec un seul employé à temps plein (son frère), l’entreprise espère gagner 1,8 milliard de dollars cette année. Gallagher a montré comment l’IA peut permettre aux entreprises ultra-lean et hyper-évolutives, en comprimant considérablement les stratégies de démarrage traditionnelles en s’appuyant sur l’IA pour tout, du codage et du marketing au service client et à l’analyse, tout en externalisant les fonctions réglementées telles que les médecins et l’exécution des commandes. Il existe également quelques problèmes et hallucinations, et une surveillance humaine reste nécessaire. Pourtant, des tendances plus larges menacent de remodeler les emplois, la productivité et l’idée même de ce que signifie être une « entreprise » à l’ère de l’IA.
Apple supprime l’application Vibe Coding de l’App Store et renforce la répression. Des informations indiquent qu’Apple a renforcé sa répression contre les applications de « vibe coding » en supprimant le générateur d’applications alimenté par l’IA Anything de l’App Store. La société a cité des règles interdisant aux applications exécutant du code non vérifié. Cette décision fait suite à des efforts antérieurs visant à bloquer les mises à jour d’outils similaires permettant aux non-développeurs de créer et de modifier des applications à l’aide de l’IA, et reflète les préoccupations croissantes d’Apple quant au fait que de telles plates-formes pourraient inonder l’App Store de logiciels de mauvaise qualité ou à évolution dynamique qui contournent les processus de révision. Même si Apple affirme ne faire qu’appliquer les directives existantes, la répression soulève également des problèmes de concurrence et de réglementation, d’autant plus que les outils de codage Vibe gagnent du terrain et commencent à remettre en question les flux de développement traditionnels, y compris le propre écosystème Xcode d’Apple.
Faites attention aux chiffres de l’IA
53%
C’est le nombre d’entreprises américaines qui autorisent les agents IA à négocier directement les prix et les conditions avec d’autres agents IA en leur nom, selon le nouveau rapport Business-to-AI (B2AI) de Visa, réalisé en collaboration avec Morning Consult.
Le rapport souligne à quel point l’IA a déjà un impact sur la demande globale, avec près de 40 % des Américains effectuant des achats qu’ils n’envisageraient normalement pas en raison de l’utilisation d’un agent ou d’un outil d’IA, indique le rapport, un signe précoce que les systèmes intelligents commencent à façonner la façon dont les gens découvrent et décident quoi acheter.
Autres statistiques notables : l’étude révèle que 71 % des entreprises ont l’intention d’optimiser leurs produits, offres et expériences pour les agents d’IA, et que 77 % utilisent ou pilotent déjà l’IA dans leurs opérations.
Calendrier IA
6-9 avril : HumanX, San Francisco.
8-10 juin : Fortune Brainstorm Tech, Aspen, Colorado. Cliquez ici pour demander votre participation.
6-11 juillet : Conférence internationale sur l’apprentissage automatique (ICML), Séoul, Corée du Sud.
7-10 juillet : Sommet AI for Good, Genève, Suisse.
4-6 août : Ai4, Las Vegas, Nevada
