Bienvenue dans Eye on AI avec la journaliste Sharon Goldman. Dans cette édition, de nouvelles startups tentent d’usurper l’identité de l’IA… La startup légitime de l’IA, Harvey, lève 160 millions de dollars pour une valorisation de 8 milliards de dollars… La « création de rois » du capital-risque se produit plus rapidement que jamais dans les startups de l’IA… Pourquoi l’IA écrit comme ça… Microsoft abaisse les objectifs de croissance de la force de vente pour les nouveaux logiciels d’IA.
Il y a un an, j’ai parlé avec plusieurs responsables de la cybersécurité d’entreprises comme SoftBank et Mastercard, qui tiraient déjà la sonnette d’alarme sur la menace de vol d’identité basée sur l’IA, notamment les deepfakes et le clonage de voix. Ils ont prévenu que les escroqueries évoluaient rapidement. La première vague d’escroqueries impliquait des escrocs utilisant des deepfakes pour usurper l’identité de personnes qu’ils connaissaient. Mais les attaquants utiliseront bientôt la vidéo et l’audio générés par l’IA pour usurper l’identité d’étrangers provenant de sources fiables, comme l’agent du service d’assistance de votre banque ou l’administrateur informatique de votre lieu de travail.
Un an plus tard, c’est exactement ce qui se passe. L’Identity Fraud Resource Center rapporte qu’entre avril 2024 et mars 2025, la fraude à l’identité a augmenté de 148 %. Cela a été causé par des escrocs créant de faux sites Web d’entreprise, déployant des chatbots IA réalistes et générant des agents vocaux impossibles à distinguer des véritables représentants de l’entreprise. Rien qu’en 2024, la Federal Trade Commission a enregistré 2,95 milliards de dollars de pertes liées à la fraude d’identité.
Aujourd’hui, une nouvelle startup s’attaque directement à cette brèche. imper.ai vise à contrecarrer les attaques d’usurpation d’identité d’IA en temps réel et a annoncé aujourd’hui sa disponibilité générale et un nouveau financement de 28 millions de dollars. Redpoint Ventures et Battery Ventures ont dirigé le cycle d’investissement, avec la participation de Maple VC, Vessy VC et Cerca Partners.
Imper.ai affirme qu’au lieu d’essayer de découvrir des anomalies visuelles ou audio (une approche qui devient rapidement presque impossible), il analyse le fil d’Ariane numérique que les attaquants ne peuvent pas falsifier. Ceux-ci incluent la télémétrie des appareils (données de base émises par les appareils telles que l’emplacement, le système d’exploitation, les détails du matériel et l’activité du réseau), les diagnostics du réseau et les signaux environnementaux. Sa plate-forme fonctionne silencieusement sur des systèmes tels que Zoom, Teams, Slack, WhatsApp, Google Workspace et les environnements d’assistance informatique, signalant les sessions à risque avant que les humains ne soient trompés.
Le PDG Noam Awadish, vétéran du pionnier de la conduite autonome Mobileye et membre de longue date de la 8200 Cyber Warfare Squad d’Israël, a déclaré que l’IA avait amélioré les tactiques classiques d’ingénierie sociale, le type d’attaques qui manipulent les gens pour qu’ils divulguent des informations sensibles ou autorisent des actes qui compromettent la sécurité. Par le biais d’usurpations d’identité, de fausses urgences ou de pressions psychologiques, les attaquants utilisent de plus en plus l’IA pour inciter leurs victimes à révéler leurs mots de passe, leurs informations financières ou leur accès à distance.
Un exemple récent est Jaguar Land Rover. Le mois dernier, des pirates ont utilisé de fausses informations d’identification pour usurper l’identité du personnel d’assistance informatique de JLR dans le cadre d’une campagne coordonnée de phishing et de « vishing » (hameçonnage vocal) visant à récolter des informations d’identification et à obtenir un accès. L’attaque a contraint le constructeur automobile à fermer ses systèmes informatiques critiques et, finalement, ses lignes de production, ce qui lui a coûté environ 1,5 milliard de dollars de pertes.
L’équipe fondatrice d’Imper.ai, Awadish, ainsi que 8 200 autres vétérans Anatoly Blighovsky et Rom Dudkiewicz, estiment que leur expérience en tant que cyberattaquants et défenseurs leur donne un avantage. « Je ne pense pas que les gens comprennent que la plupart des violations à grande échelle commencent par l’ingénierie sociale », m’a dit Awadish, ajoutant que l’IA change la donne car le clonage des e-mails, des vidéos et de la voix est devenu presque parfait.
De plus, les outils de collaboration ont proliféré bien au-delà du courrier électronique et des appels téléphoniques, a-t-il noté. Les attaquants disposent désormais de dizaines d’outils de communication qui permettent à l’IA de générer des messages de « spear phishing » (e-mails de phishing personnalisés) à grande échelle, ainsi que des voix clonées et des vidéos deepfakes à grande vitesse.
En tant que tel, imper.ai évite de tenter de détecter l’usurpation d’identité de l’IA directement à partir du contenu généré par l’IA lui-même. « Nous ne voulons pas nous lancer dans une course aux armements en matière d’IA », a déclaré Awadish. Au lieu de cela, la startup se concentre sur des éléments que les attaquants ne peuvent pas dissimuler, principalement les métadonnées.
À mesure que la dynamique de l’entreprise s’accélère, l’intérêt des investisseurs augmente également. « Nous voulons construire une plate-forme qui protège l’ensemble de l’espace de communication », a déclaré Awadish. « Ce n’est pas une petite chose. Ce n’est pas comme un plugin qu’un des géants va construire. » Il a déclaré que le nouveau financement permettra à l’entreprise de doubler ses effectifs de recherche et développement aux États-Unis et de tripler son organisation de commercialisation.
« La traction est très forte en ce moment, donc nous devons suivre le rythme et nous devons grandir », a-t-il déclaré.
Remarque : je suis très heureux de me rendre à San Francisco pour Fortune Brainstorming AI lundi et mardi. Sur la scène principale, nous interviewerons Prakhar Mehrotra, vice-président senior et responsable mondial de l’IA chez PayPal, et Marc Hamilton, vice-président de l’architecture et de l’ingénierie des solutions chez Nvidia. J’animerai également une table ronde épicée sur les centres de données IA. Nous sommes également impatients de rencontrer d’autres intervenants, notamment l’acteur Joseph Gordon-Levitt, le directeur de l’exploitation d’OpenAI, Brad Lightcap, et le PDG de Databricks, Ali Godoshi.
Voici donc d’autres nouvelles sur l’IA pour vous.
Sharon Goldman
[email protected]
@SharonGoldman
Le sort de l’IA
Microsoft AI souhaite que tous les employés soient natifs de l’IA d’ici la fin de l’exercice, déclare Liz D’Anzico, vice-présidente du design.–Écrit par Angelica Ahn
Le chinois ByteDance pourrait être contraint de vendre TikTok aux États-Unis, mais son avance discrète dans le domaine de l’IA pourrait l’aider à survivre et peut-être à prospérer.– Écrit par Nicholas Gordon
Anthropic envisage une introduction en bourse malgré l’avertissement selon lequel l’excès de liquidité crée une bulle sur le marché– Écrit par Jim Edwards
Sam Altman déclare « code rouge » alors que le Gemini de Google s’envole – trois ans après que ChatGPT ait amené le PDG de Google, Sundar Pichai, à faire de même– Écrit par Sharon Goldman
Le président de ServiceNow déclare que l’acquisition de la plateforme de gestion des identités et des accès Veza permettra aux clients de suivre la localisation de leurs agents IA (par Jeremy Kahn)
L’IA dans l’actualité
La startup d’IA juridique Harvey lève 160 millions de dollars pour une valorisation de 8 milliards de dollars. Harvey, l’une des startups à la croissance la plus rapide dans le boom de la technologie juridique de l’IA, vient de lever 160 millions de dollars pour une valorisation de 8 milliards de dollars, selon le New York Times. L’opération fait plus que doubler la valorisation de la société depuis février, portant le total levé cette année à environ 760 millions de dollars. L’entreprise créée il y a quatre ans, déjà utilisée par environ la moitié des diplômés de l’Am Law 100, développe un assistant IA qui aide les avocats à rédiger et réviser des documents, à répondre aux questions sur la jurisprudence et à automatiser les flux de travail de routine. Le cycle a été dirigé par Andreessen Horowitz et comprenait la participation de T. Rowe Price, WndrCo, Sequoia, Kleiner Perkins et d’autres, démontrant que l’enthousiasme des investisseurs pour les outils d’IA conçus pour les cols blancs reste fort malgré les turbulences sur le marché technologique au sens large.
La « création de rois » du capital-risque se produit plus rapidement que jamais dans les startups d’IA. La startup AI ERP DualEntry a levé 90 millions de dollars en série A pour une valorisation de 415 millions de dollars, bien qu’elle n’ait qu’un an. Lightspeed et Khosla Ventures pariaient que les remplacements de nouvelle génération des systèmes existants comme Oracle NetSuite pourraient évoluer rapidement. Mais TechCrunch affirme que l’ampleur du cycle a relancé les questions sur la « fabrication de rois », une tactique de capital-risque de plus en plus courante consistant à canaliser d’énormes sommes d’argent vers une seule entreprise en phase de démarrage pour établir une domination de catégorie. Un investisseur a déclaré à TechCrunch que l’ARR de DualEntry n’était que d’environ 400 000 $ l’été dernier (un chiffre que la société conteste), mais la collecte de fonds agressive reflète un changement plus large, les sociétés de capital-risque sélectionnant les gagnants plus rapidement que jamais.
Pourquoi l’IA l’écrirait-elle de cette façon ? Je voulais absolument crier que ce (long) essai publié dans le New York Times valait la peine d’être lu. Ils soutiennent que le texte généré par l’IA, avec sa combinaison désormais familière de tirets cadratins, de métaphores fantomatiques, de triolets et de sincérité raffinée, est tranquillement devenu la voix dominante d’Internet, façonnant tout, des essais d’étudiants au discours politique. Ce qui est inquiétant, écrivent les auteurs, n’est pas seulement que la prose de l’IA est partout, mais que les humains commencent inconsciemment à imiter la prose de l’IA, créant une boucle de rétroaction dans laquelle le langage produit par la machine devient le ton culturel par défaut. Personnellement, j’ai entendu dire que les chatbots IA aiment le mot « explorer », mais cela ne veut pas dire qu’ils aiment les mots fantomatiques et tout ce qui est « calme ». « Tout n’est qu’une ombre, un souvenir ou un murmure. Ils préfèrent aussi le silence. Sans raison apparente, et souvent contre la logique de l’histoire, ils décrivent les choses comme étant calmes ou bourdonnant doucement. »
Microsoft abaisse ses objectifs de croissance de la force de vente pour les nouveaux logiciels d’IA. Comme d’autres grandes entreprises technologiques, Microsoft a passé une grande partie de l’année 2025 à vanter haut et fort les agents d’IA comme le prochain grand pas en avant dans l’automatisation d’entreprise, mais à la fin de l’année, l’entreprise a discrètement revu à la baisse ses attentes, révèle un nouveau rapport de The Information. Microsoft a assoupli les allocations pour certains produits d’IA après que plusieurs équipes commerciales n’aient pas atteint leurs objectifs de croissance agressifs. Il s’agit d’un aveu public inhabituel selon lequel les entreprises traditionnelles restent réticentes à payer pour une automatisation avancée. Les clients affirment que le retour sur investissement reste difficile à mesurer et que la technologie est trop sujette aux erreurs pour les flux de travail à haut risque tels que la finance et la cybersécurité. Bien que l’IA ait été une énorme aubaine pour l’activité cloud de Microsoft, en grande partie grâce aux dépenses énormes d’OpenAI et à la forte demande pour des outils tels que Microsoft 365 Copilot et GitHub Copilot, il s’est avéré beaucoup plus difficile d’amener les grandes entreprises à augmenter considérablement leurs budgets IA que de vendre aux laboratoires d’IA.
Calendrier IA
2-7 décembre : NeurIPS, San Diego.
8 et 9 décembre : Brainstorming sur la fortune I.A. San Francisco. Cliquez ici pour demander votre participation.
7-10 janvier : Consumer Electronics Show, Las Vegas.
12-18 mars : SWSW, Austin.
16-19 mars : Nvidia GTC, San José.
6-9 avril : HumanX, San Francisco.
Faites attention aux chiffres de l’IA
221 millions
C’est le nombre d’utilisateurs de YouTube abonnés à des chaînes dites « AI slop », des chaînes qui publient principalement du contenu généré par l’IA, selon un nouveau rapport de Kapwing, une plateforme de montage vidéo basée sur le cloud.
Ce rapport a analysé 15 000 chaînes YouTube dans 21 pays pour identifier celles qui publient du contenu généré par l’IA. Nous avons ensuite examiné les vues, le nombre total d’abonnés et les revenus estimés pour déterminer où les chaînes « AI slop » rivalisent le plus férocement avec les créateurs humains.
Selon le rapport, ces chaînes totalisent déjà 221 millions d’abonnés, génèrent 63 milliards de vues et collectent plus de 117 millions de dollars par an.
Quelques conclusions notables du rapport :
