L’économie florissante de l’IA crée de nouveaux types de cybercriminalité. Patrick Collison, PDG du géant des paiements Stripe, a déclaré que les fraudeurs escroquaient les sociétés d’IA en ouvrant de nouveaux comptes pour voler des jetons utilisés pour acheter de la puissance informatique. Collison affirme que le problème est devenu si répandu qu’un nouveau client inscrit sur six est désormais victime d’un vol de jetons.
Sur le podcast TBPN, Collison a expliqué que les voleurs volent des jetons pour les revendre ou les utiliser pour leurs propres entreprises criminelles. Il a ajouté que le « vol de jetons » est si répandu qu’il devient rapidement trop coûteux pour les startups d’IA de proposer des essais gratuits à des clients potentiels.
Bien entendu, la cybercriminalité ciblant les startups n’a rien de nouveau. Cependant, l’essor de l’économie de l’IA a créé de nouvelles opportunités car, contrairement aux essais de logiciels traditionnels, l’inscription dans une entreprise d’IA s’accompagne de jetons précieux pour une informatique revendable.
« Je pense que le vol de jetons est le sujet le moins discuté en matière d’IA », a déclaré Emily Sands, responsable des données et de l’IA chez Stripe. « L’un des aspects vraiment effrayants de cette situation est que ces attaquants peuvent gaspiller des coûts d’inférence et accumuler d’énormes redevances qu’ils n’ont pas l’intention de payer. Ils peuvent le faire très rapidement car ils dépensent des jetons à la vitesse de la machine. »
Dans une interview avec le magazine Fortune, Sands a déclaré que dans la fraude par jetons, les fraudeurs s’inscrivent souvent pour plusieurs comptes auprès d’une société d’IA, puis utilisent les jetons à des fins sans rapport avec ce que propose l’entreprise ou revendent les jetons. Dans les deux cas, ils disparaissent après avoir brûlé les jetons. Sands a comparé l’arnaque aux gens « dînant et se précipitant » dans un restaurant.
Le problème est exacerbé par le fait que les criminels utilisent des agents pour brûler des jetons en quelques minutes, a déclaré Sands. Cela signifie que contrairement aux éditeurs de logiciels traditionnels, où les responsables antifraude enquêtent sur les transactions suspectes, les crimes surviennent trop rapidement pour que l’entreprise puisse intervenir.
Cette situation est désastreuse pour les entreprises d’IA qui cherchent à proposer des essais gratuits pour attirer de nouveaux clients. Même si cela coûte peu aux éditeurs de logiciels de proposer des comptes temporaires gratuits, de nombreuses startups proposent des packs de jetons d’une valeur de 500 dollars dans l’espoir de convertir les utilisateurs testant leurs services en clients payants, a déclaré Sands.
La prévalence du vol de jetons pose des défis aux startups. Certaines entreprises ont réagi en mettant fin aux essais gratuits, mais cela peut également freiner la croissance d’une entreprise en limitant ses opportunités d’acquérir de nouveaux clients.
Heureusement, une solution pourrait bientôt être trouvée. Stripe présente un produit appelé Radar qui agit comme un détecteur de fraude intégré dans son réseau de paiement par carte de crédit et affirme adapter l’outil pour aider les clients à détecter et à bloquer la fraude par jeton.
Sands a déclaré que Radar peut désormais attribuer des scores de risque en temps réel aux comptes potentiels en fonction de facteurs tels que les adresses IP, les domaines de messagerie et les empreintes digitales des appareils. Il a déclaré que des sociétés d’IA telles que le service de détection vocale Eleven Labs et le créateur d’applications Labable utilisent déjà le service pour détecter et bloquer les tentatives d’inscription multi-comptes.
Sands a déclaré que les données de Stripe montrent que les startups peuvent améliorer leur taux de conversion de prospects de 1 sur 25 à 1 sur 3 en bloquant les comptes frauduleux.
Des solutions plus intéressantes sont en route. Cela se présente sous la forme de paiements en streaming, obligeant les clients à payer pour les services d’IA en utilisant des pièces stables tout en les consommant en temps réel. Stripe soutient une nouvelle blockchain appelée Tempo pour faciliter de tels paiements, et le géant de la cryptographie Coinbase développe un produit similaire appelé x402.
Mais pour l’instant, la vague de vols de jetons ne montre aucun signe de ralentissement. « Au cours des six derniers mois, les abus liés aux essais gratuits ont plus que doublé, et ils se sont accélérés de manière assez spectaculaire le mois dernier », a déclaré Sands.
