Sam Altman a récemment averti que les escroqueries alimentées par AI arrivent « rapidement », ce qui brisera les systèmes sur lesquels nous comptons et vérifiera notre identifiant.
Cela se produit déjà et ne vient pas seulement pour la banque. Il attaque chaque partie du gouvernement maintenant.
Chaque semaine, la fraude générée par l’AI-assemble des millions de personnes de systèmes d’intérêt public, de fonds de secours en cas de catastrophe et de programmes de chômage. Les réseaux criminels l’emportent déjà sur les défenses de fraude obsolètes, y compris des outils à couches uniques tels que la reconnaissance faciale facilement usurpés, en utilisant des Fakes Deep, des identités synthétiques et des modèles de langage à grande échelle.
Nous avons eu un aperçu de cela pendant la pandémie. La fraude a exploité des lacunes dans le système de l’État et a volé des centaines de milliards de prestations de chômage. Ce n’était pas seulement des gens qui portaient des masques pour contourner la reconnaissance faciale. C’était une fausse identité générée par l’AI, des clones audio, une documentation écrasante qui n’avait pas été construite pour les détecter. Aujourd’hui, ces tactiques sont plus avancées et entièrement automatisées.
Je travaille avec plus de 9 000 agents à l’échelle nationale. Comme je l’ai témoigné devant la Chambre des représentants des États-Unis cette année, il est clair que nous voyons dans ce domaine. Les escroqueries sont plus rapides, moins chères et plus évolutives que jamais. Les groupes de crimes organisés nationaux et transfrontaliers utilisent l’IA générateur pour imiter l’identité, générer des documents synthétiques et inonder le système de réclamations frauduleuses. Ils ne volent pas seulement le gouvernement. Ils volent des Américains.
Les inspecteurs des petites entreprises estiment désormais que près de 20 milliards de dollars ont été volés à des programmes d’assurance-chômage pendant la pandémie, ce qui en fait l’une des plus grandes pertes de fraude de l’histoire des États-Unis. Les programmes de Medicaid, IRS, TANF, Chips et Disaster Relief sont confrontés à des vulnérabilités similaires. J’ai également vu cela de première main dans ce travail aux côtés des services secrets américains, qui protège le programme USDA SNAP, qui est un buffet de escrocs qui ont été volés à l’échelle nationale chaque mois. En fait, un anneau de fraude en une journée à l’aide d’une IA peut déposer des dizaines de milliers de fausses réclamations dans plusieurs États. La plupart d’entre eux sont automatiquement traités à moins d’être signalés.
Nous avons atteint le tournant. Alors que l’IA continue d’évoluer, l’échelle et le raffinement de ces attaques augmenteront rapidement. Tout comme la loi de Moore prédisait que le pouvoir informatique doublerait tous les deux ans, nous connaissons maintenant un nouveau type de croissance exponentielle. Le co-fondateur d’Intel, Gordon Moore, a initialement décrit cette tendance en 1965, menant des décennies d’innovation. Je crois que je pourrais bientôt reconnaître des principes similaires de l’IA, que j’appelle la « loi d’Altman »: tous les 180 jours, ma capacité d’IA est deux fois plus élevée.
Si nous ne modernions pas nos défenses au même rythme que les avancées technologiques, nous l’emporterons à jamais.
Ce dont nous avons désespérément besoin, ce sont les outils et les infrastructures plus intelligents, pas la bureaucratie.
Cela signifie non seulement des analyses et des mots de passe du visage, mais également une vérification d’identité avancée. Cela signifie utiliser des données en temps réel, une analyse comportementale et des outils interjudiciaires qui peuvent signaler de l’argent anormalement avant son départ. Cela signifie également relancer ce qui fonctionne déjà. Des outils comme la précision de la précision du pays ont signalé des milliards de dollars de revendications de prestations à travers les lignes de l’État avant sa fermeture.
L’IA est un multiplicateur de force, mais il est plus facile d’armer qu’il ne peut être utilisé pour la protection. De nos jours, les criminels l’utilisent plus que nous. Jusqu’à ce que cela change, nos systèmes les plus vulnérables et ceux qui comptent sur eux restent exposés.
Les opinions exprimées dans le commentaire sur Fortune.com sont les vues de leurs auteurs et ne reflètent pas nécessairement les opinions et les croyances de la bonne fortune.
