En 2019, des pirates informatiques sophistiqués ont passé plusieurs semaines à cibler les employés de Coinbase avec des e-mails provenant de comptes compromis de l’Université de Cambridge. Les attaquants ont patiemment établi un climat de confiance avant de déployer deux exploits enchaînés de type Zero Day (terme utilisé pour décrire des vulnérabilités logicielles non découvertes) ciblant le navigateur Firefox. Un exploit a tenté de compromettre le navigateur et l’autre a tenté d’exécuter du code malveillant sur la machine hôte. À l’époque, il s’agissait de l’une des attaques les plus sophistiquées visant le secteur des entreprises.
L’équipe de sécurité de Coinbase l’a découvert quelques heures après un rapport d’employé et une alerte automatisée. Cela nous a permis d’identifier des comportements malveillants. Les temps de réponse se mesurent en minutes et les fonds des clients ne sont jamais perdus. Mais maintenant, j’ai une opinion différente sur cet incident. Il a fallu aux attaquants plusieurs semaines d’ingénierie sociale et un rare « jour zéro » pour nous abattre. Les ennemis pilotés par l’IA prennent moins de quelques semaines. Vous n’aurez peut-être pas besoin d’heures. Et c’est le monde auquel je me prépare aujourd’hui.
Au cours des derniers mois, il est devenu évident que les équipes de sécurité de tous les secteurs se préparaient en secret. Cela signifie que l’IA change et continuera de changer la façon dont les cyberattaques se produisent. La forme de ce changement est encore en train de prendre forme, donc la partie la plus difficile de mon travail en ce moment consiste à planifier des modèles de menace qui n’existent pas encore.
Les modèles d’IA pionniers construits par Anthropic, OpenAI et d’autres franchissent des seuils de capacités de cybersécurité qui semblaient spéculatifs il y a 18 mois. Ces systèmes peuvent lire les bases de code de la même manière qu’un auditeur expérimenté peut les lire, avec la vitesse, la mémoire et la concentration d’une machine. L’un des modèles les plus récents a découvert un bug vieux de 27 ans dans OpenBSD, l’une des bases de code les plus auditées de la planète. Il s’agit d’un changement structurel de possibilité.
Aujourd’hui, ce changement favorise les défenseurs.
La sécurité est avant tout une question de contexte. Les défenseurs en savent généralement plus sur leurs systèmes que les attaquants, notamment sur le code, les journaux, l’architecture et l’historique. Donner à un modèle puissant ce contexte peut devenir un outil puissant pour détecter les faiblesses plus rapidement et de manière plus approfondie. Coinbase utilise déjà l’IA dans ses efforts de sécurité, y compris la sécurité des applications, le lancement d’attaques simulées sur ses systèmes (un processus connu sous le nom d’équipe rouge) et le renforcement de son infrastructure. Dans les environnements où les défenseurs peuvent d’abord déployer ces outils à grande échelle, ils devraient gagner.
Toutefois, le problème devient plus critique lorsque l’attaquant et le défenseur partagent le même contexte.
Un exemple est la finance décentralisée (DeFi), où le code est exécuté ouvertement. L’attaquant dispose des mêmes droits d’accès que l’audit des contrats intelligents. Cela devient une compétition de capacité et de concentration du modèle pour voir qui trouve le bug en premier. L’IA aide également à compresser les calendriers d’attaques typiques, en compressant ce qui prendrait normalement des semaines en quelques heures. Cela pourrait rendre l’exploitation plus rapide, moins chère et plus fréquente.
L’IA menace l’épine dorsale logicielle mondiale
Bien entendu, le problème ici s’étend bien au-delà de DeFi et touche le code open source qui constitue l’épine dorsale du monde du logiciel. Une grande partie de ce code est accessible au public sur des plateformes comme GitHub et peut être examinée aussi bien par les attaquants que par les défenseurs. En sécurité, ce type de risque est appelé attaque de la chaîne d’approvisionnement. Ils ne sont pas nouveaux, ils sont incroyablement difficiles à détecter et à protéger, et ils sont sur le point de devenir plus rapides et plus faciles que jamais.
L’exécution de modèles de pointe comme OpenBSD actuel, capables de détecter des bogues cachés depuis longtemps, nécessite d’énormes quantités de matériel. Anthropic et ses pairs publient soigneusement ces fonctionnalités pour donner une longueur d’avance aux défenseurs. C’est la bonne approche et présente de réels avantages pour l’écosystème. Cependant, c’est temporaire.
Ces modèles deviennent moins chers à exploiter. Les chercheurs augmentent régulièrement les performances, expérimentent des moyens d’améliorer l’efficacité et d’exécuter des modèles plus grands avec moins de matériel.
Un matériel dont le fonctionnement coûte aujourd’hui 10 millions de dollars pourrait coûter près de 100 000 dollars dans un an ou deux. Les modèles comme Mythos sont uniques aujourd’hui, mais historiquement, il est clair que des modèles à classe ouverte suivront. Cela mettrait les capacités actuellement limitées à quelques laboratoires entre les mains de groupes d’attaquants disposant de ressources suffisantes.
C’est ce à quoi les équipes de sécurité devraient se préparer dès maintenant.
L’incident va encore s’accélérer. Les attaques contre la chaîne d’approvisionnement deviendront plus courantes. Les mouvements latéraux, l’élévation des privilèges, l’exfiltration de données et l’exploitation des vulnérabilités découvertes se produisent plus rapidement que les intervenants humains ne peuvent réagir. Le plus effrayant est d’imaginer les attaques assistées par l’IA comme des attaques normales, juste plus rapides. Fondamentalement, nous ne savons pas comment l’IA va modifier les aspects offensifs et défensifs de la cybersécurité dans les années à venir.
Se préparer à des menaces qui ne peuvent pas être complètement identifiées est inconfortable, mais ce n’est pas nouveau. C’est l’essentiel du travail de sécurité proprement dit. Ce qui est nouveau, c’est la vitesse.
Alors, que doivent faire les entreprises ?
Les entreprises qui cherchent à lutter contre ces menaces peuvent commencer par exploiter de manière proactive l’IA sur le front défensif. Ce n’est pas une bonne idée d’être à la traîne des outils dont disposera éventuellement votre ennemi. N’attendez pas les fournisseurs ou les tiers. Concentrez-vous plutôt sur l’expérimentation et demandez à vos employés de s’impliquer autant que possible dans l’IA.
Cela ne suffit pas. Les entreprises doivent gérer les tiers avec la même intensité, notamment les bibliothèques de logiciels sur lesquelles elles s’appuient. Des étapes simples telles que l’épinglage de version et l’exigence d’une période de refroidissement avant qu’une nouvelle version de bibliothèque ne soit disponible pour les développeurs peuvent grandement contribuer à atténuer les attaques de la chaîne d’approvisionnement qui deviendront de plus en plus courantes.
Plus important encore, restructurez la réponse aux incidents en partant du principe que les attaquants opèrent à la vitesse d’une machine. Parce que cela arrivera bientôt. « S’attendre à un compromis » est un mantra de longue date dans le domaine de la sécurité, et l’IA en fait intuitivement une réalité. Les attaquants sur le réseau ne peuvent pas s’arrêter pour se reposer, élaborer des stratégies ou spéculer. Votre playbook doit en tenir compte.
Malgré tout cela, résistez à la tentation de considérer la sortie d’un modèle particulier comme un problème à résoudre. Après un an, un modèle plus performant arrive et le cycle se réinitialise. Le but n’est pas de se défendre contre un seul outil. Il s’agit de bâtir une organisation qui s’adapte plus rapidement que les menaces évoluent.
Au cours de la dernière décennie, j’ai appris que le secteur des cryptomonnaies évolue plus rapidement que tout autre domaine dans lequel j’ai travaillé. La prochaine décennie, façonnée par l’IA, sera encore plus rapide. Ce n’est pas une bataille que les défenseurs peuvent gagner une seule fois. C’est une course aux armements. Les attaquants se retrouvent avec bon nombre des mêmes outils que ceux dont disposent les défenseurs. Ce que nous pouvons et devons faire, c’est rester à l’avant-garde suffisamment longtemps pour avoir de l’importance. Vous risquez de perdre quelques batailles en cours de route, mais l’important est de ne pas perdre la guerre.
