Chiffrement, logiciels espions et maintenant mythes : l’histoire montre pourquoi le contrôle des cyberexportations ne fonctionne pas

Vendredi dernier, invoquant des préoccupations non précisées en matière de sécurité nationale, la Maison Blanche a ordonné à Anthropic de restreindre l’exportation de ses puissants modèles d’IA Fable et Mythos à toute personne en dehors des États-Unis, ainsi qu’aux ressortissants étrangers à l’intérieur du pays. Peu de temps après, le géant de l’IA a débranché à la hâte les deux modèles, qui ne sont désormais accessibles à personne depuis une semaine.

Cet épisode est le premier véritable test visant à déterminer si le gouvernement américain peut utiliser les contrôles à l’exportation pour contenir l’IA aux frontières, de la même manière qu’il a tenté, avec des résultats très inégaux, de contenir le chiffrement et les logiciels espions avant lui. Aussi dramatique que cela puisse paraître, la façon dont cette impasse sera résolue pourrait façonner non seulement l’accès d’Anthropic aux marchés étrangers, mais aussi le livre de règles autour duquel d’autres laboratoires d’IA devront s’appuyer.

Un peu de contexte d’abord. Depuis qu’Anthropic a lancé Mythos en avril, la société l’a commercialisé comme une sorte de cybermachine apocalyptique qui pourrait faire des ravages sur Internet si elle était diffusée trop largement. C’est pourquoi, avant l’interdiction, seules environ 150 entreprises et organisations gouvernementales contrôlées y avaient accès. L’objectif était d’aider les défenseurs à sécuriser leurs logiciels et services avant que les méchants ne puissent atteindre les capacités de type Mythos.

Alors, qu’est-ce qui a déclenché l’interdiction ? Deux événements ultérieurs, semble-t-il. La première : Anthropic a donné à une société de télécommunications sud-coréenne un accès à Mythos par le biais de son programme de partenariat limité, et les responsables américains se sont alarmés après avoir identifié l’entreprise comme étant soupçonnée d’avoir des liens avec la Chine. (La société, largement connue sous le nom de SK Telecom, a nié toute connexion avec la Chine.) Le PDG d’Amazon, Andy Jassy, ​​aurait également alerté l’administration après que les propres chercheurs d’Amazon, a-t-il déclaré, aient trouvé un moyen de contourner les garanties de Fable 5. Anthropic conteste l’étiquette de « jailbreak », la qualifiant de problème restreint et déjà corrigé plutôt que d’une défaite totale des mesures de sécurité du modèle.

Le résultat fut le même : le Département du Commerce a publié une directive de contrôle des exportations et Anthropic a dû se démener pour limiter immédiatement l’accès à ses produits dans les 90 minutes environ suivant la notification, selon certains témoignages.

Mais rien de tout cela n’est nouveau. Les gouvernements tentent depuis des décennies d’utiliser les contrôles à l’exportation pour limiter la prolifération de ce qu’ils considèrent comme une cybertechnologie dangereuse, mais leur bilan est, au mieux, médiocre.

Le gouvernement américain a été à l’origine de ce qui constitue peut-être l’échec le plus spectaculaire de cette approche entre le début et le milieu des années 1990. À l’époque, les informaticiens développaient des technologies de cryptage pour sécuriser les données lors de leur transit sur Internet. L’un de ces produits de cryptage s’appelait Pretty Good Privacy, ou PGP, un logiciel populaire capable de crypter des données et de les rendre pratiquement impossibles à déchiffrer, même si elles étaient interceptées lors de leur transfert vers leur destinataire sur Internet.

Le gouvernement américain a d’abord considéré le PGP comme une arme dangereuse, craignant qu’il n’empêche ses agences de renseignement d’espionner les courriels lorsqu’ils croisaient leurs fils. Pour arrêter la distribution de PGP, les douanes américaines ont ouvert une enquête criminelle contre le créateur de PGP, Phil Zimmermann, pour violation présumée des contrôles sur les exportations d’armes. Il a riposté en publiant le code source de PGP sous forme de livre imprimé, déclenchant ce que l’on appelle aujourd’hui la « guerre des crypto-monnaies ».

Zimmermann a ensuite remporté une bataille cruciale à la clôture de l’enquête, ouvrant la voie à des algorithmes de chiffrement de bout en bout cruciaux, tels que celui utilisé par des milliards d’utilisateurs de Signal et WhatsApp.

Plus tard, au début des années 2010, des chercheurs ont commencé à découvrir des logiciels espions de fabrication occidentale utilisés contre les dissidents au Moyen-Orient. En réponse, plusieurs gouvernements ont accepté d’élargir l’Arrangement de Wassenaar, un traité international qui limite l’exportation de logiciels et de technologies à double usage utilisés à la fois dans des applications civiles et militaires.

L’idée était de classer les logiciels de surveillance et de piratage comme à double usage, obligeant ainsi les fabricants de logiciels espions à obtenir des licences d’exportation pour vendre leurs produits à l’étranger.

Mais Wassenaar a toujours eu deux faiblesses inhérentes. Plusieurs pays n’adhèrent pas à l’accord, notamment Israël, qui abrite certains des fabricants de logiciels espions les plus actifs au monde.

L’accord dépend également de la manière dont les pays l’appliquent aux entreprises sur leur territoire, à leur propre discrétion. Pendant un certain temps, le gouvernement italien a accordé à l’un des principaux fabricants de logiciels espions du pays, Hacking Team, une licence pour exporter ses outils dans le monde entier, malgré les antécédents de l’entreprise en matière de vente de logiciels espions à des gouvernements oppressifs qui les utilisaient pour pirater des journalistes et des militants des droits de l’homme.

Depuis lors, d’autres pays d’Europe ont fait preuve de laxisme envers les fabricants de logiciels espions, comme l’Italie. Malgré de nombreux scandales, l’Europe, qui abrite de nombreux fabricants de logiciels espions et d’outils de piratage, n’a toujours pas réussi à freiner l’exportation de logiciels espions vers des régimes autoritaires. Les critiques affirment que les efforts récemment renouvelés au sein du bloc des 27 États membres pour résoudre le problème croissant des exportations de logiciels espions vers les États autoritaires « ne vont pas assez loin ».

Plusieurs fabricants de logiciels espions, comme Intellexa, un consortium sanctionné de sociétés de logiciels espions, ont simplement déplacé leurs opérations vers des pays où les contrôles à l’exportation sont laxistes. D’autres fabricants de logiciels espions ont cherché à déplacer leurs opérations en Arabie Saoudite pour des raisons similaires.

Il y a eu quelques victoires. Le fabricant allemand de logiciels espions FinFisher a fermé ses portes en 2022 après une enquête de plusieurs années menée par les procureurs allemands sur l’entreprise pour avoir prétendument vendu des logiciels espions à la Turquie sans licence d’exportation. Les enquêteurs avaient précédemment découvert que le logiciel espion FinFisher avait été déployé sur les téléphones de critiques du gouvernement turc.

Au moment de la rédaction de cet article, l’impasse entre Anthropic et l’administration Trump demeure. Il y a une chance raisonnable que l’administration abandonne et lève la restriction dans l’intérêt de maintenir les sociétés américaines d’IA compétitives à l’échelle mondiale – une décision qui équivaudrait à une reconnaissance tacite que les laboratoires d’IA ailleurs, y compris en Chine, atteindront probablement des capacités similaires, quelles que soient les restrictions imposées par les États-Unis. Ou bien, les sociétés américaines d’IA pourraient finir par avoir besoin de l’approbation du gouvernement avant de servir des clients étrangers, un fardeau de conformité qui nuirait invariablement à leurs résultats.

Compte tenu des expériences passées des gouvernements du monde entier en essayant de contrôler la portée des logiciels, il est peu probable que les contrôles à l’exportation imposés par les gouvernements soient la bonne approche pour empêcher les acteurs malveillants d’abuser des puissantes cybertechnologies à double usage.