Anthropic a récemment mis hors ligne ses deux nouveaux modèles d’IA en raison d’une ordonnance de contrôle des exportations de l’administration Trump, suscitant de larges débats sur la politique de l’IA et la souveraineté numérique.
Dans le dernier épisode du podcast Equity de TechCrunch, Sean O’Kane, Rebecca Bellan et moi-même avons discuté de ce qui a réellement motivé les mesures de l’administration contre Anthropic et de ce que cela pourrait signifier pour l’écosystème plus large de l’IA.
Comme l’a dit Sean : « Anthropic n’a pas eu les meilleures relations avec l’administration Trump, d’une manière qui se démarque des autres grands laboratoires d’IA », alors peut-être que les autres rivaux d’Anthropic n’ont pas à s’inquiéter d’une répression similaire.
Mais Rebecca a également noté que d’éminents experts en cybersécurité ont « signé une lettre ouverte pour demander à Trump de révoquer l’ordre, et ils disent qu’il est en fait dangereux de devoir retirer ces capacités avancées de cybersécurité aux défenseurs des réseaux aux États-Unis ».
Et nous nous sommes demandé si tout cela pourrait finir par être une bonne publicité pour Anthropic, d’autant plus que – selon les mots de Rebecca – « tout le monde aime les mauvais garçons ».
Continuez à lire pour un aperçu de notre conversation, éditée pour plus de longueur et de clarté.
Rebecca Bellan : Comme je suis sûr que beaucoup de nos auditeurs le savent, le gouvernement américain a simplement forcé Anthropic à mettre hors ligne ses deux nouveaux modèles : Fable 5, puis il y avait aussi Mythos 5, qui était celui qui était disponible pour les utilisateurs actuels de Mythos, (alors que) Fable 5 était davantage accessible au public.
Ils ont envoyé une lettre (dernier) vendredi faisant état de « préoccupations en matière de sécurité nationale ». Personne ne sait quelles sont ces préoccupations. Ce rapport n’a pas été rendu public, ils n’ont donné aucun détail et ont dit (Anthropic) qu’ils devaient s’assurer que ces modèles ne puissent être utilisés par aucun ressortissant étranger. Alors Anthropic a dit : « D’accord, je suppose que nous devons simplement supprimer entièrement les modèles, car nous ne savons pas quand quelqu’un est un ressortissant étranger. Beaucoup de nos propres employés sont étrangers. »
Mais en réalité, (selon des rapports), la Maison Blanche en a été informée à cause de certains chercheurs d’Amazon qui auraient trouvé un moyen de contourner les garde-fous de Fable 5. Le PDG d’Amazon, Andy Jassy, a fait part de ces préoccupations à la Maison Blanche, et à partir de là, les choses se sont envenimées.
Sean O’Kane : Tout est allé très vite, surtout entre un vendredi après-midi et un week-end. Et c’est au même moment que l’administration essayait ostensiblement de négocier une sorte de traité pour la guerre qu’elle avait déclenchée en Iran.
Rebecca : Vendredi soir pour nous à New York. Ils aiment les distractions.
Sean : Remontons très loin un instant. Anthropic n’a pas eu les meilleures relations avec l’administration Trump, d’une manière qui se démarque des autres grands laboratoires d’IA – je pense qu’il y a au moins un élément de cela en jeu ici.
Alors pensez-vous que cela va avoir des implications pour ces autres entreprises ? Pensez-vous que l’administration Trump serait moins encline à fermer le robinet à l’un de ces concurrents ?
Anthony Ha : Une partie du contexte ici est que tant les rapports que les analyses d’experts en sécurité indépendants suggèrent que le risque de sécurité réel d’Anthropic n’est pas si unique. Cela semble donc provenir en grande partie du fait que certaines parties de l’administration Trump et d’Anthropic ne s’entendent pas très bien. Quels que soient les risques, ces choses vont exploser de manière disproportionnée simplement parce qu’il semble qu’ils ne peuvent pas se téléphoner civilement.
Si vous êtes une autre entreprise, d’une part, cela est peut-être avantageux pour vous, car vous pouvez dire : « Eh bien, nous ne mettons pas ces gars en colère contre nous et nous pouvons faire ce que nous voulons. » Mais ce n’est pas non plus un cadre réglementaire idéal pour simplement (dire) : « Bon sang, j’espère qu’ils ne se fâcheront pas contre nous. »
Rebecca : D’un côté, cela ressemble vraiment à des représailles – après que le gouvernement a qualifié Anthropic de risque pour la chaîne d’approvisionnement, il y a ce grand procès en cours entre eux, on a vraiment l’impression que la Maison Blanche cherche juste une excuse pour frapper Anthropic. Et je ressens cela non seulement parce que c’était ma réaction initiale, mais aussi à cause de ce que de nombreux chercheurs en cybersécurité ont dit. Ils disent que cela n’aurait jamais dû déclencher un contrôle (ordonnance) des exportations. Ils ont tous signé une lettre ouverte pour demander à Trump de révoquer l’ordre, et ils disent qu’il est en fait dangereux de devoir retirer ces capacités avancées de cybersécurité aux défenseurs des réseaux aux États-Unis. Anthropic lui-même a déclaré que certains des mêmes jailbreaks auraient pu être trouvés dans plusieurs autres modèles d’IA.
Cyniquement, c’est comme : d’accord, est-ce que vous mettez simplement Anthropic en pause pour que les autres puissent rattraper leur retard ?
Mais en même temps, j’ai aussi vu des réactions qui (disons) : Anthropic avait en quelque sorte prévu cela. Ils disent : « C’est trop dangereux pour que quiconque puisse l’utiliser, mais pas nous, nous sommes les gentils. » Ils parlent des deux côtés de la bouche. Une semaine avant la sortie de Fable, ils disaient : « Hé, nous devons ralentir l’IA, les gars. Cela devient vraiment dangereux. » Et puis boum : « Voici notre modèle le plus fou et le plus puissant de tous les temps, allez-y. »
Anthony : D’une certaine manière, cela ressemble à un microcosme d’une grande partie des discussions autour de l’IA, où des gens comme Sam Altman et Jensen Huang disent : « Hé, essayons de baisser la température. Pourquoi tout le monde est-il en colère contre nous ? » Eh bien, vous avez passé ces deux dernières années à dire essentiellement que vous aviez construit cette machine divine qui supprimerait des emplois à tout le monde. Ce n’est pas vraiment un choc que les gens ne se sentent pas bien à ce sujet.
Et il y a quelque chose dans la façon dont Anthropic parle de Mythos en particulier, où ils disent : « C’est le modèle le plus incroyablement puissant jamais conçu, il est trop dangereux pour être rendu public. » Et donc, à un certain niveau, (vous dites 🙂 « Eh bien, d’accord, disons que nous prenons cela au sérieux alors. Cela signifie qu’il va y avoir un niveau incroyable de surveillance autour de cela. »
Et je me demande : il semble qu’Anthropic ne soit pas content de cela. Je veux faire attention à ne pas exagérer à quel point cela pourrait leur être bénéfique. Mais nous avons également publié quelques articles sur l’analyse Ramp pour souligner le fait que la dernière grande explosion entre Anthropic et l’administration Trump a été bonne pour l’entreprise, au moins à certains égards. Les téléchargements de Claude ont explosé. Je pense que beaucoup de gens qui avaient peut-être pensé à ChatGPT comme le chatbot, l’assistant d’IA auparavant, ont soudainement considéré Claude comme peut-être le plus responsable, le plus « résistant ».
Et de la même manière, (même si) Anthropic est très stressé à ce sujet, cela pourrait, encore une fois, rendre ses modèles encore plus puissants.
Rebecca : Certainement. « Nous sommes tellement dangereux. » Tout le monde aime les mauvais garçons, n’est-ce pas ? Tout le monde dit : « C’est le modèle le plus puissant, même Trump le dit. Bien sûr, je dois mettre la main dessus. »
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
