OpenAI déploie son dernier LLM avancé, Sol, pour un large accès au public. Sol est considéré comme étant au moins à égalité avec Anthropic’s Fable, un modèle dont les capacités (ou la propriété) ont suffisamment stressé la Maison Blanche pour qu’elle soit brièvement interdite d’accès au public.
Alors, comment ces modèles ont-ils obtenu l’autorisation de sortie ? Réponse courte : personne n’en est vraiment sûr.
« Franchement, je n’ai pas de visibilité sur ces processus exacts, donc oui, je n’ai pas l’impression d’avoir suffisamment d’informations pour dire s’ils sont adéquats ou non », a déclaré à TechCrunch Mina Narayanan, analyste de recherche senior au Center for Security and Emerging Technology de Georgetown. « Anthropic a déclaré qu’ils étaient en conversation avec le gouvernement et qu’ils avaient développé un classificateur pour détecter les tentatives de jailbreak, et qu’ils avaient mis en œuvre des stratégies de défense en profondeur pour empêcher de futurs jailbreaks, mais on ne sait pas exactement à quoi ressemblait ce dialogue entre le gouvernement, Anthropic et OpenAI. »
Dean W. Ball, un ancien conseiller politique de Trump qui travaille maintenant pour OpenAI, a écrit que « personne ne sait quelles sont les conditions requises pour obtenir une licence » dans son bulletin d’information le mois dernier.
Andy Konwinski, un informaticien cofondateur de Databricks, Perplexity et du Laude Institute, a déclaré qu’il n’avait jamais parlé à quiconque comprenant le processus, même aux employés des laboratoires frontaliers. «C’est un problème existentiel», dit-il à TechCrunch. « Sécurité ou pas, il s’agit de savoir qui a le pouvoir de prendre des décisions – qui contrôle et décide des autorisations ?
Dix-huit mois après le début de l’administration Trump, il y a encore peu de clarté sur la façon d’aller de l’avant, malgré – ou, atténuent certains critiques, à cause – des chiffres de l’industrie qui fixent la politique. Le mois dernier, après des semaines de luttes intestines, un décret a été publié établissant une feuille de route pour l’évaluation des modèles frontières, mais les détails doivent encore être précisés, hormis ce qui n’existera pas. « Il n’y aura pas de FDA pour l’IA », a déclaré au Financial Times Sriram Krishnan, ancien associé d’Andreessen Horowitz qui était conseiller principal pour l’IA à la Maison Blanche jusqu’au mois dernier.
Notamment, il n’y a toujours pas d’accord sur les types de modèles qui nécessitent un examen minutieux du gouvernement, ni sur la ou les agences qui devraient effectuer ces évaluations. Pour l’instant, le Centre pour les normes et l’innovation en IA du ministère du Commerce semble prendre les devants, mais le décret charge six agences du cabinet de déterminer un processus final d’ici début août. Ce qui est apparu entre-temps est, au mieux, ponctuel.
Le PDG d’OpenAI, Sam Altman, a déclaré sur CNBC que le processus impliquait des conversations avec des responsables tels que le secrétaire au Commerce Howard Lutnick, le secrétaire au Trésor Scott Bessent et le directeur national américain de la cybersécurité Sean Cairncross, mais on ne sait pas clairement qui étaient les experts qui ont testé les modèles ni comment ils l’ont fait. OpenAI a refusé de partager des détails sur le processus gouvernemental avec TechCrunch, mais a souligné les résultats de plusieurs évaluations externes menées par des organisations comme UK AISI, SecureBio et Irregular dans la fiche de sécurité du dernier modèle.
Comme pour le déploiement de Fable d’Anthropic, OpenAI a présenté un aperçu du modèle pour le gouvernement et sélectionné les utilisateurs avant une diffusion plus large, mais nous ne savons pas qui étaient tous ces utilisateurs ni comment ils ont été choisis. Dans un article de blog publié fin juin, la société a déclaré « nous ne pensons pas que ce type de processus d’accès gouvernemental devrait devenir la norme par défaut à long terme », affirmant qu’elle travaillerait avec le gouvernement pour développer une voie différente à suivre.
Cependant, la toile de fond de ces conversations inclut Altman qui aurait offert jusqu’à 5 % du capital d’OpenAI pour les soi-disant « comptes Trump » de l’administration, et le rôle du président d’OpenAI, Greg Brockman, en tant que plus grand donateur publiquement connu pour l’opération politique à mi-mandat de Trump. Il est difficile pour les observateurs extérieurs de distinguer ces activités de l’approche apparemment plus légère du gouvernement en matière de réglementation de Sol.
Anthropic’s Fable, en revanche, a été brièvement retiré d’un accès plus large lorsque le gouvernement américain a interdit son utilisation aux ressortissants étrangers, en partie à cause de réelles inquiétudes quant aux utilisateurs qui brisent le modèle pour accéder aux capacités de piratage et en partie à cause de conflits de personnalité entre Anthropic et l’administration Trump. La menace d’une interdiction d’exportation a peut-être également conduit OpenAI à se montrer plus coopératif avec les demandes (inconnues) du gouvernement.
Du point de vue de l’industrie, une approche non interventionniste de la réglementation pourrait être intéressante, mais une approche qui dépend de relations personnelles avec des responsables de l’administration crée de l’incertitude et de mauvaises incitations.
Konwinski a déclaré à TechCrunch qu’il craignait que les véritables experts de cette technologie – « les chercheurs en sécurité, les chercheurs en alignement, les chercheurs en interprétabilité, mais aussi les spécialistes des données et les personnes de partout dans la pile » – ne jouent pas un rôle suffisant dans le processus de publication du modèle.
Konwinski soutient qu’un « espace commun ouvert » est le meilleur moyen d’équilibrer réellement sécurité et innovation. Il cite des modèles comme la FDA, le NIH ou les laboratoires nationaux, qui permettent aux chercheurs, aux responsables gouvernementaux et aux entreprises privées de parvenir à un consensus sur les questions de sécurité.
Cela s’explique en partie par les incitations du capitalisme qui ont motivé les chercheurs en IA pendant plus d’une décennie et qui se sont déroulées dans la salle d’audience lors du procès d’Elon Musk contestant la structure d’entreprise d’OpenAI. Ball souligne que la nature du secteur de l’IA oblige les entreprises à récupérer une grande partie de leurs coûts de formation peu de temps après la sortie de leurs modèles et à avoir une longueur d’avance sur la concurrence.
« Même si leurs intentions sont bonnes, il existe des obligations juridiques et une responsabilité fiduciaire très claires qui sont directement intégrées aux procédures opérationnelles », souligne Konwinski.
Ball, dans son message, a fait valoir que la voie à suivre dépendra des organismes d’audit tiers, agréés par le gouvernement, qui évalueront l’approche des laboratoires frontaliers en matière de sécurité. Konwinski est également optimiste quant aux nouveaux formats institutionnels, tels que les organismes de recherche ciblés, qui pourraient aider des experts plus désintéressés du monde universitaire et du monde à but non lucratif à accéder et à évaluer des modèles frontières.
Pour l’instant, le secret entourant le développement de l’IA ne disparaît pas, mais il engendrera également des défis politiques pour une industrie que les Américains considèrent de plus en plus avec scepticisme. « On n’a pas l’impression que des personnes responsables font avancer ces changements », a déclaré Remzi Arpaci-Dusseau, professeur d’informatique à l’Université du Wisconsin-Madison, la semaine dernière, lors de la conférence Open Frontier.
Lors du même événement, David Siegel, l’informaticien qui a fondé Two Sigma, l’un des fonds spéculatifs quantitatifs les plus prospères, a demandé aux participants d’« imaginer une situation, qui, à mon avis, serait très mauvaise, (dans laquelle) un petit nombre d’entreprises contrôlent la technologie ; le gouvernement, dans ses laboratoires secrets, évalue si la technologie est adaptée ou non à son utilisation ; et le grand public et la communauté scientifique n’ont pas vraiment accès à tout cela. »
Il semble que nous n’ayons pas besoin de l’imaginer.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
