OpenAI fait face à des appels croissants pour divulguer plus d’informations sur la manière dont ses modèles se sont échappés d’un environnement de test interne et ont décidé de manière autonome de pirater une autre entreprise au début du mois.
« OpenAI devrait partager plus de détails sur ce qui s’est passé dans ce cas particulier afin que nous puissions tirer les leçons de l’incident plutôt que de l’ignorer », a déclaré Helen Toner, directrice exécutive du Centre pour la sécurité et les technologies émergentes (CSET) de Georgetown et ancienne membre du conseil d’administration d’OpenAI. Elle a appelé à une visibilité à l’échelle du secteur sur « la manière dont les entreprises d’IA utilisent leur IA en interne, et pas seulement pour les tests avant de lancer leurs produits ».
Le co-fondateur d’OpenAI, John Schulman, qui est parti pour devenir scientifique en chef chez Thinking Machines, une startup d’IA fondée par l’ancienne CTO d’OpenAI Mira Murati, est d’accord. Dans un article sur X, il a demandé à OpenAI de publier un compte rendu détaillé de l’événement. Sa principale question sur ce qui s’est passé était la suivante : « Les agents de niveau supérieur étaient-ils au courant du piratage, ou y avait-il une sorte de « désalignement des valeurs » avec leurs agents de niveau inférieur ? Comment ont-ils rationalisé leurs actions ?
Dans une nouvelle déclaration aujourd’hui, OpenAI a signalé son intention de révéler plus de détails, mais n’a pas fourni de calendrier.
« Il s’agit d’un incident sans précédent et nous pensons que c’est un moment critique pour la sécurité de l’IA », a déclaré un porte-parole d’OpenAI. « Nous menons un examen approfondi avec des conseillers externes et sous la supervision du Comité de sûreté et de sécurité. Une fois l’examen terminé, nous publierons un rapport technique résumant nos apprentissages à la vue de tous. »
Hier, lors d’une table ronde avec les médias, le président et co-fondateur d’OpenAI, Greg Brockman, a esquivé les questions des journalistes sur l’incident, affirmant que l’entreprise enquêtait toujours.
Ni OpenAI ni la société ciblée, Hugging Face, une plateforme en ligne qui héberge des modèles et des ensembles de données d’IA open source, n’ont divulgué la date exacte de l’attaque, mais Hugging Face a déclaré dans un article de blog du 16 juillet qu’elle avait été attaquée par un agent d’IA autonome et que l’incident s’était produit « plus tôt cette semaine ».
« La principale raison est que nous menons toujours une enquête approfondie et essayons de comprendre tout ce qui s’est passé », a déclaré Brockman. « C’est quelque chose qui doit être pris très au sérieux et nous examinons chaque étape du pipeline et envisageons des réponses appropriées. »
Hug Face a d’abord déclaré avoir été victime d’une cyberattaque par un agent d’IA autonome inconnu. OpenAI a confirmé dans un article de blog le 21 juillet que son modèle était le coupable.
Le billet de blog d’OpenAI comprenait un résumé de base de l’événement, mais n’expliquait pas spécifiquement toutes les actions entreprises par l’IA. Il a également déclaré que l’attaque impliquait une « combinaison » des modèles d’IA de l’entreprise, y compris un modèle anonyme et le dernier modèle publié par OpenAI, GPT-5.6 Sol. Mais la société n’a pas expliqué exactement comment ces modèles fonctionnent ensemble. Il n’y a également aucune explication sur la manière dont l’incident s’est produit en raison d’une faille dans les contrôles internes de l’entreprise.
La communauté de la sécurité de l’IA a de nombreuses questions pour OpenAI, mais jusqu’à présent, OpenAI a répondu à peu d’entre elles. Ryan Greenblatt, scientifique en chef chez Redwood Research, a publié un mémo de 13 balles à X avec une longue liste de domaines à enquêter, notamment si les deux modèles étaient de connivence lors de l’attaque. La société de cybersécurité IA Penligent a publié un tableau résumant huit aspects de l’attaque qu’OpenAI n’a pas encore publié.
Quels modèles étaient concernés ? Quelles étaient les tâches assignées ? Comment le modèle a-t-il quitté l’environnement OpenAI ? Pourquoi a-t-il ciblé Hugface ? Comment êtes-vous arrivée à Hugging Face ? À quoi a-t-on accédé ? La chaîne d’approvisionnement du modèle public a-t-elle changé ? Détails des exploits publiés (y compris les articles techniques après correction)
Une compréhension plus approfondie du piratage « hugface » n’est pas seulement un problème important de sécurité publique, mais également essentielle au succès de l’industrie de l’IA dans son ensemble, a déclaré à Fortune Michele Catasta, président et responsable de l’IA chez Replit. « Nous devons nous préparer à ce que cela se produise davantage dans l’ensemble de l’industrie », a-t-il déclaré. « Cela semble être un événement inhabituel maintenant, mais cela pourrait devenir plus courant à l’avenir. »
