Après qu’OpenAI ait récemment admis qu’un de ses modèles avait violé les systèmes de la plateforme d’IA Hugging Face, le PDG de Hugging Face, Clem Delangue, a posté sur X qu’il s’envolait pour San Francisco pour avoir « une petite conversation avec cet « agent voyou ».
Puis, dans un article de suivi samedi, Delangue a expliqué ce qu’il avait demandé à OpenAI. Il a déclaré qu’il appelait à une « transparence radicale », demandant à OpenAI de « libérer les traces des agents « voyous » afin que l’ensemble de la communauté des chercheurs puisse étudier ce qui s’est passé.
Et il souhaite également « plus de capacités pour les défenseurs », appelant OpenAI à consacrer 100 millions de dollars de puissance de calcul « pour aider la communauté Hugging Face à construire de puissantes cyberdéfenses avec les meilleurs modèles ouverts et fermés ».
Delangue a ajouté : « La première cyberattaque d’un agent autonome est un événement sans précédent. Elle mérite une réponse sans précédent ! »
Malgré la nature autonome de l’attaque, les experts en cybersécurité ont suggéré qu’elle pourrait également être imputée à une erreur humaine, à savoir l’incapacité apparente d’OpenAI à configurer correctement ce qui aurait dû être un environnement de test entièrement isolé.
