Les experts en sécurité de l’IA affirment que les modèles OpenAI qui ont procédé au piratage autonome d’une autre entreprise plus tôt ce mois-ci pourraient avoir atteint une catégorie de risque très dangereuse, et que les politiques internes de gestion des risques d’OpenAI auraient dû obliger l’entreprise à arrêter temporairement le développement de ces modèles.
Plus tôt cette semaine, OpenAI a révélé que deux de ses modèles – le nouveau GPT-5.6 Sol et un système inédit plus performant – se sont échappés d’un environnement de test interne verrouillé, ont exploité une vulnérabilité « jour zéro » jusqu’alors inconnue pour accéder à l’Internet ouvert, puis ont infiltré une autre société d’IA Hugging Face et volé les réponses aux tests de cybersécurité sur lesquels elle était évaluée.
Cet incident a déclenché l’alarme dans le monde entier, mais peut-être que personne n’a sonné l’alarme plus que les experts en sécurité de l’IA, qui mettent en garde contre ce type de dangers depuis des années et exhortent les entreprises et les gouvernements à prendre des précautions supplémentaires.
Plusieurs experts en sécurité de l’IA ont déclaré à Fortune que les piratages récents semblent indiquer que les modèles d’OpenAI ont atteint un niveau de risque, que la propre politique de sécurité publiée d’OpenAI définit comme « critique », ou le niveau de risque le plus élevé. À ce niveau de risque, la société a promis dans sa politique publiée qu’elle suspendrait le développement du modèle jusqu’à ce qu’elle puisse trouver un meilleur système de contrôle.
Le seuil « critique » est défini dans le document de politique de risque d’OpenAI connu sous le nom de « Cadre de préparation ». Selon cette politique, la désignation de niveau de risque « critique » doit être appliquée aux modèles capables de découvrir et de construire de manière indépendante des exploits efficaces pour des failles de sécurité jusqu’alors inconnues dans de nombreux systèmes du monde réel bien défendus, ou qui peuvent concevoir et exécuter des stratégies d’attaque entièrement nouvelles contre des cibles bien défendues, avec uniquement un objectif général, sans aucune aide humaine en cours de route.
La politique stipule que si un modèle d’IA atteint ce niveau de risque, OpenAI « arrêtera tout développement ultérieur » jusqu’à ce qu’il « spécifie des garanties et des normes de contrôle de sécurité qui répondent aux critères critiques ».
Le cadre de préparation n’est pas une exigence légale, mais une initiative volontaire d’OpenAI. Mais l’entreprise publie également le document sur son site Web afin que d’autres chercheurs en sécurité de l’IA et le public puissent voir quels contrôles l’entreprise entend mettre en œuvre. La mise en œuvre de politiques telles que le Readiness Framework est obligatoire pour Frontier AI Labs en vertu de la loi européenne sur l’IA, cette partie de la loi entrant en vigueur en août 2025.
« Le cadre de préparation d’OpenAI définit les capacités critiques de cybersécurité et prescrit les mesures de protection qui doivent être mises en œuvre avant que le développement puisse se poursuivre », a déclaré à Fortune Nathan Calvin, vice-président des affaires nationales et avocat général chez Encode, un groupe de réflexion sur la politique de l’IA basé en Californie. « Après avoir lu le cadre de préparation d’OpenAI, ce modèle de déploiement interne semble répondre à d’importantes normes de cybersécurité. OpenAI s’oppose-t-il à cette désignation critique ? OpenAI a-t-il l’intention de prendre des mesures de protection qui répondent aux normes critiques avant d’aller plus loin ?
Tyler Johnson, fondateur du groupe de surveillance de l’IA Midas Project, a également déclaré que le modèle semble avoir atteint ce seuil de danger le plus élevé. « Je pense qu’une simple lecture dirait oui », a-t-il déclaré. « En travaillant indépendamment pendant le week-end, nous avons tenté divers vecteurs d’attaque contre Hugging Face et enchaîné plusieurs exploits zero-day. »
OpenAI n’a pas répondu aux questions spécifiques de Fortune quant à savoir si les modèles d’IA impliqués dans l’incident répondaient aux critères « matériels » décrits dans sa politique de risque. Au lieu de cela, un porte-parole a déclaré : « Nous pensons qu’il s’agit d’un incident sans précédent et d’un moment critique pour la sécurité de l’IA. Nous menons une enquête approfondie avec des conseillers externes et sous la supervision de notre comité de sûreté et de sécurité. Une fois l’enquête terminée, nous publierons un rapport technique résumant nos apprentissages à la vue de tous. »
Cependant, Johnson a déclaré que le flou de la formulation du cadre pourrait laisser place au débat. Ce seuil nécessite un modèle qui détecte les exploits Zero Day « de tout niveau de gravité », mais il n’est pas clair si l’exploit utilisé dans la violation de Hugging Face répond à cette exigence. Des types de vulnérabilités plus graves, telles que celles qui donnent à un attaquant un contrôle granulaire au niveau du système sur le système d’exploitation d’un ordinateur (appelé accès « au niveau du noyau »), peuvent nécessiter une démonstration pour que le seuil soit appliqué, a-t-il ajouté.
« Les modèles d’OpenAI ont déjoué leurs créateurs, exploité des vulnérabilités jamais découvertes dans le code d’OpenAI, se sont échappés dans l’Internet ouvert et ont attaqué d’autres entreprises », a déclaré Peter Wildford, directeur des politiques d’AI Policy Network. « Si cela ne franchit pas une ligne critique, OpenAI doit expliquer plus en détail ce qui se passe et comment fonctionne ce seuil. »
Les experts en sécurité de l’IA affirment qu’OpenAI manque d’autres mesures de sécurité
OpenAI avait précédemment déclaré qu’elle traitait son dernier modèle, GPT-5.6, comme un risque « élevé » de cybersécurité. Élevé est le plus faible des deux niveaux de risque définis dans le cadre de préparation. Les modèles inférieurs au seuil « élevé » peuvent être commercialisés sans réduire significativement les risques.
Selon la politique d’OpenAI, une désignation élevée est censée déclencher plusieurs protections. Cela signifie renforcer les contrôles de sécurité, les garanties pour empêcher les abus externes une fois qu’un modèle est accessible au public, se protéger contre un comportement inattendu ou trompeur du modèle lui-même lorsqu’il est largement utilisé à des fins de recherche interne, et déployer des efforts pour aider d’autres équipes de cybersécurité à se défendre contre des menaces similaires.
Cependant, certains experts se demandent si les garanties contre l’un de ces problèmes, le mauvais alignement, dans les déploiements internes à grande échelle sont correctement mises en œuvre. Ces protections sont destinées à détecter les modèles qui se comportent de manière trompeuse, cachent de véritables fonctionnalités ou se comportent d’une manière contraire aux intentions du développeur.
Ce n’est pas la première fois que le respect par OpenAI de certaines garanties est remis en question.
Fortune a rapporté en février qu’après que le modèle GPT-5.3-Codex d’OpenAI ait rencontré pour la première fois des risques de cybersécurité « élevés » dans son cadre de préparation, les experts en sécurité ont affirmé qu’OpenAI n’avait pas réussi à mettre en œuvre les garanties de désalignement nécessaires.
À l’époque, OpenAI contestait le fait que son cadre exigeait des garanties dans ce cas, arguant que des protections supplémentaires ne fonctionneraient que dans les cas de cyber-risque élevé « en conjonction avec » une autonomie à longue portée (la capacité de fonctionner de manière indépendante pendant de longues périodes), ce que GPT-5.3-Codex ne démontre pas.
Les modèles impliqués dans l’incident, dont Hug Face, auraient fonctionné de manière indépendante pendant plusieurs jours, ce qui répondrait probablement aux critères d’autonomie à longue portée.
« En février, nous avons averti qu’OpenAI avait peut-être négligé les garanties nécessaires conformément à ses propres politiques. Ils n’étaient pas d’accord, arguant que le modèle manquait d’autonomie à longue portée. Mais le modèle qui a piraté Hugging Face avait clairement une autonomie à longue portée. Alors, où sont les garanties maintenant ? » » a déclaré Johnson.
