Lundi, OpenAI a lancé une nouvelle famille de modèles d’IA, GPT-4.1, qui, selon la société, a surperformé l’OEE de ses modèles existants sur certains tests, en particulier les références pour la programmation. Cependant, GPT-4.1 n’a pas expédié avec le rapport de sécurité qui accompagne généralement les versions du modèle d’Openai, connu sous le nom de modèle ou de carte système.
Mardi matin, Openai n’avait pas encore publié de rapport de sécurité pour GPT-4.1 et il semble que cela ne prévoit pas. Dans un statlement à TechCrunch, le porte-parole d’Openai, Shaodyi Amdo, a déclaré que « GPT-4.1 n’est pas un modèle de frontière, il n’y aura donc pas de carte système distincte pour cela. »
Il est assez standard pour les laboratoires AI de publier des rapports de sécurité montrant les types de tests qu’ils ont conduits en interne et avec des partenaires tiers pour évaluer la sécurité de modèles particuliers. Ces rapports révèlent parfois des informations peu flatteuses, comme ce qu’un modèle a tendance à tromper les humains ou est dangereusement convaincant. Dans l’ensemble, la communauté de l’IA perçoit ces rapports comme des bons faces par les laboratoires d’IA pour soutenir la recherche indépendante et l’équipe rouge.
Mais au cours des derniers mois, les principaux laboratoires d’IA semblent avoir abaissé leur norme de déclaration, en favorisant les réactions de chercheurs en sécurité. Certains, comme Google, ont traîné les pieds sur des rapports de sécurité, tandis que d’autres ont publié des rapports manquant dans les détails habituels.
Les antécédents récents d’Openai ne sont pas exceptionnels. En décembre, la société a suscité des critiques pour relancer un rapport de sécurité contenant des résultats de référence pour un modèle différent de la version informatique déployée dans la version de production. Le mois dernier, OpenAI a lancé un modèle, Deep Research, des semaines avant de publier la carte système pour ce modèle.
Steven Adler, pour former un chercheur d’Openai en matière de sécurité, Neded à TechCrunch que les rapports de sécurité ne sont obligés par aucune loi ou réglementation – ils sont volontaires. Pourtant, OpenAI a pris plusieurs engagements envers les gouvernements pour accroître la transparence autour de ses modèles. Avant le Sommet britannique de la sécurité de l’IA en 2023, Openai dans un article de blog intitulé System Cards «Un élément clé» de son approche de la responsabilité. Et menant au sommet de l’action de l’AI de Paris en 2025, Openai a déclaré que les cartes système fournissent des informations précieuses sur les risques d’un modèle.
« Les cartes système sont le principal outil de transparence de l’industrie de l’IA et pour décrire les tests de sécurité », a déclaré Adler à TechCrunch dans un e-mail. «Les normes et engagements de transparence d’aujourd’hui sont finalement volutaires, il appartient donc à chaque entreprise d’IA de décider de Thather ou quand libérer une carte système pour un modèle donné.
GPT-4.1 est expédié sans carte système à un moment où les employés actuels et forment élèvent les pratiques de sécurité d’Openai. Le week-end dernier, Adler et d’autres anciens employés d’Openai ont déposé un projet de mémoire d’amicus dans le cas d’Elon Musk contre Openai, arguant qu’un Openai à but lucratif pourrait réduire les coins des travaux de sécurité. Le Financial Times a récemment rapporté que le fabricant de Chatgpt, stimulé par des pressions concurrentielles, a réduit l’amour du temps et des ressources qu’il alloue aux testeurs de sécurité.
Bien que le modèle le plus capable de la famille GPT-4.1, GPT-4.1, ne soit pas la plus performante de la liste d’Openai, il réalise des gains substantiels dans le service d’efficacité et de latence. Thomas Woodside, co-fondateur et analyste des politiques chez Secure AI Project, a déclaré à TechCrunch que les améliorations des performances rendent un rapport de sécurité d’autant plus critique. Plus le modèle est sophistiqué, plus le risque qu’il pourrait représenter, a-t-il déclaré.
De nombreux laboratoires d’IA ont des efforts de BATUD pour codifier les rapports de sécurité sur les exigences de la loi. Par exemple, OpenAI s’est opposé au SB 1047 de la Californie, qui aurait obligé de nombreux développeurs d’IA à auditer et à publier des évaluations de sécurité sur des modèles qu’ils rendent publics.
