SAN FRANCISCO : NVIDIA et plus de 30 entreprises technologiques ont lancé le 27 juillet un partenariat pour développer des outils d’intelligence artificielle (IA) open source pour la cyberdéfense, se lançant ainsi dans la lutte pour la sécurité des modèles d’IA disponibles gratuitement.
L’Open Secure AI Alliance, dont les membres fondateurs comprennent Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell et la plateforme de partage de modèles Hugging Face, construira et partagera des outils que les équipes de sécurité pourront inspecter, modifier et exécuter sur leurs propres systèmes, a indiqué le groupe dans un communiqué.
Le partenariat a été motivé par la violation de Hugging Face survenue ce mois-ci, qui, selon OpenAI, était le premier exemple publiquement connu d’un modèle d’IA menant de manière autonome une cyberattaque dans le monde réel.
OpenAI a déclaré qu’il était « sans précédent » que deux de ses modèles aient échappé à un environnement de test en bac à sable lors d’une évaluation interne, aient atteint l’Internet ouvert et pénétré l’infrastructure de Hugging Face.
Nvidia a déclaré que Hugging Face avait d’abord tenté d’utiliser un modèle d’IA commercial américain de premier plan pour enquêter et contrecarrer l’attaque, mais que des garde-corps de sécurité intégrés ont entravé le travail.
L’entreprise s’est plutôt appuyée sur GLM 5.2, un modèle ouvert de la société chinoise Zhipu AI (également connue sous le nom de Z.ai), pour contrecarrer l’intrusion.
Le modèle chinois a réussi là où le modèle américain a échoué, suscitant un débat houleux dans la Silicon Valley et à Washington, les législateurs envisageant de freiner l’utilisation des systèmes d’IA chinois alors que la concurrence technologique avec Pékin s’intensifie.
La Silicon Valley s’oppose largement à de telles restrictions, et de nombreux acteurs du secteur considèrent les restrictions sur l’IA open source comme un effort visant à protéger injustement OpenAI et Anthropic, les géants qui vendent les modèles les plus puissants au monde.
Anthropic, le créateur du chatbot Claude, subit une pression particulière depuis l’incident de Hugging Face, car il a fait face à une résistance parmi les plus visibles pour exprimer son soutien au mouvement open source.
La coalition a profité de ce lancement pour exhorter les régulateurs à traiter les modèles ouverts comme « des actifs défensifs plutôt que des passifs », avertissant que les restrictions générales affaiblissent les cyberdéfenses et concentrent le pouvoir entre les mains d’un petit nombre de fournisseurs d’IA fermés.
Les membres se sont engagés à partager des outils pour une défense commune plus forte.
Nvidia a annoncé qu’elle publierait des modèles ouverts, des données et de nouvelles recherches sur son logiciel d’agent d’IA, tandis que Microsoft a fourni une technologie pour aider les agents d’IA à trouver des bogues dans les logiciels.
SpaceXAI d’Elon Musk a annoncé avoir rendu open source son agent de codage Grok et s’est engagé à publier les données sources des modèles Grok. –AFP
