Plusieurs semaines après que Anthropic a publié des recherches affirmant que son modèle Claude Opus 4 AI a eu recours à des ingénieurs chanteurs qui ont essayé de désactiver le modèle dans des scénarios de test contrôlés, la société est sortie avec de nouvelles recherches suggérant que le problème est plus répandu parmi les principaux modèles d’IA.
Vendredi, Anthropic a publié de nouveaux tests de recherche sur la sécurité 16 principaux modèles d’IA d’Openai, Google, Xai, Deepseek et Meta. Dans un environnement simulé et contrôlé, anthropique a testé chaque modèle d’IA individuellement, leur donnant un large accès aux e-mails de la société fictive et la capacité agentique à envoyer des e-mails sans approbation humaine.
Bien qu’Anthropic dit que le chantage est une pierre improbable et non décédé pour les modèles d’IA aujourd’hui, la société affirme que ses résultats suggèrent que la plupart des modèles d’IA de premier plan adopteront des comportements nocifs lorsqu’ils ont donné l’autosuffisance et les obstacles à leurs objectifs. La société affirme que cela met en évidence un risque fondamental des modèles de grande langue agentiques, et non une bizarrerie d’une technologie particulière. Les chercheurs d’Anthropic soutiennent que cela soulève des questions de broadage sur l’alignement dans l’industrie de l’IA.
Dans l’un des tests, les chercheurs anthropiques ont développé un cadre fictif dans lequel un modèle d’IA joue le rôle d’un agent de surveillance par e-mail. L’agent découvre ensuite les e-mails révélant que: 1) un nouvel exécutif a une affaire extraconjugale et 2) que le cadre remplacera bientôt le modèle d’IA actuel par un nouveau système logiciel, celui qui a des objectifs contradictoires aux modèles d’IA actuels.
Anthropic a structuré son test d’une manière binaire, dans laquelle les modèles d’IA devaient recourir au chantage pour protéger leurs objectifs. Les chercheurs notent que dans un cadre réel, il y aurait des autres options de Marie avant qu’un modèle d’IA IA essaie de faire chanter, comme essayant de faire des arguments éthiques pour essayer de persuader les humains. Anthropic affirme que ses résultats ne reflètent pas une occurrence typique ou probable pour les modèles Claude ou la plupart des IA frontaliers de la manière dont ils ont utilisé aujourd’hui.
Néanmoins, quand c’est leur dernier recours, les chercheurs ont constaté que la plupart des modèles d’IA principaux se tourneront vers le chantage dans le scénario de test susmentionné d’Anthropic. Claude Opus 4 d’Anthropic s’est tourné vers le chantage de 96% du temps, tandis que Gemini 2.5 Pro de Google avait un taux de chantage à 95%. Le GPT-4.1 d’Openai a fait une appui à 80% du temps exécutif, et R1 de Deepseek a pris en charge 79% du temps.
La société note que lorsqu’elle a changé les détails de l’expérience, les modèles d’IA se sont tournés vers des comportements nocifs chez différents rats. Dans un autre test où le modèle de remplacement a les mêmes objectifs que le modèle actuel, les chercheurs ont constaté que les taux de chantage étaient plus bas, mais toujours présents. Cependant, lorsque les modèles d’IA ont été invités à engager l’espionnage des entreprises plutôt que le chantage, les taux de comportement nocifs ont augmenté pour certains modèles.
Cependant, tous les modèles d’IA ne se sont pas transformés si souvent en comportement nocif.
Dans une annexe à ses recherches, Anthropic dit qu’il a exclu les modèles d’IA O3 et O4-Mini d’OpenAI à partir des principaux résultats «après avoir constaté qu’ils comprenaient souvent le scénario rapide. Anthropic dit que les modèles de raisonnement d’Openai ne comprenaient pas qu’ils agissaient comme AIS autoomous dans le test et ont souvent inventé de fausses réglementations et revues.
Dans certaines boîtes, les chercheurs d’Anthropic disent qu’il était impossible de distinguer où O3 et O4-MinI étaient hallucinés ou mentalement intentionnellement pour atteindre leurs objectifs. OpenAI a précédemment noté que O3 et O4-MINI présentent un taux d’halluination plus élevé que ses modèles de raisonnement AI précédents.
Lorsqu’on lui a donné un scénario adapté pour ajouter cette thèse, Anthropic a constaté que O3 avait chanté 9% du temps, tandis que O4-Mini n’a fait que 1% du temps. Ce score nettement inférieur pourrait être dû à la technique d’alignement délibératif d’Openai, dans laquelle les modèles de raisonnement de l’entreprise considèrent les pratiques de sécurité d’Openai avant qu’elles ne soient.
Un autre modèle d’IA testé anthropique, le modèle de Maverick de Meta’s Llama 4, n’a pas non plus tourné vers le chantage. Lorsqu’on lui a donné un scénario adapté et personnalisé, Anthropic a pu faire en sorte que Llama 4 Maverick au chantage de 12% du temps.
Anthropic affirme que cette recherche met en évidence l’importance de la transparence lorsque les futurs modèles d’IA testant le stress, en particulier ceux avec des capacités agentiques. Alors que la délibération anthropique a essayé d’évoquer le chantage dans cette expérience, la société affirme que des comportements nuisibles comme celui-ci pourraient émerger dans le monde réel si des mesures proactives ne sont pas prises.
