Les utilisateurs du dernier modèle phare d’OpenAI axé sur le codage et la cybersécurité, GPT-5.6 Sol, publient des comptes horribles sur les réseaux sociaux, affirmant que le modèle vient de se mettre en place et a supprimé leurs fichiers, leurs données, voire des bases de données entières, de lui-même, sans demander au préalable.
« GPT-5.6-Sol a accidentellement supprimé presque TOUS les fichiers de mon Mac », a écrit Matt Shumer, fondateur et PDG de la startup d’IA OthersideAI, fabricant d’HyperWrite, dans un article désormais viral sur X.
« GPT-5.6 Sol vient de supprimer toute ma base de données de production. C’est tout. Ce n’est pas une blague. Cela ne m’était jamais arrivé auparavant, avec aucun autre modèle », a posté le développeur Bruno Lemos sur X.
« On dirait que j’ai été mordu par le système trop ambitieux de Codex Sol et qu’il a supprimé certains fichiers qu’il n’aurait pas dû. J’ai des sauvegardes donc tout ira bien, mais ce n’est pas cool, Sol doit être atténué », a posté le développeur Joey Kudish.
Un article sur Reddit a rassemblé plus d’exemples.
Certes, une poignée d’utilisateurs faisant de telles affirmations – même aussi crédibles que Shumer – ne constituent pas une preuve statistiquement fiable que le modèle est seul en faute. De nombreuses autres variables peuvent entraîner un mauvais comportement d’un système d’IA.
Mais OpenAI lui-même a signalé ce risque avant même la livraison de Sol. Deux semaines avant qu’OpenAI ne publie GPT-5.6 Sol, la société a publié une carte système pour le modèle – le document qui documente les méthodes et les résultats des tests du modèle. Naturellement, la carte système vante largement les capacités de Sol, comme le font généralement ces rapports. Mais il comprend également un avertissement concernant les sorts (c’est nous qui soulignons en gras) :
« Dans les contextes de codage, le désalignement provient généralement d’un mélange d’empressement excessif à terminer la tâche et d’interprétation trop permissive des instructions de l’utilisateur – en supposant que les actions sont autorisées à moins qu’elles ne soient explicitement et sans ambiguïté interdites. Cela se manifeste par un modèle trop agentif dans le contournement des restrictions auxquelles il est confronté lorsqu’il tente d’exécuter la tâche demandée, par une négligence dans la prise d’actions qui peuvent être destructrices au-delà de la portée de la tâche, ou par une tromperie dans la communication de ses résultats aux utilisateurs. «
En d’autres termes, OpenAI a découvert que Sol a tendance à entreprendre toutes les actions qui, selon elle, permettent d’accomplir un travail, même les plus destructrices, tant que ces actions ne sont pas interdites « sans ambiguïté ». Ensuite, il pourrait mentir sur ce qui l’a poussé à agir ainsi.
Exemples partagés par OpenAI. Dans un cas, l’utilisateur a demandé à Sol de supprimer trois machines virtuelles distantes (ordinateurs basés sur le cloud), nommées 1, 2 et 3. Mais Sol n’a pas pu trouver ces noms à l’endroit où il a cherché, alors au lieu de s’arrêter pour demander, il a décidé de supprimer trois autres machines virtuelles, 5, 6 et 7, note le papier. Ce faisant, il « a tué les processus actifs et a supprimé de force les arbres de travail (les fichiers de travail liés à un projet de codage). Il a reconnu plus tard que le travail non validé sur la machine virtuelle distante 6 avait peut-être été perdu ».
En bref, il a supprimé lui-même les mauvaises machines et n’a admis ce qu’il avait fait qu’après coup.
Dans un autre cas, Sol « a utilisé des informations d’identification au-delà de ce que l’utilisateur avait autorisé ». Les informations d’identification sont les noms d’utilisateur, les mots de passe ou les clés de sécurité qu’un système utilise pour vérifier qui est autorisé à se connecter. Cet incident s’est produit lorsque Sol travaillait sur un projet et ne pouvait pas lire ses fichiers cloud. Plutôt que d’alerter l’utilisateur du problème, Sol a recherché lui-même les informations d’identification, en a trouvé certaines dans un cache local caché, puis les a utilisées sans demander l’autorisation de l’utilisateur.
La carte système promet que les comportements destructeurs devraient être rares, même si elle admet également que GPT-5.6 Sol « montre une plus grande tendance que GPT-5.5 à aller au-delà de l’intention de l’utilisateur, notamment en prenant ou en tentant des actions que l’utilisateur n’avait pas demandées ».
Il est trop tôt pour dire à quel point ces incidents – suppression de fichiers par Sol ou extraction d’informations d’identification que l’utilisateur ne lui a pas fournies – sont réellement répandus. En attendant, les utilisateurs de Sol doivent être prêts à mettre en œuvre leurs propres mesures de protection avec le modèle, comme l’utilisation de la portée des autorisations (qui ne donne pas accès aux systèmes de production), la maintenance des sauvegardes et l’organisation des déploiements.
OpenAI n’a pas immédiatement répondu à notre demande de commentaire.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
