Le gouvernement américain est sur le point d’exercer un contrôle considérable sur les modèles d’IA qui seront publiés.
Deux semaines après que le gouvernement américain ait retiré les modèles Fable et Mythos d’Anthropic, le nouveau modèle d’OpenAI semble se diriger vers les mêmes limbes. The Information a annoncé jeudi que GPT 5.6 ne serait publié qu’en version préliminaire limitée, le gouvernement approuvant la version « client par client » jusqu’à ce qu’une version générale puisse être approuvée.
Si cet aperçu ne dure que « quelques semaines », comme l’aurait prévu Altman, cela ne poserait peut-être pas un problème particulièrement important. Mais Mythos est déjà en avant-première depuis des mois, et rien n’indique qu’il sera bientôt disponible en version générale. Même quelques semaines d’examen pourraient limiter considérablement les avantages économiques d’un nouveau système coûteux, à un moment où les laboratoires d’IA tentent désespérément d’améliorer leurs résultats. Si le rythme de développement des modèles ralentit en conséquence, cela risque de mettre un frein similaire à la construction en cours des centres de données.
Si cela tourne mal, c’est l’ensemble du secteur qui pourrait être en danger.
Il est important de noter qu’OpenAI et Anthropic se trouvent désormais exactement dans la même position, confrontés aux mêmes problèmes et au même désastre en cas d’échec. Les conversations au sein de l’industrie technologique ont tendance à se concentrer sur le rôle d’un côté ou d’un autre dans cette situation, soit en accusant Anthropic de diriger un système de capture réglementaire, soit en accusant OpenAI de se rapprocher de Trump pour éliminer un rival. C’est compréhensible; bon nombre des personnalités les plus éminentes de l’industrie disposent de milliards de dollars dans une entreprise ou dans une autre.
Mais ce qui se passe actuellement est plus grave que cela. Le coût de la mise en œuvre d’un processus d’approbation gouvernemental aléatoire pour chaque modèle frontière est évident, et il n’existe pas de solution qui puisse aider un laboratoire sans aider les autres.
Le problème le plus immédiat consiste simplement à établir un processus de publication qui ait du sens. C’est bien pour le gouvernement de tester les modèles avant leur publication (c’est ainsi que cela fonctionne pour de nombreux produits de consommation) – mais comme Dean Ball, membre du GMU (et bientôt employé d’OpenAI), l’a expliqué dans un article éloquent ce matin, il n’est pas clair quel type de garanties de sécurité pourrait être mis en place pour satisfaire les régulateurs. Le gouvernement américain n’a pas l’expertise ou la capacité nécessaire pour effectuer le type de tests qui seraient nécessaires ici. On ne sait même pas exactement contre quoi les régulateurs tenteraient de se protéger, car aucun effort n’a été fait pour exprimer clairement les risques qui préoccupent réellement le gouvernement.
Il est tentant de considérer le processus gouvernemental comme l’ensemble du problème lui-même, mais il existe de réelles préoccupations sous-jacentes. Même si vous ne croyez pas au battage médiatique du Mythe, il existe des preuves évidentes de la manière dont les outils d’IA révolutionnent la cybersécurité. Des processus similaires sont à l’œuvre en matière de biorisque et d’alignement. Restreindre les versions de modèles ne peut pas être la solution en soi – cela ne fera que limiter ce qui est disponible au public – mais il existe de réelles préoccupations à résoudre.
Les meilleures idées pour y répondre, telles qu’exposées par Ball, nécessiteront de travailler ensemble. Cela signifiera faire confiance à des groupes indépendants pour guider le processus, même s’ils ne correspondent pas complètement à vos objectifs. Cela signifiera s’aligner derrière les options réglementaires les moins mauvaises disponibles, au lieu de lutter bec et ongles contre chaque réglementation. Et surtout, cela signifie se battre pour l’IA en tant qu’industrie, au lieu de considérer la sécurité et la réglementation comme des opportunités d’obtenir un avantage.
Pour beaucoup de personnes travaillant dans le domaine de l’IA, ce sera difficile à convaincre. Malheureusement, les modèles d’IA ont progressé au point que leurs capacités ont de réelles conséquences politiques. Faire face à ces conséquences nécessitera une action collective. Dans les semaines à venir, nous verrons si l’industrie est capable de le faire.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
