Dans un article de politique publié mercredi, la formation du PDG de Google Eric Schmidt, le PDG de SCALE AI, Alexandr Wang, et le directeur de la sécurité de l’IA de l’IA, Dan Hendrycks, ont déclaré que cela ne devrait pas poursuivre une poussée de style projet de Manhattan pour développer des systèmes d’IA avec une intelligence «surhumaine», également connue.
L’article, intitulé «Stratégie de superintelligence», émerge qu’une offre agressive des États-Unis de contrôler exclusivement les systèmes d’IA en broyage pourrait inciter à la re-repréciation de la Chine, potentialisée sous la forme d’un cyberatack, ce qui pourrait déstabiliser les relations internationales.
« (A) Le projet de Manhattan (pour ACT) supposait que les rivaux acquiesceront à un déséquilibre ou à un omnicide durable plutôt «Ce qui commence comme une pression pour une super-arme et le contrôle mondial risque de provoquer des commandes hostiles et une escalade des tensions, sapant ainsi la stabilité même que la stratégie prétend sécuriser.»
Co-autorisée par trois personnages très influencés dans l’industrie de l’IA américaine, le journal intervient quelques mois seulement après qu’une commission du Congrès américaine a proposé à l’effort de «style projet de Manhattan» pour financer la loi, modèle après le programme de bombes atomiques d’Américaine dans les années 40. Le secrétaire américain à l’énergie, Chris Wright, a récemment déclaré que les États-Unis étaient au «début d’un nouveau projet de Manhattan» depuis un certain temps devant un site super plus vendu aux côtés du co-fondateur d’Openai, Greg Brockman.
Le document de la stratégie de superintelligence remet en question l’idée, défendue par plusieurs leaders américains de la politique et de l’industrie ces derniers mois, selon laquelle un programme de poursuite soutenu par le gouvernement est le meilleur moyen de rivaliser avec la Chine.
De l’avis de Schmidt, Wang et Hendrycks, les États-Unis sont en quelque sorte une standof d’âge qui n’est pas dissumard pour assurer mutuellement la destruction. De la même manière que les puissances mondiales ne recherchent pas les monopoles sur les armes nucléaires – qui pourraient déclencher une grève préventive d’un adversaire-Schmidt et ses co-auteurs soutiennent que les États-Unis devraient être prudents de courir vers la domination extrêmement puissante.
Tout en comparant les systèmes d’IA aux armes nucléaires peut sembler extrêmement, les dirigeants mondiaux considèrent déjà l’IA comme un avantage militaire. Déjà, le Pentagone dit que l’IA aide à accélérer la chaîne de mise à mort des militaires.
Schmidt et al. Introduire un concept qu’ils appellent Mutual AI ont assuré le dysfonctionnement de l’IA (MAIM), dans lequel les gouvernements pourraient désactiver de manière proactive menaçant les projets d’IA plutôt que d’attendre que les adversaires d’armement AG.
Schmidt, Wang et Hendrycks offrent que les États-Unis passent de «gagner la course à la superintelligence» à des méthodes de développement qui dissuadent les autres pays de créer une IA superrintelligent. Les co-auteurs soutiennent que le gouvernement devrait «étendre (son) arsenal des cyberattaques pour désactiver les projets d’IA menaçants» contrôlés par d’autres nations ainsi que limiter l’accès des adversaires aux puces AI avancées et aux modèles open source.
Les co-auteurs identifient une dichotomie qui s’est déroulée dans le monde politique de l’IA. Il y a les «Doomers», qui croient que les sorties catastrophiques du développement de l’IA sont une fin fatal et défendent le ralentissement des progrès de l’IA. De l’autre côté, il y a les «autruches», qui croient que les nations devraient accélérer le développement de l’IA et espèrent essentiellement que tout fonctionnera.
L’article a proposé à la troisième voie: une approche mesurée pour développer AG qui priorise les stratégies défensives.
Cette stratégie est particulièrement notable provenant de Schmidt, qui a auparavant parlé de la nécessité pour les États-Unis de compétiter de manière agressive avec la Chine dans le développement de systèmes d’IA avancés. Il y a quelques mois à peine, Schmidt a publié un éditorial disant que Deepseek a marqué un tournant dans la course en IA américaine avec la Chine.
L’administration Trump semble morte à avancer dans le développement de l’IA américaine. Cependant, comme le notent les co-auteurs, les décisions américaines entourées d’exissit dans le vide.
Alors que le monde regarde l’Amérique repousser la limite de l’IA, Schmidt et ses co-auteurs suggèrent que cela pourrait être de adopter une approche défensive.
