Dans un statlement mardi, Dario Amodei, PDG de la startup AI Anthropic, a appelé le sommet de l’action de l’IA à Paris cette semaine une «occasion manquée» et a exhorté l’industrie de l’IA – et le gouvernement – à «se déplacer plus vite et avec avec Plus de clarté. »
« Nous avons été heureux d’attendre le sommet de l’action de l’IA à Paris, et nous avons appris les efforts du gouvernement français pour rassembler les entreprises, les chercheurs et les décideurs de l’IA du monde entier », a déclaré Amodei. «Cependant, une concentration et une urgence plus importantes sont nécessaires sur plusieurs sujets étant donné le rythme auquel la technologie progresse.»
La critique d’Amodei à l’égard du sommet de l’action de l’IA, la dernière d’une série de conférences qui regroupent les entreprises et les régulateurs de l’IA à attendre pour arriver à un consensus sur une gouvernance de l’IA, fait écho à celui de plusieurs universitaires plus tôt cette semaine. L’un d’eux a déclaré à Transformer que les engagements de la conférence, que les États-Unis et le Royaume-Uni ont refusé de signer, ont déclaré «en fait rien à l’exception des platitudes».
Dans les commentaires de la conférence, le vice-président américain, JD Vance, a adopté une position entièrement différente et dénoncié ce qu’il a qualifié de réglementation «massive» et raide sur l’Europe. Vance a également contesté la modération du contenu, allatant au libellé «durable» et «inclusif» dans les engagements de la conférence, qu’il a rejeté comme «censure autoritaire».
Amodei a averti dans sa strature que l’IA est rapidement de plus en plus sophistiquée et que le fait de ne pas le réglementer pourrait entraîner des conséquences désastreuses.
« Les capacités des systèmes d’IA seront mieux considérées comme semblables à un tout nouvel État peuplé de personnes très intelligentes apparaissant sur la scène mondiale », a déclaré Amodei. «L’IA avancée a présenté d’importants dangers de sécurité mondiale, allant de l’utilisation abusive des systèmes d’IA par des acteurs non étatiques… nous devons nous assurer que les sociétés démocratiques dirigent dans l’IA, et que les pays autoritaires ne l’utilisent pas pour établir la domination militaire mondiale.»
Amodei a exhorté les gouvernements à déployer leurs ressources pour mesurer la façon dont l’IA est utilisée et à adopter une politique axée sur «Insting que tout le monde partage dans l’économie (augmentation) d’une IA très puissante. Il a également plaidé pour une plus grande transparence du gouvernement en ce qui concerne la sécurité et la sécurité de l’IA, ainsi que des plans pour évaluer les risques de l’IA.
L’évaluation par Amodei de la procédure du sommet de l’IA de Paris contraste à celle d’Openai, qui a déclaré dans un stade ce week-end qui était convaincu que la conférence serait «une autre étape importante envers le développement responsable et bénéfique de l’IA pour tout le monde».
Anthropic a généralement montré une ouverture pour avoir une réglementation dans le passé. En effet, Amodei a déjà fait des prononces similaires, le lien entre les implications économiques, sociétales et de sécurité profondément négatives. Anthropic a été l’une des rares sociétés d’IA à endosser tacitement le SB 1047 de la Californie, un projet de loi réglementaire complet – et très débattu – de l’IA. Openai s’est opposé au projet de loi, qui a été opposé au gouverneur Gary Newsom l’automne dernier.
Cela ne suggère pas que les motivations d’Anthropic soient purement philanthropiques. Comme le PDG d’Openai, Sam Altman, dans son récent essai, Amodei n’offre aucune recommandation concrète pour encercler les avantages d’une puissante IA, si elle émerge dans un avenir proche, sont largement et uniformément distribués.
Lisez notre couverture complète du sommet de l’action de l’intelligence artificielle à Paris.
