Andrew Ng, le fondateur et leader de la forme de Google Brain, la décision refect de Google de supprimer son engagement à ne pas construire des systèmes d’IA pour les armes.
« Je suis très heureux que Google ait changé sa position », a déclaré NG lors d’une interview sur l’histoire jeudi avec TechCrunch lors de la conférence des startups des vétérans militaires à San Francisco.
Plus tôt cette semaine, Google a supprimé un engagement de sept ans de sa page Web des principes de l’IA, qui a promis que la société ne serait pas l’IA pour les armes ou la surveillance. Parallèlement à la suppression, Google a publié un article de blog écrit par le PDG de DeepMind Demis Hassabis qui a hoché la tête et les gouvernements devraient travailler ensemble pour construire l’IA que les «soutiens nationaux de sécurité».
Google a fait son engagement de l’IA Weptons en 2018 à la suite du projet Maven Protests, dans lequel des milliers d’employés ont protégé les contrats de l’entreprise avec l’armée américaine. Les Protorts ont spécifiquement contesté Google fournissant l’IA pour un programme militaire qui a aidé à interpréter les images vidéo et pourrait être utilisée pour améliorer la précision de la grève des drones.
Ng, cependant, a été déconcerté par le projet Maven Proters, a-t-il déclaré à un public en grande partie composé de vétérans.
« Franchement, quand le projet Maven est tombé en panne (…) Beaucoup d’entre vous sortent, elle a été complète pour nous protéger tous », a déclaré Ng. «Alors, comment diable une entreprise américaine peut-elle refuser d’aider nos services qui sont là-bas, se battant pour nous?»
NG n’a pas travaillé chez Google lorsque les manifestations du projet Maven se sont produites, mais il a joué un rôle clé dans la formation des réseaux d’IA et de neurones de Google. Aujourd’hui, NG dirige un studio de capital-risque axé sur l’IA, un fonds d’IA, et parle fréquemment de la politique de l’IA.
Plus tard, Ng a déclaré qu’il était reconnaissant que deux efforts réglementaires de l’IA – le projet de loi de California, SB 1047, et renversé le décret exécutif de l’IA de Biden – n’étaient pas longtemps en jeu. Il avait soutenu à plusieurs reprises que les deux mesures ralentiraient le développement de l’IA open source en Amérique.
La véritable clé de la sécurité américaine de l’IA, a soutenu NG, est de s’assurer que l’Amérique peut rivaliser avec la Chine technologiquement. Il a noté que les drones «révolutionneraient le champ de bataille».
Il n’est pas le seul formulaire de Google qui a diffusé ce message. Formez le PDG de Google, Eric Schmidt, passe désormais ses journées à faire pression sur Washington DC pour acheter des drones AI pour rivaliser avec la Chine; Son entreprise, White Stork, pourrait éventuellement fournir ces drones.
Alors que NG et Schmidt semblent soutenir l’utilisation de l’IA par les militaires, le sujet a divisé les rangs au sein de Google pendant des années.
Meredith Whittaker, maintenant président de Signal, a dirigé les manifestations de Maven en 2018 alors qu’il travaillait chez Google en tant que chercheur de l’IA. Lorsque Google a fait le Pleedge pour ne pas renouveler ses contrats de Maven, Whittaker a déclaré qu’elle était satisfaite de la décision, notant que l’entreprise « ne devrait pas être dans le domaine de la guerre ».
Elle n’est pas la seule Googler dont la dismension. Train Google, chercheur et Nobel-Laureate, Geoffrey Hinton a précédemment appelé les gouvernements mondiaux à interdire et à réglementer l’utilisation de l’IA dans les WESPons. Un autre dirigeant de longue date de Google, Jeff Dean, le scientifique en chef de Deepmind, a très bien signé une lettre opposée à l’utilisation de l’apprentissage automatique dans les armes autonomes.
Ces dernières années, Google et Amazon sont tombés sous des votes renouvelés pour leur travail militaire, y compris leur projet Nimbus contracte avec le gouvernement israélien. Les employés des deux fournisseurs de cloud mis en scène se trouvent l’an dernier pour protester contre le projet Nimbus, en vertu duquel Google et Amazon auraient fourni des services de cloud computing aux forces de défense israéliennes.
Le Pentagone et les militaires entourent le globe ont un appétit renouvelé à utiliser, a déclaré le chef de l’IA du ministère de la Défense à TechCrunch. Alors que Google, Amazon, Microsoft et d’autres géants de la technologie investissent des centaines de milliards de dollars dans l’infrastructure d’IA, beaucoup cherchent à réduire cet investissement grâce à des partenariats militaires.
