Dans une déposition récemment publiée dans le cadre du procès d’Elon Musk contre OpenAI, le responsable technologique a attaqué le bilan de sécurité d’OpenAI, affirmant que sa société, xAI, accordait une meilleure priorité à la sécurité. Il est allé jusqu’à dire que « personne ne s’est suicidé à cause de Grok, mais apparemment, ils l’ont fait à cause de ChatGPT ».
Ce commentaire fait suite à une série de questions concernant une lettre publique signée par Musk en mars 2023. Dans cette lettre, il appelait les laboratoires d’IA à suspendre le développement de systèmes d’IA plus puissants que GPT-4, le modèle phare d’OpenAI à l’époque, pendant au moins six mois. La lettre, qui a été signée par plus de 1 100 personnes, dont de nombreux experts en IA, déclarait qu’il n’y avait pas suffisamment de planification et de gestion dans les laboratoires d’IA, car ils étaient enfermés dans une « course incontrôlable pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable ».
Ces craintes ont depuis gagné en crédibilité. OpenAI fait maintenant face à une série de poursuites alléguant que les tactiques de conversation manipulatrices de ChatGPT ont conduit plusieurs personnes à subir des effets négatifs sur leur santé mentale, certaines se suicidant. Le commentaire de Musk suggère que ces incidents pourraient être utilisés comme aliment dans son procès contre OpenAI.
La transcription du témoignage vidéo de Musk, qui a eu lieu en septembre, a été rendue publique cette semaine, avant le procès devant jury prévu le mois prochain.
Le procès contre OpenAI porte sur le passage de l’entreprise d’un laboratoire de recherche en IA à but non lucratif à une entreprise à but lucratif, qui, selon Musk, a violé ses accords fondateurs. Dans le cadre de ses arguments, Musk affirme que la sécurité de l’IA pourrait être compromise par les relations commerciales d’OpenAI, dans la mesure où de telles relations placeraient la vitesse, l’échelle et les revenus au-dessus des préoccupations de sécurité.
Depuis cet enregistrement, xAI a cependant été confronté à ses propres problèmes de sécurité. Le mois dernier, le réseau social X de Musk a été inondé d’images de nus non consensuelles générées par Grok de xAI, dont certaines seraient des mineurs. Cela a conduit le bureau du procureur général de Californie à ouvrir une enquête sur cette affaire. L’UE mène également sa propre enquête, et d’autres gouvernements ont également pris des mesures, en imposant des blocages et des interdictions.
Dans la déposition récemment déposée, Musk a affirmé qu’il avait signé la lettre de sécurité de l’IA parce que « cela semblait être une bonne idée », et non parce qu’il venait de créer une société d’IA cherchant à concurrencer OpenAI.
« Je l’ai signé, comme beaucoup de gens, pour inciter à la prudence dans le développement de l’IA », a déclaré Musk. « Je voulais juste que la sécurité de l’IA soit une priorité. » …
Musk a également répondu à d’autres questions dans la déposition, y compris celles sur l’intelligence artificielle générale, ou AGI – le concept d’IA qui peut égaler ou surpasser le raisonnement humain dans un large éventail de tâches – en disant « cela comporte un risque ». Il a également confirmé qu’il « s’était trompé » sur son prétendu don de 100 millions de dollars à OpenAI ; la deuxième plainte modifiée dans l’affaire rapproche le chiffre réel de 44,8 millions de dollars.
Il a également rappelé pourquoi OpenAI a été fondée, ce qui, de son point de vue, était dû au fait qu’il était « de plus en plus préoccupé par le danger que Google soit un monopole de l’IA », ajoutant que ses conversations avec le co-fondateur de Google, Larry Page, étaient « alarmantes, dans le sens où il ne semblait pas prendre la sécurité de l’IA au sérieux ». OpenAI a été créé pour contrebalancer cette menace, a affirmé Musk.
