Nathan Calvin, 29 ans, avocat général chez Encode, une petite organisation à but non lucratif spécialisée dans la politique de l’IA avec seulement trois employés à temps plein, a publié vendredi un fil de discussion viral accusant OpenAI d’utiliser des tactiques alarmistes pour violer le SB 53 de Californie (Loi californienne sur la transparence de l’intelligence artificielle à la frontière) alors qu’il était encore en débat. Il a également affirmé qu’OpenAI utilise sa bataille juridique en cours avec Elon Musk comme prétexte pour cibler et intimider les critiques, y compris Encode, en laissant entendre que Musk finance secrètement l’entreprise.
Le fil de discussion de Calvin a rapidement attiré une large attention, y compris au sein d’OpenAI lui-même. Justin Akaim, responsable de la coordination des missions de l’entreprise, s’est prononcé sur X dans son propre fil de discussion écrit à titre personnel, déclarant : « Je dis cela parce que cela pourrait constituer un risque pour toute ma carrière. Cela ne semble pas être une bonne chose. »
D’anciens employés d’OpenAI et d’éminents chercheurs en matière de sécurité de l’IA se sont également joints à la conversation, nombre d’entre eux exprimant leurs inquiétudes quant aux prétendues tactiques de l’entreprise. Helen Toner, ancienne membre du conseil d’administration d’OpenAI, qui a démissionné en 2023 après une tentative infructueuse pour évincer le PDG Sam Altman, a écrit que même si certaines des choses que fait l’entreprise sont excellentes, « les tactiques de malhonnêteté et d’intimidation dans son travail politique sont vraiment mauvaises ».
Et au moins un autre fondateur d’une organisation à but non lucratif est intervenu. Tyler Johnston, fondateur du groupe de surveillance de l’IA The Midas Project, a répondu au fil de discussion de Calvin avec son propre fil de discussion, en disant : « (J’ai) reçu un coup à ma porte en Oklahoma demandant tous les textes/e-mails/documents liés à la gouvernance et aux investisseurs d’OpenAI « dans le sens le plus large autorisé ». » Comme Calvin, il a également reçu une convocation personnelle et a également été signifié avec le projet Midas, a-t-il ajouté.
« S’ils m’avaient demandé si j’étais financé par Musk, je leur aurais volontiers donné une simple ‘personne d’espoir’ et j’en aurais fini avec ça », a-t-il écrit. « Au lieu de cela, ils ont demandé une liste de pratiquement tous les journalistes, bureaux du Congrès, organisations partenaires, anciens employés et membres du public avec lesquels nous avons parlé de la restructuration. »
OpenAI n’a pas répondu aux multiples demandes de commentaires, mais dans un article de septembre paru dans le San Francisco Standard, les avocats d’OpenAI ont déclaré que les actions de l’entreprise visaient à révéler si des concurrents finançaient secrètement l’une ou l’autre organisation. « Il s’agit de transparence quant à savoir qui finance ces organisations », a déclaré l’avocat.
Le Standard a rapporté que Calvin avait reçu une assignation à comparaître d’OpenAI en août, qui lui avait été remise par un adjoint du shérif alors qu’il dînait avec sa femme. Des services ont également été fournis à Encode, l’organisation pour laquelle il travaille. L’article rapporte qu’OpenAI semble préoccupé par le fait que certains de ses critiques les plus virulents soient financés par des concurrents d’Elon Musk et d’autres milliardaires, et qu’elle cible ces organisations à but non lucratif, bien qu’elle fournisse peu de preuves pour étayer ses affirmations.
Calvin a écrit vendredi qu’Encode n’avait pas reçu de financement de Musk, avait critiqué la réorganisation d’OpenAI et travaillait sur la réglementation de l’IA, y compris le SB 53. Dans son assignation à comparaître, OpenAI a demandé toutes les communications privées de Calvin concernant le SB 53.
« Je pense qu’OpenAI a utilisé le prétexte d’un procès contre Elon Musk pour intimider ses détracteurs et laisser entendre qu’Elon était derrière tout », a-t-il déclaré, faisant référence à la bataille juridique en cours entre OpenAI et Musk sur la mission initiale à but non lucratif et la gouvernance de l’entreprise. Encode avait déposé un mémoire au tribunal soutenant certaines des affirmations de Musk.
Dans une conversation avec Fortune, Calvin a souligné qu’il n’y avait pas eu suffisamment de couverture sur le caractère inapproprié des actions d’OpenAI en relation avec le SB 53, signé par le gouverneur Gavin Newsom fin septembre. La loi exige que certains développeurs de modèles d’IA « Frontier » publient des cadres publics d’IA et des rapports de transparence lors de l’introduction ou de la modification significative de leurs modèles, qu’ils signalent à l’État les incidents de sécurité importants et qu’ils partagent leurs évaluations des risques catastrophiques avec la surveillance de l’État.
Calvin affirme qu’OpenAI a tenté d’affaiblir ces exigences. Dans une lettre adressée au bureau du gouverneur Newsom pour négocier le projet de loi, qu’un ancien chercheur en politique de l’IA a partagée avec X début septembre, la société a appelé la Californie à traiter les entreprises qui ont déjà des accords de sécurité avec des agences fédérales américaines ou qui participent à des cadres internationaux, tels que le code de bonnes pratiques de l’IA de l’UE, comme étant conformes aux règles de l’État. Calvin fait valoir qu’une telle disposition pourrait réduire considérablement la portée de la loi, exemptant potentiellement OpenAI et d’autres grands développeurs d’IA des principales exigences de sécurité et de transparence.
« Les négociations sur le SB 53 sont toujours en cours et nous ne voulions pas entrer trop dans les détails à ce sujet pendant que nous essayions de conclure l’accord », a-t-il déclaré. « Nous ne voulions pas que l’histoire porte sur la bataille entre Encode et OpenAI plutôt que sur les mérites de ce projet de loi, qui, à mon avis, sont vraiment importants. Nous voulions donc attendre que le projet de loi soit signé. »
Il a ajouté qu’une autre raison pour laquelle il a décidé de s’exprimer maintenant était un récent message sur LinkedIn du responsable des affaires internationales d’OpenAI, Chris Lehane, dans lequel il a déclaré que la société « travaillait à améliorer » le SB 53. M. Calvin a déclaré qu’il estimait que cette caractérisation était très incompatible avec ses propres expériences au cours des derniers mois.
Encode a été fondée par Sneha Revanur, qui a lancé l’organisation en 2020 à l’âge de 15 ans. « Elle n’est pas une employée à temps plein car elle fréquente toujours l’université », a déclaré Sunny Gandhi, vice-président politique d’Encode. « C’est effrayant de voir une entreprise de 5 000 milliards de dollars s’en prendre à vous », a déclaré Gandhi.
Calvin a déclaré qu’Encode avait officiellement répondu à l’assignation à comparaître d’OpenAI et a déclaré que l’organisation ne produirait aucun document car elle n’était pas financée par Elon Musk. « Ils n’ont rien dit depuis », a-t-il ajouté.
Dans un article sur X, Achaim d’OpenAI a publiquement imploré son entreprise de dialoguer de manière plus constructive avec ses critiques. « Elon est certainement là pour s’en prendre à nous, et cet homme a une influence considérable », a-t-il écrit. « Mais il y a tellement de choses que nous pouvons combattre. Et quand il s’agit de choses comme le SB 53, il y a tellement de façons de s’engager de manière productive. » Il a ajouté : « Nous ne pouvons pas nous permettre de faire des choses qui font de nous une puissance terrible au lieu d’une puissance bienveillante. Nous avons un devoir et une mission envers toute l’humanité, et la barre pour remplir ce devoir est très haute. »
Calvin a décrit cet épisode comme « la période la plus stressante de ma vie professionnelle ». Il a déclaré qu’il utilisait et tirait de la valeur des produits OpenAI, ajoutant que la société menait et publiait des recherches « vraiment louables » sur la sécurité de l’IA. De nombreux employés d’OpenAI se soucient profondément du fait qu’OpenAI soit une force du bien dans le monde, a-t-il déclaré.
« J’aimerais voir ce côté-là de l’OAI, mais au lieu de cela, je les vois essayer d’intimider leurs détracteurs pour les faire taire », a-t-il écrit. « Quelqu’un pense-t-il que ces actions sont conformes à la mission à but non lucratif d’OpenAI visant à garantir que l’AGI profite à l’humanité ?
