Un jury fédéral a statué ce matin qu’Elon Musk avait attendu trop longtemps pour poursuivre Sam Altman pour violation par OpenAI de sa promesse à but non lucratif. Le procès a été rejeté en raison du délai de prescription. La juge a déclaré qu’elle-même l’aurait rejeté. Indépendamment de ce qui se passe devant les cours d’appel, les affaires que nous avons vues posent les mauvaises questions.
Supprimez le charisme des querelles, des revendications et des duels. Ce que ces deux hommes, à leur manière, ont offert, c’est la promesse que leur gestion personnelle assurerait la sécurité de l’intelligence artificielle pour le reste d’entre nous. Musk a déclaré qu’Altman avait volé l’association caritative. Altman a déclaré que Musk était un co-fondateur blessé qui ne supportait pas de perdre le contrôle. Les deux arguments reposaient sur les mêmes hypothèses cachées. L’avenir de l’IA dépend de la présence des bons milliardaires.
Cette hypothèse est le véritable problème, et les tribunaux d’Oakland ne peuvent pas le résoudre.
Voyons ce que le procès a obscurci. OpenAI a commencé comme une organisation à but non lucratif. Il s’agissait d’une série de filiales plafonnées aux bénéfices. Transition vers une société d’intérêt public. Il pourrait bientôt essayer le marché public. Chaque forme était vendue comme garantie que la mission limiterait le capital. Chaque forme s’est effondrée sous le poids du capital nécessaire à son fonctionnement. La preuve la plus claire est que le conseil d’administration à but non lucratif d’Altman l’a licencié en novembre 2023. Le conseil d’administration l’a licencié vendredi. Lundi, Microsoft et ses 700 salariés sont revenus sur leur décision. La charte du conseil d’administration disait une chose. La capitale a dit le contraire. La capitale a gagné.
C’est le monde dans lequel nous vivons maintenant. Les décisions les plus importantes sur la manière dont l’intelligence artificielle est développée, déployée et limitée sont prises au sein d’un petit nombre d’entreprises privées. Le Congrès et le pouvoir exécutif ne peuvent pas suivre cette technologie. Même dans le meilleur des cas, ni l’un ni l’autre ne pouvait légiférer assez vite pour le contrôler. Et ni l’un ni l’autre n’est en pleine forme. Les régulateurs ont des années de retard. Les entreprises se sont développées dans ce domaine vide. Ils créent des politiques de sécurité, émettent des cartes modèles et constituent des équipes rouges et des cadres de divulgation. C’est ici que sont rédigées les véritables règles de l’IA.
Le procès devait choisir entre deux versions d’une même réponse erronée. M. Musk voulait démanteler la branche à but lucratif d’OpenAI, licencier M. Altman et restaurer la pureté à but non lucratif déjà rendue impossible par les exigences en capitaux de la technologie. Altman voulait justifier le chemin qui avait créé l’entreprise d’IA la plus précieuse de la planète et les échecs de gouvernance que les organisations à but non lucratif étaient censées prévenir. Quel que soit celui que vous choisissez, vous vous retrouvez toujours avec un système dans lequel la sécurité de votre technologie transformationnelle dépend du bon jugement des bonnes personnes un mardi donné. La bonne volonté n’est pas une structure de gouvernance.
Nous pouvons certainement faire mieux. La réponse n’est pas de prétendre que le Congrès peut le faire à temps. Les entreprises sont désormais le principal forum où sont créées les règles de l’IA. Le défi consiste à exiger que ces règles soient correctement écrites.
C’est ce dont la gouvernance de l’IA a besoin. Plus précisément, trois choses. Premièrement, il y a des choix politiques. Les entreprises d’IA devraient définir des politiques de sécurité par le biais d’un processus structuré et transparent avec des opinions d’experts documentées, des décideurs identifiés et une justification raisonnable, plutôt que par le biais d’un pouvoir discrétionnaire sans restriction exercé au cas par cas. Le deuxième est le comportement organisationnel. Ces politiques devraient être mises en œuvre dans le cadre de responsabilités opérationnelles clairement attribuées, les cadres supérieurs étant tenus responsables lorsque les seuils de compétence sont dépassés. Le troisième est la surveillance. Les entreprises doivent vérifier leur conformité et rendre compte des résultats aux comités du conseil d’administration avec indépendance et expertise.
Ni l’un ni l’autre n’obligerait le Congrès à décider ce que l’IA devrait ou ne devrait pas faire. La loi nous impose de veiller à ce que les personnes qui prennent les décisions au sein de votre entreprise le fassent selon des processus proportionnés aux risques. Appelez cela le critère du social business. Les tribunaux évaluent déjà si les conseils d’administration ont pris leurs fonctions au sérieux lorsqu’ils ont vendu des entreprises ou licencié des PDG. Ils peuvent apprendre à faire de même avec les décisions qui définiront la prochaine génération de technologie.
La forme sociale à elle seule ne nous sauvera pas. Une charte à but non lucratif ne pourrait pas sauver la mission d’OpenAI. Une société d’intérêt public ne vous épargnera pas la suite. Le jury d’Oakland demande si Elon Musk a été traité injustement. Une meilleure question est de savoir si le reste d’entre nous l’a fait aussi. Deux milliardaires se sont proposés pour être les garants de la sécurité d’IA. Nous n’avons jamais été en sécurité en le faisant.
Les entreprises écrivent les règles de l’IA. Le travail de la loi est de réglementer la manière dont ils écrivent.
Les opinions exprimées dans les articles de commentaires de Fortune.com sont uniquement celles de l’auteur et ne reflètent pas nécessairement les opinions ou les croyances de Fortune.
