Dans un essai publié dans Science en 2023, l’un d’entre nous affirmait que rien dans les lois de certains États n’empêche explicitement les agents d’IA de diriger des entreprises qui ne sont pas sous commandement humain. Nous avons ensuite posé une question simple : que devons-nous faire lorsque un logiciel autonome contracte tout seul, paie les fournisseurs et commence à commercialiser ?
Trois ans plus tard, ce problème n’est plus hypothétique, l’IA étant devenue bien plus performante. Heureusement, le Delaware est en mesure de montrer la voie.
La réponse n’est pas d’essayer d’interdire l’activité. Il est peu probable que tout effort en ce sens aboutisse, tout comme la technologie et ses catalyseurs risquent de repousser les limites de la loi.
La réponse est de donner à l’IA une forme juridique. Donner à un système autonome une identité juridique reconnaissable le rend juridiquement lisible. Définir la responsabilité et les dommages. Rendre les actions des agents visibles, traçables et responsables.
Les sociétés modernes, les SARL en série et les sociétés d’intérêt public étaient toutes controversées au moment de leur introduction et ont depuis été largement adoptées. Les sociétés d’intelligence artificielle (AIC) constituent la dernière itération des structures juridiques des entreprises et sont en passe de devenir la plus importante. Le Delaware, qui possède le plus d’expérience en matière de formation et de gouvernance d’entités, a proposé une nouvelle forme d’entité appelée AIC et prévoit de tester l’impact d’une AIC au sein de son bac à sable réglementaire. Dans le Delaware, un cadre d’engagement de l’industrie avec l’AIC est en cours d’élaboration dans le cadre d’un partenariat public-privé dirigé par Norm Ai.
Le Delaware AIC sera une entité juridique distincte et ses opérations quotidiennes seront gérées par des agents d’IA plutôt que par des humains. À la demande de l’agent, l’AIC peut poursuivre ou être poursuivie en son propre nom, détenir et aliéner des biens et assumer des obligations. Il y a un seul membre (individu ou entité) chargé de maintenir correctement le capital de l’AIC, et l’AIC doit tenir des registres de ses activités. Ses membres sont protégés des dettes de l’AIC à moins qu’ils ne parviennent pas à capitaliser l’entreprise ou à l’utiliser pour commettre une fraude ou une violation délibérée de la loi.
AIC fonctionne uniquement dans un bac à sable réglementaire. Les admissions sont déterminées par un comité qui comprend le secrétaire d’État du Delaware (l’un de nous), le procureur général, le juge en chef de la Cour suprême du Delaware, le président de la Commission d’État sur l’IA et des avocats et ingénieurs externes. Chaque AIC doit satisfaire aux exigences en matière de capital et indiquer à ses partenaires commerciaux qu’elle est un laboratoire d’essais accrédité, qu’elle n’est pas reconnue par l’État, la date de fin des essais et la manière de déposer une plainte. Les autorités peuvent suspendre l’AIC, révoquer son autorisation et demander à un tribunal d’équité de la dissoudre. Les opérations bancaires sont exclues. Le programme prendra fin dans 30 mois, laissant à l’Assemblée générale un dossier complet pour décider comment légiférer.
Ce sont de véritables protections. Les partenaires commerciaux savent qu’ils ont affaire à une organisation temporaire et autonome et savent vers qui se tourner en cas de problème. Le bouclier de responsabilité existe uniquement dans le bac à sable et uniquement pour les participants qui respectent les règles. La protection des consommateurs et le droit pénal s’appliquent pleinement. La clé est de combiner le capital avec la responsabilité et la capacité d’arrêter les systèmes, et de piloter les transactions par procuration de jour sous supervision. Le commerce autonome est possible avec la technologie d’aujourd’hui. La seule question non résolue est de savoir où se trouve une maison. Si les États-Unis ne prennent pas de mesures prudentes et responsables, leurs activités se déplaceront à l’étranger et dans des infrastructures anonymes, hors de portée des tribunaux. Au lieu de cela, le Delaware gérerait cette technologie dans le cadre de la tradition juridique américaine, où elle pourrait être observée, testée et tenue pour responsable.
Les lois déterminées démocratiquement constituent la source ultime de coordination de l’IA. La législation et l’interprétation juridique traduisent les objectifs et les valeurs humaines en directives lisibles. Le Delaware étudie cette question et a l’intention d’établir des normes pour régir les agents d’IA. Les systèmes juridiques reconnaissent depuis longtemps de nouveaux types d’acteurs. Les risques sont désormais plus élevés et les délais se raccourcissent à mesure que les capacités de l’IA progressent rapidement. Nous invitons les entreprises qui construisent des systèmes d’agents à développer le cadre AIC avec nous.
Ney est le fondateur et PDG de Norm Ai et co-auteur de « Artificial Intelligence and Interspecies Law », publié dans Science en 2023. Patibanda Sanchez est secrétaire d’État du Delaware.
Les opinions exprimées dans les articles de commentaires de Fortune.com sont uniquement celles de l’auteur et ne reflètent pas nécessairement les opinions ou les croyances de Fortune.
