OpenAI et Anthropic parrainent un projet de loi opposé sur l’IA à l’Assemblée générale de l’Illinois, qui cherche à répondre à ce qui devrait se passer si l’IA pose de graves problèmes.
Il s’agit du dernier épisode d’une querelle en cours entre les deux sociétés sur la sécurité et la réglementation de l’IA, leurs PDG échangeant des accusations en interne et en externe sur leurs approches respectives.
OpenAI prend en charge le SB 3444, qui protégerait les développeurs de Frontier AI de toute responsabilité en cas de décès ou de blessures graves à plus de 100 personnes ou de dommages matériels de plus d’un milliard de dollars. Cette protection s’applique si l’IA provoque ou permet substantiellement la production ou l’utilisation d’armes chimiques, biologiques, radiologiques ou nucléaires.
Comme l’a rapporté pour la première fois WIRED, Anthropic a annoncé cette semaine qu’elle s’opposait au projet de loi.
« Nous nous opposons à ce projet de loi. Une législation transparente garantit la sécurité publique et la responsabilité des entreprises qui développent cette technologie puissante, et non une carte de sortie de prison pour toute responsabilité », a déclaré Cesar Fernandez, responsable des relations avec les États et les gouvernements locaux des États-Unis chez Anthropic, dans une déclaration à Fortune.
Anthropic soutient plutôt un autre projet de loi, le SB 3261, qui obligerait les développeurs d’IA à publier des plans de sécurité publique et de protection de l’enfance sur leurs sites Web. Le projet de loi créerait également un système de rapport d’incidents pour informer les législateurs et le public des « risques catastrophiques » ou des incidents pouvant entraîner la mort ou des blessures graves de 50 personnes ou plus causés par le développement, le stockage, l’utilisation ou le déploiement de modèles Frontier par les développeurs de Frontier.
Le projet de loi couvre également la sécurité des enfants, un aspect absent du projet de loi soutenu par OpenAI. En vertu du SB 3261, les développeurs d’IA seraient responsables si leurs modèles causaient une détresse émotionnelle grave, la mort ou des blessures physiques à un enfant, y compris l’automutilation.
Norme « très basse »
Des experts ont déclaré à Fortune qu’il est peu probable que le SB 3444 soit adopté car, même si l’Illinois est un leader en matière de réglementation de l’IA, son approche en matière de responsabilité des entreprises en cas de catastrophe majeure est nettement plus faible. L’État a interdit la thérapie par l’IA l’année dernière, mais a autorisé son utilisation dans les services administratifs et de soutien destinés aux professionnels qualifiés.
Le SB 3444 oblige les entreprises à élaborer des plans publics de sécurité de l’IA, mais il n’y a aucune mesure coercitive. Les développeurs sont protégés de toute responsabilité s’ils n’ont pas causé l’incident « intentionnellement ou par imprudence ».
Anat Lior, professeur adjoint à la faculté de droit de l’Université Drexel et experte en responsabilité et en gouvernance de l’IA, a déclaré que « l’intentionnalité et l’imprudence ne constituent pas une norme courante en matière de protection juridique pour les entreprises se livrant à des activités très risquées ».
« En général, l’état mental et la négligence associés au préjudice ne sont pas importants », a-t-elle expliqué. « Ils placent la barre très bas ici. Il va être très difficile de prouver qu’ils ont intentionnellement fait quelque chose impliquant l’IA. »
Gabriel Weil, professeur de droit à l’université de Touro qui a travaillé avec les législateurs de New York et du Rhode Island sur des projets de loi qui rendraient les développeurs d’IA plus responsables, a déclaré que l’approche du projet de loi soutenu par OpenAI est « plutôt indéfendable ».
« Cela semble être une exigence très faible, mais en retour, elle offre une protection presque complète contre toute responsabilité liée à de tels événements extrêmes », a déclaré Weil à Fortune. « Je pense que c’est la direction opposée à celle vers laquelle nous devrions aller. »
Un porte-parole d’OpenAI a déclaré à WIRED que la société soutenait l’approche du SB 3444 car elle « réduit le risque de dommages graves causés par les systèmes d’IA de pointe tout en permettant à cette technologie de tomber entre les mains des personnes et des entreprises ».
Un porte-parole d’OpenAI a déclaré à Fortune que la société soutenait fermement les efforts visant à améliorer la transparence et à atténuer les risques dans les protocoles de sécurité de l’IA, citant le travail avec les législateurs de Californie et de l’État de New York pour adopter des cadres de sécurité et des sanctions pour violation. L’entreprise continuera à travailler avec les États même en l’absence de loi fédérale.
« Nous espérons que ces lois d’État éclaireront un cadre national qui aidera l’Amérique à continuer à diriger », a écrit le porte-parole.
