L’administration Trump envisagerait de relancer une approche de l’ère Biden pour réglementer la publication de nouveaux modèles d’IA, annulant ainsi l’une de ses décisions antérieures visant à donner plus de liberté à l’industrie. Un peu plus tôt cette semaine, des rapports ont révélé que plus de 60 alliés du président Trump avaient envoyé une lettre au président l’exhortant à adopter une approche plus pragmatique de l’IA avec des tests et une approbation préalables. Et jeudi, le président Trump a brusquement retardé la signature d’un décret qui aurait assuré une surveillance accrue, signalant que le débat sur la réglementation de l’IA se poursuit.
Les approches envisagées, proposées pour la première fois en 2023, se concentrent sur de mauvais objectifs. Comme c’est le cas pour une grande partie du mouvement réglementaire actuel dans toutes les juridictions, l’accent est mis sur la manière dont les systèmes d’IA sont construits et sur leurs performances lors des tests, et non sur leur comportement ou leur impact une fois déployés dans le monde réel.
Nous voyons déjà émerger des initiatives similaires. Considérez la loi de l’Union européenne sur l’IA. En vertu de cette politique, avant qu’un système « à haut risque » soit mis sur le marché, son développeur doit effectuer une évaluation de la conformité qui documente que le système répond aux exigences d’exactitude, de robustesse et de gouvernance des données en fonction de l’objectif prédéfini prédéfini au moment de la classification.
Même si la loi impose un suivi post-déploiement, son centre de gravité reste fermement placé à l’avant-plan. Aux États-Unis, de nombreuses propositions au niveau des États mettent également l’accent sur la réglementation basée sur les compétences et la certification préalable au déploiement. Toutes ces approches partagent un principe commun : le risque peut être prédéterminé sur la base de tests de fonctionnalité et de pré-déploiement sans observer le comportement réel du système.
Ces politiques reflètent des instincts réglementaires empruntés aux produits de consommation. Autrement dit, corrigez la fonctionnalité, authentifiez la sortie et affirmez qu’elle est sécurisée. Mais considérez l’absurdité d’appliquer cette logique aux humains. N’importe qui sur terre peut commettre un crime. Nous ne mettons pas tout le monde en prison par mesure de précaution. Nous réglementerons cette pratique, attribuerons la responsabilité des préjudices et créerons des institutions pour une surveillance continue. La même logique devrait s’appliquer à l’IA, mais nous faisons le contraire, en essayant de contenir ce que les systèmes peuvent faire au lieu de les tenir responsables de ce qu’ils font réellement.
Les systèmes d’IA sont fondamentalement différents des logiciels traditionnels, et la différence s’élargit. Leur polyvalence, leur degré de liberté et leur intégration croissante avec les environnements numériques et physiques, tels que les agents et les robots, rendent leur comportement aussi difficile à prédire que celui des acteurs humains. En conséquence, les approches réglementaires qui mettent trop l’accent sur la fonctionnalité et les tests préalables au déploiement auront du mal à prévenir les dommages lors d’une utilisation réelle.
Gérer efficacement l’IA signifie repenser les politiques de fond en comble, plutôt que de moderniser les cadres conçus pour différentes classes de technologies.
Les systèmes d’IA fonctionnent dans de vastes espaces qui ne peuvent pas être entièrement spécifiés avant leur déploiement. On peut leur demander d’effectuer des tâches arbitraires, d’utiliser divers outils et d’opérer dans diverses situations. Par conséquent, une approche réglementaire fonctionnelle et basée sur les tests doit anticiper toutes les tâches potentiellement dangereuses qu’un modèle pourrait être amené à effectuer, tous les outils qu’il pourrait utiliser et tous les contextes dans lesquels il pourrait fonctionner. C’est pratiquement impossible. Par exemple, comment prédire ce qu’un système fera avec des outils qui n’existaient même pas au moment de la certification ? Et comment les régulateurs peuvent-ils prédire toutes les situations dans lesquelles le système sera finalement opérationnel ?
C’est là que les systèmes de gestion de la sécurité de l’IA entrent en jeu. Il s’agit d’un cadre politique et réglementaire centré sur une évaluation continue dans le monde réel plutôt que sur une certification ponctuelle.
Alors que le comportement des modèles et des agents d’IA ressemble de plus en plus au comportement humain, nous devons penser à la régulation de l’IA de la même manière qu’aux cadres utilisés pour gérer les activités humaines. Soutenus par une surveillance continue et des enquêtes sur les incidents, nous combinons des droits de base avec des règles basées sur les résultats axées sur les dommages, la responsabilité et le devoir de diligence pour réglementer les activités humaines consécutives telles que la conduite automobile, l’exercice de la médecine et l’exploitation des infrastructures critiques.
Les décideurs politiques en quête d’une gouvernance durable de l’IA devraient commencer par trois principes.
Premièrement, la surveillance se concentre sur une évaluation continue et indépendante du comportement dans le monde réel. Les tests et certifications préliminaires doivent servir de référence et ne doivent pas se substituer à une diligence raisonnable continue.
Deuxièmement, cibler les préjudices évidents tout en conservant la flexibilité nécessaire à l’innovation. Les évaluations en cours ne doivent pas imposer un fardeau en faveur des acteurs historiques au détriment des start-ups et des développeurs open source. Le principe est simple. Les actions illégales pour les humains doivent rester illégales lorsqu’elles sont exécutées ou activées par l’IA. Toutefois, la réglementation ne doit pas dépasser ses limites.
Troisièmement, élargir l’échelle des obligations en matière d’influence, d’autonomie et d’exposition pour inclure des espaces sûrs pour une surveillance honnête, la divulgation des incidents et une réparation rapide. Cela expliquerait l’évolution continue des systèmes d’IA et le fait qu’ils fonctionnent dans des environnements ouverts.
Les décideurs politiques doivent également examiner attentivement les aspects stratégiques. Si la réglementation ralentit considérablement l’innovation aux États-Unis alors que d’autres pays progressent plus rapidement, le résultat ne sera pas une IA plus sûre à l’échelle mondiale, mais plutôt un changement de leadership et d’influence. Cependant, le choix n’est pas entre sécurité et rapidité. Des règles claires basées sur les résultats et basées sur une évaluation continue augmentent la confiance et l’adoption. Et cette confiance elle-même constitue un avantage concurrentiel.
En fin de compte, ce qui compte le plus, ce ne sont pas les capacités inhérentes d’un système d’IA ou ce que les développeurs imaginent qu’il peut faire, mais ce qu’il fait réellement. Les réglementations doivent refléter cette réalité.
Les opinions exprimées dans les articles de commentaires de Fortune.com sont uniquement celles de l’auteur et ne reflètent pas nécessairement les opinions ou les croyances de Fortune.
