Dans un article publié mardi matin, Demis Hassabis, PDG de Google DeepMind, a appelé à la création d’un nouvel organisme de réglementation pour superviser les versions de modèles pionniers. Intitulé « Un cadre pour l’IA frontalière et l’aube d’une nouvelle ère », le message plaide en faveur d’un « organisme de normalisation » sur le modèle de l’Autorité de réglementation du secteur financier (FINRA), qui pourrait tester les modèles frontières et développer les meilleures pratiques pour leur publication.
« Dans un premier temps, Frontier Labs partagerait volontairement des modèles avec l’organisme de normalisation pour examen jusqu’à 30 jours avant leur publication », indique le message. « Une fois que le protocole d’évaluation s’est avéré efficace et robuste, la formalisation pourrait rapidement suivre, ce qui signifie que les modèles Frontier seraient tenus de le réussir pour être déployés sur le marché américain. Les laboratoires travailleraient également avec l’organisme de normalisation pour remédier à toute vulnérabilité critique post-publication. «
Le système proposé s’appuierait sur les examens ad hoc effectués par le gouvernement américain sur Mythos d’Anthropic et Sol d’OpenAI. Ces examens ont suscité de nombreuses critiques en raison du manque d’expertise technique et de l’opacité du processus décisionnel quant au moment où un modèle pourrait être publié. Dans le cadre du régulateur proposé par Hassabis, ces décisions pourraient être confiées à une nouvelle organisation, soutenue par le gouvernement américain mais financée par l’industrie de l’IA et exploitée de manière indépendante.
La perspective d’une réglementation de l’IA reste controversée tant pour l’industrie technologique que pour l’administration Trump. Plus récemment, Sriram Krishnan, conseiller en IA de la Maison Blanche et associé général d’a16z, a écarté la possibilité d’un régulateur de l’IA au sein du pouvoir exécutif, affirmant qu’« il n’y aura pas de FDA pour l’IA ».
La création d’un organisme de normalisation en tant qu’organisme d’autoréglementation comme la FINRA pourrait être un moyen de répondre à ces préoccupations. Hassabis envisage que le régulateur soit composé de représentants de l’open source et d’experts techniques issus du secteur, ainsi que du soutien financier des laboratoires d’IA qui serait nécessaire pour les retenir. Ils pourraient même sous-traiter certaines évaluations au nombre croissant de groupes de sécurité de l’IA, capables de se spécialiser dans des risques spécifiques.
« La force de cette approche est qu’elle serait axée sur la technique, tout en soutenant l’innovation et en encourageant un comportement responsable », affirme Hassabis. « Elle est conçue pour suivre l’accélération du terrain et s’adapter aux risques les plus importants au fur et à mesure de leur identification, et pourrait être renforcée si la gravité de la situation l’exige. »
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
