Le gouvernement britannique veut faire un pivot difficile pour stimuler son économie et son industrie avec l’IA, et dans le cadre de cela, il pivote une institution qu’il a fondée il y a un peu plus d’un an dans un but très différent. Aujourd’hui, le Département des sciences, de l’industrie et de la technologie a annoncé qu’il réimaginait l’Institut de sécurité de l’IA à «l’Institut de sécurité de l’IA». (Mêmes premières lettres: même URL.) Avec cela, le corps passera des domaines d’exploration primaire tels que le risque existentiel et les préjugés dans les modèles de grande langue, à une concentration sur la cybersécurité, «renforçant les protections contre les risques de l’IA à la sécurité nationale et à la criminalité . «
Parallèlement à cela, le gouvernement a également annoncé un nouveau partenariat avec Anthropic. Aucun service d’entreprise n’a été annoncé, mais le protocole d’accord indique que les deux «exploreront» en utilisant l’assistant AI d’Anthropic Claude dans les services publics; Et Anthropic adorera contribuer à travailler dans la recherche scientifique et la modélisation économique. Et à l’IA de l’IA de sécurité, il fournira des outils pour évaluer les capacités d’IA dans le contexte de l’identification des risques de sécurité.
« L’IA a le potentiel de transformer la façon dont les gouvernements servent leurs citoyens », a déclaré le co-fondateur et PDG d’Anthropic, Dario Amodei. «Nous sommes impatients d’explorer comment AI AI AI AI AI AI AI Claude pourrait aider le gouvernement britannique à améliorer les services publics, dans le but de découvrir de nouvelles façons de rendre les informations et services vitaux plus efficaces et accessibles aux résidents britanniques.
Anthropic est la seule entreprise à encorer aujourd’hui – coïncider avec une semaine d’activités d’IA à Munich et Paris – mais ce n’est pas le seul à travailler avec le gouvernement. Une série de nouveaux outils qui ont été dévoilés en janvier ont tous été alimentés par Openai. (À l’époque, Peter Kyle, secrétaire d’État à la technologie, a déclaré que le gouvernement prévoyait de travailler avec diverses sociétés d’IA fondamentales, et c’est ce que l’accord anthropique sonde.)
Le changement par le gouvernement de l’IA Safety Institute a lancé il y a un peu plus d’un an avec beaucoup de sécurité en fanfare-AA ne devrait pas être trop surprenante.
Lorsque le gouvernement travailliste nouvellement installé a annoncé son plan de changement en IA en janvier, il était à noter que le mot «sécurité», «dommage», «existentiel» et «menace» n’apparaissaient pas du tout dans le document.
Ce n’était pas une supervision. Le plan du gouvernement est de lancer des investissements dans une économie plus modernisée, en utilisant la technologie et en particulier l’IA pour ce faire. Il veut travailler plus étroitement avec Big Tech, et il veut également construire ses propres grands techniciens locaux.
À l’aide de cela, les principaux messages qu’elle a promus a été le développement, l’IA et plus de développement. Les fonctionnaires auront leur propre assistant d’IA appelé «Humphrey», et ils sont encouragés à partager des données et à utiliser AE dans d’autres domaines pour accélérer leur fonctionnement. Les consommateurs obtiendront des portefeuilles numériques pour leurs documents gouvernementaux et les chatbots.
Alors, une sécurité a-t-elle été résolue? Pas exactement, mais le message semble être qu’ils ne peuvent pas être pris en compte au détriment des progrès.
Le gouvernement a affirmé que malgré le changement de nom, la chanson restera la même.
« Les changements que j’annonce aujourd’hui prennent la prochaine étape logique dans la façon dont nous abordons le développement de l’IA – nous aidant à libérer l’IA et à développer l’économie dans le cadre de notre plan de changement », a déclaré Kyle dans un communiqué. «Le travail de l’Institut de sécurité de l’IA ne changera pas, mais cette orientation renouvelée garantira que nos citoyens – et ceux de nos alliés – protègent de ceux qui cherchent à utiliser nos institutions, nos valeurs démocratiques et notre mode de vie. «
« L’institut a mis l’accent sur le début sur la sécurité et nous avons constitué une équipe de scientifiques axée sur l’évaluation des risques graves pour le public », a ajouté Ian Hogarth, qui reste la chair de l’institut. «Notre nouvelle équipe de mauvaise utilisation criminelle et approfondissant le partenariat avec la communauté de la sécurité nationale marquent la prochaine étape de la lutte contre ces risques.»
Plus loin, les priorités semblent certainement avoir changé autour de l’importance de la «sécurité de l’IA». Le plus grand risque que l’IA de la sécurité de l’IA aux États-Unis envisage en ce moment, c’est qu’il va être démantelé. Le vice-président américain JD Vance a télégraphié aussi plus tôt cette semaine lors de son discours à Paris.
TechCrunch a une newsletter axée sur l’IA! Inscrivez-vous ici pour l’obtenir dans votre boîte de réception tous les mercredis.
