Dans une note de deux phrases en bas de page d’un volumineux avis judiciaire, un juge fédéral a récemment accusé les agents de l’immigration d’utiliser l’intelligence artificielle pour générer des rapports sur le recours à la force, soulevant des inquiétudes quant au fait que cela pourrait conduire à des inexactitudes et saper davantage la confiance du public dans la façon dont la police a réagi à la répression de l’immigration et aux manifestations qui ont suivi dans la région de Chicago.
La juge de district américaine Sarah Ellis a écrit une note de bas de page dans un avis de 223 pages publié la semaine dernière selon lequel l’utilisation de ChatGPT pour créer des rapports sur le recours à la force mine la crédibilité des enquêteurs et « peut expliquer l’inexactitude de ces rapports ». Elle a décrit ce qu’elle a vu sur au moins une vidéo de la caméra corporelle et a écrit que l’agent avait donné à ChatGPT un court texte descriptif et quelques images avant de lui demander de modifier l’histoire du rapport.
Le juge a constaté des incohérences factuelles entre le récit officiel de la réponse des forces de l’ordre et ce que montraient les images des caméras corporelles. Mais les experts affirment que l’utilisation de l’IA pour créer un rapport basé sur le point de vue spécifique d’un agent, sans utiliser l’expérience réelle de celui-ci, constitue la pire utilisation de la technologie et soulève de sérieuses inquiétudes quant à l’exactitude et à la confidentialité.
Perspectives nécessaires aux dirigeants
Les forces de l’ordre de tout le pays se demandent comment créer des garde-fous permettant aux agents d’utiliser des technologies d’IA de plus en plus disponibles tout en préservant l’exactitude, la confidentialité et le professionnalisme. Les experts ont déclaré que les exemples détaillés dans l’avis ne répondaient pas à ce défi.
« Ce que ce type a fait est la pire, la pire chose au monde. Avec juste une phrase et quelques photos – si c’est vrai, si cela s’est produit ici – cela va à l’encontre de tous les conseils que nous avons jamais donnés. C’est un scénario cauchemardesque », a déclaré Ian Adams, professeur adjoint de criminologie à l’Université de Caroline du Sud et membre du groupe de travail sur l’intelligence artificielle du groupe de réflexion non partisan Council on Criminal Justice.
Le ministère de la Sécurité intérieure n’a pas répondu aux demandes de commentaires et il n’est pas clair si le ministère dispose de lignes directrices ou de politiques concernant l’utilisation de l’IA par ses employés. Les images des caméras corporelles citées dans l’ordonnance n’ont pas encore été publiées.
Adams a déclaré que même si peu d’agences ont mis en place des politiques, beaucoup interdisent l’utilisation de l’IA prédictive dans la production de rapports visant à justifier les décisions des forces de l’ordre, en particulier les rapports sur le recours à la force. Lorsqu’ils examinent si un recours à la force est justifié, les tribunaux s’appuient largement sur le point de vue de l’agent en question dans ce scénario particulier, établissant une norme appelée caractère raisonnable objectif.
« Afin de savoir s’il s’agit d’un usage justifié de la force, nous avons besoin d’événements spécifiques et clairement articulés et des convictions spécifiques de cet officier en particulier sur ce qui s’est passé », a déclaré Adams. « Vous suppliez le gouvernement d’inventer des faits dans cette situation aux enjeux élevés, donc sans une directive claire pour inventer les faits, c’est le pire des cas. »
Informations personnelles et preuves
En plus de susciter des inquiétudes quant au fait que les rapports générés par l’IA décrivent de manière inexacte ce qui s’est passé, l’utilisation de l’IA soulève également des problèmes potentiels en matière de confidentialité.
Katie Kinsey, chef de cabinet et conseillère en politique technologique pour le projet de police de la faculté de droit de l’université de New York, a déclaré que si les agents en poste avaient utilisé la version publique de ChatGPT, ils auraient perdu le contrôle au moment où ils ont téléchargé les images et n’auraient probablement pas réalisé que les images faisaient désormais partie du domaine public et pouvaient être utilisées par de mauvais acteurs.
Kinsey a déclaré que d’un point de vue technologique, en matière d’IA, la plupart des départements construisent des avions pendant qu’ils volent. Il a déclaré qu’il est courant dans les forces de l’ordre d’attendre que les nouvelles technologies soient déjà utilisées, et que parfois des erreurs ont été commises, avant de discuter de la mise en œuvre de lignes directrices ou de politiques.
« Il vaut mieux faire le contraire : comprendre les risques et construire des garde-fous pour éviter ces risques », explique Kinsey. « Même s’ils n’ont pas étudié les meilleures pratiques, il existe des solutions faciles à trouver. Nous pouvons commencer par la transparence. »
Kinsey a déclaré que les agences fédérales chargées de l’application de la loi réfléchissent à la manière dont elles peuvent ou non utiliser la technologie, mais pourraient adopter des politiques comme celles récemment introduites dans l’Utah et en Californie qui exigent que les rapports de police et les communications créées à l’aide de l’IA soient étiquetés.
Utilisez les nouveaux outils avec précaution
Les photos utilisées par les policiers pour créer l’histoire ont également soulevé des inquiétudes quant à leur exactitude de la part de certains experts.
Des entreprises technologiques bien connues comme Axon commencent à proposer des composants d’IA aux caméras corporelles pour faciliter la création de rapports d’incidents. Ces programmes d’IA vendus aux forces de l’ordre fonctionnent dans des systèmes fermés et se limitent principalement à utiliser l’audio des caméras corporelles pour générer un récit. En effet, les entreprises prétendent que les programmes qui tentent d’utiliser la vision ne sont pas suffisamment efficaces pour être utilisés.
« Il existe de nombreuses façons différentes de décrire les couleurs, les expressions faciales et d’autres éléments visuels. Si vous demandez à n’importe quel expert en IA, il vous dira que les invites renvoient des résultats très différents selon les différentes applications d’IA, mais cela devient compliqué lorsqu’il s’agit d’éléments visuels », a déclaré Andrew Guthrie Ferguson, professeur de droit à la faculté de droit de l’Université George Washington.
« Il y a aussi une question de professionnalisme. Est-il acceptable pour les policiers d’utiliser l’analyse prédictive ? » il a ajouté. « C’est ce que le mannequin pense que cela aurait dû se produire, mais cela n’a peut-être pas eu lieu. Vous ne voulez pas que cela soit porté devant les tribunaux pour justifier vos actions. »
