Veuillez nous faire savoir votre mise à jour gratuite
Inscrivez-vous simplement aux affaires sociales Myft Digest et distribuez-la directement au plateau de réception.
Qu’est-ce que cela signifie pour la décision de la machine « juste »? Jusqu’à présent, les débats publics se sont concentrés sur les problèmes de préjugés et de discrimination. Vous pouvez le comprendre: la plupart des gens s’attendront à ce que les machines soient moins préjudiciables que les humains (en fait, il est souvent donné comme raison de les utiliser dans l’embauche et d’autres processus). Trop.
Cependant, le mot «juste» a de nombreuses interprétations, et «pas de préjugés» n’est que l’un d’entre eux. J’ai récemment remarqué que j’étais du côté réception de la décision automatisée. Cela m’a fait réfléchir à ce que cela signifie vraiment de sentir que vous avez été traité légalement et à quel point il est difficile de tenir ces principes dans le monde de plus en plus automatisé.
J’ai un compte Gmail personnel à utiliser pour la communication sur ce projet sur lequel je travaille. Je me suis réveillé en novembre et j’ai découvert que je ne pouvais plus accéder. Le message de Google a déclaré: « Gmail semble être utilisé pour envoyer un contenu inutile, donc mon accès est » globalement restreint. Le spam viole la politique de Google. Le mémo a déclaré que cette décision avait été prise par le «traitement automatique» et pourrait soumettre un appel s’il était faux.
Je n’ai pas envoyé de spam, donc je ne pouvais pas imaginer pourquoi l’algorithme de Google m’a eu. Il est devenu difficile de savoir quoi écrire dans la zone de texte « appel ». Et « Aidez-moi, j’ai vraiment besoin d’accéder à mon e-mail et à mon fichier. » (J’ai remarqué que mon soulagement bon marché n’avait pas perdu accès à mon disque plus tard.)
Deux jours plus tard, « après avoir confirmé l’appel, l’accès au compte reste restreint pour ce service ». Je l’ai réessayé, mais j’ai été refusé à nouveau. Je l’ai fait quelques fois de plus – à ce moment, j’étais curieux de savoir combien cette boucle Doom pourrait durer. À première vue, il a été suggéré que d’autres avaient vécu la même chose. Enfin, j’ai abandonné. (Google a refusé de commenter le dossier.)
L’une des réponses générales aux autorités réglementaires sur le problème de la façon de rendre les décisions automatisées plus « équitables » est de prétendre que les gens peuvent demander aux gens de les revoir. Mais quelle est l’efficacité de ce traitement? Dans l’un, les humains ont tendance à être une « satisfaction automatisée ». Cela a tendance à trop faire trop confiance à la machine. Par exemple, dans le cas d’un scandale de poste de poste au Royaume-Uni, le juge en 2019 était « simple », le sous-poste de Post était « simplement » parce que le maître de sous-poste a été accusé d’être volé et accusé d’un système informatique incorrect Appelé Horizo N. J’ai conclu que cela montrait l’entêtement institutionnel, ou pour prendre en compte ce que de leur horizon.
Ben Green, un expert juste au cœur de l’Université du Michigan, dit que certaines organisations peuvent avoir un problème pratique. « Dans de nombreux cas, les entraîneurs humains ont un horaire difficile. Il existe de nombreuses critiques », a-t-il déclaré. « Dans de nombreux cas, j’ai vu, lorsque la décision était basée sur une prédiction statistique », a-t-il dit, « pourquoi sont-ils bons pour les faire? Êtes-vous doué pour les évaluer?
Après que ma colère impuissante à propos de mon e-mail ait été bouillie, j’ai constaté que Google avait une certaine sympathie. Les systèmes automatisés sont le seul moyen pratique de détecter les violations des politiques en raison de très nombreux clients. Et je pense qu’il est profondément injuste que je dois pétitionner pour mon cas sans savoir que le système a déclenché, et l’explication des pièges pour éviter l’appel, et que je dois pétitionner mon cas. mécanismes du système. C’est un mauvais acteur de l’éviter.
Mais c’est le point. Dans un système de plus en plus automatisé, l’objectif de la justice dans la procédure – l’objectif que les gens estiment que le processus est juste pour eux est qu’ils sont en conflit avec d’autres objectifs, tels que l’efficacité, la vie privée et les besoins de sécurité. Il n’y a pas de moyen facile d’éliminer ces échanges.
Lorsque j’ai décidé d’écrire sur mon expérience dans cette colonne, j’ai envoyé un e-mail au bureau de presse de Google pour voir si je pouvais discuter du problème. À la fin de la journée, l’accès au compte de messagerie a été restauré. Bien sûr, j’étais content, mais je ne pense pas que beaucoup de gens soient particulièrement justes.
