Malgré nos meilleurs efforts pour rationaliser le processus d’embauche pour les outils d’emploi de l’IA, nos meilleurs efforts pour rationaliser le processus d’embauche pour les pools de candidats visent à ouvrir des portes à un futur employé plus large.
Les outils d’embauche de l’IA sont devenus omniprésents, avec 492 entreprises du Fortune 500 utilisant des systèmes de suivi des candidats pour rationaliser le recrutement et l’emploi en 2024. Bien que ces outils aident les employeurs à dépister plus de demandeurs d’emploi et à identifier les expériences pertinentes, les ressources humaines et les experts juridiques avertissent que la formation et la mise en œuvre inappropriées et la mise en œuvre des techniques de recrutement peuvent promouvoir les biais.
La recherche fournit des preuves difficiles de la discrimination en matière d’emploi de l’IA. L’année dernière, la University of Washington Information School a annoncé dans une projection de CV des AI assistées dans neuf professions en utilisant 500 applications, la technologie a soutenu les noms liés aux blancs dans 85,1% des cas et 11,1% des noms liés aux femmes. Dans certains contextes, les participants noirs étaient désavantagés par rapport à leurs homologues masculins blancs dans jusqu’à 100% des cas.
« En obtenant simplement cette boucle de rétroaction positive, nous formons nos modèles biaisés avec des données de plus en plus biaisées », a déclaré à Fortune Kyra Wilson, doctorante à l’école d’information de l’Université de Washington et auteur principal de l’étude. « Nous ne savons vraiment pas où le capuchon est toujours sur la gravité de ce qu’il sera mauvais avant que ces modèles ne cessent de fonctionner parfaitement. »
Certains travailleurs affirment qu’ils voient des preuves de cette discrimination en dehors d’un cadre expérimental. Le mois dernier, cinq plaignants âgés de 40 ans et plus ont fait valoir dans un recours collectif selon lequel la société de logiciels de gestion de travail Workday a des compétences discriminatoires de dépistage des demandeurs d’emploi. Le demandeur Derek Mobley, dans son premier procès l’année dernière, a affirmé que l’algorithme de l’entreprise avait été rejeté par plus de 100 emplois en sept ans en raison de sa race, de son âge et de son handicap.
Workday a refusé de discriminer les réclamations et a déclaré que dans un communiqué de propriété, le procès était « aucun mérite ». Le mois dernier, la société a annoncé qu’elle avait reçu deux certifications tierces pour son « engagement à développer l’IA de manière responsable et transparente ».
« Les outils de recrutement d’IA de la journée de travail ne prennent pas de décisions en matière d’emploi. Nos clients maintiennent le contrôle total du processus d’emploi et de la surveillance humaine », a déclaré la société. « Nos capacités d’IA ne considèrent que les qualifications énumérées dans les candidatures candidats et les comparer avec les qualifications identifiées par les employeurs comme requis pour leur travail. Ils n’utilisent pas ni même identifient les caractéristiques protégées. »
Il ne s’agit pas seulement d’embaucher les outils avec des problèmes. Au nom de 200 employés handicapés, une lettre envoyée aux dirigeants d’Amazon, dont le PDG Andy Jassy, a affirmé que la société avait une loi sur les personnes handicapées. Amazon aurait forcé les employés à prendre des décisions concernant l’hébergement en fonction d’un processus d’IA qui n’adhère pas aux normes ADA. Amazon a déclaré à Fortune que l’IA n’avait pas pris de décision finale sur l’hébergement des employés.
« Nous comprenons l’importance de l’utilisation responsable de l’IA et examinons le processus conformément aux directives solides pour garantir que l’intégration de l’IA est réfléchie, juste et fiable », a déclaré le porte-parole à Fortune dans un communiqué.
Comment les outils d’emploi de l’IA peuvent-ils être discriminatoires?
Comme les autres applications d’IA, cette technologie n’est aussi intelligente que les informations fournies. Selon Elaine Pulakos, PDG de Pearson’s PDRI, la plupart des travaux de l’IA en évaluant le dépistage de curriculum vitae ou le dépistage de curriculum vitae et en évaluant les questions d’entrevue. Ils sont formés sur des modèles existants d’entreprises qui évaluent les candidats. Cela signifie que les modèles sont susceptibles de perpétuer les biais qui pourraient conduire à des «résultats étranges», comme un effondrement des données démographiques qui indiquent des préférences pour les candidats masculins et les universités de la Ivy League.
« Si vous n’avez aucune garantie sur les données que vous entraînez votre IA et que vous ne vous assurez pas que votre IA ne tombe pas du rail et commencez à halluciner, et que vous faites quelque chose de bizarre en cours de route, alors vous faites quelque chose de bizarre », a-t-elle déclaré à Fortune. « C’est juste la nature d’une bête. »
Parce qu’une grande partie des biais dans l’IA provient du biais humain, selon Pauline Kim, professeur de droit à l’Université de Washington, la discrimination en matière d’emploi de l’IA existe à la suite de la discrimination de l’emploi humain, mais reste répandue aujourd’hui. Des repères de 90 études dans six pays 2023 La méta-analyse de l’Université du Nord-Ouest a révélé des biais persistants et plus larges, y compris les employeurs appelant les candidats blancs en moyenne 36% de plus que les candidats noirs et 24% de plus que les candidats latinos ayant un curriculum vitae identique.
Selon Victor Schwartz, directeur associé de la gestion des produits technologiques pour la plate-forme de recherche de travail à distance, la mise à l’échelle rapide de l’IA sur le lieu de travail peut inciter ces flammes.
« Il est beaucoup plus facile de construire un système d’IA équitable et de l’étendre à 1 000 heures d’emplois équivalents des personnes. Plutôt que de former 1 000 heures de personnes équitablement, nous l’élargissons à 1 000 heures de personnes », a déclaré Schwartz à Fortune. « Encore une fois, il est beaucoup plus facile d’être extrêmement discriminatoire que de former 1 000 personnes à être discriminatoires. »
« Vous apercevez la courbe naturelle qui traverse beaucoup de gens », a-t-il ajouté. « Cela nous donne l’occasion. Il y a aussi le risque. »
Comment les RH et les experts juridiques luttent sur les biais d’emploi de l’IA
Les employés sont protégés contre la discrimination en milieu de travail par le biais du comité des opportunités d’égalité des opportunités d’emploi et du titre VII de la loi sur les droits civils de 1964, mais « il n’y a pas de réglementation officielle concernant la discrimination de l’emploi de l’IA », a déclaré le professeur Kim.
Les lois existantes sont interdites contre la discrimination influencée à la fois intentionnelle et différentielle. Cela fait référence à la discrimination qui se produit à la suite de politiques d’affichage neutres, même si elle n’est pas destinée.
« Si les employeurs construisent des outils d’IA et n’ont aucune intention de faire de la discrimination, si les candidats dépistés à partir de la piscine sont supérieurs à 40 ans, cela aura un effet différent sur les travailleurs âgés », a déclaré Kim.
Différentes théories de l’influence sont établies par la loi, mais le président Donald Trump a déclaré qu’il avait révélé une hostilité envers cette forme de discrimination en tentant de l’éliminer par le biais d’un décret d’avril.
« Des institutions comme l’EEOC n’essaient pas de poursuivre des cas avec différents impacts, ou essaient de comprendre la possibilité que ces technologies puissent avoir des impacts individuels », a déclaré Kim. « Ils reculent vraiment de leurs efforts pour comprendre et éduquer leurs employeurs sur ces risques. »
La Maison Blanche n’a pas immédiatement répondu à la demande de commentaires de Fortune.
Avec peu d’efforts de niveau fédéral pour lutter contre la discrimination en matière d’emploi de l’IA, les politiciens de niveau local ont cherché à aborder les biais technologiques potentiels, y compris une ordonnance de New York qui interdit aux employeurs et aux agences d’utiliser des «outils de décision automatisés».
Stradley Ronon Stevens & Young, avocat et associé de l’emploi chez LLP, Melanie Ronen, a déclaré que d’autres lois d’État et locales étaient axées sur la fortune.
Les entreprises derrière l’emploi de l’IA et les évaluations du lieu de travail, telles que PDRI et BOLD, ont déclaré qu’elles se sont engagées pour atténuer le biais technologique alors que le PDG du PDRI Pulakos défend les évaluateurs humains pour évaluer les outils d’IA avant la mise en œuvre.
Schwartz, directeur de la gestion des produits de la technologie Bold, a fait valoir que les garde-corps, les audits et la transparence devraient être importants pour s’assurer que l’IA peut mettre en œuvre des pratiques d’emploi équitables, mais que la technologie pourrait également diversifier la main-d’œuvre de l’entreprise si elle est appliquée correctement. Il a cité des études montrant que les femmes ont tendance à postuler à moins d’emplois que les hommes. Si l’IA des demandeurs d’emploi peut rationaliser le processus de demande, ils peuvent supprimer les obstacles pour ceux qui sont peu susceptibles de postuler à un poste particulier.
« Vous pouvez prendre l’arène un peu en supprimant cette barrière à l’aide de ces outils appliqués automatiquement ou des outils appliqués par des experts », a déclaré Schwartz.
