Chicago: En tant que femme d’Afrolatina titulaire d’un diplôme en génie informatique et électrique, Maya de Los Santos espère défier les tendances en construisant une carrière dans l’IA, un domaine dominé par les hommes blancs.
L’IA a besoin d’elle, disent les experts et les observateurs.
Les perspectives et les préjugés intégrés qui plongent involontairement leurs créateurs peuvent mettre en danger les outils numériques à croissance rapide car ils sont utilisés pour prendre des décisions importantes dans des domaines tels que le processus d’emploi, les soins de santé, les finances et les forces de l’ordre.
« Je suis intéressé par une carrière dans l’IA parce que je veux comprendre comment les communautés marginalisées peuvent être protégées des risques et des risques de l’IA, informés, et comment ils en bénéficient », a déclaré De Los Santos, étudiant universitaire de première génération aux États-Unis.
« Cette inégalité et cette biais qui existent dans la société sont reproduits dans l’IA amené à des scénarios à très haut débit et à l’environnement, et est fiable sans pensée plus critique. »
Selon un rapport de l’UNESCO, les femmes représentent 26% de la main-d’œuvre de l’IA, tandis que les hommes détiennent 80% des professeurs titulaires des facultés d’IA universitaires du monde entier.
L’analyse des données du recensement de l’Université de Georgetown 2022 montre que les Noirs et les Hispaniques sont également sous-estimés par la main-d’œuvre de l’IA.
Parmi les professions techniques de l’IA, les Hispaniques occupaient environ 9% des emplois, tout en conservant globalement plus de 18% des emplois américains. Les travailleurs noirs occupaient environ 8% des emplois techniques de l’IA, mais cela dit, par rapport à près de 12% des emplois américains dans l’ensemble.
Biais d’IA
De Los Santos commencera bientôt son programme de doctorat en interaction informatique humaine à l’Université Brown à Providence, Rhode Island.
Elle a dit qu’elle voulait comprendre les problèmes de confidentialité et les biais d’IA, également appelés algorithmes ou biais d’apprentissage automatique, ainsi que comment éduquer les communautés marginalisées autour de la technologie de l’IA.
En tant qu’ingénieurs logiciels créant des technologies de résolution de problèmes, le biais imprègne involontairement certains systèmes d’IA, intégrant des perspectives uniques et des ensembles de données souvent restreints.
Amazon.com a abandonné son outil de recrutement d’IA lorsqu’il a découvert qu’il avait choisi des curriculum vitae qui favorisait les hommes par rapport aux femmes. Le système a formé des candidats aux vétérinaires en observant des modèles de curriculum vitae soumis à l’entreprise pendant une décennie.
La plupart d’entre eux venaient d’hommes. Cela reflétait la domination masculine à travers l’industrie, et en fait, a appris ce que les candidats masculins seraient souhaitables.
« Si les personnes d’un plus large éventail d’expériences de vie, d’identités et de milieux aident à façonner l’IA, ils sont plus susceptibles d’identifier différents besoins, de poser différentes questions et d’appliquer l’IA de nouvelles façons », a déclaré Tess Posner, PDG d’une organisation à but non lucratif qui travaille à développer un pipeline complet de professionnels de l’IA.
« L’inclusion rendra les solutions créées par l’IA plus pertinentes pour plus de personnes », explique Posner.
Promotion de la diversité
L’AI4ALL compte De Los Santos depuis 2015 comme l’un des 7 500 étudiants qui les ont aidés à naviguer dans les obstacles dans l’IA.
En ciblant les groupes historiquement sous-estimés, les organisations à but non lucratif visent à diversifier la main-d’œuvre de l’IA.
Selon LinkedIn, l’emploi de l’ingénieur de l’IA est l’un des postes de croissance la plus rapide au monde et la croissance la plus rapide aux États-Unis et au Royaume-Uni.
Posner a déclaré que la promotion de la diversité signifie qu’elle commence au début de l’éducation en élargissant l’accès aux cours d’informatique pour les enfants.
Environ 60% des écoles secondaires publics offrent à cette classe qui est peu susceptible d’être accessible par les Noirs, les Hispaniques et les Amérindiens.
Il est important de s’assurer que les étudiants des groupes sous-estimés connaissent l’IA comme une carrière potentielle, de créer des stages et de travailler avec des mentors.
Les efforts pour représenter de plus en plus la société américaine se heurtent à la réaction du président Donald Trump contre le gouvernement fédéral, l’enseignement supérieur et les programmes de diversité, d’équité et d’inclusion (DEI) au niveau de l’entreprise.
Le bureau et les programmes du gouvernement du gouvernement américain ont été licenciés et les entrepreneurs fédéraux sont interdits d’utiliser des actions positives dans l’emploi. Les entreprises de Goldman Sachs à PepsiCo ont suspendu ou réduit leurs programmes de diversité.
Saffyan Noble, professeur à l’Université de Californie à Los Angeles et fondateur du Center for Resilience and Digital Justice, a déclaré qu’il craignait que les attaques gouvernementales contre Dei sape les efforts pour créer des opportunités pour des groupes marginalisés de l’IA.
« Une façon de supprimer tout type de progrès sur les droits civils est de déposer des allégations selon lesquelles les entreprises technologiques et les sociétés de médias sociaux peuvent l’utiliser pour des messages sur les droits civils et humains », a déclaré Noble.
« Nous examinons les preuves en contrecoup contre des mouvements comme Black Lives Matter et les allégations de préjugés anti-conservateurs », a-t-elle déclaré.
À l’échelle mondiale, entre 2021 et 2024, l’UNESCO affirme que le nombre de femmes travaillant pour l’IA n’a augmenté que de 4%.
Les progrès peuvent être lents, mais Posner a déclaré qu’elle était optimiste.
« Il y avait beaucoup d’engagement envers ces valeurs », a-t-elle déclaré.
« Je ne pense pas que cela ait changé. Même en tant que société, nous travaillons sur ce que cela signifie vraiment et comment tout faire en même temps. » – Fondation Thomson Reuters
