Oficina da Net Logo

Amazon recolhe ferramenta secreta de recrutamento de IA com preconceito contra as mulheres

Os especialistas em aprendizado de máquina da Amazon descobriram um grande problema no seu novo mecanismo de recrutamento.

Por | @fsbeling Amazon Pular para comentários

Desde 2014, a equipe estava construindo programas de computador com o propósito de revisar os currículos dos candidatos a emprego para mecanizar a busca por talentos, conforme cinco pessoas familiarizadas com o assunto, sob anonimato, relataram à Reuters.

Segundo informações dessas pessoas, a automação tem sido fundamental para o domínio do comércio eletrônico da Amazon, tanto dentro de armazéns ou então impulsionando decisões de preços. A ferramenta de contratação experimental da empresa utilizou inteligência artificial para dar aos candidatos a vagas de emprego pontuações que variam de uma a cinco estrelas, da mesma forma que os compradores classificam os produtos na Amazon,completaram.

"Todo mundo queria esse santo graal", disse uma das pessoas. "Eles literalmente queriam que fosse um motor onde eu lhe daria 100 currículos, ele cuspiria os cinco primeiros e nós os contratamos".

IA da Amazon estaria selecionando apenas candidatos masculinosIA da Amazon estaria selecionando apenas candidatos masculinos Leia em destaque: Amazon está vendendo eletrônicos no Brasil .

Contudo, em 2015, a empresa percebeu que seu novo sistema não classificava candidatos para empregos de desenvolvedores de software e outros cargos técnicos de maneira neutra em termos de gênero. A princípio, isso teria ocorrido porque os modelos de computador da Amazon foram treinados para examinar os candidatos observando padrões em currículos enviados à empresa durante um período de 10 anos, onde a maioria é homem, um reflexo do domínio masculino em toda a indústria de tecnologia.

Com isso, o sistema da Amazon identificou que os candidatos do sexo masculino eram preferíveis, passando então a penalizar os currículos que incluíam a palavra "mulheres", como "capitão do clube de xadrez feminino". Além disso, de acordo com essas pessoas, o sistema teria rebaixado os graduados de duas faculdades para mulheres, porém, o nome das instituições não foram reveladas. 

Neste contexto, a Amazon editou os programas para torná-los neutros em relação a esses termos, mas isso não garantia que as máquinas não encontrariam outras maneiras de classificar candidatos que poderiam ser discriminatórios, complementaram as pessoas. 

No início do ano, a empresa de Seattle teria acabado com a equipe porque os executivos perderam a esperança pelo projeto, segundo as pessoas, que falaram sob condição de anonimato a Reuters. Embora, a ferramenta contribuísse para o processo de seleção dos candidatos, os recrutadores da Amazon nunca confiaram apenas nesses rankings, afirmaram eles. 

Entretanto, a Amazonteria recusado se manifestar sobre o mecanismo de recrutamento, assim como sobre seus desafios, mas, por outro lado, teria afirmado estar comprometida com a diversidade e a igualdade no local de trabalho. 

A experiência da empresa, relatada pela Reuters, oferece um estudo de caso sobre as limitações do aprendizado de máquina, além de servir de lição para as outras companhias que buscam automatizar partes do processo de contratação. 

Segundo uma pesquisa de 2017 da empresa de software de talentos CareerBuilder,  cerca de 55% dos gerentes de recursos humanos dos EUA disseram que a inteligência artificial, ou IA, seria uma parte regular de seu trabalho nos próximos cinco anos. 

Há muito tempo que os empregadores sonham em aproveitar a tecnologia para ampliar a rede de contratação e reduzir a confiança nas opiniões subjetivas dos recrutadores humanos. Mas na opinião do cientistas da computação Nihar Shah, que ensina aprendizado de máquina na Universidade Carnegie Mellon,  ainda há muito trabalho a fazer. "Como garantir que o algoritmo é justo, como ter certeza de que o algoritmo é realmente interpretável e explicável, isso ainda está muito longe", disse Nihar Shah.

Linguagem Masculina

Com o crescente número de contratações da Amazon, a companhia teria montado um nova equipe no centro de engenharia da Amazon em Edimburgo, onde o principal objetivo era desenvolver uma inteligência artificial que pudesse rastrear rapidamente a web e identificar candidatos que valessem a pena recrutar, disseram as pessoas a par do assunto. 

O grupo criou 500 modelos de computador focados em funções e locais específicos de trabalho. Eles ensinaram cada um a reconhecer cerca de 50.000 termos que apareceram nos currículos dos candidatos anteriores. Os algoritmos aprenderam a atribuir pouco significado às habilidades que eram comuns entre os candidatos de TI, como a capacidade de escrever vários códigos de computador, disseram as pessoas. 

Em vez disso, a tecnologia favoreceu os candidatos que se descreviam usando verbos mais comumente encontrados nos currículos dos engenheiros do sexo masculino, como "executado" e "capturado", disse uma pessoa. 

Amazon recolhe ferramenta secreta de recrutamento de IA com preconceito contra as mulheresOutro problema, seria em relação ao candidatos não qualificados, os quais o sistema teria recomendado para todas as vagas.

O viés de gênero não foi o único problema. Problemas com os dados que sustentaram os julgamentos dos modelos fizeram com que candidatos não qualificados fossem frequentemente recomendados para todos os tipos de trabalho, disseram as pessoas. Com a tecnologia retornando os resultados quase ao acaso, a Amazon fechou o projeto, disseram eles. 

Tentativas

Outras empresas estão avançando, ressaltando a ânsia dos empregadores em aproveitar a inteligência artificial para contratação. 

A automação está ajudando as empresas a enxergar além das mesmas redes de recrutamento sobre as quais há muito se baseiam. Sua empresa analisa os discursos e expressões faciais dos candidatos em entrevistas em vídeo para reduzir a dependência de currículos, ressaltou Kevin Parker, executivo-chefe da HireVue, uma startup perto de Salt Lake City. “Você não voltaria aos mesmos lugares antigos; você não voltaria apenas para as escolas da Ivy League ", disse Parker. Os clientes de sua empresa incluem a Unilever PLC (ULVR.L) e a Hilton. 

A Goldman Sachs criou sua própria ferramenta de análise de currículos, que tenta relacionar os candidatos com a divisão onde eles seriam “os melhores”, disse a empresa. 

O LinkedIn, da Microsoft, é a maior rede profissional do mundo e foi mais longe. Ele oferece aos empregadores classificações algorítmicas de candidatos com base em sua adequação para anúncios de emprego em seu site. Ainda assim, John Jersin, vice-presidente da LinkedIn Talent Solutions, disse que o serviço não é um substituto para os recrutadores tradicionais.

"Eu certamente não confiaria em nenhum sistema de IA hoje para tomar uma decisão de contratação por conta própria", disse ele. "A tecnologia ainda não está pronta." 

A American Civil Liberties Union está atualmente contestando uma lei que permite o processo criminal de pesquisadores e jornalistas que testam a contratação de algoritmos de sites para discriminação. "Estamos cada vez mais focados na equidade algorítmica como um problema", disse Rachel Goodman, advogada do Programa de Justiça Racial da ACLU. 

Mesmo assim, Goodman e outros críticos da AI reconheceram que seria extremamente difícil processar um empregador por causa da contratação automatizada, isso porque talvez os candidatos a vaga de emprego talvez nunca soubessem que estava sendo utilizada no processo de seleção.

Quanto à Amazon, a empresa conseguiu resgatar parte do que aprendeu com seu experimento de IA falho. Isso porque, agora, estaria utilizando uma “versão muito diluída” do mecanismo de recrutamento para ajudar em algumas tarefas rudimentares, incluindo a seleção de perfis de candidatos duplicados de bancos de dados, disse uma das pessoas familiarizadas com o projeto. 

Para finalizar, as pessoas que cederam essas informações a Reuters, declararam que a nova equipe em Edimburgo foi formada para dar mais uma chance ao rastreamento automatizado de empregos, mas, desta vez com foco na diversidade.

Como podemos notar nas declarações e experiências de companhias que utilizaram ou utilizam IA no processo de seleção de seus candidatos a uma vaga de emprego, a ferramenta pode auxiliar, mas não é conclusiva, por isso, nestes casos algumas pessoas poderiam ser prejudicadas pelas escolhas aleatórias da máquina ou então discriminatória, como no caso, da exclusão as mulheres.

 Fonte: Reuters

Comentários
Carregar comentários