Um estudo publicado na revista Science em 2019 revelou que sistemas de IA usados em processos seletivos de emprego podem perpetuar a discriminação e a desigualdade [1].
- Qual é a área de aplicação
de IA?
A área de aplicação da IA abordada
no estudo é a seleção de candidatos a emprego, que é uma área em que os
sistemas de IA estão sendo cada vez mais usados para filtrar e selecionar
candidatos com base em seus currículos e informações pessoais.
- Quais decisões a IA toma no
contexto abordado? Por que o seu uso é visto como antiético?
Com efeito, o sistema da Amazon ensinou a si mesmo que os candidatos do sexo masculino eram preferíveis. Ele penalizava currículos que incluíam a palavra "feminino", como em "capitão de clube de xadrez feminino". E rebaixou os graduados de duas faculdades só para mulheres, de acordo com pessoas familiarizadas com o assunto. Eles não especificaram os nomes das escolas. No contexto abordado, a IA toma decisões sobre quais candidatos devem ser selecionados para avançar no processo seletivo com base em critérios específicos, como experiência de trabalho, formação acadêmica e habilidades específicas. O uso da tecnologia é considerado antiético porque os algoritmos de seleção podem ser enviesados e discriminatórios em relação a certos grupos de pessoas, como mulheres, minorias étnicas e pessoas com deficiência.
- Quais evidências comprovam o
mau uso da tecnologia? Qual o impacto desse uso na sociedade?
As evidências que comprovam o
mau uso da tecnologia incluem estudos que mostraram que os sistemas de IA eram
mais propensos a selecionar candidatos do sexo masculino e de raça branca em
detrimento de candidatos do sexo feminino e de minorias étnicas. Isso ocorre
porque os algoritmos de seleção de emprego são treinados com base em dados
históricos, que refletem preconceitos e desigualdades existentes no mercado de
trabalho.
A Amazon editou os programas
para torná-los neutros para esses termos específicos. Mas isso não era garantia
de que as máquinas não inventariam outras maneiras de classificar candidatos
que pudessem ser discriminatórias, disseram as pessoas.
O impacto desse uso antiético
da IA na sociedade é significativo, pois perpetua e amplifica a discriminação e
a desigualdade já existente no mercado de trabalho. Pode levar a uma menor
representação de mulheres, minorias étnicas e pessoas com deficiência em
determinadas áreas de trabalho e a um agravamento das desigualdades salariais e
de oportunidades de emprego.
- Há algo que possa ser feito
para minimizar o problema apontado?
Para minimizar o problema
apontado, é necessário que sejam tomadas medidas para garantir que os sistemas
de IA usados na seleção de emprego sejam imparciais e justos. Isso pode incluir
a diversificação dos dados de treinamento usados pelos algoritmos, a criação de
políticas de transparência para garantir que as decisões tomadas pelos sistemas
de IA sejam claras e compreensíveis e a realização de auditorias regulares para
detectar e corrigir qualquer viés ou discriminação. Também é importante que as
empresas e organizações que utilizam a IA para seleção de emprego sejam
responsabilizadas pelos resultados e impactos dessas tecnologias em sua força
de trabalho.
Os empregadores há muito
sonham em aproveitar a tecnologia para ampliar a rede de contratação e reduzir
a dependência de opiniões subjetivas de recrutadores humanos. Mas cientistas da
computação como Nihar Shah, que ensina aprendizado de máquina na Universidade
Carnegie Mellon, dizem que ainda há muito trabalho a fazer.
"Como garantir que o
algoritmo seja justo, como garantir que o algoritmo seja realmente
interpretável e explicável - isso ainda está muito longe", disse
ele.
[1] Dastin, J. (2018). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. Disponível em: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G
Comentários
Postar um comentário