Em março deste ano, o Twitter desativou o corte automático de fotos devido a reclamações de usuários relatando que havia um favorecimento do sistema para pessoas com rosto branco comparado às que têm a pele negra. Na tentativa de resolver este erro, a empresa lançou uma recompensa para quem resolvesse esse bug em seu aplicativo. Agora, a rede social acabou de anunciar os resultados de uma competição promovida pela empresa que tem como objetivo descobrir se há alguma tendência em seu algoritmo para o recorte de fotos.

Com a competição organizada pelo Twitter, finalmente tivemos a confirmação dos relatos que haviam surgido. O ganhador mostrou que o algoritmo de recorte de fotos do Twitter favorecia rostos que são "magros, jovens, com pele branca e traços femininos". Já os que ficaram em segundo e terceiro lugar, conseguiram demonstrar que o sistema da rede social tem tendência contra pessoas que tem cabelo branco ou grisalho, sugerindo uma discriminação de idade, além de favorecer a escrita em inglês nas imagens postadas ao invés de árabe.

O prêmio do primeiro colocado na competição recebeu US$3500 e foi obtido por Bogdan Kulynych , um estudante de graduação na EPFL, universidade na Suição. Em seu trabalho, ele utilizou um programa de IA chamado StyleGAN2 para gerar uma grande amostra de rostos realistas, onde era possível alterar a cor, os traços faciais, o sexo e a magreza.

Esse preconceito do algoritmo do Twitter é bem abrangente. Prova disso foi a experiência de um dos participantes da competição que demonstrou que a tendência a características físicas específicas das pessoas ocorria até mesmo em emojis, onde os que possuem a cor clara eram favorecidos.

Segundo o juiz da competição, o algoritmo preconceituoso existe em todos os sistemas de IA

De acordo com Patrick Hall, juiz da competição organizada pelo Twitter, muitos sistemas de IA (inteligência artificial) tem discriminação e as empresas precisam trabalhar de forma proativa para encontrá-las.

"IA e machine learning são apenas o Velho Oeste, não importa o quão habilidoso você acha que sua equipe de ciência de dados é. Se você não está encontrando seus bugs, ou a recompensa de bugs não está encontrando seus bugs, então quem está encontrando seus bugs? Porque você definitivamente tem bugs."