Twitter pagará R$ 18 mil para quem arrumar preconceito racial de algoritmo

O Twitter está criando uma nova competição entre pesquisadores e hackers, com o objetivo de encontrar alguém capaz de corrigir o suposto preconceito racial e de gênero em seu algoritmo de corte de imagens, segundo informações do Business Insider.

A competição, que oferecerá uma recompensa de US$ 3.500 dólares (em torno de R$ 18 mil reais), quer ajuda para identificar possíveis danos que o algoritmo tenha sofrido. Além dos vencedores, os vice-campeões também serão recompensados ​​financeiramente.

• O que os empreendedores de sucesso têm em comum? Inovação é a chave de 2021

"Chamando todos os caçadores de recompensas! Acabamos de lançar todos os detalhes de nosso desafio de recompensas que está aberto até 6 de agosto", mostra informações do site da empresa. "Com este desafio, pretendemos estabelecer um precedente no Twitter e na indústria para a identificação proativa e coletiva de danos algorítmicos", acrescentaram.

A ação acontece depois que um grupo de pesquisadores descobriu que o algoritmo favorecia mais pessoas brancas do que pessoas negras e mais mulheres do que homens. No ano passado, o estudante de doutorado Colin Madland revelou o problema em um tweet, quando mostrou que a plataforma de vídeochamadas Zoom apagava o rosto de um homem negro quando ele usava um fundo verde.

A faculty member has been asking how to stop Zoom from removing his head when he uses a virtual background. We suggested the usual plain background, good lighting etc, but it didn't work. I was in a meeting with him today when I realized why it was happening.

— Colin Madland 🇺🇦🇮🇷 (@colinmadland) September 19, 2020

O vencedor do concurso também será convidado a apresentar seu trabalho no workshop DEF CON AI Village promovido pelo Twitter em agosto. "As inscrições bem-sucedidas levarão em consideração métodos quantitativos e qualitativos em sua abordagem", afirmou a empresa.

Segundo informações do Insider, algoritmos de aprendizado de máquina, como o usado pelo Twitter, dependem de vastos conjuntos de dados. Se esses conjuntos de dados forem ponderados a favor de uma raça, gênero ou qualquer outra coisa em particular, o algoritmo resultante pode então refletir essa tendência.

Confirmado em estudo

Depois dos relatos nas redes sociais, a divisão de engenharia da plataforma realizou um estudo para verificar o que de fato acontecia com o algoritmo quando exposto a fotos com pessoas negras. Publicado em maio deste ano, a análise concluiu que algoritmo criava uma diferença de 8% em favor das mulheres e de 4% em relação a pessoas brancas. Entre as razões possíveis para o fenômeno, o Twitter afirma que acontece devido a problemas com fundos de imagens e cor dos olhos. Mas no relatório os pesquisadores ponderaram que a falha não se justifica. 

“O corte de imagem baseado em aprendizado de máquina é fundamentalmente falho porque remove a capacidade do usuário e restringe a expressão de sua identidade e seus valores, em vez de impor um olhar normativo sobre qual parte da imagem é considerada a mais interessante”, escreveram os pesquisadores.

Assine a EXAME e acesse as notícias mais importante em tempo real.