Twitter exclui algoritmo de recorte de imagem por viés contra minorias

San Francisco, 19 Mai 2021 (AFP) - O Twitter informou nesta quarta-feira (19) que descartou um sistema automatizado de recorte de imagens após encontrar um viés no algoritmo que controla o recurso.

A plataforma de mensagens revelou que descobriu que o algoritmo fornecia "tratamento desigual com base em diferenças demográficas", favorecendo usuários brancos e masculinos em vez de negros e mulheres, e um viés descrito como "olhar masculino", que se concentrava no peito ou nas pernas de uma mulher.

A notícia chega um mês depois que o Twitter lançou uma iniciativa de equidade algorítmica como parte de um esforço para reduzir os vieses de automação em sua plataforma.

Em 2018, o Twitter introduziu um algoritmo de relevância para o recorte de imagens, com o objetivo de melhorar a consistência do tamanho das fotos na linha do tempo e focar em seus elementos mais importantes.

Rumman Chowdhury, engenheiro-chefe de software do Twitter e especialista em ética e inteligência artificial, explicou que a empresa determinou após sua análise que é preferível deixar as decisões de recorte de imagem para os usuários.

"Nós consideramos as compensações entre a velocidade e a consistência do recorte automatizado com os riscos potenciais que vimos nesta pesquisa", declarou em uma postagem de blog.

"Uma de nossas conclusões é que nem tudo no Twitter é um bom candidato para um algoritmo e, neste caso, a maneira como recortar uma imagem é uma decisão que as pessoas tomam melhor", acrescentou.

O anúncio ocorre em meio a uma preocupação elevada com algoritmos avançados que podem fornecer resultados tendenciosos devido à falta de dados sobre minorias ou outros fatores.

Esta semana, a Amazon anunciou que estava estendendo a proibição do uso de tecnologia de reconhecimento facial por agências de aplicação da lei em meio a temores de que suas falhas poderiam amplificar o preconceito racial.

A iniciativa do Twitter requer "assumir a responsabilidade" por decisões algorítmicas com o objetivo de "equidade e justiça de resultados", de acordo com a empresa.

bur-rl/bfm/mls/yow/am