Os algoritmos de inferência demográfica usam dados sobre raça, etnia, gênero e nomes para adivinhar as características de outras populações.
No entanto, essas previsões às vezes são erradas e podem ser limitantes.
Um estudo recente mostrou que as mulheres são identificadas incorretamente 3,5 vezes mais do que os homens e 80% das pessoas negras com pais altamente educados são classificadas incorretamente em termos de raça. Isso mostra que muitas facetas importantes da vida das pessoas não podem ser inferidas pelos nomes.
Os usuários desses algoritmos devem considerar se é eficaz, justificado e defensável inferir o gênero, raça e etnia de outras pessoas em relação ao seu projeto de pesquisa. Alternativas como pesquisas respeitam o consentimento e permitem categorias mais diversas.
Os projetistas de algoritmos devem divulgar informações sobre o desempenho do subgrupo e da população cruzada para ajudar os usuários a entender melhor a validade e confiabilidade dessas ferramentas.
Gosta do nosso conteúdo?
Este texto foi gerado com o auxílio de ferramentas de IA. Viu algum erro? Avise!
