Algoritmos racistas: o que é e como afeta afeta pessoas de recorte social

Talvez você não tenha se deparado com o termo algoritmo racista, mas mesmo que você ainda não conheça, saiba que esta é, infelizmente, uma realidade para muitas pessoas que buscam utilizar as diversas tecnologias que temos no nosso dia a dia.

Continue neste artigo e entenda mais como as questões sociais implicam também quando o assunto é inteligência artificial. 

O que é algoritmo racista?

O termo racismo algorítmico surge como uma forma de abarcar o mundo dos preconceitos gerados através de inteligência artificial.

A jornalista e pesquisadora em Cultura e Territorialidades da UFF, Silvana Bahia, conceitualiza o termo algoritmo como “um conjunto de sistemas muito complexos que dão uma ordem para a máquina. O algoritmo consulta bases de dados para construir esses comandos.”

É importante entender que nesta definição, o conjunto de sistemas citado pela jornalista são constituídos por mãos humanas e estão suscetíveis a diversas questões sociais.

A pesquisadora ainda diz: “Há uma ideia de destituir a tecnologia como se ela não tivesse nada a ver com questões sociais como o racismo. Tem muito a coisa de olhar para as tecnologias sem discutir se elas são neutras. A tecnologia é fruto de ação humana.”

Embed: https://youtu.be/3AoJms5eZ9E

Qual a importância de falar sobre este assunto?

Se  sua empresa tem como objetivo trazer soluções inovadores principalmente  com tecnologia, então é preciso entender trabalhar o tema de diversidade e inclusão. E esses são dois elementos de grande relevância se você quer inovação.

Para criar soluções inovadoras é importante entender as dores da sociedade como um todo, pois quanto mais pessoas o seu produto ou serviço atingir mais impacto essa sua solução trará à sociedade.

No contexto brasileiro, segundo dados de 2019 da organização social Olabi, os profissionais da área de tecnologia são em geral homens (68,3%), brancos (58,3%) e heterossexuais (78.9%).

Se por um lado a diversidade se mostra tímida nas empresas de tecnologia, por outro há iniciativas na área que buscam fomentar a inclusão no mercado. Organizações como PretaLab, AfroPython e perifaCode atuam como projetos de empoderamento de mulheres negras, comunidade negra em geral e moradores de regiões periféricas, respectivamente, cada qual com sua necessidade específica de capacitação do público.

Por isso aposte em diversidade na sua equipe e entenda que fazer testes e curadoria do seu produto ou serviço com diferentes tipos de pessoas podem trazer ainda mais inovação para a sua empresa.

Exemplos recentes de viés racista da tecnologia

1. Reconhecimento facial 

Uma funcionalidade da inteligência artificial que hoje é muito comum termos no nosso dia a dia é o reconhecimento facial, entretanto, essa facilidade não está presente na vidade todos por uma questão de viés racista.

No início de 2022, viralizou nas redes sociais uma publicação sobre o sistema do C6Bank que não reconheceu um correntista negro.

Na imagem abaixo, podemos notar que as falhas do sistema foram tão vulgares contra o correntista que até uma foto de ator branco em celular funcionou – mas não a sua imagem não foi reconhecida pela tecnologia.

2. Vaga afirmativa de trabalho

O LinkedIn, rede social utilizada principalmente por pessoas que buscam compartilhar e consumir conteúdo do mundo corporativo, teve casos de excluir vagas prioritárias que eram destinadas para pessoas negras e indígenas.

A posição era para coordenação administrativo-financeira de um centro de pesquisas e a plataforma diz que não permite distinções entre candidatos nos anúncios, apesar da desigualdade no mercado de trabalho

Com esta prática, a rede de negócios estava ignorando a constituição brasileira que permite  a priorização das organizações por pessoas negras, indígenas e de outros grupos minorizados.

3. Resultados de busca

Por fim, em março deste ano, o Canva também foi alvo de utilizar de uma tecnologia com viés racista ao apresentar somente noivas brancas nas 12 primeiras páginas de resultados de imagens da ferramenta.

Confira no blog do Tarcizio Silva uma linha do tempo completa com diversos casos, dados e reações de como a tecnologia racista pode afetar negativamente a experiência de pessoas de recortes sociais quando falamos de raça.