Os impactos do assédio contra chatbots e assistentes virtuais

Maria Vittorello | março de 2020

Atualmente, buscamos abandonar algumas práticas diárias baseadas em uma mentalidade coletiva preestabelecida. Esse é o chamado viés inconsciente. Isso quer dizer que os conceitos prévios surgem de algo inconsciente. E, apesar de muitas vezes fugirem à realidade, eles são capazes de estruturar princípios e valores de uma comunidade.

Porém, quem acredita que esses preconceitos só acontecem na “vida real” se engana. Eles estão sendo direcionados a outras vítimas: os chatbots e as assistentes virtuais. Confira por que isso acontece e quais os impactos para as empresas.

viés inconsciente & chatbot

Viés inconsciente e machismo: o reflexo de nossa sociedade

Você já se perguntou por que a maioria das assistentes virtuais caracterizam figuras femininas? E por que será que essas tecnologias são programadas para darem respostas tão passivas?

Se olharmos atentamente para nossa sociedade, perguntas como essas podem ser respondidas facilmente. Isso porque o preconceito é uma ideologia que oprime – em diversas formas – as minorias, tanto na vida real quanto no mundo virtual. Por isso, presenciamos índices tão altos de assédio e violência em nosso dia a dia.

Os dados não mentem

A Kering Foundation, que busca combater a violência contra as mulheres, nos mostra os fatos:

  • 73% das mulheres de todo o mundo já sofreram algum tipo de assédio online;
  • Enquanto isso, 55% relatam ter passado por estresse, ansiedade ou ataques de pânico após sofrerem abusos ou assédios pela internet.

Assim como no mundo, o Brasil também possui números alarmantes. De acordo com o Instituto Locomotiva e o Instituto Patrícia Galvão, 97% das mulheres brasileiras já sofreram assédio em transportes públicos e privados.

Porém, como falamos acima, práticas e cenas como essas não acontecem apenas com mulheres “de verdade”. Confira a seguir como os chatbots e as assistentes virtuais se tornaram um alvo de assédio e preconceito.

A extensão do assédio no campo tecnológico

viés inconsciente & assédio

Podemos dizer que o machismo já ultrapassou os limites da “vida real”. É por isso que casos de assédio envolvendo humanos e máquinas se tornaram comuns.

Mas, por que isso acontece?

Nós vivemos em uma sociedade machista e em um sistema patriarcal. Logo, grande parte da população acredita no viés inconsciente de que o gênero feminino é inferior.

Outro fator que devemos ponderar é a realidade do setor tecnológico. O número reduzido de minorias no campo da programação torna o ramo pouquíssimo diverso. E isso impacta diretamente na maneira como os chatbots são criados e programados.

Desse modo, a vida real se transfere para a tecnologia. Por ser uma área composta majoritariamente por homens, conseguimos enxergar a razão dos robôs “femininos” darem respostas tão passivas, tolerantes e até submissas.

As consequências para as empresas

O real objetivo de chatbots e assistentes virtuais é auxiliar tanto as empresas quanto seus clientes. No campo do atendimento, por exemplo, as Inteligências Artificiais são grandes parceiras dos operadores. Elas conseguem resolver questões simples e deixar apenas os problemas mais complexos nas mãos dos atendentes.

Assim, o Machine Learning (Aprendizado de Máquina) permite que esse bots aprendam com os dados, identifiquem padrões e tomem decisões com menos intervenção humana. No entanto, isso só é possível se eles forem usados com o seu propósito inicial.

Desse modo, uma consequência do viés inconsciente na área da tecnologia é a perda considerável da produtividade dessas ferramentas. Lembre-se de que elas deveriam ser usadas para reduzir as demandas de operadores e apoiar uma série de atividades variadas.

Então, acabar com o preconceito e o assédio destinados aos bots também é importantíssimo para melhorar a performance da sua operação de atendimento.

assédio e inteligência artificial

O viés inconsciente e a preferência por robôs “femininos”

Você sabe por que os chatbots voltados a tarefas domésticas e ao atendimento possuem vozes femininas e os robôs dirigidos a assuntos tecnológicos recebem vozes masculinas?

Mais uma vez, tudo isso é reflexo do viés inconsciente. Tanto Karl MacDoman – professor da Universidade de Indiana – quanto uma pesquisa realizada pela Bloomberg evidenciaram a preferência dos usuários pela voz feminina. Isso porque a maioria das pessoas acredita que essas vozes sejam mais amigáveis e menos “ameaçadoras”. Já as vozes masculinas, são vistas com mais autoridade e poder.

Podemos citar o caso da Alexa – da Amazon – e da Siri – da Apple. Além de auxiliarem em serviços considerados femininos, elas recebem inúmeras mensagens machistas e agressivas. Enquanto isso, assuntos tecnológicos e o respeito ausente às assistentes virtuais são encontrados de sobra em robôs como o Watson, da IBM.

Dessa maneira, podemos constatar que grande parte da sociedade deseja não só uma tecnologia que auxilie suas tarefas, mas também que acate suas ordens. E como as minorias ainda são consideradas inferiores em nossa sociedade, esse papel é inteiramente destinado a elas.

Viés inconsciente: qual a solução para os chatbots?

Mudar uma ideia já convencionada, de forma rápida e abrupta, é praticamente impossível. Por isso, o viés inconsciente de que o gênero masculino é superior ainda está muito presente em nossa sociedade. 

No entanto, é extremamente necessário que as marcas se posicionem e insiram em suas culturas ações que desconstruam esse ideário. No caso das empresas de tecnologia, muitas atitudes podem ser tomadas em relação à criação e programação dos chatbots.

Em 2019, a Unesco lançou um estudo chamado “I’d Blush If I Could” (“Eu ficaria corada, se pudesse”). O título faz referência às respostas dadas pela Siri – assistente virtual da Apple – ao lidar com assédio. Então, já percebemos uma certa urgência em mudar esse cenário tão nocivo às minorias.

E assim também surgiu a campanha “Hey, Update My Voice” (em português, “Hey Atualize Minha Voz”) da SunsetDDB em parceria à Unesco. No campo “Sua voz” é permitido gravar mensagens de até 15 segundos com sugestões de respostas “à altura” das perguntas. A partir disso, torna-se possível a criação de um banco de vozes como sugestões para diversas empresas atualizarem seus chatbots.

Além disso, devemos entender que as respostas “padrões” das assistentes virtuais, muitas vezes, são submissas e patriarcais. E educar a sociedade sobre isso é fundamental para mudar esse cenário.

Não se esqueça do papel dos chatbots e das assistentes virtuais. Como falamos, seus desempenhos dependem de como essas ferramentas são utilizadas. Por isso, é importantíssimo direcionar suas respostas e seu aprendizado.

E como podemos fazer nossa parte?

A campanha “Hey, Update My Voice” é uma ótima alternativa para lutarmos contra esse problema.

Outra prática fundamental é diversificar seu setor tecnológico. Quanto maior for o número de minorias nessa área, mais as Inteligencias Artificiais (IA’s) serão programadas a darem respostas adequadas a cada tipo de situação.

Como consequência, sua marca educará não só os colaboradores, mas também os clientes sobre o tema. Então, reprograme sua IA de modo que suas respostas não firam ninguém. 

Com sua ajuda, podemos desconstruir aos poucos esse viés inconsciente. E, ainda, tentar mudar a perspectiva da tecnologia, considerada um ambiente pouco diverso.

Maria Vittorello