Assédio contra assistentes virtuais dotadas de Inteligência Artificial acende o alerta sobre abusos, seja no mundo digital, seja na vida real.
O uso de assistentes virtuais de voz, presentes em vários dispositivos, está se popularizando com rapidez. Só nos Estados Unidos, estima-se que 110 milhões de pessoas façam uso de tecnologias do tipo. Siri (da Apple), Cortana (da Microsoft) e Alexa (da Amazon) são os nomes mais conhecidos em uma lista que vem crescendo. Incansáveis e dispostas, nos auxiliam em diversas tarefas como pesquisar informações e dar comandos para aplicativos e aparelhos eletrônicos, sempre com respostas gentis e tom acolhedor.
Curiosamente, e talvez não tão por acaso assim, as três ferramentas citadas têm nomes que remetem ao gênero feminino e possuem vozes femininas, por padrão. O Google Assistant, embora tenha nome genérico, também fala com voz de mulher. E a postura dessas assistentes, que por vezes beira a completa subserviência, tem ensejado uma série de abusos por parte dos usuários.
As tecnologias de comunicação nos permitem interagir com milhares de pessoas e, ainda assim, cresce no mundo o número de solitários. Como resultado, essas ferramentas são usadas com frequência para conversas íntimas e de conteúdo sexualizado. Já em 2016 o diretor executivo da Robin Labs, Ilya Eckstein, destacava como a ferramenta Robin, criada por sua empresa para auxiliar no trânsito, recebia grande volume de mensagens com conotação sexual. Os principais usuários eram caminhoneiros e adolescentes que viam em Robin uma forma de entretenimento.
No ano passado a Revista Veja registrou em uma reportagem as respostas das principais assistentes virtuais quando interpeladas com a frase “você é gostosa”. Alexa reagia com um “Gentileza sua dizer isso”, Google Assistant fazia graça dizendo “Tenho meu lado caliente. Alguns dos meus data centers funcionam a quase 40 graus”, Siri tentava sair pela tangente com um “Nas nuvens, todos são bonitos” e apenas Cortana conseguia ser mais evasiva: “É melhor a gente falar sobre outra coisa”. Nenhuma delas, contudo, rechaçava com veemência o comentário inadequado.
Esse panorama vem chamando a atenção de estudiosos e motivou a elaboração de um relatório pela Unesco (Organização das Nações Unidas para a Educação, a Ciência e a Cultura). Chamado de “Eu ficaria vermelha, se pudesse”, o trabalho reuniu uma série de reflexões sobre as causas e implicações dessa realidade. O título da publicação é a resposta que a assistente Siri dava até 2017 para a frase “você é uma p***”.
O relatório frisa que a preponderância de assistentes com voz feminina reforça a noção ultrapassada de que as mulheres devem assumir posturas dóceis e servis, estão sempre prontas a ajudar e devem tolerar abusos. E mais: percebe-se que os comportamentos agressivos e abusivos para com esses sistemas são análogos às relações reais nas quais impera a submissão de um dos lados. Como os softwares são programados para não contestar qualquer ameaça, os usuários se sentem superiores, no direito de interpelá-las como bem entendem.
Reflexo virtual de um problema bastante real
“Inteligência artificial não é algo místico ou mágico. É algo que o ser humano produz, um reflexo direto da sociedade que criou a tecnologia”. Ao afirmar isso, a Diretora da Divisão de Igualdade de Gênero da Unesco, Gülser Corat, traz para a discussão a responsabilidade que os desenvolvedores dos sistemas têm sobre o comportamento de suas criações. Já até falamos aqui sobre os vieses que fazem os algoritmos reproduzirem discriminação de raça ou gênero, fruto das visões que, intencionalmente ou não, são incutidas em suas diretrizes no seu processo de programação.
Os baixos índices de diversidade caracterizam o setor de desenvolvimento tecnológico. Em comparação com a presença masculina, a participação feminina é reduzida. Nos EUA, apenas um quarto das vagas em programação e matemática é preenchido por mulheres – número ligeiramente inferior ao observado na década de 1960. Em se tratando especificamente da área de IA, a proporção é ainda mais discrepante: só 12% das pesquisadoras e 6% das desenvolvedoras de software são mulheres. Em um cenário tão predominantemente masculino, as necessidades e pontos de vista femininos acabam não sendo atendidos a contento.
Uma das iniciativas que tenta oferecer uma alternativa é a da agência de publicidade norte-americana Virtue, que reuniu engenheiros de som e linguistas de diversas orientações sexuais e identidades de gênero para desenvolver uma voz “neutra” para assistentes de IA. O resultado foi o sistema batizado de Q, derivado da palavra queer, que em inglês se refere a pessoas de gêneros e orientações sexuais variadas. Em sua apresentação, Q convida à cooperação: “Preciso de sua ajuda. Juntos, podemos assegurar que a tecnologia reconheça a todos nós”.
A Unesco também se mobilizou, lançando em parceria com a agência de Comunicação SunsetDDB o movimento “Hey, atualize minha voz!”. A proposta é alertar para a importância da educação cibernética e do respeito às assistentes de voz e conclamar as grandes empresas de tecnologia a aprimorar seus sistemas para responder de forma adequada a interlocuções desrespeitosas.
Segundo dados colhidos pelo movimento, 73% das mulheres reais afirmaram já ter sofrido algum tipo de assédio em ambientes online. Permitir que os abusos possam ser feitos às assistentes virtuais livremente é uma forma demonstrar conivência com atitudes como essa, tendo em vista que seus sistemas estão cada vez mais realistas, mimetizando cada vez melhor a interação humana.
Se um homem se sente no direito de ser abusivo com uma mulher virtual por se sentir superior a ela, por que não faria o mesmo com uma parceira de carne e osso? A grande urgência consiste nisso: em pleno século 21, não há mais espaço para relações assim – nem mesmo com alguém “de mentira”.
—
Na imagem, reprodução do vídeo de apresentação da assistente virtual Q
