Software de operadoras de saúde nos EUA apresenta viés que privilegia brancos em detrimento de negros.

A palavra algoritmo permaneceu décadas restrita ao vocabulário dos estudiosos e profissionais da Ciência da Computação. A disseminação dos serviços e plataformas digitais trouxe o termo para o cotidiano. É o algoritmo do Uber quem escolhe a melhor rota no trânsito, e o do Facebook determina quem aparece ou não na sua timeline. Ele pode ser definido como uma sequência de raciocínios, instruções ou operações para alcançar determinado objetivo, com etapas cumpridas de forma sistemática.

O desenvolvimento tecnológico vem possibilitando a criação de algoritmos matemáticos cada vez mais complexos, com o objetivo de realizar as mais variadas e ousadas tarefas. Computadores e robôs são programados e dotados de inteligência artificial para trabalhar de forma autônoma, e até mesmo aprender – o tão falado machine learning.

Uma das questões mais discutidas atualmente nesse assunto, da qual já falamos em outro artigo, é a existência de vieses que podem distorcer análises e predições, e até mesmo reproduzir preconceitos. A chamada “discriminação algorítmica” é real e já tem até seu verbete na Wikipédia. 

Mais um estudo recente abordou essa ocorrência, dessa vez realizado por pesquisadores de Berkeley. Publicada na Revista Science, a pesquisa mostrou como um algoritmo utilizado por vários provedores de saúde nos Estados Unidos privilegiava pacientes brancos em detrimento dos negros ao prever quais usuários necessitavam de mais cuidados extras. 

O sistema – cujo nome foi omitido pelos estudiosos mas foi identificado pelo jornal Washington Post como sendo o software Optum – é utilizado, segundo a detentora UnitedHealth, para gerenciar mais de 70 milhões de vidas. Ao analisar quase 50 mil registros médicos de um grande hospital acadêmico, os cientistas observaram que o algoritmo atribuiu níveis de risco mais altos a pessoas brancas em comparação com pessoas negras igualmente doentes. A proporção de negros que foram selecionados para obter cuidados complementares foi reduzida a mais da metade em função da distorção do software. Os 10 sistemas mais usados no segmento de saúde nos EUA apresentam a mesma falha. 

O viés surgiu a partir da utilização dos históricos médicos para prever o quanto os usuários provavelmente custariam ao sistema de saúde. Por razões socioeconômicas e afins, pacientes negros costumam incorrer em menores custos com assistência médica do que os brancos com as mesmas enfermidades. Assim, o algoritmo conferiu aos brancos pontuações iguais à de negros consideravelmente mais doentes. 

Após as pesquisas os envolvidos trabalharam para corrigir o problema do Optum, conseguindo reduzir a disparidade em mais de 80%, em uma versão capaz de prever os custos futuros de um paciente e quantas vezes uma condição crônica pode surgir no ano seguinte. 

O estudo evidenciou mais uma vez a necessidade de atenção por parte dos desenvolvedores dos algoritmos. Problemas como esse têm sido recorrentes, não apenas na área da saúde, como também na seleção e contratação de pessoas, pontuação de crédito, seguros, justiça criminal e muitas outras. 

Nathana Sharma, professora da Singularity University, em entrevista recente, apontou caminhos:

“O que podemos fazer, de forma prática, é criar um sistema de origem ou sistema de armazenamento de informações que reúna os dados que nós queremos informar aos algoritmos e então vemos como esses algoritmos performam. E podemos usar esse mesmo sistema para julgar os vieses e então depois podemos dar um passo atrás e consertá-los. Podemos adicionar outros dados, que ajudem os algoritmos a tomarem decisões menos preconceituosas do que qualquer humano faria.”

E completou: “Mas é difícil chegar até aqui porque muitos dos desenvolvedores são homens brancos e partem de dados enviesados. Muitos dos algoritmos que vemos hoje estão enviesados. Em breve, precisaremos dar um próximo passo em busca de um mundo mais justo.”

Sistema de Inteligência Artificial é usado na seleção de filmes da Sessão da Tarde.

A Rede Globo confirmou que um algoritmo é o culpado pelos filmes repetidos na Sessão da Tarde. O programa televisivo vai ao ar desde 1974 e permanece uma das principais atrações da emissora. É uma referência para a geração pré-streaming. Dos festivais com os Trapalhões aos clássicos Lagoa Azul e Curtindo a Vida Adoidado, não há quem não tenha sido feliz, deitado em um sofá, numa tarde chuvosa dos anos 80 (ou 90 ou 2000).

E, tão tradicional quanto o chocolate quente para acompanhar, é a lendária repetição dos títulos. A novidade é que agora a programação é feita por algoritmos e, sim, é verdade, eles são programados para repetir filmes. Os resultados são elogiados pelo diretor de programação da Globo, Amauri Soares:

“Nós criamos um algoritmo para ajudar na programação de filmes da Sessão Tarde. Nós tagueamos todos os filmes no acervo, com as características de cada um. O algoritmo entrega para o programador uma lista de filmes com os atributos que a gente quer. O algoritmo oferece o dobro de opções que o programador sozinho conseguiria levantar.”

E do que gosta o algoritmo? Gosta de histórias de superação e comédias (besteirol ou romântica), como demonstra a lista recente com os 10 campeões de audiência. E adora o Adam Sandler. Somente em 2019 o ator já teve cinco filmes exibidos, dois deles repetidos. É o campeão na escalação, seguido de longe por Sandra Bullock, Queen Latifah e Matthew McConaughey.

A Globo não é a primeira a testar um sistema como este. Algoritmos de recomendação de filmes (e músicas, shows, livros etc) são a base de plataformas como a Netflix, Amazon, Youtube e outras. Nestes modelos, o volume de dados para análise é extraordinário e crescente. Os resultados, no entanto, nem sempre superam a boa e bem-sucedida estratégia de apostar sempre no Adam Sandler.

A Netflix testa, há alguns meses, um novo sistema de recomendação, em uma tentativa de superar as críticas ao seu (irritante) algoritmo atual. O novo modelo, adivinhem, retorna à boa e velha curadoria humana. Em alguns aparelhos com iOS, as novas “coleções” passam por uma seleção prévia feita por pessoas, para então serem agrupadas pelos algoritmos. Um novo round nesta batalha de ferramentas de inteligência artificial pela identificação dos nossos gostos.