CEO da GoToData alerta para risco de algoritmos preconceituosos

05/09/2019 Posted by Sem categoria 0 thoughts on “CEO da GoToData alerta para risco de algoritmos preconceituosos”

Paula Oliveira participou do concorrido evento “E os algoritmos, será que são machistas?”, em Porto Alegre, que tratou sobre como os dados podem refletir vieses preconceituosos.

Os algoritmos trabalham nos bastidores de várias ferramentas tecnológicas das quais fazemos uso e auxiliam no funcionamento da indústria, do comércio e de vários serviços que chegam até nós. Os benefícios de sua aplicação são inegáveis. Mas uma das questões contemporâneas relacionadas à Inteligência Artificial, que é uma das tecnologias mais disruptivas dos últimos tempos, é a possibilidade de que esses algoritmos reproduzam padrões de preconceito presentes na sociedade. Já até abordamos o assunto em um artigo  no “Why – o blog de ideias da GotoData”.

Foi com o objetivo de discutir essa questão que a uMov.me organizou no último dia 3 de setembro o evento “E os algoritmos, será que são machistas?”, que contou com a presença da CEO da GoToData, Paula Oliveira, entre debatedores. 

Em sua fala, Paula exemplificou a possibilidade de enviesamento de uma inferência a partir de dados ao relatar uma experiência como gestora de uma operadora de saúde, anos atrás. Ao analisar um grande volume de informações, detectou-se uma prevalência de casos de câncer em mulheres negras, o que poderia levar a crer em uma predisposição racial para a enfermidade. Ao investigar o contexto que deu origem aos dados, constatou-se que muitos médicos, grupo formado predominantemente por homens brancos, tinham resistência em tocar pacientes negras, prejudicando o diagnóstico do câncer em estágios iniciais. 

“A tecnologia só democratiza o acesso e multiplica o número de vezes que algumas práticas são executadas. Mas tratam-se de práticas nossas. O desafio para todos os envolvidos com esses dados é não deixar que esses vieses se reflitam nos algoritmos, reproduzindo preconceitos e distorções”, comentou Paula. 

O debate integrou a lista de atividades do “Dito Efeito”, projeto transformador que visa colocar Porto Alegre em posição de destaque no cenário de inovação, vinculado à iniciativa “Pacto Alegre”. A discussão fez parte da série “Protagonismo feminino”, foi conduzida por Patrícia Knebel e contou, além de Paula Oliveira, com a presença de Edson Prestes, Marcelo Prates e Viviane Moreira. 

Tags:

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *