Sistemas de Inteligência Artificial precisam de mais profissionais de humanas em seu desenvolvimento.
Ferramentas de inteligência artificial vão aos poucos conquistando seu espaço no cotidiano das pessoas. Estão disfarçadas em serviços cada vez mais populares, como os oferecidos por aplicativos de transporte, paquera, trânsito e publicidade. Ou bem visíveis, como as assistentes incorporadas em produtos, serviços ou plataformas. Embora nem todas mereçam o rótulo de inteligentes – vide os limitados robôs do tipo “posso ajudar”, em sites diversos -, várias alcançaram níveis bem sofisticados de operação, como as já famosas Siri, Cortana e Alexa.
Sistemas de inteligência artificial são sustentados por algoritmos e dados. E, como já mostramos aqui e ali, ambos trazem o risco de distorção. As máquinas com capacidade de aprender o fazem a partir de informações recolhidas previamente, das quais sairão os parâmetros para predições, ações e reações. Mas, por mais “independentes”, esses dispositivos são programados e alimentados por humanos e seus dados. Eles carregam vieses pessoais, visões de mundo e distorções. Como resultado, o risco de sistemas preconceituosos ou discriminatórios. Um exemplo, ligado às já citadas assistentes virtuais Siri e Alexa, mostra a reprodução de um padrão sexista.
“Há evidências crescentes de que a Inteligência Artificial pode exacerbar a desigualdade, perpetuar a discriminação e causar danos”
O alerta é de Mona Sloane, pesquisadora do Instituto para o Conhecimento Público, da Universidade de Nova York. Em conjunto com Emanuel Mosso, da City University, eles acabaram de publicar artigo defendendo a inclusão de profissionais das áreas sociais no desenvolvimento de projetos de IA, como forma de reduzir o potencial de dano e ampliar seus benefícios à sociedade. Em resumo, mais “gente de humanas”, com destaque específico para os sociólogos. Eles listam três habilidades específicas das áreas de ciências sociais:
· As ciências sociais têm uma extensa pesquisa e conhecimento sobre o entendimento das categorias identificadas socialmente, assim como sua organização e estratificação na sociedade. A construção história e o usos de termos como “raça”, e suas implicações, fazem parte do dia-a-dia do sociólogo, mas não dos engenheiros.
· A análise quantitativa de dados, base de sistemas de machine learning, por exemplo, seriam beneficiadas com os protocolos já em uso na pesquisa social. Seu objetivo é exatamente identificar padrões e intenções que levaram à coleta dos dados, evitando armadilhas.
· A sociologia exige reflexão para os métodos de análise qualitativa de dados, com um foco bem claro na percepção da influencia do observador sobre o ambiente pesquisado. Algoritmos buscam exatamente a capacidade de transcender a analise quantitativa e chegar à algum ponto próximo à subjetividade. Um espaço em que os pesquisadores da área de sociologia conhecem bem.
O artigo reconhece o esforço dos engenheiros em incorporar nos algoritmos valores alinhados com os da humanidade, mas que é excepcionalmente difícil definir e codificar valores tão fluidos e contextualizados como os ligados às pessoas.
