Posts tagged "Inteligência artificial"

CEO da GoToData alerta para risco de algoritmos preconceituosos

5 de setembro de 2019 Posted by Notícias GoToData 0 thoughts on “CEO da GoToData alerta para risco de algoritmos preconceituosos”

Paula Oliveira participou do concorrido evento “E os algoritmos, será que são machistas?”, em Porto Alegre, que tratou sobre como os dados podem refletir vieses preconceituosos.

Os algoritmos trabalham nos bastidores de várias ferramentas tecnológicas das quais fazemos uso e auxiliam no funcionamento da indústria, do comércio e de vários serviços que chegam até nós. Os benefícios de sua aplicação são inegáveis. Mas uma das questões contemporâneas relacionadas à Inteligência Artificial, que é uma das tecnologias mais disruptivas dos últimos tempos, é a possibilidade de que esses algoritmos reproduzam padrões de preconceito presentes na sociedade. Já até abordamos o assunto em um artigo  no “Why – o blog de ideias da GotoData”.

Foi com o objetivo de discutir essa questão que a uMov.me organizou no último dia 3 de setembro o evento “E os algoritmos, será que são machistas?”, que contou com a presença da CEO da GoToData, Paula Oliveira, entre debatedores. 

Em sua fala, Paula exemplificou a possibilidade de enviesamento de uma inferência a partir de dados ao relatar uma experiência como gestora de uma operadora de saúde, anos atrás. Ao analisar um grande volume de informações, detectou-se uma prevalência de casos de câncer em mulheres negras, o que poderia levar a crer em uma predisposição racial para a enfermidade. Ao investigar o contexto que deu origem aos dados, constatou-se que muitos médicos, grupo formado predominantemente por homens brancos, tinham resistência em tocar pacientes negras, prejudicando o diagnóstico do câncer em estágios iniciais. 

“A tecnologia só democratiza o acesso e multiplica o número de vezes que algumas práticas são executadas. Mas tratam-se de práticas nossas. O desafio para todos os envolvidos com esses dados é não deixar que esses vieses se reflitam nos algoritmos, reproduzindo preconceitos e distorções”, comentou Paula. 

O debate integrou a lista de atividades do “Dito Efeito”, projeto transformador que visa colocar Porto Alegre em posição de destaque no cenário de inovação, vinculado à iniciativa “Pacto Alegre”. A discussão fez parte da série “Protagonismo feminino”, foi conduzida por Patrícia Knebel e contou, além de Paula Oliveira, com a presença de Edson Prestes, Marcelo Prates e Viviane Moreira. 

Onde está a inteligência artificial?

16 de agosto de 2019 Posted by Tecnologia, Tendências 0 thoughts on “Onde está a inteligência artificial?”

Conheça algumas das aplicações mais comuns dessa tecnologia no mundo corporativo.

A inteligência artificial é um dos ramos da tecnologia que mais avança e promete revolucionar cada vez mais nosso modo de viver, trabalhar e estabelecer relações. Tema atualíssimo, não à toa ele aparece com frequência aqui em nosso blog

Alguns usos ainda são incipientes e há outros que ainda sequer conseguimos imaginar, mas já existem alguns setores em que a inteligência artificial está em franca utilização. Um dos exemplos de aplicação mais difundida é na análise preditiva. A partir de grandes volumes de dados e da aplicação de machine learning e deep learning, sistemas podem apontar previsões com alto índice de assertividade. 

Os algoritmos das plataformas de filmes, séries e músicas, ou mesmo de venda de produtos, capazes de analisar o histórico de visualização/compra e indicar novos produtos, são bons exemplos disso. Também as previsões meteorológicas, os sistemas que indicam quando um equipamento está prestes a apresentar defeito e mesmo computadores utilizados em análises laboratoriais e diagnósticos mostram as variadas potencialidades da inteligência artificial. 

A automação de processos de Tecnologia da Informação (TI) é outro dos amplos campos em que a IA é utilizada. Além disso, o segmento se vale da especialização de seus colaboradores para adotar práticas das mais avançadas, abrigando a vanguarda no contexto das grandes organizações. Controle de qualidade e segurança cibernética também vêm despontando como foco de investimentos e desenvolvimento de IA. 

Segundo a consultoria Gartner, 75% das empresas incrementaram seus investimentos em tecnologia em 2018 com foco na melhoria da satisfação de seus clientes. E a inteligência artificial apareceu com destaque nessa pesquisa, sendo citada por 53% dos participantes como tendo o maior impacto na experiência dos consumidores. Por sua vez, 39% mencionaram chatbots e assistentes virtuais, ferramentas que também contam com a IA em seu funcionamento.

 

Sociólogos de robôs

14 de agosto de 2019 Posted by Pessoas, Tecnologia, Tendências 0 thoughts on “Sociólogos de robôs”

Sistemas de Inteligência Artificial precisam de mais profissionais de humanas em seu desenvolvimento.

Ferramentas de inteligência artificial vão aos poucos conquistando seu espaço no cotidiano das pessoas. Estão disfarçadas em serviços cada vez mais populares, como os oferecidos por aplicativos de transporte, paquera, trânsito e publicidade. Ou bem visíveis, como as assistentes incorporadas em produtos, serviços ou plataformas. Embora nem todas mereçam o rótulo de inteligentes – vide os limitados robôs do tipo “posso ajudar”, em sites diversos -, várias alcançaram níveis bem sofisticados de operação, como as já famosas Siri, Cortana e Alexa.

Sistemas de inteligência artificial são sustentados por algoritmos e dados. E, como já mostramos aqui e ali, ambos trazem o risco de distorção.  As máquinas com capacidade de aprender o fazem a partir de informações recolhidas previamente, das quais sairão os parâmetros para predições, ações e reações. Mas, por mais “independentes”, esses dispositivos são programados e alimentados por humanos e seus dados. Eles carregam vieses pessoais, visões de mundo e distorções. Como resultado, o risco de sistemas preconceituosos ou discriminatórios. Um exemplo, ligado às já citadas assistentes virtuais Siri e Alexa, mostra a reprodução de um padrão sexista.

“Há evidências crescentes de que a Inteligência Artificial pode exacerbar a desigualdade, perpetuar a discriminação e causar danos”

O alerta é de Mona Sloane, pesquisadora do Instituto para o Conhecimento Público, da Universidade de Nova York. Em conjunto com Emanuel Mosso, da City University, eles acabaram de publicar artigo defendendo a inclusão de profissionais das áreas sociais no desenvolvimento de projetos de IA, como forma de reduzir o potencial de dano e ampliar seus benefícios à sociedade. Em resumo, mais “gente de humanas”, com destaque específico para os sociólogos. Eles listam três habilidades específicas das áreas de ciências sociais:

·  As ciências sociais têm uma extensa pesquisa e conhecimento sobre o entendimento das categorias identificadas socialmente, assim como sua organização e estratificação na sociedade. A construção história e o usos de termos como “raça”, e suas implicações, fazem parte do dia-a-dia do sociólogo, mas não dos engenheiros.

·  A análise quantitativa de dados, base de sistemas de machine learning, por exemplo, seriam beneficiadas com os protocolos já em uso na pesquisa social. Seu objetivo é exatamente identificar padrões e intenções que levaram à coleta dos dados, evitando armadilhas.

·  A sociologia exige reflexão para os métodos de análise qualitativa de dados, com um foco bem claro na percepção da influencia do observador sobre o ambiente pesquisado. Algoritmos buscam exatamente a capacidade de transcender a analise quantitativa e chegar à algum ponto próximo à subjetividade. Um espaço em que os pesquisadores da área de sociologia conhecem bem.

O artigo reconhece o esforço dos engenheiros em incorporar nos algoritmos valores alinhados com os da humanidade, mas que é excepcionalmente difícil definir e codificar valores tão fluidos e contextualizados como os ligados às pessoas.

Você acredita na sua moeda?

3 de agosto de 2019 Posted by Data Science, Tecnologia 0 thoughts on “Você acredita na sua moeda?”

Artigo instigante de Ariano Cavalcanti sobre a produção, uso e legitimação da moeda. Se a confiança é o seu grande insumo, o que fazer, quando ela falta? 


Trecho extraído do texto original escrito pelo autor. Leia na íntegra

“A magnitude da transformação proposta pelas criptomoedas ou criptoativos é imensurável. Constituindo um sistema econômico alternativo (peer-to-peer), traz consigo uma proposta de sistema bancário livre e independente do estado, algo absolutamente impensável há poucos anos. Mas não é só isso. Permitindo transações financeiras sem intermediários, mas verificadas por todos usuários (nós) da rede, configura o melhor exemplo de uma estrutura sem uma entidade administradora central, inibindo qualquer autoridade financeira ou governamental de manipular a sua emissão, o seu valor e sobretudo, o de induzir a inflação com a produção de mais dinheiro. Isso não tem precedentes.

Bem, se o cenário atual conduz para um questionamento acerca da legitimidade das autoridades monetárias, acatar a possibilidade de ruptura desse padrão parece no mínimo razoável. No entanto, esse debate não é novo. O assunto já foi amplamente abordado pelo Prêmio Nobel de 1974, Friedrich Hayek, famoso economista austríaco que em seu livro A Desestatização do Dinheiro, já grifava que as vantagens das moedas competitivas (não estatais) não são apenas no sentido de que retirariam das mãos dos governos o poder de inflacionar a oferta monetária, mas também de que muito fariam para impedir as oscilações desestabilizantes que foram, no correr do último século de “ciclos econômicos”, precipitadas pelo monopólio governamental sobre o dinheiro, e também para tornar mais difícil para o governo aumentar excessivamente seus próprios gastos, já que esses aumentos se constituem num dos problemas mais cruciais da nossa era. Para Hayek, o papel-moeda fiduciário e de curso forçado (estatal) é uma criação nefasta do estado, que esse dinheiro fictício é o responsável pelos ciclos econômicos, e que o livre mercado sempre escolheria uma commodity (como o ouro, ou poderia ser uma criptomodeda?) para ser a moeda-base de qualquer economia. Isso soa familiar? Os brasileiros sabem bem disso…

Se o estado não tivesse o poder de emitir dinheiro, como estaria a gestão dos gastos públicos? E como seria a política sem o poder da moeda? E se o padrão de reserva internacional migrasse espontaneamente para uma moeda descentralizada no lugar das estatais? Sobre isso cabe outro pensamento de Hayek: “Fracionar ou descentralizar o poder corresponde, forçosamente, a reduzir a soma absoluta de poder, e o sistema de concorrência é o único capaz de reduzir ao mínimo, pela descentralização, o poder exercido pelo homem sobre o homem.“ — Friedrich August von Hayek

Um bom exemplo para ilustrar essa síntese é a Venezuela. O país é hoje o maior usuário da criptomoeda Dash, alternativa encontrada pela população para se proteger da hiperinflação de mais de 1.000.000% que assola o país. O Dash é amplamente utilizado tanto para pagamentos corriqueiros quanto por meio de ATM’s. e, convergindo com o exposto, um caso bem sucedido de uma moeda competindo com a do estado. Mas se a premissa da moeda estatal é a fidúcia, no caso venezuelano restará a ela apenas a força legal.

Não se pretende aqui, introduzir qualquer apologia contra as moedas e nem tampouco os estados, mas apenas questionar o que nunca ousamos pensar. Dados macroeconômicos estão piscando em alertas que as vezes não queremos enxergar. Talvez nunca tenhamos presenciado elementos e condições tão reais e alinhadas na direção de rupturas estruturais. A reunião de fatores como os legados da crise de 2008, o quantitative easing, o comportamento dos bancos centrais e o avanço das criptomoedas, merecem a nossa atenção sob pena de não nos prepararmos adequadamente para que possa vir.”

Esse sorriso não me engana!

2 de agosto de 2019 Posted by Data Science, Tecnologia 1 thought on “Esse sorriso não me engana!”

Com algoritmo que analisa sorrisos, cientistas avançam na área de reconhecimento facial e inteligência artificial.

O desenvolvimento das técnicas de reconhecimento facial anda de vento em popa, como já tratamos em outros artigos. Os benefícios são vários mas há também uma série de controvérsias – o que não tem sido raro quando analisamos os impactos das novas tecnologias. 

Na academia os pesquisadores buscam expandir os limites desse campo. Na Universidade de Bradford, Grã-Bretanha, cientistas deram um passo adiante: desenvolveram um software capaz de distinguir falsas expressões faciais

A partir dos algoritmos, é possível detectar se um sorriso é genuíno ou forçado. Primeiro o sistema mapeia os traços da face, identificando olhos, boca, bochechas e nariz. Depois ele registra o movimento no decorrer do sorriso e compara com as imagens já armazenadas de sorrisos legítimos e falsos. 

“Um sorriso é talvez a mais comum das expressões faciais e é uma maneira poderosa de sinalizar emoções positivas”, afirmou o coordenador da pesquisa Hassan Ugail, professor de computação visual da Universidade de Bradford. Curiosamente, os movimentos mais significativos característicos dos sorrisos verdadeiros aconteciam ao redor dos olhos, o que vai de encontro à popular afirmação de que um sorriso pode ser visto nos olhos de quem sorri.

Ainda que pareça um experimento simplório e aparentemente sem muitas aplicações práticas, o estudo é promissor e relevante. “Técnicas para analisar expressões faciais humanas avançaram dramaticamente nos últimos anos, mas a distinção entre sorrisos genuínos e posados ​​continua sendo um desafio porque os humanos não são bons em captar as pistas relevantes”, comenta o professor Hassan. 

Com o desenvolvimento dessas possibilidades, o sistema pode auxiliar na interação entre humanos e computadores e colaborar, por exemplo, em processos de identificação biométrica. Para os cientistas sociais e da área clínica, pode também ajudar na obtenção de mais informações sobre emoções e comportamento. 

Humanos versus robôs: superando o medo de sermos superados

25 de julho de 2019 Posted by Pessoas, Tecnologia, Tendências 0 thoughts on “Humanos versus robôs: superando o medo de sermos superados”

Computadores e máquinas são cada vez mais sofisticados e eficientes. Mas os humanos têm seus diferenciais. 

Há tempos os robôs deixaram de ser frutos da inventividade de autores, roteiristas e diretores, para se tornarem peças reais do cotidiano. Sejam eles equipamentos com a capacidade de se locomover, desempenhar tarefas mecânicas, identificar coisas e até mesmo falar, ou supercomputadores dotados de algoritmos complexos, os robôs estão por aí. E são melhores que nós em muitas habilidades. 

O receio de um dia sermos superados e dominados pelas máquinas é reforçado a cada avanço da tecnologia. Em uma visão menos apocalíptica, mas bastante pé no chão, parece dado que muitas atividades ainda desempenhadas por humanos serão assumidas, cedo ou mais cedo ainda, pela automação. 

O principal conselho de especialistas aos que mais se preocupam é desenvolver habilidades que dificilmente computadores ou robôs poderão superar. “Quanto mais habilidades, conhecimento e experiência você tiver, menos chances terá de ser substituído ou automatizado, então adquira o que puder, o mais rápido que puder”, enuncia Larry Alton, em artigo na Forbes, entre as formas de nos prepararmos para a iminente “revolução robótica”. 

Outros itens a nos distinguir e que são predicados valiosos são, por exemplo, a adaptabilidade e a sociabilidade. Vale investir no desenvolvimento desses traços, como discorre Adam Waytz em seu livro “The power of human”.  

A adaptabilidade consiste na capacidade de reagirmos aos imprevistos, de sermos flexíveis. Os computadores e robôs são muito bons em repetir atividades milhões de vezes (e sem se cansar), mas ainda é vantagem nossa conseguirmos nos adaptar diante dos mais específicos cenários.

A sociabilidade, por sua vez, se relaciona à inteligência socioemocional. Mais do que quaisquer animais, e que dirá do que as máquinas, os humanos têm habilidades de compreensão de emoções, empatia, entrosamento e colaboração, enfim. 

Waytz apresenta ainda um contraponto, tratando de como os esforços tanto para se adaptar a um mundo mutável e exigente, quanto para lidar com a sociabilidade como imperativo do mundo profissional, podem ser exaustivos e desgastantes. Aí entra outro diferencial humano, um luxo ao qual as máquinas não se dão: o lazer. Ao perguntar, em uma de suas pesquisas, o que um humano pode fazer e um robô não pode, o pesquisador obteve entre várias respostas a sua preferida: “a mente de um robô não pode vagar”. 

Aí reside um alívio para as pressões – que resultam, o mais das vezes, na piora do desempenho – e um trampolim para a produtividade. Muitas organizações incentivam o lazer para evitar casos cada vez mais comuns da síndrome de burnout e outros males advindos da cultura do trabalho incessante. Além do mais, diversas pesquisas apontam que a distração mental está diretamente associada a benefícios cognitivos, como o incremento da criatividade. 

O próprio Waytz, em estudo recente em parceria com a psicóloga Meghan Meyer, mostrou que pessoas bem-sucedidas em atividades criativas têm maior capacidade de pensar além do aqui e agora. Portanto, indivíduos versáteis, com maior diferencial competitivo. 

A capacidade de comunicação sofisticada também é um campo no qual levamos vantagem. Embora haja tentativas de criação de “robôs autores” e o uso de algoritmos para a disseminação de notícias e conteúdos seja algo comum – assunto que já tratamos aqui – ainda somos muito melhores em nos comunicar de forma convincente. 

E, fazendo o uso dessa habilidade, esperamos tê-lo deixado, caro leitor, mais tranquilo em relação à supremacia dos robôs. Ainda somos imbatíveis em muitas coisas, sobretudo naquilo que nos distingue de todas as outras criaturas e inventos. 

Inteligência artificial cura até coração partido

30 de abril de 2019 Posted by Pessoas, Tecnologia 0 thoughts on “Inteligência artificial cura até coração partido”

Bioengenheiros desenvolvem cateter que navega pelo sistema cardiovascular com o uso de inteligência artificial.

Se lembra dos carros autônomos, dos quais falamos neste artigo? Pois bem. Um sistema baseado em princípios semelhantes envolvendo inteligência artificial e reconhecimento de imagens está em desenvolvimento por bioengenheiros do Hospital Infantil de Boston, com a promessa de encontrar e ajudar a sanar problemas cardíacos. A primeira demonstração foi bem sucedida e relatada na Science Robotics.

O grupo de pesquisadores, liderado por Pierre Dupont, criou um cateter cuja missão era encontrar vazamentos em válvulas do coração. Há mais de uma década já há pequenos robôs guiados por controle remoto para esse fim e catéteres dirigidos com o uso de magnetismo, mas em ambos os casos a condução exige muita perícia e esforço dos médicos. Incluir inteligência artificial no dispositivo tem como objetivo desobrigar os profissionais dessa função para que possam se dedicar apenas à solução do problema.

O sistema de inteligência artificial que conduz o cateter é alimentado previamente com informações dos exames pré-operatórios. A partir disso, por meio de sensores, ele avalia o ambiente em seu redor em intervalos regulares, decidindo qual o próximo passo a dar, tal como fazem os insetos com suas antenas ou roedores com seus bigodes. Uma câmera na ponta do aparelho completa seus “sentidos”, permitindo usar a identificação de imagens para compor a avaliação da ação.

No teste, realizado em válvulas artificiais imitando tecidos humanos, o cateter foi capaz de percorrer o coração desde sua base, passando pela parede do ventrículo e percorrendo a válvula danificada até encontrar o vazamento milimétrico. O tempo médio gasto pelo aparelho para localizar o vazamento foi praticamente igual àquele registrado por humanos.

Além de automatizar um processo até então essencialmente humano, essa descoberta pode eliminar a necessidade de exames fluoroscópicos, comumente utilizados em procedimentos como esse e que expõem os pacientes à radiação e efeitos colaterais.

Para Dupont, chefe de cardiologia pediátrica do hospital, esse foi o primeiro registro de algo equivalente a um carro autônomo utilizado no campo da saúde, transitando no sistema circulatório humano. Esperamos de coração que a técnica seja aprimorada e em breve esteja a serviço de muitas pessoas.

Caixinhas de segredos: as máquinas que não conseguimos decifrar

26 de abril de 2019 Posted by Data Science, Tecnologia, Tendências 0 thoughts on “Caixinhas de segredos: as máquinas que não conseguimos decifrar”

Uso de “algoritmos caixa-preta” levantam controvérsia. Devemos usar máquinas que “pensam” sem que saibamos exatamente como?

A ameaça dos computadores insurgentes que renderam à literatura e ao cinema ótimas histórias, todas envolvendo a humanidade posta em risco pela rebeldia de suas criações, não é realidade. Pelo menos ainda.

Mas outra questão envolvendo a Inteligência Artificial (IA) tem provocado um grande dilema: muitos dos sistemas de machine learning, modalidade que abrange as máquinas capazes de aprender, são verdadeiras caixas-pretas. Falamos disso em outro artigo.

Enquanto a maioria dos softwares são codificados com lógica programável, ou seja, respondem conforme os parâmetros determinados por seus programadores, não é possível saber exatamente qual é o processo pelo qual alguns algoritmos de IA passam até que cheguem às suas conclusões.

As convolutional neural networks (redes neurais convolucionais) são um exemplo. Com seus neurônios artificiais conectados de forma a tentar mimetizar a estrutura de um cérebro humano, é difícil acompanhar e “enxergar” o que se dá nelas. Rápidas e complexas, elas complicam a vida de quem quer quer compreendê-las. Resta aos curiosos analisar seus resultados e, por inferência, supor o processo. Daí o motivo de muitos especialistas se posicionarem como contrários ao uso de algoritmos caixa-preta, ou ao menos preocupados com algumas das consequências de seu uso.

Elizabeth Holm, professora de ciência e engenharia de materiais na Universidade Carnegie Mellon, posiciona-se favoravelmente ao uso desses recursos. Primeiramente ela ressalta que, tal qual nesses sistemas, alguns processos do pensamento humano também são insondáveis. Não raro confiamos em resultados de pensamentos que não podemos descrever ou explicar, por exemplo, e que nem por isso são necessariamente ruins ou prejudiciais. Para ela, o que vale para os humanos, nesse caso, deve valer também para a máquina.

Seus argumentos seguem em torno de três regras, estabelecidas por ela. A primeira, a mais simples, determina que se o custo de uma decisão ruim é pequeno e, por sua vez, o valor de uma decisão acertada é alto, vale a pena usar.

No segundo caso, mesmo com custos altos, vale a pena usar essas caixas-pretas quando é a melhor opção para fazer determinado trabalho. Um exemplo são os algoritmos utilizados em carros autônomos, que certamente serão condutores melhores que os humanos, mas que ainda assim, se houver falha em seus processos, podem causar graves acidentes.

A terceira situação em que se justifica o uso dos black box algorithms é quando a máquina é capaz de fazer algo de maneira diferente que os humanos, ou mesmo coisas das quais não somos capazes. Aí a decisão se aproxima da opção entre fazer ou não fazer algo, entre avançar ou não em algum aspecto.

Para Andrew McAfee, especialista em machine learning e automação, impor barreiras regulatórias para o uso de caixas-pretas na IA e exigir altos níveis de interpretabilidade nos sistemas poderia retardar o progresso da tecnologia.

Há, porém, muitos outros que defendem que esse progresso não pode vir a qualquer custo. Se não é possível entender exatamente como o sistemas caixa-preta funcionam e quais parâmetros utilizam, fica mais fácil duvidar deles ou perder a confiança neles.

A IBM, gigante no setor tecnológico, respondeu a essa corrente disponibilizando na nuvem, um serviço que torna visíveis os parâmetros de IA dos sistemas da empresa e permite a detecção de vieses durante seu funcionamento. Dados de um relatório elaborado pelo Institute for Business Value, vinculado à corporação, mostraram que 82% das empresas observadas consideram implementar IA em seus processos, mas delas 60% ainda têm receio quanto a questões de responsabilidade e compliance e 63% não dispõem de recursos humanos e/ou tecnológicos adequados para incorporar a tecnologia de forma confiável.

A ideia é que a ferramenta seja aplicável também a outros modelos, ambientes e sistemas tais como Tensorflow, Watson, AWS SageMaker, AzureMA e SparkML e seja personalizável para sistemas internos das organizações. Ela permite a entrada de dados para complementar ao modelo para diminuir a tendência de viés e mostra o caminho da tomada de decisões enquanto em execução.

Além disso, já inclui parâmetros que atendem a padrões de conformidade e regulação, como é o caso do GDPR (Regulamento Geral sobre a Proteção de Dados, implementado pela União Europeia). A companhia também vai disponibilizar ferramentas open source e materiais que fomentem a colaboração da comunidade tecnológica em torno do assunto.

É fato que a evolução não pára e a IA veio para ficar de vez, e provavelmente questões como essa, de ordem prática e ética, se sucederão. A controvérsia dos algoritmos caixa-preta é uma das bolas da vez.

Herdeiras da imperfeição: as máquinas que erram como os humanos

24 de abril de 2019 Posted by Data Science, Tecnologia, Tendências 0 thoughts on “Herdeiras da imperfeição: as máquinas que erram como os humanos”

Sistemas de machine learning carregam e reproduzem visões de mundo dos humanos – nem sempre positivas.

Por décadas algumas das principais missões da ciência da computação giravam em torno de desenvolver algoritmos eficientes, além de códigos e equipamentos que funcionassem cada vez mais rápidos. Hoje, contudo, os holofotes se direcionam para os dados e a inteligência artificial para apontar as principais tendências tecnológicas que vão nos levar ao futuro – que, aliás, já vai se concretizando.

Grandes volumes de dados servem de subsídio para o funcionamento de sistemas de inteligência artificial, sobretudo os da vertente de machine learning e suas variáveis. As máquinas dotadas da capacidade de aprender o fazem a partir do aporte de informações recolhidas previamente, das quais sairão os parâmetros para suas predições, ações e reações.

Mas isso enseja uma das questões éticas da inteligência artificial: por mais “independentes” que possam ser, esses dispositivos são programados e alimentados por humanos e seus dados, podendo carregar, então, muitos de seus vieses pessoais, visões de mundo e distorções.

Até mesmo a discriminação de raça ou gênero pode ser replicada por algoritmos. Um notório estudo de pesquisadores das universidades de Virginia e Washington mostrou como sistemas de identificação de imagens rotularam como sendo de mulheres imagens de homens fotografados na cozinha. Afetadas pela tendência observada em seus bancos de dados, as máquinas reproduziram um estereótipo comum entre os humanos.

Em outro exemplo, a Amazon teve de abandonar uma ferramenta de recrutamento que tendia a eliminar mulheres do processo de seleção, mesmo quando uma adaptação foi feita para tornar o programa neutro para palavras com gênero. Uma das hipóteses para a distorção é que o sistema tenha aprendido com o histórico de contratação da empresa, constituinte do banco de dados. Por terem sido decisões tomadas por humanos, estão ali presentes todos os fatores discriminatórios neste tipo de situação. As fontes de aprendizado do sistema da empresa foram as escolhas feitas por recrutadores em sua maioria homens e brancos.

Os defensores da democratização do conhecimento na área de inteligência artificial e do desenvolvimento de soluções abertas se pautam em questões como essa para levantar sua bandeira. Já que é inegável o potencial transformador desse ramo da tecnologia, que ele se desenvolva sob condições de transparência e auditabilidade.

Várias ferramentas funcionam muitíssimo bem, mas são verdadeiras caixas-pretas, das quais só se conhece o produto, nunca o processo. Estes conjuntos de instruções ganharam um nome em inglês: black box algorithms. Há quem defenda sua importância e quem se empenhe em abri-las. Mas isso é assunto para o próximo post.

Alta resolução de verdade: fotografando o DNA

10 de abril de 2019 Posted by Pessoas, Tecnologia, Tendências 0 thoughts on “Alta resolução de verdade: fotografando o DNA”

Algoritmos de reconhecimento de imagens aplicados à análise do DNA podem mudar a saúde do mundo.

É possível prever o funcionamento, antecipar as características, estimar o comportamento, mas muitas vezes os cientistas precisam ver. Depois de 25 anos, pesquisadores divulgaram esta semana um importante avanço na obtenção de imagens reais das interações do ácido desoxirribonucleico (DNA). Suas moléculas contêm as instruções genéticas que coordenam o desenvolvimento e funcionamento de todos os seres. A análise dos dados do DNA por meio de sistemas de inteligência artificial promete revolucionar a medicina e as ferramentas de reconhecimento de imagens são estratégicas neste processo.

As equipes do Jila – o instituto de pesquisas físicas da Universidade do Colorado e do Instituto Nacional de Padrões de Tecnologia, nos Estados Unidos – desenvolveram um método mais simples, rápido e eficiente de “fotografar” o DNA. As imagens em alta resolução revelaram a icônica estrutura da dupla hélice, que se parece com uma escada espiralada. Os cientistas esperam que o método permita avanços no estudo da dinâmica entre proteínas e DNA, abrindo caminho para descobertas na área de genética, como já falamos aqui, e medicamentos. Basta pensar na capacidade de aplicar os sistemas de machine learning na análise dos dados gerados pelas imagens em alta resolução do DNA.

O reconhecimento de imagens, aliado a algoritmos e softwares de análise de dados, é uma das áreas mais quentes de investimentos e pesquisas, por seu impacto global. Tomografias, ultrassonografias, radiografias e ressonâncias magnéticas oferecem valioso material aos sistemas de Inteligência Artificial. Com o auxílio de softwares é possível, por exemplo, “suprimir” os ossos de uma radiografia de tórax para avaliar melhor o tecido pulmonar. Os computadores conseguem identificar os sinais ósseos e “ignorá-los” ao construir a imagem. Há também ferramentas de detecção de nódulos cancerígenos no pulmão com tamanho inferior a 3 cm, 7% mais eficazes que as avaliações de especialistas, entre muitas outras aplicações. Os próximos sistemas de diagnósticos por imagem já trará um pré-laudo, assinado por robôs!

O TensorFlow, biblioteca de software de IA do Google fornece ferramentas de análise de imagem e texto que tem sido muito útil. A plataforma permite o processamento de imagens associado aos inputs providos pelos médicos acerca de cada uma, bem como também os feedbacks sobre eventuais diagnósticos falhos indicados pelos algoritmos. Pelo fato de ter uma estrutura open source, o TensorFlow é uma base altamente escalável, pode ser acessada desde grandes data centers a simples smartphones e disponibiliza algoritmos na nuvem por meio de API’s.

O horizonte formado por tantas possibilidades não é de substituição do médico pela máquina, mas do estabelecimento de uma convivência vantajosa tanto para os profissionais quanto para os pacientes. O papel dos especialistas ainda é extremamente necessário para a criação das bases de dados que vão municiar os sistemas. Mais adiante, caberá aos médicos e à sociedade identificar a justa medida entre as benesses da IA, o imprescindível valor da inteligência e sensibilidade humana e as necessidades das pessoas. A meta é tornar a medicina cada vez mais eficaz e acessível.

O blog de ideias da GoToData

Compartilhe

Facebook
Twitter
LinkedIn