{"id":1345,"date":"2019-04-24T20:00:28","date_gmt":"2019-04-24T20:00:28","guid":{"rendered":"http:\/\/gotodata.com.br\/site\/?p=1345"},"modified":"2019-04-24T20:00:28","modified_gmt":"2019-04-24T20:00:28","slug":"herdeiras-da-imperfeicao-as-maquinas-que-erram-como-os-humanos","status":"publish","type":"post","link":"https:\/\/gotodata.com.br\/web\/herdeiras-da-imperfeicao-as-maquinas-que-erram-como-os-humanos\/","title":{"rendered":"Herdeiras da imperfei\u00e7\u00e3o: as m\u00e1quinas que erram como os humanos"},"content":{"rendered":"

Sistemas de machine learning carregam e reproduzem vis\u00f5es de mundo dos humanos \u2013 nem sempre positivas. <\/span><\/i><\/h3>\n

\"\"<\/a>Por d\u00e9cadas algumas das principais miss\u00f5es da ci\u00eancia da computa\u00e7\u00e3o giravam em torno de desenvolver algoritmos eficientes, al\u00e9m de c\u00f3digos e equipamentos que funcionassem cada vez mais r\u00e1pidos. Hoje, contudo, os holofotes se direcionam para os dados e a intelig\u00eancia artificial para apontar as principais tend\u00eancias tecnol\u00f3gicas que v\u00e3o nos levar ao futuro \u2013 que, ali\u00e1s, j\u00e1 vai se concretizando. <\/span><\/p>\n

Grandes volumes de dados servem de subs\u00eddio para o funcionamento de sistemas de intelig\u00eancia artificial, sobretudo os da vertente de machine learning e suas vari\u00e1veis. As m\u00e1quinas dotadas da capacidade de aprender o fazem a partir do aporte de informa\u00e7\u00f5es recolhidas previamente, das quais sair\u00e3o os par\u00e2metros para suas predi\u00e7\u00f5es, a\u00e7\u00f5es e rea\u00e7\u00f5es. <\/span><\/p>\n

Mas isso enseja uma das quest\u00f5es \u00e9ticas da intelig\u00eancia artificial: por mais \u201cindependentes\u201d que possam ser, esses dispositivos s\u00e3o programados e alimentados por humanos e seus dados, podendo carregar, ent\u00e3o, muitos de seus vieses pessoais, vis\u00f5es de mundo e distor\u00e7\u00f5es. <\/span><\/p>\n

At\u00e9 mesmo a discrimina\u00e7\u00e3o de ra\u00e7a ou g\u00eanero pode ser replicada por algoritmos. Um <\/span>not\u00f3rio estudo<\/span><\/a> de pesquisadores das universidades de Virginia e Washington mostrou como sistemas de identifica\u00e7\u00e3o de imagens rotularam como sendo de mulheres imagens de homens fotografados na cozinha. Afetadas pela tend\u00eancia observada em seus bancos de dados, as m\u00e1quinas reproduziram um estere\u00f3tipo comum entre os humanos. <\/span><\/p>\n

Em outro exemplo, a Amazon teve de abandonar uma ferramenta de recrutamento que tendia a eliminar mulheres do processo de sele\u00e7\u00e3o, mesmo quando uma adapta\u00e7\u00e3o foi feita para tornar o programa neutro para palavras com g\u00eanero. Uma das hip\u00f3teses para a distor\u00e7\u00e3o \u00e9 que o sistema tenha aprendido com o hist\u00f3rico de contrata\u00e7\u00e3o da empresa, constituinte do banco de dados. Por terem sido decis\u00f5es tomadas por humanos, est\u00e3o ali presentes todos os fatores discriminat\u00f3rios neste tipo de situa\u00e7\u00e3o. As fontes de aprendizado do sistema da empresa foram as escolhas feitas por recrutadores em sua maioria homens e brancos. <\/span><\/p>\n

Os defensores da democratiza\u00e7\u00e3o do conhecimento na \u00e1rea de intelig\u00eancia artificial e do desenvolvimento de solu\u00e7\u00f5es abertas se pautam em quest\u00f5es como essa para levantar sua bandeira. J\u00e1 que \u00e9 ineg\u00e1vel o potencial transformador desse ramo da tecnologia, que ele se desenvolva sob condi\u00e7\u00f5es de transpar\u00eancia e auditabilidade. <\/span><\/p>\n

V\u00e1rias ferramentas funcionam muit\u00edssimo bem, mas s\u00e3o verdadeiras caixas-pretas, das quais s\u00f3 se conhece o produto, nunca o processo. Estes conjuntos de instru\u00e7\u00f5es ganharam um nome em ingl\u00eas: black box algorithms. H\u00e1 quem defenda sua import\u00e2ncia e quem se empenhe em abri-las. Mas isso \u00e9 assunto para o pr\u00f3ximo post.<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Sistemas de machine learning carregam e reproduzem vis\u00f5es de mundo dos humanos \u2013 nem sempre positivas. Por d\u00e9cadas algumas das principais miss\u00f5es da ci\u00eancia da computa\u00e7\u00e3o giravam em torno de desenvolver algoritmos eficientes, al\u00e9m de c\u00f3digos e equipamentos que funcionassem cada vez mais r\u00e1pidos. Hoje, contudo, os holofotes se direcionam para os dados e a […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[25,19,21],"tags":[291,15,41],"class_list":["post-1345","post","type-post","status-publish","format-standard","hentry","category-data-science","category-tecnologia","category-tendencias","tag-artificial-intelligence","tag-inteligencia-artificial","tag-machine-learning"],"jetpack_featured_media_url":"","_links":{"self":[{"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/posts\/1345"}],"collection":[{"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/comments?post=1345"}],"version-history":[{"count":0,"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/posts\/1345\/revisions"}],"wp:attachment":[{"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/media?parent=1345"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/categories?post=1345"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/tags?post=1345"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}