{"id":1349,"date":"2019-04-26T18:33:57","date_gmt":"2019-04-26T18:33:57","guid":{"rendered":"http:\/\/gotodata.com.br\/site\/?p=1349"},"modified":"2019-04-26T18:33:57","modified_gmt":"2019-04-26T18:33:57","slug":"caixinhas-de-segredos-as-maquinas-que-nao-conseguimos-decifrar","status":"publish","type":"post","link":"https:\/\/gotodata.com.br\/web\/caixinhas-de-segredos-as-maquinas-que-nao-conseguimos-decifrar\/","title":{"rendered":"Caixinhas de segredos: as m\u00e1quinas que n\u00e3o conseguimos decifrar"},"content":{"rendered":"

Uso de \u201calgoritmos caixa-preta\u201d levantam controv\u00e9rsia. Devemos usar m\u00e1quinas que \u201cpensam\u201d sem que saibamos exatamente como?<\/span><\/h3>\n

\"\"<\/a>A amea\u00e7a dos computadores insurgentes que renderam \u00e0 literatura e ao cinema \u00f3timas hist\u00f3rias, todas envolvendo a humanidade posta em risco pela rebeldia de suas cria\u00e7\u00f5es, n\u00e3o \u00e9 realidade. Pelo menos ainda. <\/span><\/p>\n

Mas outra quest\u00e3o envolvendo a Intelig\u00eancia Artificial (IA) tem provocado um grande dilema: muitos dos sistemas de <\/span>machine learning<\/span><\/i>, modalidade que abrange as m\u00e1quinas capazes de aprender, s\u00e3o verdadeiras caixas-pretas. Falamos disso <\/span>em outro artigo<\/span><\/a>.<\/span><\/p>\n

Enquanto a maioria dos softwares s\u00e3o codificados com l\u00f3gica program\u00e1vel, ou seja, respondem conforme os par\u00e2metros determinados por seus programadores, n\u00e3o \u00e9 poss\u00edvel saber exatamente qual \u00e9 o processo pelo qual alguns algoritmos de IA passam at\u00e9 que cheguem \u00e0s suas conclus\u00f5es. <\/span><\/p>\n

As <\/span>convolutional neural networks<\/span><\/i> (redes neurais convolucionais) s\u00e3o um exemplo. Com seus neur\u00f4nios artificiais conectados de forma a tentar mimetizar a estrutura de um c\u00e9rebro humano, \u00e9 dif\u00edcil acompanhar e \u201cenxergar\u201d o que se d\u00e1 nelas. R\u00e1pidas e complexas, elas complicam a vida de quem quer quer compreend\u00ea-las. Resta aos curiosos analisar seus resultados e, por infer\u00eancia, supor o processo. Da\u00ed o motivo de muitos especialistas se posicionarem como contr\u00e1rios ao uso de algoritmos caixa-preta, ou ao menos preocupados com algumas das consequ\u00eancias de seu uso.<\/span><\/p>\n

Elizabeth Holm, professora de ci\u00eancia e engenharia de materiais na Universidade Carnegie Mellon, posiciona-se favoravelmente<\/a> ao uso desses recursos. Primeiramente ela ressalta que, tal qual nesses sistemas, alguns processos do pensamento humano tamb\u00e9m s\u00e3o insond\u00e1veis. N\u00e3o raro confiamos em resultados de pensamentos que n\u00e3o podemos descrever ou explicar, por exemplo, e que nem por isso s\u00e3o necessariamente ruins ou prejudiciais. Para ela, o que vale para os humanos, nesse caso, deve valer tamb\u00e9m para a m\u00e1quina.<\/span><\/p>\n

Seus argumentos seguem em torno de tr\u00eas regras, estabelecidas por ela. A primeira, a mais simples, determina que se o custo de uma decis\u00e3o ruim \u00e9 pequeno e, por sua vez, o valor de uma decis\u00e3o acertada \u00e9 alto, vale a pena usar. <\/span><\/p>\n

No segundo caso, mesmo com custos altos, vale a pena usar essas caixas-pretas quando \u00e9 a melhor op\u00e7\u00e3o para fazer determinado trabalho. Um exemplo s\u00e3o os algoritmos utilizados em carros aut\u00f4nomos, que certamente ser\u00e3o condutores melhores que os humanos, mas que ainda assim, se houver falha em seus processos, podem causar graves acidentes. <\/span><\/p>\n

A terceira situa\u00e7\u00e3o em que se justifica o uso dos <\/span>black box algorithms<\/span><\/i> \u00e9 quando a m\u00e1quina \u00e9 capaz de fazer algo de maneira diferente que os humanos, ou mesmo coisas das quais n\u00e3o somos capazes. A\u00ed a decis\u00e3o se aproxima da op\u00e7\u00e3o entre fazer ou n\u00e3o fazer algo, entre avan\u00e7ar ou n\u00e3o em algum aspecto. <\/span><\/p>\n

Para Andrew McAfee<\/a>, especialista em machine learning<\/em> e automa\u00e7\u00e3o, impor barreiras regulat\u00f3rias para o uso de caixas-pretas na IA e exigir altos n\u00edveis de interpretabilidade nos sistemas poderia retardar o progresso da tecnologia. <\/span><\/p>\n

H\u00e1, por\u00e9m, muitos outros que defendem que esse progresso n\u00e3o pode vir a qualquer custo. Se n\u00e3o \u00e9 poss\u00edvel entender exatamente como o sistemas caixa-preta funcionam e quais par\u00e2metros utilizam, fica mais f\u00e1cil duvidar deles ou perder a confian\u00e7a neles. <\/span><\/p>\n

A IBM, gigante no setor tecnol\u00f3gico, respondeu a essa corrente disponibilizando na nuvem, um servi\u00e7o que torna vis\u00edveis os par\u00e2metros de IA dos sistemas da empresa e permite a detec\u00e7\u00e3o de vieses durante seu funcionamento. <\/span>Dados de um relat\u00f3rio<\/span><\/a> elaborado pelo <\/span>Institute for Business Value<\/span><\/i>, vinculado \u00e0 corpora\u00e7\u00e3o, mostraram que 82% das empresas observadas consideram implementar IA em seus processos, mas delas 60% ainda t\u00eam receio quanto a quest\u00f5es de responsabilidade e <\/span>compliance<\/span><\/i> e 63% n\u00e3o disp\u00f5em de recursos humanos e\/ou tecnol\u00f3gicos adequados para incorporar a tecnologia de forma confi\u00e1vel. <\/span><\/p>\n

A ideia \u00e9 que a ferramenta seja aplic\u00e1vel tamb\u00e9m a outros modelos, ambientes e sistemas tais como Tensorflow, Watson, AWS SageMaker, AzureMA e SparkML e seja personaliz\u00e1vel para sistemas internos das organiza\u00e7\u00f5es. Ela permite a entrada de dados para complementar ao modelo para diminuir a tend\u00eancia de vi\u00e9s e mostra o caminho da tomada de decis\u00f5es enquanto em execu\u00e7\u00e3o. <\/span><\/p>\n

Al\u00e9m disso, j\u00e1 inclui par\u00e2metros que atendem a padr\u00f5es de conformidade e regula\u00e7\u00e3o, como \u00e9 o caso do <\/span>GDPR<\/span><\/a> (Regulamento Geral sobre a Prote\u00e7\u00e3o de Dados, implementado pela Uni\u00e3o Europeia). A companhia tamb\u00e9m vai disponibilizar ferramentas <\/span>open source <\/span><\/i>e materiais que fomentem a colabora\u00e7\u00e3o da comunidade tecnol\u00f3gica em torno do assunto. <\/span><\/p>\n

\u00c9 fato que a evolu\u00e7\u00e3o n\u00e3o p\u00e1ra e a IA veio para ficar de vez, e provavelmente quest\u00f5es como essa, de ordem pr\u00e1tica e \u00e9tica, se suceder\u00e3o. A controv\u00e9rsia dos algoritmos caixa-preta \u00e9 uma das bolas da vez. <\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Uso de \u201calgoritmos caixa-preta\u201d levantam controv\u00e9rsia. Devemos usar m\u00e1quinas que \u201cpensam\u201d sem que saibamos exatamente como? A amea\u00e7a dos computadores insurgentes que renderam \u00e0 literatura e ao cinema \u00f3timas hist\u00f3rias, todas envolvendo a humanidade posta em risco pela rebeldia de suas cria\u00e7\u00f5es, n\u00e3o \u00e9 realidade. Pelo menos ainda. Mas outra quest\u00e3o envolvendo a Intelig\u00eancia Artificial […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[25,19,21],"tags":[89,291,293,295,179,15,41],"class_list":["post-1349","post","type-post","status-publish","format-standard","hentry","category-data-science","category-tecnologia","category-tendencias","tag-ai","tag-artificial-intelligence","tag-black-box-algorithms","tag-caixa-preta","tag-ia","tag-inteligencia-artificial","tag-machine-learning"],"jetpack_featured_media_url":"","_links":{"self":[{"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/posts\/1349"}],"collection":[{"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/comments?post=1349"}],"version-history":[{"count":0,"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/posts\/1349\/revisions"}],"wp:attachment":[{"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/media?parent=1349"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/categories?post=1349"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/gotodata.com.br\/web\/wp-json\/wp\/v2\/tags?post=1349"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}