A Inteligência Artificial é um risco?

Recomendações para minimizar ameaças e outros riscos digitais.

Estamos ameaçados pela disseminação do uso da Inteligência Artificial (AI, do original em inglês Artificial Intelligence) e das ferramentas de Machine Learning?

Os usos benéficos das duas tecnologias são cada vez mais comuns e conhecidos, indo da tradução simultânea cada vez mais afiada em aplicativos e sites até a análise e processamento em massa de imagens clínicas, capazes de identificar e prevenir doenças. Não por acaso, a busca pelo significado dos dois termos segue em alta, como mostramos em nosso site, aqui.

Mas qual o risco do uso malicioso? Reunidos na Inglaterra, experts em tecnologia traçaram um panorama tenso para o futuro, apresentando três cenários prováveis para os próximos anos:

• Expansão das ameaças existentes. O uso de AI pode reduzir o risco e o custo de ataques, ao eliminar a necessidade de humanos e seu conhecimento.
• Surgimento de novas ameaças. A AI pode tornar viáveis tarefas impraticáveis para humanos. Como consequência, é esperado um aumento na taxa e no número de ataques.
• Dificuldade em identificar novos riscos. Ataques gerados por AI serão particularmente efetivos, com alvos específicos e difíceis de serem atribuídos, explorando as vulnerabilidades existentes nos sistemas atuais.

Algumas medidas são necessárias para enfrentar este risco, unindo empresas, governos e cidadãos. Entre as propostas no encontro, está a integração entre especialistas em tecnologias, como bons e experientes nerds, com responsáveis pela elaboração de políticas públicas para investigação, prevenção e mitigação do risco. Outra proposta é um convite à reflexão, por cientistas, pesquisadores, engenheiros e programadores sobre os riscos potenciais de seus desenvolvimentos, criando canais de comunicação para alertas de ameaças.