Crônica de uma tragédia transmitida ao vivo

22 de março de 2019 Posted by Pessoas, Tecnologia 0 thoughts on “Crônica de uma tragédia transmitida ao vivo”

Transmissão em tempo real do massacre em Christchurch pelo Facebook mostrou limitações dos sistemas de inteligência artificial da rede social.

Na tarde de 15 de março mais um ataque a tiros impactou o mundo. Um supremacista branco abriu fogo em uma mesquita na cidade de Christchurch, Nova Zelândia, matando 50 pessoas e ferindo outras 20 em estado grave. A diferença desse ataque para os anteriores foi ter sido transmitido ao vivo pelo Facebook.

Os 17 minutos registrados por uma câmera que o assassino trazia no capacete ficaram no ar 12 minutos após o fim da transmissão, e os sistemas de reconhecimento de imagem da rede social não foram capazes de identificá-las como conteúdo inadequado. A inteligência artificial tem obtido resultados muito bons na identificação de nudez ou pornografia, violência real ou gráfica, suicídio e até mesmo propaganda terrorista, mas esbarrou nesse caso específico.

O vídeo original, segundo informações divulgadas pelo próprio Facebook, foi visualizado cerca de 4 mil vezes, e foi tirado do ar somente após a denúncia de um usuário.

Em nota, Guy Rosen, vice-presidente de integridade da plataforma, explicitou algumas das limitações dos sistemas de inteligência artificial. Como eles são “treinados” a partir de dados e, felizmente, eventos como esse são raros, há a dificuldade em aprimorar a detecção automática de imagens assim.

Além do mais, há a possibilidade de os algoritmos treinados acusarem conteúdos visualmente semelhantes, porém “inofensivos”, como seria o caso de imagens de jogos realistas de tiro. Como esses conteúdos são comuns na rede social, identificar todos eles como inadequados sobrecarregaria os responsáveis humanos pelo monitoramento de conteúdo e processamento de denúncias. Nesse cenário, vídeos reais poderiam demorar a ser detectados e excluídos, repetindo o problema.

Outra dificuldade é o processamento de variações do vídeo original, que proliferaram rapidamente e nos dias seguintes. Versões editadas, gravações da tela de um televisor exibindo as imagens ou conteúdos de grandes meios de comunicação que contém trechos do registro também devem ser removidos, o que aumenta o desafio. Segundo o Facebook, já foram encontradas e removidas 800 variações do conteúdo, todas elas identificadas e processadas individualmente.

Diferentemente de peças de propaganda terrorista de organizações como o Estado Islâmico, vindas de poucas fontes, destinadas a públicos restritos e não disseminadas pela grande mídia, conteúdos como o de Christchurch são compartilhados e replicados milhares de vezes.

Para tentar acelerar a descoberta de réplicas do vídeo, entraram em ação técnicas de reconhecimento de áudio, que identificavam pelo som vídeos que continham trechos do massacre. Em 24 horas o Facebook disse ter conseguido remover 1,2 milhões de cópias ainda durante o upload, mas estimou que outras 300 mil chegaram a ficar disponíveis.

Não bastasse a preocupação com as formas de evitar atos terríveis como esses, é premente buscar formas de não permitir que eles sejam transmitidos ao vivo, impactando espectadores e inspirando atos semelhantes. 

Tags: , ,

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

O blog de ideias da GoToData

Compartilhe

Facebook
Twitter
LinkedIn