Tecnologia & confiança: a ascensão do deepfake¹

22 Janeiro 2020 13:53

Os avanços tecnológicos abriram caminho para ferramentas que têm um potencial crescente de disseminar a desinformação nos próximos anos. Isso chama a atenção para o quanto os indivíduos, as empresas e as autoridades, em seu dia a dia, têm controle sobre suas imagens públicas.

Em nenhum outro exemplo, isso é mais evidente do que na onipresente ascensão de vídeos deepfake. Utilizando softwares avançados de geração de imagens por computador, mas surpreendentemente fáceis de serem usados, vídeos deepfake produzem gravações visuais e de áudio bastante realistas de pessoas dizendo ou fazendo qualquer coisa que o editor deseje.

A tecnologia para criar esses vídeos mentirosos está se tornando a cada dia mais difundida, com programas e aplicativos disponíveis para download e acesso a qualquer um que tenha um celular ou computador. Resumindo, estamos perdendo nosso poder de confiar em qualquer coisa – foto ou vídeo – que é compartilhado.

Aplicações do Deepfake

A tecnologia que alimenta a criação do deepfake não foi desenvolvida com intenção maliciosa; mas, ao contrário, para auxiliar na criação de material de apoio à produção cinematográfica, levando às telas a imagem de um ator que morreu enquanto as gravações ainda estavam acontecendo. Os fundamentos dessa tecnologia, no entanto, se espalharam e se simplificaram, permitindo que os usuários criem vídeos com intenções variadas, que vão de um efeito cômico a uma sabotagem direta.

O mais recente vídeo deepfake a ir parar nas manchetes globais não teve nenhuma intenção ruim. Na abertura do sitcom de família de 1990 Full House², todas as faces dos atores foram substituídas pela do comediante Nick Offerman. Esses Offermans fakes apresentavam emoções e movimentos que eram semelhantes e consistentes com os maneirismos do vídeo original, embora Offerman não tivesse qualquer envolvimento na produção. Apesar da farsa óbvia, a “viralidade”  do vídeo ilustra o impacto da tecnologia.

Outras aplicações assustadoras e recentes incluem discursos inteiros feitos aparentemente por líderes mundiais, incluindo a ex-primeira ministra do Reino Unido, Theresa May, o ex-presidente americano Barack Obama e o presidente russo Vladimir Putin. Mesmo para o espectador mais desconfiado, a natureza realista destes vídeos impressiona.

Construindo uma defesa contra o deepfake

Com a tecnologia do deepfake tão acessível, há o risco de cada pessoa ou empresa esteja a um vídeo malicioso de distância de um desastre. Será enormemente difícil construir confiança se cada vez mais vídeos deepfake turvarem o divisor de águas entre o fato e a ficção. Da mesma forma, compartilhar acidentalmente um vídeo deepfake tem o potencial de fazer o tiro sair pela culatra e arranhar o respeito e a confiança do público.

À medida em que a tecnologia do deepfake se espalha, no entanto, especialistas trabalham para criar outras ferramentas e métodos para contra-atacar. Uma solução potencial se apoia em dispositivos acionados quando qualquer pessoa que se posiciona em frente da câmera utiliza certos maneirismos e movimentos que bloqueiam a tecnologia CGI³ de utilizar a imagem como fonte de criação dos deepfakes.

O piscar de olhos, por exemplo, é um tipo de ponto fraco para a tecnologia deepfake. Enquanto humanos em vídeos reais piscam frequente e rapidamente, as piscadas do deepfake são muito mais vagarosas e menos frequentes. Não é impossível conceber que os tradicionais treinamentos de mídia para líderes empresariais e políticos irão evoluir e incluir um treino específico para piscar e linguagem corporal, como defesa contra a representação digital.

Enquanto essa defesa é claramente proativa, a natureza imprevisível da tecnologia irá exigir uma defesa reativa bem preparada também. Empresas de divulgação de notícias, sem dúvida, precisarão desenvolver planos pré-concebidos para correção e retratação da disseminação negligente de deepfakes. E por sua vez, profissionais de relações públicas serão chamados para desenvolver uma resposta convincente a crises se um vídeo deepfake ameaçar a sua marca.

Talvez, ainda mais importante, a ascensão de vídeos deepfake vai destacar a importância do monitoramento vigilante dos vídeos nas notícias e nas mídias sociais. Um processo vigoroso e completo de monitoramento permitirá a rápida identificação da desinformação e o envio de uma força-tarefa ágil para preservar a confiança pública.

Notas do tradutor

¹Deepfake - Tecnologia que permite a manipulação de imagens de rosto e que usa técnicas de síntese visual e sons humanos, com o apoio de conhecimentos da inteligência artificial.

² Full House – série de enorme sucesso da TV norte-americana do gênero comédia que estreou em 1987 e que narra os acontecimentos do pai viúvo, que convoca seu cunhado e seu melhor amigo para ajudar a criar as três filhas, depois que ele fica viúvo. Conhecida no Brasil como Três é Demais.

³ CGI - sigla para Computer Graphic Imagery, a computação gráfica.