Afinal, o que são deepfakes?
Nesta terça-feira (7), o Facebook anunciou que vai começar a banir vídeos com deepfake da sua plataforma. O anúncio, divulgado em um blog da empresa, afirma que conteúdos do tipo manipulam a realidade, e são um grande desafio para a indústria tecnológica.
A nova política acontece em ano de eleições presidenciais nos Estados Unidos. Os vídeos serão excluídos caso as edições não estejam óbvias para o usuário ou se levarem o espectador a acreditar que uma pessoa tenha dito coisas que, na verdade, nunca disseram. 55 checadores, que falam 45 idiomas diferentes, serão os responsáveis por analisar e sinalizar os vídeos falsos – a medida não inclui sátiras e outros produções humorísticas.
Não é a primeira vez que o Facebook se envolve no combate aos deepfakes. Em setembro de 2019, a empresa doou US$ 10 milhões para um fundo voltado a aprimorar as tecnologias de detecção desse tipo de material. Mas a companhia já também recebeu críticas por se recusar a retirar um vídeo falso da presidente da Câmara dos Deputados dos EUA, Nancy Pelosi, que viralizou no país no ano passado.
Deepfakes podem ser inofensivos. Neste vídeo, por exemplo, o rosto do ator Harrison Ford foi rejuvenescido e colocado em algumas cenas de Solo: Uma História Star Wars, do qual ele não participou. Mas, em muitos casos, podem ser perigosos e aumentar a desinformação, como manipular discursos de personalidades e chefes de Estado.
Até o próprio Mark Zuckerberg já foi vítima dos softwares de deepfake. No vídeo, o presidente do Facebook, em uma versão criada em computador, afirmava que o sucesso de sua plataforma era devido a uma parceria feita com uma organização secreta.
Mas afinal, o que são deepfakes?
Os deepfakes nada mais são do que vídeos criados a partir de inteligência artificial e que reproduzem a aparência, as expressões e até a voz de alguém do mundo real. O nome vem da junção de duas expressões em inglês: “deep learning” (“aprendizado profundo”) e “fake” (“falso”). Aprendizado o quê?
O “deep learning” é uma evolução das metodologias de aperfeiçoamento de inteligência artificial. Ela deriva do “machine learning”. O conceito, que veio junto com os primeiros avanços em inteligência artificial, nos anos 1950, quer dizer, literalmente, colocar um computador para aprender. A ideia é fazer o cérebro eletrônico estudar algoritmos até que entenda como ler dados e tomar decisões acertadas. É como se, vendo um mesmo filme várias vezes, ele pudesse reproduzir o que aprendeu fazendo uma história totalmente nova. A técnica possui várias aplicações, de um programa de recomendação de filmes e séries (alô, Netflix) aos vídeos manipulados.
“Os deepfakes surgiram nos anos 1990, ganharam fama por volta de 2014 e atingiram um pico de popularidade em 2017″, explica Hao Li, professor de Ciência da Computação na Universidade do Sul da Califórnia. Em dezembro do ano passado, ele participou da VFXRio, evento brasileiro sobre tecnologia e efeitos visuais.
Como eles são feitos?
Hao é um dos precursores da área, e trabalha há 15 anos no desenvolvimento de tecnologias que aumentem o realismo das projeções virtuais. Ele já atuou em empresas de efeitos visuais como a Weta Digital (de filmes como O Senhor dos Anéis) e a Industrial Light & Magic (Star Wars), além de comandar uma startup especializada em criar avatares do tipo.
No geral, os deepfakes são criados em duas etapas. Na primeira, o software capta imagens de referência da pessoa que será usada no vídeo (o presidente Donald Trump, por exemplo). Quanto mais imagens, maior será a precisão. “O ideal é criar um banco de dados com várias formas e ângulos do rosto”, diz Hao.
Depois, é a vez de gravar os movimentos de uma segunda pessoa, que será a base (ou o molde) para o deepfake. Por fim, a inteligência artificial tem a missão de unir as duas coisas para criar o vídeo falso. No exemplo abaixo (cujo vídeo você pode conferir clicando na imagem), as imagens captadas de Trump foram inseridas no molde, feito a partir do vídeo de imitação:
