Afinal, o que são deepfakes?

No passado, a manipulação de rostos digitais era uma técnica restrita a profissionais de efeitos visuais. A ideia do deepfake é que, com inteligência artificial, todo o trabalho seja feito por meio de softwares. Um programa da Samsung, por exemplo, consegue criar vídeos falsos com apenas uma imagem de referência. Já o Zao é um app chinês que faz com que o seu rosto seja transportado para uma cena de filme ou série – basta tirar uma selfie.

Quais as suas aplicações?

A aplicação mais famosa para este tipo de manipulação são os efeitos cinematográficos. Em 2019, filmes como Projeto Gemini e O Irlandês usaram técnicas similares para rejuvenescer os atores. Gemini, em especial, criou uma versão mais jovem do ator Will Smith, que contracenou com sua versão mais velha, de carne e osso.

“Os deepfakes podem ser usados também em dispositivos de realidade virtual, ou para criar sistemas de chats com interações mais realistas”, lembra Hao. A Fundação Carnegie, em um vídeo sobre o tema, diz que a tecnologia também pode ser usada para dar acessibilidade a pessoas com esclerose lateral amiotrófica, permitindo que pacientes criem cópias digitais da sua voz para ajudá-los quando não conseguirem mais falar.

Quais são os perigos envolvendo deepfakes?

A alta na popularidade dos deepfakes em 2017 apontada por Hao tem motivo. Naquele ano, um usuário do fórum Reddit criou um software de deep learing que permitia ao usuário trocar o rosto de uma atriz de filme pornô pelo de celebridades. O programa analisava milhares de imagens de atrizes, modelos e cantoras para criar um padrão de rosto para cada uma. Depois, era só jogar no video desejado e ter um filme protagonizado por quem quer que fosse.

A partir daí, diversas campanhas surgiram para alertar sobre os perigos da tecnologia, que se tornou uma espécie de versão turbinada das já conhecidas fake news (“notícias falsas”, em inglês). Esta aqui, por exemplo, foi feita pelo BuzzFeed, e é “estrelada” por uma versão falsa do ex-presidente dos EUA Barack Obama.

Os vídeos falsos, então, possuem uma série de maus usos: eles podem humilhar, chantagear ou difamar alguém, atacar organizações, incitar violência política, cancelar acordos diplomáticos e até fraudar eleições.

Deepfakes devem ser proibidos?

Apesar do desenvolvimento até aqui, vamos que combinar que, olhando com atenção, mesmo os vídeos falsos falsos mais convincentes conseguem ser desmascarados. Em setembro de 2019, Hao deu uma entrevista ao canal norte-americano CNBC, em que afirmava que deepfakes “perfeitamente reais” começariam a surgir dali a seis meses. “Eu mantenho essa previsão e digo mais: isso já está acontecendo.”

Para o professor, o grande entrave dos deepfakes é a resolução: em baixa qualidade, eles podem confundir, mas quando a resolução aumenta, as imperfeições ficam expostas. “No entanto, já existem pesquisas em desenvolvimento para criar deepfakes em alta definição”, disse Hao. Ele cita um teste feito pelo sua própria empresa, a Pinscreen – também com Donald Trump, feita a partir de uma imitação do ator Alec Baldwin. Veja abaixo:

Em meio a isso, surge o debate: se os deepfakes podem ser tão perigosos, eles não deveriam ser proibidos?

“Eu sou contra a generalização, e acho que nem tudo deve ser proibido”, defende Hao, que traz como exemplo o seu trabalho no filme Velozes e Furiosos 7, no qual ele foi um dos responsáveis pela reencenação digital do ator Paul Walker, que morreu durante as gravações. “A família de Paul estava de acordo e ajudou durante o processo. Tudo foi feito como uma forma de homenageá-lo – e funcionou”.

A tecnologia dos vídeos falsos evolui em uma velocidade muito maior que a lei – o que impede a criação de uma única norma que os regule. Dessa forma, Hao, assim como boa parte dos especialistas, defende que mais de uma medida deve ser tomada em relação os deepfakes. “O ideal seria que os países criassem organizações que digam o que é aceitável e o que deve ser proibido.” Deepfakes em vídeos pornôs, nem pensar.