Deepfake | Arte por Moacir Alves

Deepfake: conheça ferramentas para detectar manipulações

Você já assistiu um vídeo com um rosto fora de contexto? Você reconhece a situação, mas aquele rosto não pertence a aquele corpo. Atualmente, cada vez mais difundido, deepfakes é uma tecnologia que usa de inteligência artificial (IA) para fazer montagem com pessoas (famosas ou não), substituindo rostos e vozes em vídeos realistas.

Muito se discute sobre a ética e as consequências da tecnologia, para o bem e para o mal. O termo deepfake apareceu em dezembro de 2017, quando um usuário do Reddit com esse nome começou a postar vídeos de sexo falsos com famosas. A palavra vem da junção dos termos “deep learning”, que é uma abordagem do aprendizado de máquinas, com “fake” (falso). O computador aprende várias informações e depois consegue replicá-las.

Contudo, essa técnica gera medo em personalidades da mídia e colabora para a disseminação de fake news, especialmente dentro do campo político e das celebridades. Em janeiro de 2020, o Facebook chegou a proibir quaisquer imagens que tenham alteração por deepfake em suas plataformas.

 

LEIA MAIS: Tesla Phone Pi: o futuro dos smartphones chega em 2022

 

Exemplos de deepfake

Recentemente, o rapper norte-americano Kendrick Lamar, lançou a faixa “The Heart Part 5“, a música ganhou clipe que usa o deepfake como estrela principal. O vídeo, dirigido por Dave Free e Lamar, mostra o rapper assumindo o visual de várias celebridades negras famosas – incluindo Will Smith, Kobe Bryant, Kanye West, OJ Simpson, Jussie Smollett e Nipsey Hustle. 

Assista ao vídeo abaixo:  

 

 

Em 2018, o diretor Jordan Peele em parceria com o BuzzFeed fez um vídeo com Obama falando coisas que ele não falaria em uma gravação. No vídeo frases como “Simplesmente, o presidente Trump é um imbecil” e “se liguem, vadias” saem da boca do ex-presidente. O vídeo, de acordo com os produtores, foi uma maneira de alertar para o aumento de notícias e vídeos falsos.

Assista ao vídeo abaixo:  

 

 

Já no Brasil o caso mais famoso de deepfake são os vídeos produzidos por Bruno Sartori. O jornalista costuma fazer paródias colocando o rosto de políticos (em geral o do presidente Jair Bolsonaro) em situações clássicas da televisão e cultura brasileira.

Assista ao vídeo abaixo:  

 

 

Ferramentas para detectar deepfake

Uma ferramenta foi desenvolvida por pesquisadores da Universidade de Buffalo. Segundo a pesquisa, foi observado que os olhos seriam um ponto-chave na identificação destas falsificações e criaram o recurso, com 94% de eficácia. 

A pesquisa, de acordo com o The Next Web, chegou à conclusão de que, em imagens reais de seres humanos, os reflexos nas córneas de uma pessoa tendem a ser idênticos. Já em deepfakes, os reflexos são diferentes. Contudo, a ferramenta é muito menos eficaz em fotos que não são retratos, e essas fotos possuem muito menos probabilidade de ter reflexos visíveis nas córneas. Ainda é, portanto, uma ferramenta que funciona com um tipo específico de deepfake e tem sua eficácia muito limitada.

 

FakeCatcher

O FakeCatcher foi desenvolvido por pesquisadores da Binghamton University’s Thomas J. Watson College of Engineering and Applied Science e da Intel Corp. A precisão da ferramenta pode chegar a mais de 90%.

A ferramenta analisa as diferenças sutis na cor da pele causadas pelo efeito do batimento cardíaco (ou seja, tentando identificar a pulsação). Sendo assim, ele usa fotopletismografia (PPG), uma técnica ótica que é usada para detectar alterações no volume sanguíneo nos tecidos – a mesma técnica usada por oxímetros. De acordo com Ilke Demir, da Intel Corp., a equipe de pesquisa extraiu vários sinais PPG de diferentes partes do rosto e observou a consistência espacial e temporal desses sinais.

Para construir o FakeCatcher foi preciso usar um banco de dados fisiológicos. Os dados foram capturados não apenas com imagens 2D e 3D, mas também com câmeras térmicas e sensores fisiológicos.

Comparação entre imagens geradas por deepfake e imagens originais. Imagem: biometricupdate.com
Comparação entre imagens geradas por deepfake e imagens originais. Imagem: biometricupdate.com

 

A pesquisa completa pode ser encontrada no artigo científico “FakeCatcher: Detection of Synthetic Portrait Videos using Biological Signals”, publicado pela Revista IEEE Transactions on Pattern Analysis and Machine Intelligence.

 

Microsoft lançou ferramenta que detecta deepfake em vídeos

A ferramenta chamada Video Authenticator é capaz de identificar manipulações em vídeos. O projeto analisa cada quadro de vídeos e gera uma pontuação de manipulação com uma porcentagem indicando as chances de a mídia ter sido alterada.

O serviço faz parte do Programa de Defesa da Democracia e foi desenvolvido pelo time de P&D da Microsoft Foundation. O objetivo da ferramenta é defender a democracia de ameaças alimentadas pela desinformação.

 

Ferramenta de detecção de deepfakes Video Authenticator da Microsoft.
Ferramenta de detecção de deepfakes Video Authenticator da Microsoft.

 

Por fim, como reconhecer deepfakes? 

Algumas dicas ajudam a reconhecer se o vídeo que você está assistindo possui manipulação deepfake ou não:

  • atenção a movimentos esquisitos e também ao tamanho desproporcional do rosto; 
  • caso o vídeo tenha áudio, atenção a sincronia do som com a boca; 
  • é mais fácil perceber manipulação em vídeos assistidos em tela cheia e em melhor qualidade; 
  • pesquise a procedência da informação passada no vídeo. Se a informação não saiu em veículos confiáveis, certamente é falsa; 
  • vídeos com imagens ruins enganam com mais facilidade.

A tendência é que a técnica se popularize e passe a estar disponível mesmo para quem não trabalha com tecnologia nos próximos anos. Então, atenção é fundamental! 

 

Veja também o vídeo do Klaus sobre Deepfake: Lado bom e Lado Ruim dessa tecnologia

 

Quer saber mais dicas sobre o mundo dos negócios?

Então siga o WorkStars nas redes sociais LinkedIn | Instagram | Youtube | B2B para Startups

Compartilhe
Subscribe
Notify of
guest
0 Comentários
Inline Feedbacks
View all comments
Leia também