Você já assistiu um vídeo com um rosto fora de contexto? Você reconhece a situação, mas aquele rosto não pertence a aquele corpo. Atualmente, cada vez mais difundido, deepfakes é uma tecnologia que usa de inteligência artificial (IA) para fazer montagem com pessoas (famosas ou não), substituindo rostos e vozes em vídeos realistas.
Muito se discute sobre a ética e as consequências da tecnologia, para o bem e para o mal. O termo deepfake apareceu em dezembro de 2017, quando um usuário do Reddit com esse nome começou a postar vídeos de sexo falsos com famosas. A palavra vem da junção dos termos “deep learning”, que é uma abordagem do aprendizado de máquinas, com “fake” (falso). O computador aprende várias informações e depois consegue replicá-las.
Contudo, essa técnica gera medo em personalidades da mídia e colabora para a disseminação de fake news, especialmente dentro do campo político e das celebridades. Em janeiro de 2020, o Facebook chegou a proibir quaisquer imagens que tenham alteração por deepfake em suas plataformas.
LEIA MAIS: Tesla Phone Pi: o futuro dos smartphones chega em 2022
Exemplos de deepfake
Recentemente, o rapper norte-americano Kendrick Lamar, lançou a faixa “The Heart Part 5“, a música ganhou clipe que usa o deepfake como estrela principal. O vídeo, dirigido por Dave Free e Lamar, mostra o rapper assumindo o visual de várias celebridades negras famosas – incluindo Will Smith, Kobe Bryant, Kanye West, OJ Simpson, Jussie Smollett e Nipsey Hustle.
Assista ao vídeo abaixo:
Em 2018, o diretor Jordan Peele em parceria com o BuzzFeed fez um vídeo com Obama falando coisas que ele não falaria em uma gravação. No vídeo frases como “Simplesmente, o presidente Trump é um imbecil” e “se liguem, vadias” saem da boca do ex-presidente. O vídeo, de acordo com os produtores, foi uma maneira de alertar para o aumento de notícias e vídeos falsos.
Assista ao vídeo abaixo:
Já no Brasil o caso mais famoso de deepfake são os vídeos produzidos por Bruno Sartori. O jornalista costuma fazer paródias colocando o rosto de políticos (em geral o do presidente Jair Bolsonaro) em situações clássicas da televisão e cultura brasileira.
Assista ao vídeo abaixo:
Ferramentas para detectar deepfake
Uma ferramenta foi desenvolvida por pesquisadores da Universidade de Buffalo. Segundo a pesquisa, foi observado que os olhos seriam um ponto-chave na identificação destas falsificações e criaram o recurso, com 94% de eficácia.
A pesquisa, de acordo com o The Next Web, chegou à conclusão de que, em imagens reais de seres humanos, os reflexos nas córneas de uma pessoa tendem a ser idênticos. Já em deepfakes, os reflexos são diferentes. Contudo, a ferramenta é muito menos eficaz em fotos que não são retratos, e essas fotos possuem muito menos probabilidade de ter reflexos visíveis nas córneas. Ainda é, portanto, uma ferramenta que funciona com um tipo específico de deepfake e tem sua eficácia muito limitada.
FakeCatcher
O FakeCatcher foi desenvolvido por pesquisadores da Binghamton University’s Thomas J. Watson College of Engineering and Applied Science e da Intel Corp. A precisão da ferramenta pode chegar a mais de 90%.
A ferramenta analisa as diferenças sutis na cor da pele causadas pelo efeito do batimento cardíaco (ou seja, tentando identificar a pulsação). Sendo assim, ele usa fotopletismografia (PPG), uma técnica ótica que é usada para detectar alterações no volume sanguíneo nos tecidos – a mesma técnica usada por oxímetros. De acordo com Ilke Demir, da Intel Corp., a equipe de pesquisa extraiu vários sinais PPG de diferentes partes do rosto e observou a consistência espacial e temporal desses sinais.
Para construir o FakeCatcher foi preciso usar um banco de dados fisiológicos. Os dados foram capturados não apenas com imagens 2D e 3D, mas também com câmeras térmicas e sensores fisiológicos.
A pesquisa completa pode ser encontrada no artigo científico “FakeCatcher: Detection of Synthetic Portrait Videos using Biological Signals”, publicado pela Revista IEEE Transactions on Pattern Analysis and Machine Intelligence.
Microsoft lançou ferramenta que detecta deepfake em vídeos
A ferramenta chamada Video Authenticator é capaz de identificar manipulações em vídeos. O projeto analisa cada quadro de vídeos e gera uma pontuação de manipulação com uma porcentagem indicando as chances de a mídia ter sido alterada.
O serviço faz parte do Programa de Defesa da Democracia e foi desenvolvido pelo time de P&D da Microsoft Foundation. O objetivo da ferramenta é defender a democracia de ameaças alimentadas pela desinformação.
Por fim, como reconhecer deepfakes?
Algumas dicas ajudam a reconhecer se o vídeo que você está assistindo possui manipulação deepfake ou não:
- atenção a movimentos esquisitos e também ao tamanho desproporcional do rosto;
- caso o vídeo tenha áudio, atenção a sincronia do som com a boca;
- é mais fácil perceber manipulação em vídeos assistidos em tela cheia e em melhor qualidade;
- pesquise a procedência da informação passada no vídeo. Se a informação não saiu em veículos confiáveis, certamente é falsa;
- vídeos com imagens ruins enganam com mais facilidade.
A tendência é que a técnica se popularize e passe a estar disponível mesmo para quem não trabalha com tecnologia nos próximos anos. Então, atenção é fundamental!
Veja também o vídeo do Klaus sobre Deepfake: Lado bom e Lado Ruim dessa tecnologia
Quer saber mais dicas sobre o mundo dos negócios?
Então siga o WorkStars nas redes sociais LinkedIn | Instagram | Youtube | B2B para Startups