O que é deepfake e como combater a prática?

Conheça e saiba identificar o novo mecanismo de fake news

---

Além do cuidado habitual, jornalistas agora precisam ter atenção redobrada com vídeos e imagens que buscam desinformar e confundir o público. Essas mídias podem ser manipuladas por meio de descontextualizações, edições, encenações e até mesmo imagens geradas por computador.

Photo by Christopher Gower on Unsplash

Com isso, a agência de notícias internacional Reuters liberou um curso online e gratuito sobre mídias manipuladas como forma de esclarecer o universo de mídias manipuladas para jornalistas e redações (confira na íntegra).

Nós destrinchamos esse material e fizemos um guia para você.

O que é deepfake?

É uma mídia sintética e é a mais sofisticada entre as imagens geradas por computador (CGI). O termo vem da junção dos termos deeplearning (uma das bases da Inteligência Artificial) + fake (falso, em inglês).

Assim, é o resultado das possibilidades criativas de CGIs com a velocidade e precisão dos softwares de deeplearning. Na prática, são a evolução das imagens já quase reais que observamos nos videogames atuais.

Os softwares que geram o deeplearning são alimentados com imagens reais. A partir disso, os algoritmos aprendem as regras, nuances e características dessas imagens e constroem novas combinações.

Imagine um ator aprendendo a imitar uma outra pessoa. Ele vai estudar todas as expressões faciais, tom de voz, variações e demais características para conseguir interpretar aquela pessoa.

Após gerar uma combinação, a mídia passa por um segundo procedimento para melhorar o conteúdo e corrigir trechos irrealistas, tornando o vídeo ainda mais real. Isso permite algumas possibilidades, por exemplo:

1. Troca de rostos: com movimentos aprendidos em um rosto A, posiciona esses movimentos e expressões faciais um rosto B, fazendo parecer que é a outra pessoa falando no vídeo;

2. Reanimação facial: aqui o rosto A continua o mesmo, mas os movimentos do rosto B são reposicionados no rosto A, dando a impressão de que a pessoa está falando outra língua;

3. Remoção de objetos: neste caso uma pessoa pode ser retirada do vídeo, por exemplo;

4. Imagens sintéticas: são imagens criadas a partir da combinação de várias outras fotos. No site This Person Does Not Exist, é possível ver alguns exemplos de fotos criadas digitalmente;

5. Áudio sintético: o software aprende as características da fala de uma pessoa e utiliza para criar novas falas.

Mas afinal, tem um lado positivo nisso?

Para a indústria cinematográfica e publicitária é o melhor dos mundos. O software de deeplearning facilita e agiliza o processo de criação de efeitos especiais. Além disso, processos de dublagem podem ser facilitados, já que um áudio sintético pode ser criado.

Entretanto, os conteúdos criados podem ser propositalmente maliciosos e desenvolvidos para influenciar comportamentos e causar grande impacto. Em maior grau, vídeos podem direcionar a opinião pública e influenciar eventos importantes, como eleições. Em menor escala, esse tipo de criação pode ser feito para chantagear ou constranger alguém.

Como combater?

O jornalismo precisa agir de forma ainda mais criteriosa ao entrar em contato com vídeos recebidos na redação ou encontrados na Internet.

A Reuters sugere um fluxo de trabalho para verificar tanto o conteúdo quanto a origem de mídias, veja a seguir:

1. Realize uma busca reversa dos principais quadros da imagem;

2. Procure por pistas que ajudam identificar a hora e local (ex.: posição do sol, nome da rua, detalhes da rua). Dica: coloque na visão de rua do google maps e verifique se é o mesmo local;

3. Existem outras versões de outras fontes que retratam o mesmo incidente? Se não, é possível que essa seja a única versão gravada?;

4. Tente conseguir o arquivo original e verifique os metadados do arquivo. Eles fornecem dados como modelo de câmera, data e tamanho do arquivo, além de informações sobre localização, como celulares e aparelhos que usam GPS;

5. Confira se a qualidade da imagem e do áudio é a esperada para aquele tipo de arquivo;

6. Se possível, procure especialista no assunto que sejam independentes e possam observar se há algo incomum na cena retratada.

Ainda de acordo com a Reuters, para verificar a origem da mídia, responda às seguintes perguntas:

1. Como você recebeu este conteúdo?

2. O que você sabe sobre os autores?

3. Qual é a motivação deles para captar e compartilhar o conteúdo?

4. Você consegue contatá-los?

5. Eles estão respondendo às suas perguntas de maneira detalhada e consistente?

Com as redes sociais, a disseminação de fake news ganhou proporções grandiosas. Cabe a nós, jornalistas, verificar e desconfiar de todo vídeo. Mesmo querendo ser o primeiro a publicar certo assunto, algumas verificações rápidas são essenciais.

A tecnologia a nosso favor

Novos programas estão sendo desenvolvidos para ajudar a identificar deepfakes. Mas enquanto isso, a melhor solução é a busca reversa de imagens. Dê print de quadros do vídeo ou pegue a foto e pesquise a imagem em mecanismos de busca.

Mesmo com vídeos cada vez mais realistas, fique sempre alerta. Falta de sincronia entre áudio e imagem, movimentos de boca pouco naturais, borda das pessoas ou objetos, podem ser sinais de manipulação. Observe se a pessoa fica parada mais que o normal enquanto fala, realiza poucas expressões faciais ou pisca de forma incomum.

Gostou do conteúdo? Compartilhe nosso material e conte para nós sua experiência!