O que é Deepfake e como identificá-lo? Dicas de segurança on-line

O que são deepfakes? Simplificando, são lobos em pele de cordeiro: vídeos e fotos falsos que parecem genuínos. Embora haja casos em que as deepfakes são usadas para fins de entretenimento, há riscos associados a elas. Portanto, surge a pergunta: "Se é possível criar um clone humano virtual em questão de minutos, como podemos saber o que é real e o que é uma fraude"?   

Este guia detalhará as deepfakes em termos simples, explicando como elas funcionam e por que são uma preocupação. Continue lendo para saber como identificá-las e se proteger da manipulação digital.

O que é um Deepfake?

Um deepfake é uma foto ou um vídeo sintético criado usando IA (inteligência artificial) que parece quase indistinguível do real. Um deepfake pode retratar pessoas dizendo ou fazendo algo que elas nunca fizeram de fato. Por exemplo, você pode pegar um vídeo do seu cantor favorito e colocar novas palavras na boca dele ou tirar uma foto e mudar um rosto.  

Como fazer Deepfakes?

O Deepfake é feito usando o poder da tecnologia deepfake (uma combinação de dois algoritmos: geradores e discriminadores) para criá-los. 

Os geradores analisam grandes quantidades de dados, como imagens e vídeos de uma pessoa-alvo, para aprender suas expressões faciais, padrões de fala, etc. Eles colocam essas informações sobre outros vídeos ou imagens, misturando as características da pessoa com o que se deseja alterar. Em seguida, os discriminadores avaliam o conteúdo quanto ao realismo e alimentam os geradores com suas descobertas para refinamento adicional. Isso faz com que um novo vídeo ou imagem pareça real, mostrando a pessoa fazendo ou dizendo algo que ela não fez.

Quem usa Deepfakes?

O Deepfakes é uma ferramenta útil usada por pesquisadores, amadores, estúdios de efeitos visuais, atacantes cibernéticos e produtores de pornografia. Os governos também o utilizam para estratégias on-line, como desacreditar grupos extremistas ou entrar em contato com os indivíduos-alvo. 

Com fácil acesso a software deepfakeComo a tecnologia de deepfakes é uma tecnologia avançada, muitas pessoas podem usá-la para satisfazer seus objetivos. E, embora alguns possam usá-la para fins de entretenimento ou marketing, outros podem usar deepfakes com intenções maliciosas, como espalhar mentiras ou arruinar a reputação de alguém. Portanto, manter-se alerta é essencial, e saber como você pode encontrar deepfakes on-line é fundamental.

Como detectar um Deepfake?

Bem, com tantos deepfakes on-line, como identificar um deepfake de uma coisa real? Embora nenhum modelo universal possa responder a essa pergunta, você não precisa ser um especialista para distinguir o real do falso.  

1. Pense novamente: Observe a foto ou o vídeo novamente. Não se apresse em compartilhá-lo com o público. Se achar que pode não ser real, não o compartilhe. 
2. Faça uma breve pesquisa sobre um título: Se você não tiver certeza sobre a confiabilidade das informações que viu, não hesite em pesquisar e verificar sua credibilidade por meio de fontes confiáveis. Não há semelhanças? Trata-se de um deepfake.
3. Tente fazer uma busca reversa de imagens: Você não tem certeza se a história é verdadeira ou falsa? Use o Google ou o DuckDuckGo para fazer uma pesquisa para descrevê-la, encontrar outra versão e comparar as duas. 
   Aqui estão alguns exemplos consideráveis de deepfake aos quais você deve prestar atenção: 
   - "Saltos" estranhos em um vídeo;
   - áudio de baixa qualidade;
   - mudança de ênfase na voz;
   - pontos embaçados;
   - rosto perfeitamente simétrico;
   - diferença na aparência;
   - e mais.
4. Verifique a mímica: Observe a boca e os lábios do contador e verifique se os sons que ele produz são feitos da maneira que deveriam. Repita essas palavras na frente do espelho para comparar como elas são produzidas. Se você observar diferenças na sincronização labial, esse é um dos sinais de vídeos deepfake. 
5. Expressões faciais: As fotos e os vídeos de deepfake geralmente contêm manipulações faciais difíceis de serem percebidas (alterações nas características faciais).
6. Envelhecimento da pele: Preste atenção à suavidade da pele nas bochechas, na testa e nos olhos. Ela é a mesma? Se sim, é outro sinal de um deepfake.
7. Ausência de sombras: Observe as sobrancelhas, o nariz e os olhos. Deve haver uma física natural de iluminação. Não há? A resposta é clara.
8. Cabelo: Analise se o cabelo da pessoa parece natural. Ele é muito longo, curto ou talvez tenha outra estrutura? O Deepfake pode adicionar ou remover costeletas, bigode ou barba.
9. Moles faciais: Embora sejam difíceis de notar, isso não significa que seja impossível. Verifique as pintas e pergunte a si mesmo: "Elas parecem reais?"
10. Frequência de piscadas: Em 2018, Pesquisadores dos EUA descobriu que, se a pessoa no vídeo piscar de forma não natural com muita frequência ou, ao contrário, muito raramente, trata-se de um deepfake. 
11. Cor de pele incompatível: Preste atenção na cor da pele da pessoa e compare o tom entre as diferentes partes do rosto ou do corpo.
12. Contato visual incomum: Um dos sinais de um deepfake é a ausência de contato visual natural que parece sem vida ou estranho. 
13. Movimentos não naturais da cabeça: Observe os movimentos da cabeça do orador. Eles não parecem naturais?
14. Maquiagem: A maquiagem ou as características da aparência parecem irreais ou muito suaves (por exemplo, pele muito lisa ou dentes perfeitamente brancos)?
15. Falta de emoções naturais: Os deepfakes frequentemente carecem de vida e de emoções humanas naturais. O locutor parece muito robótico ou sem emoção? Sim, é um deepfake.

O Deepfake é ilegal nos Estados Unidos?

De acordo com o relatório de 2019 Reportagem da ABC NewsNa semana passada, Henry Ajder, um especialista em mídia sintética, relatou que 96% dos 14 mil vídeos deepfake encontrados on-line eram pornográficos. Embora há vários anos, para criar conteúdo gerado por IA, fosse necessário um certo nível de habilidades, agora, com a ajuda de aplicativos especiais de deepfake, isso se tornou tão fácil quanto A, B, C. 

A Dra. Mary Anne Franks, professora de direito e presidente da Cyber Civil Rights Initiative, responsável pela luta contra o abuso on-line, disse que, uma vez que o conteúdo, seja ele real ou fabricado, é compartilhado publicamente, desfazer o dano pode ser incrivelmente difícil. 

Por esse motivo, Morelle apresentou ao Congresso um projeto de lei para tornar as deepfakes ilegais nos EUA em 2023. Embora não haja nenhuma lei federal que regule as deepfakes até o momento, alguns estados consideram a criação de deepfakes ilegal, enquanto a distribuição delas é ilegal em outros estados. 

Para que fins os Deepfakes são usados?

A maioria dos deepfakes é usada para fins pornográficos. E, frequentemente, as vítimas de deepfakes são celebridades femininas. Com essa nova tecnologia, qualquer pessoa, mesmo as que não são tão experientes em tecnologia, pode criar vídeos deepfake usando apenas algumas fotos. Esses vídeos falsos provavelmente começarão a aparecer fora do âmbito das celebridades, possivelmente piorando o problema da pornografia de vingança.

Como resolver o problema?

Uma das melhores soluções, por mais irônico que não pareça, é usar a inteligência artificial. Ela pode ajudar a identificar conteúdo profundamente falso. No entanto, há uma lacuna significativa no desempenho do sistema: ele funciona bem apenas para celebridades porque a IA pode treinar por horas usando conteúdo on-line disponível gratuitamente. 

É interessante notar que, em 2020, o primeiro Conjunto de dados do desafio de detecção de deepfake foi projetado para estimular a criação de novas formas de detecção e prevenção de mídia manipulada por IA. O conjunto de dados conduzido pela Amazon, Microsoft e Facebook inclui equipes de pesquisa de todo o mundo competindo pela supremacia na detecção de deepfake.

O uso de marcas d'água digitais é outra maneira de proteger seu conteúdo de se tornar um deepfake. Embora esse método não seja 100% confiável, os sistemas de registro on-line baseados em blockchain poderiam armazenar com segurança vídeos, fotos e registros de áudio, possibilitando a verificação de suas origens e quaisquer alterações. 

As deepfakes são sempre prejudiciais?

Embora a maioria dos vídeos seja criada com uma intenção prejudicial, eles têm algum potencial positivo - o CereProc, que produz vozes digitais. Assim, com ele, você pode restaurar as vozes das pessoas em caso de perda devido à idade, acidente ou doença. Usando esse método, você pode animar galerias e museus. Você pode enviar contrações de aniversário para seus amigos próximos a partir de suas figuras cult (cantores famosos, esportistas, blogueiros ou outras celebridades). 

Deepfakes vs. Shallowfakes

Shallowfakes são vídeos, imagens ou documentos falsos criados sem IA. O pior é que qualquer agente mal-intencionado pode criar shallowfakes sem experiência, usando ferramentas de edição simples, como software básico de edição de vídeo ou imagem. Elas podem incluir alterações como diminuir ou acelerar a velocidade da filmagem, combinar clipes diferentes ou adicionar filtros ou efeitos básicos. Consequentemente, são mais fáceis de detectar do que as deepfakes. No entanto, elas ainda podem ser arriscadas, especialmente na divulgação de notícias falsas ou na tentativa de mudar o que as pessoas pensam. Entretanto, elas não são tão poderosas quanto as deepfakes para fazer isso.

Dicas: Como proteger a si mesmo e a seus entes queridos contra deepfakes?

Bem, com tantos riscos associados ao uso do deepfake, está cada vez mais difícil detectar um vídeo profundamente falsoMas como você pode proteger a si mesmo e a seus entes queridos contra isso? Aqui estão algumas dicas que o ajudarão com isso. 

1. Use aplicativos especiais: Se você quiser proteger seu filho, cônjuge, parente próximo ou amigo de qualquer possível ataque de deepfake, instale uMobix em seu telefone celular. O aplicativo fornecerá acesso total a SMS, MMS, e-mails, mensagens de mídia social e mensagens enviadas ou recebidas por aplicativos de mensagens instantâneas do alvo, permitindo que você detecte qualquer sinal de deepfake e responda rapidamente. Além disso, essa ferramenta seria a solução perfeita se você quiser fortalecer controles parentais sobre seu filho. 
2. Compartilhe com cuidado: Fique atento ao compartilhar seus dados privados on-line e evite compartilhar fotos ou vídeos de alta qualidade com muitas pessoas nas mídias sociais. Compartilhe o conteúdo privado somente com pessoas de sua confiança. 
3. Ativar configurações de privacidade: Restringe quem pode ver suas fotos e vídeos on-line. Isso o protegerá de golpes de phishing ataques, chantagem, roubo de identidade de criançasbullying e outros tipos de perigos. 
4. Conteúdo da marca d'água: Os criadores de deepfake ficarão desmotivados a usar o conteúdo que contém marcas d'água, pois seria necessário mais tempo e esforço para criar conteúdo deepfake.
5. Considere a autenticação multifatorial: A adição de um nível de segurança adicional à sua conta impedirá o acesso não autorizado ao seu perfil, reduzindo assim os riscos de que alguém possa acessá-lo. 
6. Use senhas fortes: Essa é uma regra de ouro para todos que têm um perfil digital. Usar a combinação "1111" ou "ABC" em sua senha não é o caso. Torne-a forte e inclua números, símbolos, letras maiúsculas e minúsculas para fortalecê-la. 
7. Não responda a remetentes desconhecidos: Se você receber mensagens diretas, textos ou chamadas telefônicas de fontes desconhecidas com CTA (como "COMPRE AGORA!" ou "GANHE SEU PRÊMIO!"), ignore-os e NÃO responda.
8. Relatório sobre o acidente do deepfake: Se você foi vítima de deepfake, denuncie o fato às autoridades policiais federais.