O que são Deepfakes e o quão perigosos são?

Woman looking at two deepfakes and being confused as to which one is real
Clique aqui para um breve resumo
O que são deepfakes? Uma explicação rápida

Deepfakes são um tipo de mídia sintética, seja vídeo ou áudio, que tem a aparência de uma pessoa real, ligada a uma pessoa diferente. O que é preocupante é que os deepfakes estão se tornando cada vez mais fáceis de criar. Isso pode ter sérias consequências na vida das pessoas comuns, já que deepfakes podem ser usados ​​para chantagear vítimas desavisadas. Eles também são usados ​​para espalhar notícias falsas criando vídeos enganosos de pessoas conhecidas.

Você pode se proteger contra deepfakes. Estes são os passos que você pode tomar:

  • Aprenda sobre deepfakes e como identificá-los.
  • Evite postar fotos suas em contas públicas de mídia social.
  • Proteja seus dispositivos para que suas imagens, juntamente com qualquer outra forma de dados, não sejam roubadas e usadas para fins nefastos.
  • Explique os riscos de deepfakes para sua família e amigos se você não quiser que eles postem fotos suas.

Se sua imagem for usada em uma mídia deepfake, denuncie-a à plataforma de mídia social em que foi compartilhada e entre em contato com as autoridades locais. Dependendo do seu local de residência, você também pode conversar com um especialista legal.

Leia nosso artigo completo para saber mais sobre deepfakes e como se proteger delas.

No segundo filme do Exterminador do Futuro, o robô T-1000 foi capaz de transformar sua aparência para se parecer com qualquer pessoa que quisesse. Deepfakes chegam muito perto de se assemelhar a um robô T-1000. Eles são mídias enganosas que podem “transformar” sua aparência para parecer e soar como qualquer pessoa, viva ou morta. O futuro é agora, e isso nem sempre é uma coisa boa.

O que é uma Deepfake?

Um deepfake é uma mídia falsa, geralmente vídeo, que parece muito real. É a aplicação da tecnologia de IA e aprendizado de máquina para manipular vídeo e voz. Um exemplo é este deepfake de Mark Zuckerberg do Facebook. O vídeo, postado no Instagram, aparentemente mostrava o “falso Mark” dizendo as palavras sinistras:

“Imagine isso por um segundo: um homem, com controle total de bilhões de dados roubados de pessoas, todos os seus segredos, suas vidas, seus futuros… Devo tudo a Spectre. Spectre me mostrou que quem controla os dados, controla o futuro.”

Mas os deepfakes são relativamente complicados de fazer. O aprendizado de máquina requer conjuntos de dados muito grandes para treinar redes neurais. Para criar um deepfake, os dados normalmente contêm muitas milhares de imagens de duas pessoas que são transformadas e mescladas usando um software especializado. A voz é então sobreposta e os lábios são sincronizados.

Deepfakes com celebridades podem ser engraçados para alguns, mas a tecnologia por trás disso é realmente assustadora. Pode até ser perigoso, porque clipes curtos de celebridades dizendo coisas ultrajantes são apenas a ponta do iceberg.

Como as Deepfakes são usadas

Existem muitas deepfakes por aí. Em junho de 2020, só o Facebook reuniu 100.000 delas para ensinar seu algoritmo a identificar vídeos deepfake. Esse aumento no uso da tecnologia deepfake demonstra que ela está se tornando cada vez mais acessível. O aumento da acessibilidade equivale a mais novos usos, tanto para o bem quanto para o mal. Aqui estão alguns dos usos mais recentes de deepfakes e como eles estão prejudicando as pessoas.

Fake news

Em uma época em que as “notícias falsas” parecem contribuir para muitos dos problemas do mundo, as deepfakes assumiram o papel de uma ferramenta de propaganda.

Este vídeo deepfake de Barack Obama mostra como as deepfakes podem ser usadas para manipular a verdade e liberar informações em massa. Deepfakes oferecem um mecanismo muito poderoso para aqueles que tentam manipular os hábitos de votação das pessoas.

As pessoas estavam realmente preocupadas com o efeito que as deepfakes poderiam ter nas eleições de 2020. Mas, como esta análise do outono passado explica, as deepfakes não foram um grande problema nesse caso em particular. A principal razão é que as deepfakes ainda são difíceis de criar, pelo menos até o ponto em que são difíceis de distinguir da realidade. Mas, no futuro, sua disponibilidade para uso em massa pode aumentar. Como tal, eles podem realmente ameaçar eleições futuras.

Cyber crime

Deepfakes são o veículo perfeito para levar a criminalidade online para o próximo nível. Os cibercriminosos podem usar deepfakes para chantagear as pessoas para que façam seus depósitos. Isso pode acontecer de várias maneiras, por exemplo, em ataques de phishing e sextortion.

À medida que a tecnologia deepfake se torna cada vez mais acessível, é provável que seja usada para engenharia social, que é uma tática usada em muitos crimes cibernéticos que manipulam o comportamento humano brincando com nossa confiança, criando um senso de urgência, usando nosso senso de vergonha e assim por diante.

Sextortion

Sextortion é um excelente exemplo de como as deepfakes podem causar danos significativos na vida real. Sextortion é um golpe no qual os cibercriminosos chantageiam pessoas comuns para enviar dinheiro, sob a ameaça de liberar vídeos comprometedores da pessoa. O golpe pode ocorrer sem a existência de um vídeo real, mas a deepfake é um mecanismo pelo qual os criminosos podem criar material comprometedor real.

Mesmo que a vítima saiba que o vídeo não é real, ela pode achar que não tem escolha a não ser pagar, pois os vídeos podem ser extremamente realistas às vezes. Este também não é um problema pequeno. Em janeiro de 2021, a Avast pesquisou, identificou e bloqueou mais de 500.000 casos de sextortion contra seus clientes em todo o mundo.

Phishing e pornografia de vingança

E isso é apenas parte de um problema maior. A mesma tecnologia usada para sextortion também pode ser usada para phishing. Em campanhas de phishing, os cibercriminosos fingem ser outra pessoa para incentivar ações. Eles podem ligar para você e usar a voz do seu chefe, obtida por meio de sintetização de deepfake, para pedir detalhes da empresa.

Este não é um exemplo hipotético. Alguns anos atrás, um CEO britânico foi enganado para transferir US$ 240.000 para um fraudador. O CEO acreditava estar conversando com o chefe da controladora durante um telefonema, que lhe pediu para transferir o dinheiro com urgência. Acredita-se que o CEO tenha sido enganado por uma voz “deepfake”.

A tecnologia Deepfake também é usada para criar pornografia de vingança. Tem um impacto particularmente ruim nas mulheres e, se você quiser saber mais sobre esse uso especificamente, pode ler este editorial da Forbes.

Criando Deepfakes com Aplicativos Deepfake

O Zao App foi o primeiro software a tornar a criação de deepfake acessível às pessoas. Seu uso foi restrito na maioria dos países, mas as pessoas ainda podem acessar em algumas partes do mundo, como na Índia.

O Zao não é o único app que pode te ajudar a criar vídeos deepfake. Muitos outros aplicativos como esse já foram lançados, incluindo:

  • Deepfakesweb: um aplicativo web pago que permite mesclar imagens e vídeos.
  • DeepFaceLab: um programa mais complexo desenvolvido pela Microsoft. Seu principal objetivo é ajudar estudantes e pesquisadores a entender melhor as produções de deepfake, mas as pessoas podem usá-lo para criar seus próprios vídeos. No entanto, é um pouco mais difícil de usar do que o Deepfakesweb e requer um conjunto de dados de mídia muito maior para criar algo convincente.
  • Wombo: um aplicativo de sincronização labial que permite costurar rostos em vídeos de música. Se você quiser vê-lo em ação, confira este clipe com Elon Musk cantando uma música muito inesperada:

Como você pode ver, a maioria dos aplicativos deepfake amplamente disponíveis produz vídeos que não são necessariamente realistas. Mas isso pode mudar no futuro, por isso é importante aprender a se proteger.

Como se proteger contra deepfakes

Em uma tentativa de combater o mercado de deepfake, o Google lançou um repositório de dados de deepfake. Os dados fornecidos por este banco de dados serão usados para ajudar a criar as ferramentas necessárias para detectar vídeos falsos para que possam ser removidos. O Facebook está por trás de uma iniciativa semelhante, organizando uma competição para criar um software de detecção de deepfake. A Microsoft desenvolveu uma ferramenta de detecção de deepfake completa.

Mas esses esforços são suficientes para mantê-lo a salvo dos perigos do deepfake? Eles podem ser, no futuro. A partir de agora, você ainda precisa tomar precauções de segurança se não quiser sofrer por causa de deepfakes.

Compartilhar imagens publicamente: uma má ideia?

Compartilhar algumas imagens online não é uma tragédia. No entanto, se você tirar muitas fotos suas e as disponibilizar publicamente, será um alvo mais fácil para os cibercriminosos que empregam a tecnologia deepfake.

Nas configurações da maioria das plataformas de mídia social, você pode optar por tornar sua conta privada. Incentive os familiares e amigos próximos a respeitarem as mesmas diretrizes. Lembre-se de que os vídeos deepfake mais realistas só podem ser criados com um grande conjunto de dados de fotos de alguém. Se você puder pelo menos limitar as fotos que estão amplamente disponíveis, é menos provável que você seja vítima de crimes cibernéticos envolvendo deepfakes.

Segurança aprimorada do dispositivo

Além de estar ciente das imagens que você publica, você também pode garantir que seus dispositivos estejam protegidos, para que seus dados (incluindo imagens e vídeos) nunca vazem. Para fazer isso, certifique-se de usar uma VPN (Rede Privada Virtual) que ajuda você a permanecer anônimo online alterando seu IP. O software antimalware também pode ajudar, especialmente em dispositivos móveis.

Contactar as autoridades

Por fim, se você já foi vítima de um crime cibernético envolvendo deepfakes, denuncie a mídia criada com você na plataforma social em que foi compartilhada. Além disso, você também deve entrar em contato com as autoridades locais e fazer uma reclamação formal. Se você estiver em conteúdo de mídia criado com deepfake, isso pode ser considerado difamação, então você também pode entrar em contato com um advogado para analisar suas opções legais.

Um futuro para a deepfake

Embora os deepfakes possam ser usados para diversão despreocupada, a tecnologia também é usada por cibercriminosos para causar sérios danos. Pessoas conhecidas são os alvos mais fáceis para a criação de deepfake, especificamente se forem usadas para espalhar notícias falsas, mas os perigos do deepfake podem afetar qualquer pessoa. A coisa mais importante quando se trata de segurança online e uso da internet é ser crítico com tudo o que você vê online. Agora que você sabe sobre a existência de deepfakes, você pode pensar duas vezes antes de acreditar em um vídeo de um funcionário do governo fazendo uma afirmação ultrajante.

Se você quiser saber mais sobre como se proteger contra crimes cibernéticos, também pode ler nossos artigos sobre golpes no WhatsApp e pornografia de vingança.

O que são deepfakes? - Perguntas frequentes

Deepfakes estão se tornando mais prontamente disponíveis e mais fáceis de espalhar. Você ainda tem alguma dúvida sobre essa nova forma de criar “mídia falsa”? Verifique esta seção de perguntas frequentes para obter nossas respostas às perguntas mais frequentes sobre deepfakes.

Um vídeo deepfake é uma mídia criada com tecnologia deepfake que incorpora elementos de vídeo e áudio. A tecnologia Deepfake usa algoritmos de IA e aprendizado de máquina para modificar vídeos existentes e adicionar novos rostos ou vozes ao arquivo original. Os vídeos deepfake mais populares apresentam uma celebridade dizendo ou fazendo algo ridículo ou ultrajante. Você pode descobrir mais em nosso artigo sobre deepfakes.

Desaconselhamos fortemente o uso de deepfakes para fins nefastos. Criar um vídeo deepfake e compartilhá-lo publicamente pode ser considerado difamação e até extorsão se você entrar em contato com a pessoa apresentada no vídeo.

Dito isto, se você quer apenas se divertir com seus amigos – por exemplo, transformando seu rosto em um videoclipe – você pode usar aplicativos online. O Deepfakesweb permite criar vídeos deepfake, mas não é gratuito. Os vídeos podem custar entre US$ 5 e US$ 75 para serem criados, dependendo da duração do deepfake. Outras opções são Wombo e DeepFaceLab.

Identificar o primeiro vídeo deepfake é difícil. Isso porque os deepfakes não apareceram de uma só vez, então você não pode traçar uma linha clara entre a edição manual de vídeo e a edição com inteligência artificial. Na realidade, as duas formas de manipulação de mídia começaram a se misturar, até que a manipulação de vídeo com inteligência artificial se tornou “autônoma”, por assim dizer.

No entanto, o termo “deepfake” tem uma origem clara. Foi usado pela primeira vez por um usuário do Reddit com o mesmo nome em 2017, por isso é seguro assumir que os primeiros deepfakes “verdadeiros” não são muito mais antigos.

International security coordinator
Marko has a Bachelor's degree in Computer and Information Sciences. He coordinates and manages VPNOverview.com's team of international VPN researchers and writers.