¿Qué son los deepfakes y cómo de peligrosos son?

Woman looking at two deepfakes and being confused as to which one is real
Haz clic aquí para ver un breve resumen
¿Qué son los deepfakes? Una rápida explicación

Los deepfakes son un tipo de contenido multimedia sintético, ya sean de vídeo o audio, que tienen la apariencia de una persona real, adjunta a una persona distinta. Lo que es preocupante es que los deepfakes se están volviendo muy fáciles de crear. Esto puede tener serias consecuencias en las vidas de las personas corrientes, ya que los deepfakes pueden usarse para chantajear a víctimas no conscientes de ello. También se usan para difundir noticias falsas creando vídeos engañosos de gente muy conocida.

Puedes protegerte contra los deepfakes. Estos son los pasos a seguir:

  • Infórmate sobre los deepfakes y cómo reconocerlos.
  • Evita publicar fotografías de ti mismo en cuentas públicas de redes sociales.
  • Asegura tus dispositivos para que tus imágenes, junto con cualquier otro dato, no sean robadas y usadas para propósitos perversos.
  • Explica los riesgos de los deepfakes a tu familia y amigos si no quieres que publiquen fotografías de ti.

Si se te utiliza en un contenido multimedia deepfake, informa a la red social donde se compartió y contacta con las autoridades locales. Dependiendo de tu lugar de residencia, también puedes hablar con un experto en leyes.

Lee nuestro artículo completo para saber más sobre los deepfakes y cómo protegerte contra ellos.

En la segunda película de Terminator, el robot T-1000 podía transformar su apariencia para parecerse a quien quisiera. Los deepfakes se acercan mucho a parecerse a un robot T-1000. Falsean ficheros multimedia que pueden «transformar» su apariencia para verse y sonar como alguien, vivo o muerto. El futuro es ahora, y eso no siempre es bueno.

¿Qué es un deepfake?

Un deepfake es una pieza multimedia falsa, normalmente un vídeo, que parece muy real. Es la aplicación de la tecnología de IA y el aprendizaje automático para manipular vídeo y voz. Un ejemplo es este deepfake de Mark Zuckerberg de Facebook. El vídeo, publicado en Instagram, muestra supuestamente un «Mark falso» diciendo las siguientes siniestras palabras:

«Imagina esto por un momento: Un hombre, con el control total sobre los datos robados de miles de millones de personas, todos sus secretos, sus vidas, sus futuros… Todo se lo debo a Spectre. Spectre me mostró que quien controla los datos, controla el futuro».

Pero los deepfakes son relativamente complicados de hacer. El aprendizaje automático requiere un enorme conjunto de datos para entrenar las redes neuronales. Normalmente, para crear un deepfake, los datos contienen muchos miles de imágenes de dos personas que se transforman y se fusionan usando un software especializado. Entonces, se superpone la voz y se sincronizan los labios.

Los deepfakes de famosos pueden parecer divertidos para algunos, pero la tecnología detrás de esto es realmente aterradora. Puede ser incluso más peligroso, ya que clips cortos de famosos diciendo cosas intolerables son solo la punta del iceberg.

Cómo se usan los deepfakes

Hay muchos deepfakes por ahí. En junio de 2020, solo Facebook reunió 100.000 de ellos para enseñar a su algoritmo cómo detectar vídeos deepfake. Este incremento en el uso de la tecnología deepfake demuestra que se está convirtiendo en más y más accesible. El aumento de accesibilidad iguala a los usuarios más innovadores, para bien y para mal. Estos son unos pocos de los últimos usos que se han hecho de deepfakes, y cómo dañan a las personas.

Noticias falsas

En una época donde las noticias falsas parecen contribuir mucho a las calamidades del mundo, los deepfakes han tomado el rol de herramienta de propaganda.

Este deepfake de Barack Obama muestra cómo los deepfakes pueden usarse para manipular la verdad y soltar información en masa. Los deepfakes ofrecen un mecanismo muy poderoso para aquellos que quieran intentar manipular el voto de la gente.

La gente está realmente preocupada sobre los efectos que los deepfakes pudieron ejercer en las elecciones norteamericanas de 2020. Pero como este análisis del pasado otoño cuenta, los deepfakes no fueron un problema en ese caso en particular. El mayor motivo es que los deepfakes aún son difíciles de crear, por lo menos hasta el punto de que sea complicado distinguirlos de la realidad. Pero en el futuro, su disponibilidad para su uso en masa puede aumentar. Por eso, podrían, realmente, amenazar futuras elecciones.

Ciberdelincuencia

Los deepfakes son el vehículo perfecto para llevar la delincuencia en línea al siguiente nivel. Los ciberdelincuentes pueden usar los deepfakes para chantajear a gente para que cumplan sus órdenes. Esto puedo ocurrir de múltiples formas, por ejemplos en ataques de phishing y sextorsión.

Ya que la tecnología de los deepfakes está volviéndose más accesible, es probable que sea usada para la ingeniería social, que es una táctica usada en muchos cibercrímenes que manipulan el comportamiento humano jugando con nuestra confianza, creando una sensación de urgencia, usando nuestro sentimiento de vergüenza, etc.

Sextorsión

La sextorsión es un excelente ejemplo de cómo los deepfakes pueden ser capaces de crear daños significativos en la vida real. La sextorsión es una estafa en la que los ciberdelincuentes chantajean a personales normales para que les entreguen dinero, bajo la amenaza de publicar vídeos comprometedores de la víctima. La estafa puede realizarse sin la existencia del vídeo, pero los deepfakes son un mecanismo por el cual los delincuentes pueden crear material comprometido de verdad.

Aunque la víctima sepa que el vídeo no es real, puede sentir que no tiene otra opción que pagar, ya que los vídeos pueden ser extremadamente realistas, a veces. Este no es un problema pequeño. En enero de 2021, Avast investigó, identificó y bloqueó unos 500.000 casos de sextorsión contra sus clientes, a nivel mundial.

Phishing y pornovenganza

Y esto es solo parte de un problema mayor. La misma tecnología usada para la sextorsión también puede usarse para el phishing. En las campañas de phishing, los ciberdelincuentes se hacen pasar por alguien para incentivar acciones. Pueden llamarte y usar la voz de tu jefe, obtenida a través de la sintetización deepfake, para pedir información de la empresa.

Este no es un ejemplo hipotético. Hace un par de años, un CEO británico fue engañado para transferir 240.000 dólares a un estafador. El CEO creyó que estaba hablando con el encargado de la sociedad controlante durante una llamada telefónica, donde le pidieron una transferencia urgente de dinero. Se cree que el CEO fue engañado por una voz «deepfake».

La tecnología deepfake también se usa para crear pornovenganza. Produce un particularmente duro impacto en las mujeres, y si quieres saber más sobre este uso específico, puede leer esta editorial de la revista Forbes.

Aplicaciones para la creación de deepfakes

Zao App fue el primer software para que la creación de deepfakes fuera ampliamente accesible a la gente. Su uso ha sido restringido en la mayoría de países, pero aún se puede acceder a él desde algunas partes del mundo, como la India.

Zao no es la única aplicación que puede ayudarte a crear vídeos deepfake. Hay un montón de otras aplicaciones que se han lanzado, incluyendo:

  • Deepfakesweb: una aplicación de navegador de pago que te permite juntar imágenes y vídeos.
  • DeepFaceLab: un programa más complejo construido por Microsoft. Su propósito principal es ayudar a los estudiantes e investigadores a tener una mejor comprensión de las producciones deepfake, pero la gente la usa para crear sus propios vídeos. Es un poco más complicada de usar que Deepfakesweb, sin embargo, y requiere una mayor cantidad de datos multimedia para crear algo convincente.
  • Wombo: una aplicación de sincronización labial que te permite coser caras a vídeos musicales. Si la quieres ver en acción, echa un vistazo a este clip con Elon Musk cantando una canción probablemente inesperada:

Como puedes ver, la mayoría de aplicaciones de deepfakes que están ampliamente disponibles no suelen producir vídeos que sean necesariamente realisticos. Pero eso puede cambiar en el futuro, así que es importante aprender a protegernos.

Cómo protegerte contra los deepfakes

En un intento de contrarrestar el mercado de los deepfakes, Google publicó un repositorio de datos deepfake. Los datos proporcionados por esta base de datos sería usada para crear las herramientas necesarias para detectar vídeos falsos y así poder eliminarlos. Facebook está detrás de una iniciativa parecida, organizando una competición para crear un software de detección de deepfakes. Microsoft desarrolló una completa herramienta de detección de deepfakes.

¿Pero son suficientes estos esfuerzos para mantenernos seguros de los daños de los deepfakes? Podría ser, en el futuro. Ahora mismo, aún necesitas tomar precauciones si no quieres sufrir debido a los deepfakes.

Compartir imágenes públicamente: ¿una mala idea?

Compartir algunas de nuestras fotografías en línea no es una tragedia. Sin embargo, si tomas un montón de fotografías tuyas y las pones disponibles para el público en general, eres un objetivo fácil para los ciberdelincuentes que usan la tecnología deepfake.

En la configuración de la mayoría de redes sociales, puedes elegir que tu cuenta sea privada. Anima a los miembros de la familia y a los amigos más cercanos que respecten las mismas pautas. Recuerda que el vídeo deepfake más realista solo puede crearse con un enorme conjunto de datos de las fotografías de alguien. Si puedes, por lo menos, limitar las fotografías de ti que están disponibles, es menos probable que acabes siendo presa de los ciberdelitos relacionados con los deepfakes.

Seguridad avanzada de dispositivo

Además de ser consciente con respecto a las imágenes que publicas, también puedes asegurarte de que tus dispositivos estén seguros, así tus datos (incluyendo imágenes y vídeos) nunca serán filtradas. Para hacer esto, asegúrate de usar una VPN (red privada virtual, en sus siglas en inglés) que te ayuda a mantenerte anónimo en línea cambiando tu IP. Los programas antimalware también pueden ayudar, especialmente en dispositivos móviles.

Contactar con las autoridades

Por último, si alguna vez eres víctima de un ciberdelito relacionado con deepfakes, informa del contenido multimedia creado contigo a la red social donde se compartió. Además de eso, deberías contactar también con las autoridades locales y presentar una denuncia. Si te encuentras en un contenido multimedia creado con deepfake, puede considerarse difamación, por lo que también puedes contactar con un abogado para analizar tus opciones legales.

El futuro de los deepfake

Mientras que deepfakes pueden usarse de forma divertida, la tecnología también es usada por ciberdelincuentes para realizar daños serios. La gente más conocida son los objetivos más fáciles para la creación de deepfakes, específicamente si lo usan para difundir noticias falsas, pero los peligros de los deepfakes pueden afectar a cualquiera. La cosa más importante en cuanto a la seguridad en línea y el uso de Internet, es ser crítico sobre todo lo que veamos en línea. Ahora que conoces la existencia de los deepfakes, tal vez te lo pienses dos veces antes de creer un vídeo de un miembro del gobierno haciendo una declaración indignante.

Si quieres saber más sobre cómo protegerte con la ciberdelincuencia, también puedes leer nuestros artículos sobre las estafas en WhatsApp y la pornovenganza.

¿Qué son los deepfakes? - Preguntas frecuentes

Los deepfakes se están volviendo más rápidamente disponibles y más fáciles de difundir. ¿Aún tienes una pregunta sobre esta nueva forma de crear «multimedia falsos»? Echa una ojeada a esta sección de preguntas frecuentes para encontrar las respuestas a las preguntas más habituales sobre los deepfakes.

Un vídeo deepfake es una pieza multimedia creada con tecnología deepfake que incorpora elementos de vídeo y audio. La tecnología deepfake usa IA y algoritmos de aprendizaje automático para modificar vídeos ya existentes y añadir nuevas caras o voces sobre el fichero original. Los vídeos deepfake más populares los protagonizan famosos diciendo o haciendo algo ridículo u ofensivo. Puedes encontrar más sobre esto en nuestro artículo.

Te aconsejamos encarecidamente contra el uso de deepfakes para propósitos perversos. Crear un vídeo deepfake y compartirlo públicamente podría ser considerado una injuria, e incluso extorsión si contactas con la persona que aparece en el vídeo.

Hay que decir que, si simplemente quieres divertirte con tus amigos, por ejemplo poniendo tu cara en un vídeo musical, puedes usar aplicaciones en línea. Deepfakesweb te permite crear vídeos deepfake, pero no es gratis. Los vídeos pueden moverse entre los 5 y los 75 dólares para crearlos, dependiendo de la duración del deepfake. Otras opciones son Wombo y DeepFaceLab.

Identificar el primer vídeo deepfake es complicado. Esto es debido a que los deepfakes no aparecieron a la vez, por lo que no hay una línea clara entre la edición de vídeo manual y la edición con tecnología de IA. En realidad, las dos formas de manipulación de contenidos multimedia empezaron mezcladas, hasta que la manipulación de vídeo con tecnología de IA se volvió «autónoma», por decirlo así.

Sin embargo, el término «deepfake» tiene un origen claro. Fue usado por primera vez por un usuario de Reddit con el mismo nombre en 2017, por lo que es fácil asumir que el primer deepfake «verdadero» no es muy antiguo.

International security coordinator
Marko has a Bachelor's degree in Computer and Information Sciences. He coordinates and manages VPNOverview.com's team of international VPN researchers and writers.