¿Qué es Deepfake y cómo detectarlo? Consejos de seguridad en línea

¿Qué son los deepfakes? En pocas palabras, son lobos con piel de cordero: vídeos y fotos falsos que parecen auténticos. Aunque hay casos en los que los deepfakes se utilizan con fines de entretenimiento, existen riesgos asociados a ellos. Así que surge la pregunta: "Si es posible crear un clon humano virtual en cuestión de minutos, ¿cómo podemos saber qué es real y qué es una estafa"?   

Esta guía desglosa las deepfakes en términos sencillos, explicando cómo funcionan y por qué son motivo de preocupación. Sigue leyendo para saber cómo detectarlos y protegerte de la manipulación digital.

¿Qué es un Deepfake?

Un deepfake es una foto o vídeo sintético creado mediante IA (inteligencia artificial) que parece casi indistinguible del real. Un deepfake puede representar a personas diciendo o haciendo algo que en realidad nunca hicieron. Por ejemplo, puedes grabar un vídeo de tu cantante favorito y poner nuevas palabras en su boca o hacer una foto y cambiar una cara.  

¿Cómo hacer deepfakes?

Para crearlos se utiliza la tecnología deepfake (una combinación de dos algoritmos: generadores y discriminadores). 

Los generadores analizan grandes cantidades de datos, como imágenes y vídeos de una persona objetivo, para aprender sus expresiones faciales, patrones de habla, etc. Colocan esta información sobre otros vídeos o imágenes, mezclando los rasgos de la persona con lo que se quiere cambiar. A continuación, los discriminadores evalúan el contenido para comprobar su realismo y devuelven sus conclusiones a los generadores para que los perfeccionen. Esto hace que un nuevo vídeo o imagen parezca real, mostrando a la persona haciendo o diciendo algo que no hizo.

¿Quién utiliza Deepfakes?

Deepfakes es una herramienta útil que utilizan investigadores, aficionados, estudios de efectos visuales, ciberatacantes y productores de porno. Los gobiernos también lo utilizan para estrategias en línea, como desacreditar a grupos extremistas o ponerse en contacto con las personas objetivo. 

Con fácil acceso a software deepfakeEn la actualidad, muchas personas pueden utilizar esta avanzada tecnología para satisfacer sus propósitos. Y mientras que algunos pueden utilizarla con fines de entretenimiento o marketing, otros pueden usar deepfakes con intenciones maliciosas, como difundir mentiras o arruinar la reputación de alguien. Por tanto, mantenerse alerta es esencial, y saber cómo se puede encontrar deepfakes online es crucial.

¿Cómo detectar un Deepfake?

Bueno, con tantos deepfakes online, cómo detectar un deepfake de ¿es real? Aunque ningún modelo universal podría responder a esta pregunta, no hace falta ser un experto para distinguir lo real de lo falso.  

1. Piénselo otra vez: Vuelve a mirar la foto o el vídeo. No te apresures a compartirla con el público. Si consideras que puede no ser real, no lo compartas. 
2. Haga una breve investigación sobre un titular: Si no está seguro de la fiabilidad de la información que ha visto, no dude en investigar y comprobar su credibilidad a través de fuentes fiables. ¿No hay similitudes? Se trata de un deepfake.
3. Prueba a hacer una búsqueda inversa de imágenes: ¿No estás seguro de si es una historia real o falsa? Utiliza Google o DuckDuckGo para buscar la descripción, encuentra otra versión y compara ambas. 
   He aquí algunos ejemplos considerables de deepfake a los que hay que prestar atención: 
   - extraños "saltos" en un vídeo;
   - audio de baja calidad;
   - cambio de énfasis de voz;
   - manchas borrosas;
   - cara perfectamente simétrica;
   - diferencia de aspecto;
   - y mucho más.
4. Comprueba la mímica: Observa la boca y los labios del cajero y comprueba si los sonidos que produce son los correctos. Repita estas palabras frente al espejo para comparar cómo se producen. Si observas diferencias en la sincronización de los labios, es uno de los signos de los vídeos deepfake. 
5. Expresiones faciales: Las fotos y vídeos de Deepfake suelen contener manipulaciones faciales difíciles de percibir (cambios en los rasgos faciales).
6. Envejecimiento de la piel: Presta atención a la tersura de la piel en las mejillas, la frente y los ojos. ¿Son iguales? Si es así, es otro signo de deepfake.
7. Ausencia de sombras: Mira las cejas, la nariz y los ojos. Debe haber una iluminación física natural. ¿Ausente? La respuesta es clara.
8. Cabello: Analiza si el pelo de la persona parece natural. ¿Es demasiado largo, corto o tal vez tiene otra estructura? Deepfake podría añadir o quitar patillas, bigote o barba.
9. Lunares faciales: Aunque son difíciles de notar, eso no significa que sea imposible. Comprueba los lunares y pregúntate: "¿Parecen reales?".
10. Frecuencia de parpadeo: En 2018, Investigadores estadounidenses descubrió que si la persona que aparece en el vídeo parpadea de forma poco natural con demasiada frecuencia o, por el contrario, con muy poca frecuencia, se trata de un deepfake. 
11. Color de piel desigual: Presta atención al color de la piel de la persona y compara su tono entre distintas partes de la cara o el cuerpo.
12. Contacto visual inusual: Uno de los signos de una deepfake es la ausencia de contacto visual natural que parece sin vida o extraño. 
13. Movimientos antinaturales de la cabeza: Fíjate en los movimientos de cabeza del orador. ¿Le parece poco natural?
14. Maquillaje: ¿El maquillaje o los rasgos de la apariencia parecen poco realistas o demasiado suaves (por ejemplo, piel demasiado lisa o dientes perfectamente blancos)?
15. Falta de emociones naturales: Los deepfakes suelen carecer de vida y de emociones humanas naturales. ¿El orador parece demasiado robótico o carente de emociones? Sí, es un deepfake.

¿Es Deepfake ilegal en Estados Unidos?

Según el Reportaje de ABC NewsHenry Ajder, experto en medios sintéticos, informó de que 96% de los 14.000 vídeos deepfake encontrados en Internet eran pornográficos. Aunque hace varios años, para crear contenidos generados por IA, se requería un cierto nivel de conocimientos, ahora, con la ayuda de aplicaciones especiales de deepfake, se ha vuelto tan fácil como A, B, C. 

La Dra. Mary Anne Franks, catedrática de Derecho y presidenta de la Cyber Civil Rights Initiative, responsable de la lucha contra los abusos en línea, afirmó que una vez que los contenidos, reales o inventados, se comparten públicamente, deshacer el daño puede resultar increíblemente difícil. 

Por este motivo, Morelle presentó en el Congreso un proyecto de ley para ilegalizar los deepfakes en Estados Unidos en 2023. Aunque por ahora no existe una ley federal que regule los deepfakes, algunos estados consideran ilegal la creación de deepfakes, mientras que su distribución es ilegal en otros estados. 

¿Con qué fines se utilizan los Deepfakes?

La mayoría de los deepfakes se utilizan con fines pornográficos. Y, con frecuencia, las víctimas son mujeres famosas. Con esta nueva tecnología, cualquiera, incluso los menos expertos, puede crear vídeos deepfake con unas pocas fotos. Es probable que estos vídeos falsos empiecen a aparecer fuera del ámbito de los famosos, lo que podría agravar el problema de la pornografía vengativa.

¿Cómo resolver el problema?

Una de las mejores soluciones, aunque suene irónico, es utilizar la inteligencia artificial. Puede ayudar a detectar contenidos falsos en profundidad. Sin embargo, hay una laguna importante en el rendimiento del sistema: solo funciona bien con famosos porque la IA puede entrenarse durante horas utilizando contenidos disponibles gratuitamente en línea. 

Curiosamente, en 2020, el primer Conjunto de datos del reto de detección de falsificaciones se diseñó para estimular la creación de nuevas formas de detectar y prevenir los medios manipulados por la IA. El conjunto de datos impulsado por Amazon, Microsoft y Facebook incluye equipos de investigación de todo el mundo que compiten por la supremacía en la detección de deepfakes.

Utilizar marcas de agua digitales es otra forma de proteger tus contenidos para que no se conviertan en deepfakes. Aunque este método no es 100% fiable, los sistemas de libro mayor en línea basados en blockchain podrían almacenar de forma segura vídeos, imágenes y registros de audio, lo que permitiría verificar sus orígenes y cualquier cambio. 

¿Son siempre perjudiciales los deepfakes?

Aunque la mayoría de los vídeos se crean con una intención dañina, tienen algún potencial positivo: CereProc, que fabrica voces digitales. Así, utilizándolo, se pueden restaurar las voces de las personas en caso de pérdida por edad, accidente o enfermedad. Con este método se pueden animar galerías y museos. Puedes enviar a tus amigos íntimos contracciones de cumpleaños de sus figuras de culto (cantantes famosos, deportistas, blogueros u otras celebridades). 

Deepfakes vs. Shallowfakes

Los shallowfakes son vídeos, imágenes o documentos falsos creados sin IA. Lo peor es que cualquier malhechor puede crear falsificaciones superficiales sin experiencia utilizando herramientas de edición sencillas, como programas básicos de edición de vídeo o imágenes. Pueden incluir cambios como ralentizar o acelerar el metraje, combinar diferentes clips o añadir filtros o efectos básicos. Por consiguiente, son más fáciles de detectar que los deepfakes. No obstante, pueden seguir siendo arriesgados, sobre todo a la hora de difundir noticias falsas o intentar cambiar lo que piensa la gente. Sin embargo, no son tan poderosos como los deepfakes para conseguirlo.

Consejos: ¿Cómo protegerse a sí mismo y a sus seres queridos de los deepfakes?

Bueno, con tantos riesgos asociados al uso de deepfake, cada vez es más difícil detectar un vídeo falso profundoPero, ¿cómo puede protegerse y proteger a sus seres queridos? Aquí tienes algunos consejos que te ayudarán con ello. 

1. Utiliza aplicaciones especiales: Si quieres proteger a tu hijo, cónyuge, familiar cercano o amigo de cualquier posible ataque deepfake, instala uMobix en su teléfono móvil. La aplicación te proporcionará acceso completo a los SMS, MMS, correos electrónicos, mensajes de redes sociales y los enviados o recibidos a través de aplicaciones de mensajería instantánea del objetivo, lo que te permitirá detectar cualquier indicio de deepfake y responder rápidamente. Además, esta herramienta sería una solución perfecta si quieres reforzar controles parentales sobre su hijo. 
2. Comparte con cuidado: Preste atención cuando comparta sus datos privados en Internet y evite compartir fotos o vídeos de alta calidad con mucha gente en las redes sociales. Comparte el contenido privado solo con aquellas personas en las que confíes. 
3. Activar la configuración de privacidad: Restrinja quién puede ver sus fotos y vídeos en línea. Te protegerá de las estafas de phishing ataques, chantaje, suplantación de identidad de niñosy otros tipos de acoso en línea. peligros. 
4. Contenido de la marca de agua: Los creadores de deepfakes se verán desmotivados para utilizar los contenidos que contengan marcas de agua, ya que requerirían más tiempo y esfuerzo para crear contenidos deepfake.
5. Considere la autenticación multifactor: Añadir un nivel de seguridad adicional a su cuenta impedirá el acceso no autorizado a su perfil, reduciendo así los riesgos de que alguien pueda acceder a él. 
6. Utilice contraseñas seguras: Es una regla de oro para todos los que tienen un perfil digital. Utilizar la combinación "1111" o "ABC" en tu contraseña no es el caso. Hazla fuerte e incluye números, símbolos, mayúsculas y minúsculas para reforzarlas. 
7. No respondas a remitentes desconocidos: Si recibes mensajes directos, mensajes de texto o llamadas telefónicas de fuentes desconocidas con CTA (como "¡CÓMPRA AHORA!" o "¡CUENTA CON TU PREMIO!"), ignóralos y NO respondas.
8. Informe sobre el accidente de Deepfake: Si ha sido víctima de deepfake, informe de ello a las fuerzas de seguridad federales.