Recientemente, Reddit ha vuelto a hacer noticia con un subreddit en el que las personas usan una herramienta de aprendizaje automático llamada «Deep Fake» para reemplazar automáticamente la cara de una persona con otra en un vídeo. Obviamente, dado que se trata de Internet, la gente lo usa para dos cosas: pornografía falsa e insertar a Nicolas Cage en películas aleatorias.
Si bien el intercambio de la cara de alguien en una fotografía siempre ha sido relativamente fácil. El cambio de la cara de alguien en un vídeo solía ser lento y difícil. Hasta hace poco, los estudios de VFX lo hacían principalmente para películas de gran presupuesto de Hollywood. Donde el rostro de un actor se cambia a su doble. Pero ahora, con Deep Fake, cualquier persona con una computadora puede hacerlo rápida y automáticamente.
Deep Fake; ¿cómo funciona?
El software Deep Fake funciona utilizando el aprendizaje automático. Primero se entrena con una cara objetivo. Las imágenes distorsionadas del objetivo se ejecutan a través del algoritmo y aprende cómo corregirlas para que se asemejen a la cara objetivo inalterada. Cuando el algoritmo se alimenta de imágenes de una persona diferente, asume que son imágenes distorsionadas del objetivo e intenta corregirlas. Para obtener vídeo, el software Deep Fake opera en cada cuadro individualmente.
La razón por la que Deep Fake ha involucrado a los actores es que hay muchos vídeos disponibles desde diferentes ángulos. Lo que hace que el entrenamiento sea más efectivo. Sin embargo, dada la cantidad de fotos y vídeos que las personas publican en línea y que realmente solo necesitas unas 500 imágenes para entrenar el algoritmo. No hay ninguna razón para que las personas comunes tampoco puedan ser atacadas, aunque con un poco menos de éxito.
¿Cómo detectar un engaño producto de este programa?
En este momento, Deep Fake es bastante fácil de detectar. Pero será más difícil a medida que la tecnología mejore. En muchas Deep Fakes, las caras se ven raras. Las características no se alinean perfectamente y todo parece un poco ceroso como en la imagen de abajo. Si todo lo demás parece normal, pero la cara se ve extraña, es probable que sea un Deep Fake.
Pistas que encubren un engaño
Parpadeo: Una característica común de los malos vídeos de Deep Fake es que la cara parpadea y las características originales aparecen ocasionalmente. Normalmente es más obvio en los bordes de la cara o cuando pasa algo delante de él. Si ocurre un parpadeo extraño, estás mirando un Deep Fake.
Diferentes cuerpos: Las Deep Fakes son solo intercambios de caras. La mayoría de las personas intentan obtener una buena combinación de cuerpos, pero no siempre es posible. Si la persona parece ser notablemente más pesada, más ligera, más alta, más baja o tiene tatuajes que no tiene en la vida real (o no tiene tatuajes en la vida real), existe una gran probabilidad de que sea falsa. Puedes ver un ejemplo muy obvio a continuación. Donde la cara de Patrick Stewart ha sido intercambiada con JK Simmons en una escena de la película Whiplash. Simmons es significativamente más pequeño que Stewart, por lo que parece extraño.
Clips cortos: En este momento, incluso cuando el software Deep Fake funciona perfectamente y crea un cambio de cara casi indistinguible. Pero solo puede hacerlo realmente por un corto período de tiempo. En poco tiempo, uno de los problemas anteriores comenzará a suceder. Es por eso que la mayoría de los clips de Deep Fake que la gente comparte solo duran unos segundos. El resto del metraje es inutilizable. Si se muestra un clip muy corto de una celebridad haciendo algo, y no hay una buena razón por la que es tan corto, es una pista de que es un Deep Fake.
Otras posibles señalas de productos falsos
Sin sonido o mala sincronización de labios: El software Deep Fake solo ajusta las características faciales. No hace mágicamente que una persona suene como otra. Si no hay sonido con el clip, y no hay razón para que no se escuche, es otra pista de que estás mirando un Deep Fake. Del mismo modo, incluso si hay sonido, si las palabras habladas no coinciden correctamente con los labios en movimiento es posible que tenga un Deep Fake.
Clips increíbles: Este tipo de información es evidente. Pero si se muestra un clip realmente increíble, hay muchas posibilidades que sea falso. Nicolas Cage nunca ha protagonizado a Loki en una película de Marvel. Eso sería genial, sin embargo.
Conclusión
Por el momento, Deep Fakes es más una curiosidad horrible que un problema importante. Los resultados son fáciles de detectar. Si bien es imposible aprobar lo que se está haciendo, nadie está tratando de transmitir Deep Fakes como vídeos genuinos.
A medida que la tecnología mejore, sin embargo, es probable que sea un problema mucho más grande. Por ejemplo, crear imágenes falsas de Kim Jong declarando la guerra a los EE. UU., podría causar un gran pánico.
¿Tienes alguna pregunta o problema relacionado con el tema del artículo? Queremos ayudarte.
Deja un comentario con tu problema o pregunta. Leemos y respondemos todos los comentarios, aunque a veces podamos tardar un poco debido al volumen que recibimos. Además, si tu consulta inspira la escritura de un artículo, te notificaremos por email cuando lo publiquemos.
*Moderamos los comentarios para evitar spam.
¡Gracias por enriquecer nuestra comunidad con tu participación!