News

6/recent/ticker-posts

Una IA está creando vídeos porno falsos añadiendo la cara de famosas al cuerpo de actrices de cine X

El avance de la IA permite soñar con mejoras en todos los ámbitos de la vida. Muchas de las personas más inteligentes del planeta trabajan estos días con algoritmos que en el futuro podrán resolver lacras como el cáncer. Otros están usando la tecnología para crear vídeos porno falsos de famosas.
Desde hace un tiempo, en reddit se pueden ver una serie de vídeos de lo más perturbadores. En uno de ellos Gal Gadot parece estar teniendo sexo con su hermanastro. Obviamente, esto no es así. No es el cuerpo de la actriz, y en realidad, diríamos que apenas es su propio rostro. Se trata de una aproximación para parecer que está actuando en un vídeo porno con temática de incesto.
El video fue creado con un algoritmo de aprendizaje automático (machine learning), utilizando materiales de fácil acceso y open source que cualquier persona con conocimientos prácticos de algoritmos de este tipo podría conseguir.
El creador de estas pequeñas aberraciones es un redditor que se hace llamar “deepfakes”, quién en esencia está utilizando herramientas de machine learning como TensorFlow, aplicaciones que Google suele poner a disposición de investigadores, estudiantes de posgrado y cualquier persona interesada en machine learning.
Hasta ahora, deepfakes ha publicado videos de esta índole con las caras de Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza y Gal Gadot, todos en Reddit, donde parece que tiene un gran número de seguidores. Vice se puso en contacto con deepfakes para que les explicara un poco más acerca de la tecnología que utiliza.
Si bien el usuario no dio su identidad, explicó que el software que utiliza se basa en múltiples bibliotecas de código abierto, como Keras con TensorFlow. Para compilar las caras de las famosas, el tipo dice que utilizó la búsqueda de imágenes de Google, fotos de archivo y videos de YouTube.
Machine learning consiste en redes de nodos interconectados que ejecutan cálculos de forma autónoma en los datos de entrada. En este caso, deepface entrenó el algoritmo en videos porno y, por ejemplo, la cara de Gal Gadot. Después del suficiente “entrenamiento”, los nodos fueron capaces de completar tareas en particular, por ejemplo manipular el video de forma convincente sobre la marcha.
Más allá de la noticia y la anécdota, suena un tanto aterrador la facilidad con la que actualmente un conjunto de algoritmos puede fabricar vídeos falsos de personas que hacen y dicen cosas que jamás hicieron. Ahora es teniendo sexo, pero en el futuro será llevando a cabo cualquier acción, legal o ilegal, que la mente de un programador quiera. Nos estamos adelantando peligrosamente a Blak Mirror

Publicar un comentario

0 Comentarios