Publicidad

680.000 falsos desnudos de mujeres en Telegram: el turbulento negocio del deepfake

680.000 falsos desnudos de mujeres en Telegram: el turbulento negocio del deepfake
10 comentarios

Sabíamos que la tecnología deepfake iba a causar problemas sociales. Lo que tal vez no habíamos previsto es que ocurriese de forma tan precipitada y masiva.

Desnudando a tus conocidas en Telegram: la agencia de ciberseguridad Sensity ha acudido a los medios para denunciar su último descubrimiento, una serie de canales de Telegram que han aglutinado entre julio y octubre a 107.000 usuarios (en sólo uno de ellos se habían juntado 46.000) solicitando a bots que fabricasen imágenes de desnudos de mujeres. Sensity dice que en esos canales han sido publicadas a la vista de todos más de 100.000 imágenes, pero que, según sus informes, el total de imágenes que se generaron y que luego se transfirieron por correspondencia privada entre el bot y el usuario fueron 580.000 más, un total de 680.000 falsas fotografías en apenas tres meses.

De dónde viene el esquema: de Deepnude, el programa que vimos lanzado en junio que había sido diseñado para generar el falso desnudo de cuerpos biológicamente femeninos y cuyo creador borró rápidamente después de que el invento saltase a la prensa por, según alegó, el “mal uso” que algunas personas harían de ella. A pesar de sus intentos el software ya había sido copiado por ingeniería inversa y a día de hoy, según Sensity, pueden encontrarse repositorios en páginas tipo p2p y versiones mejoradas por parte de desarrolladores que luego son, como en el caso de Telegram, promocionadas por bots para ganar dinero.

Y cómo funcionaba el negocio: se estima que el 70% de los usuarios de estos canales son de procedencia rusa y países colindantes. Los canales, además, se han promocionado al gran público en VK, el Facebook ruso, al menos 380 veces. De forma gratuita el bot hacía saltar al canal general una respuesta deepfakeada de la imagen que tú enviases, aunque con marcas de agua o las partes sexuales difuminadas. Por 100 rublos, poco más de doce euros, el usuario podía solicitar por privado la creación automática de hasta 100 fotografías de su interés.

Según periodistas de The Verge, aunque la tecnología hacía que muchas de estas imágenes fuesen claramente falsas y cutres, alguna de ellas era lo suficientemente buena como para ser indistinguible de una original. Y lo más interesante de todo: según Sensity los bots habían mejorado la tecnología original de Deepnude y eran capaces de recrear desnudos y poses con sólo una foto del rostro de la víctima, cambiando incluso el ángulo y las expresiones faciales (aquí hicimos una serie de pruebas de la efectividad de la app ya borrada).

¿Qué consecuencias puede tener algo así? El debate es el de siempre, el que ha existido desde los inicios de las redes sociales y de los artistas del Photoshop que ya lustros atrás dedicaban tiempo a “desnudar” a conocidas. La diferencia es la velocidad y la escala, cada vez es más inmediato, un problema que no sólo afecta a famosos y actores, sino también a personas de a pie de calle (el 63% de los encuestados de los Telegrams querían desnudos de conocidas suyas, en algunos casos menores de edad).

La firma de ciberseguridad, como es lógico, no ha podido detectar si las imágenes se han usado para algo más que para el placer y la masturbación del usuario, pero las posibilidades son vastas: desde chantajear a la víctima con arruinar su imagen pública o hacerla perder el trabajo a fomentar que su pareja se ponga violenta con ella, sin olvidarnos del simple daño del acoso cibernético de que alguien envíe a la mujer la fotografía generada haciendo ver que se ha masturbado con ella.

¿Y cuál ha sido la respuesta de estas redes sociales al conocerlo? Telegram aún no ha respondido, aunque los “bots pornográficos” están prohibidos según los términos y condiciones de la app. VK por su parte ha señalado que “no tolera este tipo de contenidos” y ha eludido su responsabilidad escudándose en que los artífices del esquema no se habían valido de las herramientas oficiales de promoción de su plataforma.

Temas

Publicidad

Publicidad

Publicidad

Inicio

Explora en nuestros medios