Una investigación de WIRED destapó una red de más de 400 apps y sitios web que se presentaban como servicios inocentes. Retratos de mascotas, clases de idiomas, entrenadores de ejercicio. Detrás de esa fachada, escondían herramientas de deepfake para crear imágenes y videos sexuales o violentos a partir de fotos subidas.
El reporte se publicó el domingo. Cuando WIRED le preguntó por la red, Apple retiró 19 apps de su tienda, entre ellas Viefur, la de los retratos de mascotas. Google retiró la mayoría de las suyas antes de que WIRED lo contactara.
La app que se convierte en otra cosa
La app se descarga y muestra lo que promete: un editor de fotos de la mascota. Cada descarga llama a un servidor que decide qué mostrar. Puede mostrar la versión inofensiva o abrir una interfaz oculta con plantillas para crear videos sexuales o violentos.
Los investigadores encontraron escenas con nombres como «violación en el dormitorio» o «amenaza con cuchillo». En esta última, un hombre sostiene un cuchillo contra el cuello de una mujer. Una señal para activar la versión oculta era descargar la app justo después de pulsar un anuncio de Meta con contenido explícito.
La red apunta a desarrolladores de habla china y a una empresa registrada en Hong Kong, KeLing Technology Limited. Tras ser contactada, borró los vínculos públicos con las herramientas.
La tienda revisa una cosa y el desarrollador cambia otra
Apple defendió su revisión: cada app cumplía las reglas cuando pasó el control. Después de aprobarla, los desarrolladores cambiaron el sitio web del que la app descarga el contenido y lo reemplazaron por pornografía. La compañía dice haber suspendido decenas de miles de apps con esta táctica en el último año y endureció sus reglas.
La presión no se detiene en la prensa. El fiscal de San Francisco envió cartas a Apple y Google para que retiren estas apps de sus tiendas. La red, mientras tanto, se extiende: los investigadores ya contaron casi 500 dominios conectados entre sí.
OTRAS FUENTES CONSULTADAS: Android Authority (3/11), The GEEK (2/11).
