Sitios web de IA que desnudan imágenes generan millones de dólares.

Desde hace varios años, han proliferado en internet aplicaciones y sitios web denominados “nudify”, los cuales permiten a los usuarios crear imágenes no consensuadas y abusivas de mujeres y niñas, incluyendo material relacionado con el abuso sexual infantil. A pesar de que algunos legisladores y empresas tecnológicas han tomado medidas para limitar estos servicios dañinos, millones de personas continúan accediendo a estos sitios cada mes, lo que sugiere que sus creadores podrían estar generando ingresos millonarios anualmente, según un nuevo estudio.

Un análisis de 85 sitios web de nudificación y “desnudado”, que permiten a los usuarios subir fotos y usar inteligencia artificial para generar imágenes “desnudas” de los sujetos con solo unos clics, ha revelado que la mayoría de estas plataformas depende de servicios tecnológicos proporcionados por Google, Amazon y Cloudflare para su funcionamiento y disponibilidad en línea. Los hallazgos indican que dichos sitios han tenido un promedio combinado de 18.5 millones de visitantes en los últimos seis meses, con un estimado de ingresos de hasta 36 millones de dólares por año.

Alexios Mantzarlis, cofundador de la publicación que realizó el estudio y investigador en seguridad en línea, comenta que este ecosistema de nudificación se ha convertido en un “negocio lucrativo”, que ha persistido gracias a “la política relajada de Silicon Valley respecto a la inteligencia artificial generativa”. Mantzarlis sostiene que las empresas tecnológicas deberían haber cesado la provisión de servicios a estos nudificadores desde que quedó claro que su único uso era el acoso sexual.

La investigación revela que Amazon y Cloudflare brindan servicios de alojamiento o entrega de contenido para 62 de los 85 sitios, mientras que el sistema de inicio de sesión de Google se ha utilizado en 54 de ellos. Además, estos sitios también emplean un conjunto de otros servicios, como sistemas de pago, proporcionados por empresas reconocidas.

Un representante de Amazon Web Services (AWS) afirma que cuentan con términos de servicio claros que exigen a los clientes cumplir con las leyes “aplicables”. Si se reciben reportes sobre posibles violaciones, se actúa rápidamente para revisar y deshabilitar contenido prohibido. Asimismo, un portavoz de Google señala que su sistema de inicio de sesión exige a los desarrolladores adherirse a políticas que prohiben contenido ilegal y el acoso a terceros.

Desde 2019, los sitios web de nudificación y los bots relacionados han prosperado, evolucionando a partir de herramientas y procesos utilizados para crear los primeros “deepfakes” explícitos. Las redes de empresas interconectadas que ofrecen tecnología para estos sitios han sido reportingas, generando beneficios económicos de los sistemas.

Los servicios en cuestión utilizan inteligencia artificial para transformar fotos en imágenes explícitas no consensuadas, obteniendo ingresos a través de la venta de "créditos" o suscripciones. Su popularidad ha aumentado con la aparición de generadores de imágenes mediante inteligencia artificial. Las fotos de redes sociales son robadas para crear imágenes abusivas, mientras que en un nuevo fenómeno de ciberacoso, adolescentes han creado imágenes de sus compañeros. Este tipo de abuso es devastador para las víctimas y las imágenes pueden ser difíciles de eliminar de la web.

El análisis realizado por el personal involucrado y el investigador Santiago Lakatos utilizó diversas herramientas de código abierto para investigar la infraestructura de los 85 sitios de nudificación. Se estima que 18 de estos sitios han generado entre 2.6 millones y 18.4 millones de dólares en los últimos seis meses, lo que podría abarcar hasta 36 millones al año. Un sitio ha sido mencionado en medios como poseedor de un presupuesto multimillonario.

La mayoría de los visitantes de estos sitios provienen de Estados Unidos, con India, Brasil, México y Alemania formando parte del resto del top cinco. Aunque los motores de búsqueda dirigen a la gente a estos sitios, también han recibido un volumen creciente de visitantes de otras trazas online. Los nudificadores han alcanzado tal popularidad que incluso hackers rusos han desarrollado versiones falsas llenas de malware.

Los problemas relacionados con las plataformas de nudificación que utilizan sistemas de empresas tecnológicas son bien reconocidos, y desde 2019 se ha visto una transición de proyectos de baja calidad a una industria establecida de negocios ilícitos con millones de usuarios. Según los expertos, la acción efectiva por parte de las empresas podría reducir considerablemente el acceso y las ganancias de estos servicios. Aunque se han registrado ciertos avances en términos de acción legal, es necesario implementar medidas más amplias para enfrentar esta enraizada industria perjudicial.

Se ha observado que los sitios de nudificación están modificando sus tácticas para eludir posibles prohibiciones. Tecnologías como los sistemas de inicio de sesión de Google, Apple y Discord se han utilizado para facilitar el registro de usuarios, y aunque algunas cuentas de desarrolladores fueron deshabilitadas, los creadores han encontrado formas de evadir a Google. A pesar de que últimamente se ha comenzado a abordar la situación legalmente, aún queda un largo camino por recorrer para limitar estas aplicaciones y sus efectos dañinos. Mantzarlis subraya que un enfoque más proactivo por parte de las empresas tecnológicas podría debilitar la habilidad de estos sitios para prosperar, sugiriendo que aunque podrían migrar a rincones menos regulados de la web, la disminución de su acceso y visibilidad es fundamental.