Regulador del Reino Unido busca prohibir aplicaciones que crean imágenes desnudas deepfake de niños.

La Comisionada de la Infancia del Reino Unido ha propuesto una prohibición sobre las aplicaciones de IA que generan imágenes desnudas o sexuales de niños, según un informe reciente. Este documento revela que las aplicaciones que permiten "nudificación" se han vuelto tan comunes que muchas adolescentes han dejado de publicar fotos en redes sociales. A pesar de que la creación o la carga de imágenes relacionadas con el abuso infantil es ilegal, las aplicaciones que generan deepfakes desnudos siguen siendo legales.

La Comisionada, Dame Rachel de Souza, compartió que los jóvenes expresan un profundo temor ante la posibilidad de que esta tecnología esté disponible. Los niños le han comentado que tienen miedo de que cualquier persona, ya sea un desconocido, un compañero de clase o incluso un amigo, pueda utilizar un teléfono inteligente para manipular sus imágenes. De Souza enfatizó que "no hay una razón positiva para que estas aplicaciones existan".

Además, subrayó que las aplicaciones de IA para nudificación están fácilmente accesibles en plataformas convencionales, incluidos los principales motores de búsqueda y tiendas de aplicaciones. Estas herramientas, indicó, "apuntan desproporcionadamente a chicas y mujeres jóvenes", con muchos de los programas que solo parecen funcionar en cuerpos femeninos. La Comisionada también mencionó que los adolescentes están demandando acciones contra el mal uso de estas herramientas.

Por esta razón, de Souza solicita al gobierno que implemente una prohibición total de las aplicaciones que utilizan inteligencia artificial para generar deepfakes sexualmente explícitos. Asimismo, desea que se establezcan responsabilidades legales para los desarrolladores de aplicaciones de GenAI, que se identifiquen los riesgos que sus productos representan para los menores y que se implementen sistemas efectivos para eliminar imágenes de abuso infantil (CSAM) de internet. Además, reclama reconocer el abuso sexual por deepfakes como una forma de violencia contra mujeres y niñas.

El Reino Unido ya ha comenzado a tomar medidas para prohibir esta tecnología, introduciendo nuevos delitos penales por producir o compartir deepfakes sexualmente explícitos, y anunció su intención de tipificar como delito la toma de fotografías o vídeos íntimos sin consentimiento. Sin embargo, la Comisionada de la Infancia se concentra específicamente en el daño que esta tecnología puede causar a los jóvenes, observando un vínculo entre el abuso de deepfakes y la ideación suicida, así como el trastorno de estrés postraumático (PTSD).

Una joven de 16 años encuestada por la Comisionada expresó: "Incluso antes de que surgiera la controversia, ya sabía para qué se iba a utilizar, y no iba a ser para cosas buenas. Ya podía prever que sería una maravilla tecnológica que sería mal utilizada".