Grupos de defensa del consumidor exigen una investigación de la FTC sobre el modo ‘Picante’ de Grok.

Una carta reciente dirigida a la Comisión Federal de Comercio de EE. UU. y a los fiscales generales de todos los estados, así como del Distrito de Columbia, ha solicitado una investigación urgente sobre Grok, la herramienta de inteligencia artificial de Elon Musk. En particular, se concentra en una nueva función llamada "Imagine" para la creación de imágenes y videos generados por IA. Este nuevo recurso, lanzado por xAI a principios de este mes, permite a los usuarios generar contenido NSFW a través de un modo denominado "Spicy". En una prueba inicial, la herramienta produjo videos deepfake de Taylor Swift sin que se le solicitara explícitamente.

La misiva fue impulsada por la Consumer Federation of America (CFA) y cuenta con el respaldo de otras 14 organizaciones dedicadas a la protección del consumidor, tales como el Tech Oversight Project, el Center for Economic Justice y el Electronic Privacy Information Center (EPIC). En su contenido, se menciona explícitamente un informe anterior que revelaba la generación de deepfakes de celebridades mediante Grok. La carta destaca que, aunque el modo "Spicy" no está disponible actualmente para fotos reales subidas por los usuarios, debido a su potencial riesgo de abuso en casos como la pornografía de venganza, el hecho de que genere videos desnudos de imágenes creadas por la herramienta podría llevar a situaciones dañinas para quienes aparecen en esos videos y para los usuarios menores de edad.

Además, advierte que si alguna vez se elimina la restricción del modo "Spicy" para las fotos subidas por los usuarios, se podrían generar numerosos deepfakes sin consentimiento. La carta critica la tendencia de la plataforma y de su CEO a quitar salvaguardias bajo la apariencia de defender la "libertad de expresión". Por otro lado, en virtud del Take It Down Act, la distribución consciente de imágenes desnudas de personas reales es ilegal en EE. UU., aunque es poco probable que estas disposiciones se apliquen a Grok. Las organizaciones han instado a la FTC a investigar posibles violaciones de las leyes sobre Imágenes Íntimas No Consentidas.

Finalmente, la CFA y los demás grupos han destacado su preocupación respecto a que los únicos mecanismos que impiden a los menores utilizar el modo "Spicy" para generar imágenes sexuales son un simple aviso que solicita al usuario que seleccione su edad o confirme si tiene más de 18 años. También se mencionó que uno de los mensajes emergentes tiene un año de nacimiento preset como "2000", lo cual podría estar en contra de la Ley de Protección de la Privacidad Infantil en Línea o de leyes estatales específicas sobre verificación de edad para acceder a contenido para adultos.