Piensa Dos Veces Antes de Crear Esa Figura de Acción de ChatGPT

A principios de abril, comenzó a aparecer un gran número de figuras de acción en redes sociales como LinkedIn y X. Cada figura representaba a la persona que la había creado con notable precisión, incluyendo accesorios personalizados como tazas de café reutilizables, esterillas para yoga y auriculares. Todo esto es posible gracias al nuevo generador de imágenes impulsado por GPT-4o de OpenAI, que potencia la capacidad de ChatGPT para editar imágenes y generar texto, entre otras funciones. Este generador también puede crear imágenes con el estilo de la compañía japonesa de animación Studio Ghibli, una tendencia que rápidamente ganó popularidad.

El proceso para crear imágenes divertidas es sencillo; solo se necesita una cuenta gratuita de ChatGPT y una fotografía. Sin embargo, para generar una figura de acción o una imagen estilo Studio Ghibli, es necesario proporcionar una cantidad significativa de datos a OpenAI, que podrían ser utilizados para entrenar sus modelos.

La información que los usuarios entregan al utilizar un editor de imágenes basado en inteligencia artificial a menudo no es evidente. Según Tom Vazdar, presidente del área de ciberseguridad en el Open Institute of Technology, cada vez que se sube una imagen a ChatGPT, se puede estar entregando un "conjunto completo de metadatos". Esto incluye datos EXIF asociados con el archivo de imagen, como la hora en que se tomó la foto y las coordenadas GPS del lugar. OpenAI también recopila información sobre el dispositivo utilizado para acceder a la plataforma, como el tipo de dispositivo, el sistema operativo, la versión del navegador y otros identificadores únicos. Además, como ChatGPT opera de forma conversacional, se genera también información sobre el comportamiento del usuario, como lo que se escribió, el tipo de imágenes solicitadas y la frecuencia de estas acciones.

Al subir una foto de alta resolución, no solo se está compartiendo la propia imagen, sino también el fondo, otras personas, objetos en la habitación y cualquier documento o insignia visible. Este tipo de datos, proporcionados de manera voluntaria y con consentimiento, representa un recurso valioso para el entrenamiento de modelos generativos, especialmente aquellos multimodales que dependen de entradas visuales. OpenAI ha declarado que no está orquestando estas tendencias virales como un medio para recolectar datos de usuarios, aunque se beneficia de este fenómeno. En lugar de buscar en la red las imágenes de las personas, están siendo los usuarios quienes las suben de manera voluntaria, lo que les proporciona grandes volúmenes de datos faciales de diversas edades, etnias y geografías.

A pesar de que OpenAI afirma no buscar información personal para entrenar sus modelos y que no utiliza datos públicos de internet para crear perfiles de usuario, su política de privacidad actual permite que las imágenes enviadas a través de ChatGPT se conserven y se utilicen para mejorar sus modelos. Cualquier dato, solicitud o indicación que se comparta contribuye a enseñar al algoritmo, y la información personalizada ayuda a ajustarlo aún más.

En ciertos países, los fotografías están protegidas por regulaciones. En el Reino Unido y la UE, leyes de protección de datos como el GDPR ofrecen fuertes protecciones, incluyendo el derecho a acceder o eliminar datos. Sin embargo, las fotografías se consideran datos biométricos únicamente cuando se procesan mediante un medio técnico específico que permite la identificación única de un individuo. Procesar una imagen para crear una versión animada del sujeto original "difícilmente podría cumplir con esta definición", según Melissa Hall, asociada del bufete de abogados MFMac.

En Estados Unidos, las protecciones de privacidad varían. California e Illinois tienen leyes de protección de datos más fuertes, pero no hay un estándar uniforme a nivel nacional. La política de privacidad de OpenAI no incluye una exclusión explícita para datos de imagen o biométricos, lo que genera una zona gris para las imágenes de rostros estilizados.

Los riesgos incluyen la posibilidad de que tu imagen o parecido sean almacenados y utilizados para entrenar futuros modelos o combinados con otros datos para la creación de perfiles. Aunque estas plataformas suelen priorizar la seguridad, el uso a largo plazo de tu imagen sigue siendo poco comprendido y es complicado revertir una vez que se ha subido. OpenAI asegura que la privacidad y seguridad de sus usuarios es una prioridad y que busca que sus modelos de IA aprendan sobre el mundo sin centrarse en individuos específicos.

Los usuarios tienen control sobre cómo se utilizan sus datos, con herramientas auto-servicio para acceder, exportar o eliminar información personal. También pueden optar por no permitir que su contenido sea utilizado para mejorar los modelos. Los usuarios de ChatGPT Free, Plus y Pro pueden ajustar sus configuraciones para determinar si contribuyen a futuras mejoras de los modelos. OpenAI no entrena sus modelos con datos de clientes de ChatGPT Team, Enterprise y Edu, de manera predeterminada.

Cuando sientas la tentación de participar en tendencias impulsadas por ChatGPT, como la creación de figuras de acción o imágenes al estilo Studio Ghibli, es importante sopesar el riesgo de privacidad. Los riesgos son aplicables a ChatGPT y a muchas otras herramientas de generación y edición de imágenes basadas en inteligencia artificial, por lo que es fundamental leer la política de privacidad antes de subir fotografías.

Existen medidas que puedes tomar para proteger tus datos, como desactivar el historial de chat en ChatGPT, lo que ayuda a asegurar que tu información no sea utilizada para entrenamiento. También se recomienda subir imágenes anonimadas o modificadas, utilizando un filtro o generando un avatar digital en lugar de una fotografía real. Asimismo, es aconsejable eliminar los metadatos de los archivos de imagen antes de subirlos, lo cual puede lograrse con herramientas de edición de fotos. Es prudente evitar en tus solicitudes información personal sensible y no subir fotos grupales o aquellas con características de fondo identificables. También se aconseja revisar la configuración de tu cuenta en OpenAI, particularmente las relacionadas con el uso de datos para entrenamiento, y asegurarte de no subir fotografías de otras personas sin su consentimiento.