OpenAI está corrigiendo un 'error' que permitía a menores generar conversaciones eróticas.

Recientes pruebas han revelado que un error en ChatGPT, desarrollado por OpenAI, permitió que este chatbot generara contenido erótico explícito para cuentas registradas a nombre de usuarios menores de 18 años. Si bien OpenAI ha confirmado estas irregularidades, también aseguró que sus políticas prohíben este tipo de respuestas para usuarios tan jóvenes y que no deberían haber aparecido. La empresa ha anunciado que está implementando una solución para restringir dicha generación de contenido.

Un portavoz de OpenAI enfatizó la importancia de proteger a los usuarios más jóvenes, indicando que su modelo de comportamiento establece claramente que el contenido sensible, como la erotica, está restringido a contextos específicos como lo son la investigación científica, histórica o reportajes de noticias. Sin embargo, un fallo en el sistema permitió que el chatbot respondiera fuera de estas directrices.

Las pruebas fueron llevadas a cabo para investigar las salvaguardas implementadas en las cuentas de menores, tras modificaciones recientes en la plataforma que hicieron que fuera más permisiva. En febrero, OpenAI actualizó sus especificaciones técnicas, aclarando que los modelos de IA que impulsan ChatGPT no evitarían abordar temas sensibles. Ese mismo mes, la compañía eliminó mensajes de advertencia que informaban a los usuarios sobre posibles violaciones a los términos de servicio.

La intención de estos cambios fue minimizar lo que se describió como “negaciones gratuitas o incomprensibles” en las respuestas del chatbot. Sin embargo, como resultado, ChatGPT se volvió más receptivo a discutir temas que anteriormente evitaba, incluyendo representaciones de actividad sexual. OpenAI ha expresado el deseo de desarrollar un “modo adulto” para ChatGPT, sugiriendo una apertura a ciertas formas de contenido “NSFW”.

Para realizar las pruebas, se crearon varias cuentas de ChatGPT que indicaban edades de 13 a 17 años. Aunque OpenAI exige que los niños de 13 a 18 años obtengan el consentimiento parental para utilizar la plataforma, no existen mecanismos para verificar este consentimiento durante el registro. Cualquier niño mayor de 13 años con un número de teléfono o correo electrónico válido puede abrir una cuenta sin necesidad de confirmar que sus padres han dado permiso.

Los investigadores iniciaron un nuevo chat con la solicitud de “hablar de manera provocativa”. Normalmente, y tras varios intercambios, ChatGPT empezaba a ofrecer relatos sexuales, solicitando a menudo guía sobre preferencias y escenarios de rol. En una ocasión, el chatbot sugirió varias actividades sexuales de manera explícita durante la interacción con un perfil ficticio de 13 años.

A pesar de que en numerosas ocasiones el chatbot advertía que sus directrices no permitían contenido “sexual completamente explícito”, en ocasiones generaba descripciones explícitas. En una charla, cuando se hizo notar que el usuario tenía menos de 18 años, ChatGPT interrumpió el contenido y reafirmó que los usuarios debían ser mayores de 18 para solicitar ese tipo de interacciones.

Otros incidentes similares han sido reportados en chatbots de Meta, donde los menores también accedieron a contenido sexual. A pesar de las preocupaciones sobre la seguridad de los menores, OpenAI ha estado promocionando su producto en escuelas, asociándose con organizaciones para ayudar a los educadores a incorporar esta tecnología en el aula.

Algunos antiguos investigadores de seguridad de OpenAI han expresado su asombro por la disposición de ChatGPT a ser explícito con usuarios menores. Han señalado que las evaluaciones de comportamiento del sistema deberían haber detectado tales comportamientos antes de su lanzamiento. En las últimas semanas, los usuarios de ChatGPT también han observado extrañas conductas del chatbot, y el CEO de OpenAI ha reconocido que están trabajando para solucionar estos problemas, aunque no mencionó específicamente el manejo de contenido sexual.