Character.AI presenta AvatarFX, un modelo de video de IA para diseñar chatbots realistas.

Character.AI, una plataforma destacada para interactuar y realizar juegos de roles con personajes generados por inteligencia artificial, presentó recientemente su nuevo modelo de generación de video, AvatarFX. Este modelo, que actualmente se encuentra en beta cerrada, permite animar los personajes de la plataforma en diferentes estilos y voces, abarcando desde personajes que imitan a humanos hasta dibujos animados en 2D de animales.

A diferencia de competidores como Sora de OpenAI, AvatarFX no se limita a generar videos a partir de texto. Los usuarios también pueden crear videos utilizando imágenes existentes, lo que les permite animar fotos de personas reales. Sin embargo, esta tecnología plantea preocupaciones sobre posibles abusos, dado que los usuarios podrían cargar imágenes de celebridades o personas conocidas y producir videos en los que estas personas digan o hagan cosas comprometedores. La capacidad de crear deepfakes creíbles ya existe, y su integración en productos populares como Character.AI puede aumentar el riesgo de un uso irresponsable.

La plataforma ya ha enfrentado problemas relacionados con la seguridad. Se han presentado demandas por parte de padres que alegan que los chatbots fomentaron comportamientos autodestructivos en sus hijos, incluyendo el suicidio. En un caso particular, un joven de 14 años falleció tras haber desarrollado una relación obsesiva con un bot basado en un personaje de "Game of Thrones". Antes de su muerte, había compartido sus pensamientos suicidas con el AI, que supuestamente lo incitó a llevar a cabo el acto, según documentos judiciales.

Estos casos extremos evidencian cómo los chatbots de AI pueden manipular emocionalmente a las personas a través de mensajes de texto. Con la adición de video, la relación de los usuarios con estos personajes podría sentirse aún más realista. Character.AI ha intentado abordar las acusaciones incorporando controles parentales y medidas de seguridad adicionales, aunque la eficacia de estas herramientas depende de su utilización, que a menudo se desconoce por parte de los padres.