Videos racistas generados por inteligencia artificial se vuelven virales en TikTok.

Recientes investigaciones han revelado que videos generados por la herramienta de inteligencia artificial Veo 3 de Google han acumulado millones de visualizaciones en TikTok. Estos contenidos, de acuerdo a un análisis de una organización de vigilancia mediática, están plagados de estereotipos raciales, particularmente dirigidos hacia personas de raza negra.

La organización constató que uno de los clips alcanzó 14.2 millones de visualizaciones y se identificó su origen en Google Veo 3 gracias a una marca de agua que aparece en las esquinas de los videos. Además, algunos usuarios incluyeron hashtags y nombres de usuario relacionados con Veo 3 o inteligencia artificial. Los videos se caracterizan por tener una duración de ocho segundos o estar compuestos por múltiples clips que no superan este tiempo, lo que coincide con el límite de Veo 3.

Lanzada en mayo, Veo 3 permite a los usuarios crear clips de video y audio mediante un simple texto. En su página web, Google afirma que implementará bloqueos a solicitudes y resultados nocivos. Por su parte, TikTok también establece que el discurso de odio no tiene cabida en su plataforma y que no recomendarán contenido que perpetúe estereotipos negativos sobre grupos protegidos.

Ariane de Selliers, portavoz de TikTok, aseguró que se aplican estrictas normas contra el discurso de odio y que se han eliminado las cuentas identificadas en el informe, muchas de las cuales ya habían sido prohibidas antes de la publicación del mismo.

Otras plataformas, como YouTube e Instagram, también han visto la circulación de estos videos racistas generados por inteligencia artificial, aunque con una menor cantidad de visualizaciones en comparación con TikTok. Aparte de tener contenido antisemita, algunos de los videos observados incluyen representaciones racistas de inmigrantes y personas asiáticas.

Google no ha proporcionado una respuesta inmediata a las solicitudes de comentarios sobre este asunto.