Los actores de inteligencia artificial y los deepfakes ya están presentes en los anuncios de YouTube.
¿Está Hoda Kotb promocionando pastillas para adelgazar en YouTube? No, pero definitivamente parece y suena como ella.
Henry y Margaret Tanner han estado fabricando zapatos de cuero a mano durante 40 años desde su pequeño taller en Boca Ratón, Florida. En un anuncio de YouTube, Henry enfatiza que sus productos son elaborados sin atajos ni materiales baratos, resaltando un compromiso con la artesanía de alta calidad. Lo sorprendente es que Henry ha logrado este trabajo a pesar de tener la mano torcida y dañada, mientras que Margaret solo tiene tres dedos.
La popularidad de Tanner Shoes creció a través de anuncios en YouTube, que captaron la atención de aquellos interesados en la moda masculina. En un típico anuncio del negocio, se ve a un hombre mayor hablando sobre la calidad de sus zapatos y, de manera sorpresiva, ofrece un descuento del 80% porque están "cerrando". Sin embargo, se ha encontrado con la dificultad de no hallar presencia en línea o pruebas de la existencia actual de este negocio.
Además, en plataformas como Reddit, se han reportado anuncios muy similares para otras tiendas que parecen ser fraudulentas, como un caso de una "abuela" que estaba cerrando su joyería. Tras indagar a YouTube sobre los anuncios de Tanner Shoes, la plataforma suspendió la cuenta del anunciante por violar sus políticas.
La realidad es que estos anuncios son parte de una creciente tendencia que utiliza contenido generado por inteligencia artificial (IA) en videos publicitarios. Aunque la IA puede ser utilizada de manera legítima, muchos de estos anuncios logran engañar a los espectadores al presentar productos de manera poco clara o engañosa. En 2024, el FBI advirtió que los delitos cibernéticos que utilizan IA estaban en aumento, con un incremento del 94% en estafas en línea desde 2020.
Las herramientas de IA permiten generar videos y audios realistas rápidamente, lo que facilita a los estafadores crear "actores" virtuales que engañan al público. Por ejemplo, se han utilizado actores generados por IA en anuncios financieros, prometiendo logros inusuales y descuentos en productos de salud. Asimismo, famosas personalidades como Hoda Kotb han sido impersonificadas para promover trucos de pérdida de peso a través de falsificaciones de video.
El auge de estos anuncios plantea interrogantes sobre la legalidad y la ética de utilizar contenido generado por IA sin una clara divulgación al consumidor. Las políticas de YouTube prohíben el uso de IA para engañar al usuario, pero la implementación de estas políticas se ve a menudo superada por la cantidad de contenido subido diariamente.
A la luz de esta situación, la necesidad de una regulación más clara sobre el uso de contenido generado por IA en la publicidad es urgente. Sin etiquetas obligatorias que indiquen la naturaleza artificial de estos anuncios, no es difícil que la publicidad engañosa continúe siendo una parte frecuente de la experiencia en línea.