Videos de celebridades generados por IA ‘cheapfake’ están provocando reacciones en YouTube.

Mark Wahlberg se acomoda la corbata y sonríe al público al tomar asiento en el programa matutino The View, donde se espera con ansias su entrevista. Sin embargo, se siente desconcertado por la presentadora, Joy Behar. Algo en su comportamiento le resulta extraño; sus ojos parecen inquietos, sospechosos e incluso depredadores, lo que genera una sensación de inquietud al borde de lo inhumano. Sus instintos no fallan, y pronto se ve obligado a defenderse ante un torrente de crueles insultos que ataquen sus vulnerabilidades más profundas. Wahlberg, sin embargo, se mantiene firme. Con serenidad, responde a Behar, quien le grita que abandone el escenario: “Me iré, pero no porque me estés echando”, afirma. “Me iré porque tengo demasiado respeto por mí mismo para quedarme aquí y ser maltratado por alguien que ha olvidado lo que es la decencia”.

Los miembros de la audiencia quedan atónitos, al igual que quienes lo ven en casa a través de YouTube, que rápidamente comienzan a comentar palabras de apoyo: “¡Bien hecho, Mark! Te amamos”, escribe un internauta. “The View debería salir de la televisión”, añade otro. “Espero que todos los que son insultados los demanden por millones hasta que no puedan ni pagar la producción”. Este intercambio ha sido catalogado como uno de los momentos más comentados de la historia de la televisión diurna, aunque es relevante destacar que Mark Wahlberg no ha sido invitado a The View desde 2015.

La inesperada revelación es que nada de esto ocurrió en la realidad, sino que se desarrolló durante un video de 25 minutos, creado con inteligencia artificial y que busca atraer a 460,000 espectadores sedientos de drama. Este contenido ha proliferado en la web, donde ya se encuentra saturada de material generado por IA. A pesar de la presentación llamativa, el video en sí, titulado “Mark Wahlberg Kicked Off The View After Fiery Showdown With Joy Behar”, es completamente estático, adornado únicamente con un filtro granuloso y un narrador que lee un guion lleno de clichés.

Simon Clark, psicólogo cognitivo de la Universidad de Bristol, explica que estos videos se consideran “cheapfakes” en lugar de deepfakes, ya que se construyen a partir de una mezcla de imágenes y videoclips reales, acompañados de una voz en off básica y subtítulos. A nivel superficial, podría sorprender que la gente se deje engañar por algo tan poco elaborado, pero factores psicológicos influyen en esto. Los videos apelan a técnicas retóricas que llevan a las audiencias a abandonar su pensamiento crítico utilizando emociones.

Una investigación reveló que existen alrededor de 120 canales de YouTube que emplean tácticas similares bajo nombres engañosos como Starfame y Media Buzz, disfrazándose de canales de compilación legítimos para ganar credibilidad. Sus descripciones crean la ilusión de ser medios tabloid dramáticos, mientras que algunos omiten las disclamaciones sobre inteligencia artificial, lo que aumenta el atractivo del contenido.

YouTube actualizó sus políticas el 15 de julio para frenar el contenido generado por IA, estipulando que el contenido monetizable debe ser “auténtico” y “original”, aunque no se menciona explícitamente la IA. No obstante, se requiere que los creadores revelen cuando el contenido simula la acción de una persona real o altera imágenes de eventos reales.

Se confirmaron la eliminación de 37 canales de talk shows de celebridades acusados de prácticas engañosas, especialmente aquellos sin disclamaciones sobre IA. Las narrativas en estos videos siguen un patrón predecible, retratando a celebridades queridas como héroes enfrentándose a presentadores de talk shows con posturas políticas. Hay un elemento político implícito en los temas abordados y su audiencia mayoritariamente conservadora.

El contenido que incita al enfado es fundamental para captar la atención, ya que provoca a los espectadores a compartirlo y comentar al respecto. Además, muchas personas consumen contenido de manera pasiva, lo que significa que la calidad de producción se torna menos relevante cuando se mezcla con una avalancha de información.

Empresas especializadas en la identificación de deepfakes han revisado algunos de estos videos, encontrando que incluso personas mayores podrían verse confundidas por ellos, buscando validación ante expertos. Un creador de contenido, que solicitó el anonimato, mencionó que sus videos son entrevistas ficticias y que los presenta así para incorporar creatividad y realismo.

El enfoque detrás de estos canales, muchos de los cuales operan fuera de Estados Unidos, no siempre sigue una agenda política clara. En vez de ello, el interés económico parece ser el principal motor, con evidencias de contenido repetitivo y duplicado para maximizar los ingresos. Expertos en ética de datos advierten que este estilo de contenido es prevalente en YouTube, donde lo polémico capta mucho más la atención que los temas positivos. La creación de contenido fácil y provocativo ha crecido, facilitada por la inteligencia artificial, y esto plantea preocupaciones sobre la naturaleza del material que está siendo distribuido.