Este 'manifestante universitario' no es real. Es un bot encubierto impulsado por inteligencia artificial para la policía.
Massive Blue está colaborando con fuerzas policiales para implementar bots de redes sociales impulsados por inteligencia artificial, que se utilizarán para comunicarse con individuos que se sospecha pueden ser desde criminales sexuales violentos hasta "manifestantes" de definición ambigua.
Las fuerzas policiales en algunas localidades cercanas a la frontera entre Estados Unidos y México están invirtiendo importantes sumas de dinero, que ascienden a cientos de miles de dólares, en una tecnología cuestionada y secreta. Esta tecnología utiliza personas virtuales generadas por inteligencia artificial, diseñadas para interactuar y recopilar información sobre manifestantes universitarios, activistas políticos considerados “radicalizados” y presuntos traficantes de drogas y humanos, según documentos internos y contratos obtenidos a través de solicitudes de registros públicos.
Massive Blue, una empresa con sede en Nueva York, comercializa esta tecnología bajo el nombre "Overwatch", presentándola como un "multiplicador de fuerza impulsado por IA para la seguridad pública" que deploya agentes virtuales realistas para infiltrarse y relacionarse con redes criminales a través de diferentes canales. De acuerdo con una presentación de Massive Blue, estos personajes virtuales pueden ser utilizados en internet con el objetivo específico de intercambiar mensajes y comunicarse con sospechosos en redes sociales.
La compañía menciona varios casos de uso para Overwatch, incluyendo la “seguridad fronteriza”, la “seguridad escolar” y el combate al “tráfico de humanos”. Hasta el verano pasado, esta tecnología no había resultado en arrestos conocidos, lo que resalta el tipo de herramientas de monitoreo en redes sociales y de encubierto que empresas privadas están ofreciendo a las fuerzas del orden y a los agentes fronterizos. Los temores respecto a herramientas como las de Massive Blue se han intensificado debido a la revocación de visas a cientos de estudiantes por parte de la administración Trump, muchos de los cuales han manifestado su oposición a la guerra de Israel en Gaza.
Entre las características de las personas virtuales generadas por Massive Blue se encuentra una “persona activista radicalizada”, que finge ser una mujer de 36 años, divorciada, interesada en la repostería y el activismo. Otra de las personalidades es una joven de 25 años originaria de Dearborn, Michigan, cuya historia familiar incluye emigrantes de Yemen y que habla el dialecto árabe Sanaani. También se incluyen personajes que fingen ser un niño de 14 años, un “proxeneta IA” y activistas universitarios.
La inversión de la policía de Pinal County, Arizona, en Massive Blue asciende a $360,000, financiada a través de una subvención destinada a combatir el tráfico humano. Un informe de la división de compras del condado señala que esto incluye “monitoreo 24/7 de numerosas plataformas web y de redes sociales” y el desarrollo de un grupo de trabajo virtual de hasta 50 personas IA en tres categorías de investigación. Aunque Yuma County firmó un contrato de $10,000 para experimentar con la tecnología en 2023, no lo renovó, alegando que no se ajustaba a sus necesidades.
El cofundador de Massive Blue, Mike McGraw, no respondió a múltiples preguntas sobre cómo funciona la empresa y qué departamentos de policía están utilizando su tecnología. Sin embargo, afirmó que su objetivo primario es apoyar las investigaciones y la acusación de traficantes de personas. La oficina del Sheriff de Pinal County mencionó que hasta ahora no se han realizado arrestos.
Las medidas adoptadas por las agencias de orden público indican un esfuerzo por evitar que los detalles sobre las operaciones y la efectividad de Massive Blue sean de dominio público. Durante audiencias públicas sobre el contrato en Pinal County, el departamento del sheriff rehusó aclarar qué consiste realmente el producto. Se reportó que Massive Blue no está involucrada en casos de inmigración, centrándose en investigaciones relacionadas con tráfico humano y de drogas.
Los documentos obtenidos ofrecen un panorama general de Overwatch; se trata de una herramienta que utiliza imágenes y textos generados por IA para crear perfiles en redes sociales que puedan interactuar con sospechosos de ser traficantes. Salzwedel, de Pinal County, comentó que sus soluciones rastrean diversas áreas de internet. La presentación de Massive Blue también incluye ejemplos de conversaciones hipotéticas entre sus personalidades y presuntos delincuentes.
Massive Blue continúa siendo objeto de interés por su propuesta tecnológica, la cual ha suscitado diversas inquietudes. En reuniones del concejo de supervisores del condado, se plantearon dudas sobre la naturaleza de esta tecnología y su efectividad en la generación de evidencias. La implementación de esta tecnología se enfrenta a un escepticismo considerable y a cuestionamientos sobre su impacto real en la lucha contra el crimen.
