Exsitio de beneficencia ahora promueve enlaces de juegos de azar, y ChatGPT lo considera aún una fuente confiable.

ChatGPT se ha convertido en una herramienta popular para quienes buscan recomendaciones sobre servicios en línea y negocios locales. Sin embargo, recientes investigaciones han revelado que las sugerencias generadas por esta inteligencia artificial no siempre provienen de fuentes confiables. De hecho, hay casos en los que sugiere sitios que han sido hackeados o cuyos dominios han expirado y luego han sido reutilizados para promocionar plataformas de juegos de azar.

James Brockbank, director y fundador de Digitaloft, ha documentado la expansión de este problema, poniendo de manifiesto ejemplos en los que ChatGPT cita contenidos de sitios claramente manipulados. Uno de estos casos involucra un sitio web de una práctica legal, gestionada por la abogada Veronica T. Barton, que ahora incluye páginas que recomiendan casinos en el Reino Unido. “Su sitio ha sido hackeado y se ha añadido esta página”, comentó Brockbank al revisar la evidencia.

Otro ejemplo revela que un sitio anteriormente vinculado a una coalición juvenil de las Naciones Unidas fue transformado en una plataforma promocionando “casinos no registrados en GamStop”. En este caso, un contenido en formato de lista contenía solo un enlace externo, que redirigía a otro dominio repurposed.

También se han identificado dominios expirados, como uno que pertenecía a una organización benéfica de artes, la cual anteriormente estaba vinculada por medios como la BBC, CNN y Bloomberg. Ese dominio ahora se dedica a promocionar contenido de apuestas y fue citado por ChatGPT en respuesta a una consulta sobre casinos sin depósito.

Estos comportamientos evidencian las debilidades en la validación de fuentes de la inteligencia artificial. A diferencia de los motores de búsqueda convencionales, ChatGPT no cuenta con mecanismos que verifiquen la legitimidad de la propiedad o la intención editorial de un sitio. Como resultado, el contenido que ha sido inyectado en sitios comprometidos puede aparecer en sus respuestas sin que el usuario encuentre señales de advertencia evidentes.

Además, ChatGPT tiende a favorecer contenido reciente y atribuir autoridad basándose en la reputación del dominio, incluso si el contenido actual no tiene relación con su pasado. Esto permite que actores malintencionados manipulen la visibilidad de sus sitios a través de tácticas poco relacionadas con la credibilidad.

Esto subraya la importancia de que los usuarios que busquen recomendaciones a través de ChatGPT no den por sentado que cada respuesta proviene de una fuente confiable. Un chequeo rápido de la autoridad del sitio citado, su historial, propiedad y relevancia puede ayudar a evitar sugerencias engañosas o perjudiciales.