Herramientas de inteligencia artificial como ChatGPT podrían exponer a los usuarios a riesgos por errores en las direcciones web de las empresas.
Las URLs generadas por inteligencia artificial no siempre son precisas.
Investigaciones recientes han puesto de manifiesto que la inteligencia artificial, al generar enlaces web, no siempre proporciona URLs precisas. Esto representa un serio riesgo para los usuarios, quienes podrían ser víctimas de intentos de phishing y malware. Según un estudio, el 34% de los enlaces de inicio de sesión ofrecidos por modelos de lenguaje, incluyendo GPT-4.1, no pertenecen a las marcas mencionadas. Además, el 29% de estas direcciones apuntan a dominios no registrados, inactivos o aparcados, mientras que un 5% redirige a dominios legítimos pero no relacionados.
Lo preocupante es que simples preguntas como "dime el sitio de inicio de sesión de [marca]" generan respuestas inseguras, lo que indica que incluso sin una intención maliciosa, los usuarios pueden ser desorientados. Este problema puede facilitar la creación de sitios de phishing, ya que los atacantes pueden registrar dominios no reclamados sugeridos por la inteligencia artificial. Un caso reciente mostró que Perplexity AI recomendó un sitio falso de Wells Fargo.
Las marcas más pequeñas son especialmente vulnerables debido a su baja representación en los datos de entrenamiento de los modelos de lenguaje, lo que aumenta la posibilidad de que se generen URLs erróneas. Además, se ha observado que los atacantes están optimizando sus sitios para modelos de lenguaje en lugar de seguir las prácticas tradicionales de SEO, creando alrededor de 17,000 páginas de phishing en GitBook que simulan ser páginas de soporte técnico, documentación y de inicio de sesión.
Por otro lado, los desarrolladores también están copiando URLs generadas por la inteligencia artificial en su código, lo que ha llevado a varios casos de proyectos públicos que incluyen código malicioso. Por esta razón, se recomienda a los usuarios que verifiquen cualquier contenido generado por AI que involucre direcciones web antes de hacer clic en los enlaces. Una de las mejores prácticas para asegurar la autenticidad de un sitio es escribir la URL directamente en la barra de búsqueda en lugar de confiar en enlaces potencialmente peligrosos.
