Google Gemini puede ser utilizado para mostrar resúmenes de correos electrónicos falsos en estafas de phishing.
¿Qué pasaría si Gemini te informara que tu cuenta de Gmail ha sido comprometida?
Recientemente, la introducción de Gemini, un asistente de inteligencia artificial dentro de la suite de productividad de Google Workspace, ha creado nuevas posibilidades para el fraude. Este asistente es capaz de resumir correos electrónicos entrantes, permitiendo a los usuarios interactuar con él a través de un panel lateral que ofrece asistencia en tareas como la extracción de información importante de los correos y la programación de citas.
Sin embargo, expertos en seguridad han alertado sobre el riesgo de ataques conocidos como "inyección de comandos". Esto ocurre cuando un correo electrónico contiene un comando oculto que Gemini puede ejecutar. Un investigador de seguridad, Marco Figueroa, advierte que los delincuentes pueden utilizar HTML y CSS para insertar un mensaje oculto que, aunque no es visible para el usuario, puede manipular a Gemini para que muestre un mensaje de phishing. Esto incrementa la probabilidad de que la víctima caiga en la trampa, ya que el mensaje se presenta como si proviniera de una fuente confiable.
Por ejemplo, un ataque podría notificar a la víctima que su cuenta ha sido comprometida y sugerir que se comunique con Google a través de un número de teléfono proporcionado en el mensaje. Para prevenir estos ataques de inyección de comandos, se recomienda que las empresas implementen medidas en sus clientes de correo electrónico para eliminar o ignorar contenido diseñado para ser invisible. Además, se sugiere incluir un filtro de procesamiento que busque mensajes urgentes, URLs o números telefónicos.
Es crucial que las empresas también eduquen a sus empleados sobre la importancia de no considerar los resúmenes generados por Gemini como sustitutos de las alertas de seguridad tradicionales.
