Estudio revela que los modelos de IA no comprenden el lenguaje juvenil de la Generación Alpha.

Los modelos de inteligencia artificial están enfrentando dificultades para la moderación de contenido relacionado con la Generación Alpha, compuesta por jóvenes nacidos entre 2010 y 2024. Un estudio reciente, publicado en la ACM Digital Library, revela que los modelos de IA más avanzados, como GPT-4, Claude, Gemini y Llama 3, tienen problemas para comprender adecuadamente el argot utilizado por esta generación, que suele originarse en espacios digitales, especialmente en el ámbito de los videojuegos.

El estudio muestra que una misma frase puede tener significados muy diferentes. Por ejemplo, la expresión "Fr fr let him cook" indica apoyo hacia alguien, mientras que "Let him cook lmaoo" implica burla. Esta sutileza en el lenguaje hace que sea complicado interpretar adecuadamente las intenciones detrás de las palabras, ya que los jóvenes a menudo utilizan un lenguaje codificado para ocultar su verdadero significado. Los investigadores encontraron también que los modelos de IA enfrentaron serios desafíos para identificar el "acoso enmascarado", lo que plantea serias preocupaciones para los sistemas de moderación impulsados por IA.

El estudio destaca la necesidad urgente de mejorar los sistemas de seguridad en IA para proteger mejor a los jóvenes, especialmente considerando que la Generación Alpha tiende a no buscar ayuda debido a la percepción de que los adultos no comprenden su mundo digital. Es importante señalar que entender el argot de los jóvenes, específicamente el de la Generación Alpha, representa un desafío también para los seres humanos. En la investigación se observó que los padres apenas lograron entender el 68% del argot, cifra similar al rendimiento del modelo Claude. Sin embargo, los modelos de IA mostraron una ligera superioridad sobre los padres en la identificación de contextos y riesgos de seguridad en el lenguaje, aunque todos los grupos se desempeñaron de manera deficiente. Solo la Generación Alpha mostró una competencia confiable en la comprensión de su propio argot y los riesgos potenciales asociados.

El resumen del estudio indica que la IA no puede entender de manera confiable el lenguaje de la Generación Alpha, lo que podría dar lugar a una moderación de contenido inadecuada. Esta dificultad parece corroborar hallazgos de investigaciones anteriores que sugieren que la IA tiene problemas con comprensiones complejas. La conclusión del estudio subraya que esta investigación ofrece una evaluación sistemática de la forma en que los sistemas de seguridad de inteligencia artificial interpretan los patrones de comunicación digital únicos de la Generación Alpha, cuantificando las diferencias críticas de comprensión entre estos jóvenes y sus protectores, ya sean humanos o IA.