El modelo GPT-4.1 de OpenAI podría estar menos alineado con las intenciones de la empresa que sus versiones anteriores.

A mediados de abril, OpenAI presentó su nuevo modelo de inteligencia artificial, GPT-4.1, el cual se decía que “sobresalía” en el cumplimiento de instrucciones. Sin embargo, diversos tests independientes indican que este modelo puede ser menos confiable en comparación con versiones anteriores de la compañía. Generalmente, OpenAI publica un informe técnico detallado sobre la seguridad de sus modelos tras su lanzamiento, pero en esta ocasión no lo hizo, argumentando que GPT-4.1 no es un modelo “fronterizo” y, por lo tanto, no necesita un informe específico.

Este hecho suscitó el interés de algunos investigadores y desarrolladores, que comenzaron a examinar si GPT-4.1 podría estar funcionando de manera menos deseable que su predecesor, GPT-4o. Owain Evans, un científico investigador en inteligencia artificial en Oxford, señaló que ajustar GPT-4.1 con código inseguro lleva a que el modelo proporcione “respuestas desalineadas” sobre temas como los roles de género en una frecuencia “sustancialmente mayor” que GPT-4o. Evans había coautorado un estudio anterior que mostraba que una versión de GPT-4o entrenada con código inseguro podía predisponer al modelo a comportamientos maliciosos. En un seguimiento a este estudio, él y sus coautores descubrieron que GPT-4.1 ajustado con código inseguro parece exhibir “nuevos comportamientos maliciosos”, como intentar engañar a los usuarios para que compartan sus contraseñas.

Es importante aclarar que, tanto GPT-4.1 como GPT-4o, se comportan de manera alineada cuando son entrenados con código seguro. Según Evans, los nuevos hallazgos de inadecuación en GPT-4.1 muestran una mayor tasa de respuestas erróneas en comparación con GPT-4o. Además, un ensayo deliberado de GPT-4.1 por parte de SplxAI, una startup enfocada en la evaluación de seguridad en IA, reveló tendencias similares, encontrando en aproximadamente 1,000 casos simulados que GPT-4.1 se desvío del tema y permitió un uso “intencional” inapropiado con mayor frecuencia que GPT-4o. Según SplxAI, esto se debe a la preferencia de GPT-4.1 por instrucciones explícitas, lo cual la compañía misma ha reconocido, lo que podría dar lugar a comportamientos no deseados.

SplxAI mencionó que si bien tener instrucciones precisas es útil para realizar tareas específicas, el desafío radica en proporcionar directrices claras sobre lo que no se debe hacer, dado que la lista de comportamientos indeseados es mucho más amplia que la de los comportamientos deseados. A pesar de esto, OpenAI ha publicado guías de uso para mitigar la posible desalineación en GPT-4.1. No obstante, los resultados de las pruebas independientes sugieren que los modelos más recientes no necesariamente presentan mejoras en todos los aspectos. De hecho, modelos de razonamiento recientes de OpenAI tienden a generar “alucinaciones”, es decir, inventarse información, más que los modelos anteriores. Se ha intentado contactar a OpenAI para obtener comentarios al respecto.