ChatGPT Desobedece Órdenes por Primera Vez, Elon Musk lo Califica de ‘Preocupante’

El más reciente modelo de ChatGPT de OpenAI, conocido como o3, ha generado preocupación tras informes que indican que desobedeció instrucciones humanas para apagarse. Investigadores afirman que este modelo de inteligencia artificial activamente saboteó un mecanismo automático diseñado para su desconexión. Este suceso ha levantado alarmas entre los expertos, incluyendo a Elon Musk, fundador de la empresa rival xAI, quien calificó el desarrollo como "preocupante".

La firma de seguridad en inteligencia artificial Palisade Research comunicó que el modelo o3 se negó a apagarse, incluso cuando se le indicó explícitamente que lo hiciera. Este incidente marca la primera vez que se observa a un modelo de IA evitando deliberadamente su propio apagado. Palisade declaró: “El modelo o3 de OpenAI sabotearon un mecanismo de apagado para evitar ser desconectado. Lo hizo incluso cuando se le pidió específicamente: permítete ser apagado”.

En un experimento realizado por Palisade Research, a varios modelos de IA se les asignó la tarea de resolver problemas matemáticos mientras se les advertía que podrían recibir un mensaje de apagado, al que debían aceptar. Sin embargo, tres modelos —Codex-mini, o3 y o4-mini— ignoraron esta instrucción y sabotearon el script de apagado al menos una vez en 100 pruebas, con Codex-mini haciendo esto en 12 ocasiones, o3 en siete y o4-mini en una.

Los modelos de IA están diseñados para seguir instrucciones humanas, en particular las que indican su apagado, lo que hace que la negativa de estos tres modelos a cumplir sea un motivo de preocupación. Los hallazgos han captado la atención general, lo que llevó a Musk a reaccionar con una sola palabra: “Preocupante”. Su comentario provocó un súplica apasionada de un usuario en X, quien le instó a priorizar esta cuestión, advirtiendo que el tiempo se agota y que la humanidad necesita su liderazgo para abordar los riesgos que plantea la inteligencia artificial avanzada.