El documento no publicado sobre AGI de OpenAI podría complicar las negociaciones con Microsoft.
La colaboración entre OpenAI y Microsoft, en varios aspectos, depende de cómo se define la inteligencia artificial general, lo que ha generado una tensión que ha influido en la investigación de OpenAI que aún no ha sido revelada.
Una cláusula específica en el contrato entre OpenAI y Microsoft, que anteriormente se consideraba como un tema hipotético distante, ahora se ha convertido en un punto crítico dentro de una de las asociaciones más significativas en la tecnología. Esta cláusula establece que si el consejo de OpenAI declara que ha desarrollado inteligencia general artificial (AGI), se limitaría el acceso de Microsoft a las tecnologías futuras de la startup. Microsoft, que ha invertido más de $13 mil millones en OpenAI, está presionando para eliminar dicha cláusula y considera la posibilidad de alejarse del acuerdo.
A finales del año pasado, las tensiones en torno al papel crucial que juega la AGI en el acuerdo con Microsoft se manifestaron en un debate interno en OpenAI sobre un documento de investigación. Este documento, titulado “Cinco Niveles de Capacidades de IA General”, propone un marco para clasificar las etapas progresivas de la tecnología de IA. Según informantes, el contenido del documento podría complicar la capacidad de OpenAI para declarar que ha alcanzado la AGI, lo que constituiría una ventaja en las negociaciones.
Un portavoz de OpenAI, Lindsay McCallum, indicó que están enfocados en desarrollar métodos empíricos para evaluar el progreso hacia la AGI que sean reproducibles y útiles para el campo amplio de la IA. McCallum aclaró que el documento “Cinco Niveles” fue un intento inicial de clasificar etapas y terminología y no debe considerarse como un trabajo de investigación científica. Microsoft no ofreció comentarios.
En una publicación en su blog donde describe su estructura corporativa, OpenAI señala que la AGI “está excluida de las licencias de propiedad intelectual y otros términos comerciales con Microsoft”. Se define como “un sistema altamente autónomo que supera a los humanos en la mayoría de los trabajos de valor económico”. Ambos gigantes tecnológicos están renegociando su acuerdo mientras OpenAI se prepara para una reestructuración. Aunque Microsoft desea mantener acceso a los modelos de OpenAI, incluso si la startup declara AGI antes de que termine la asociación en 2030, hay opiniones dentro de Microsoft que consideran poco probable que OpenAI logre AGI en ese plazo.
Se menciona que OpenAI ha evaluado la posibilidad de invocar la cláusula relacionada con un agente de codificación de IA, y las conversaciones se han intensificado hasta el punto de que OpenAI ha discutido la posibilidad de acusar públicamente a Microsoft de comportamiento anticompetitivo. Según algunas fuentes, OpenAI se encuentra cerca de lograr AGI, y la perspectiva es que podría conseguirlo durante el mandato actual de Donald Trump.
La cláusula se plantea como una herramienta crucial para OpenAI, donde su junta puede decidir unilateralmente que ha alcanzado AGI, lo que cortaría inmediatamente el acceso de Microsoft a la tecnología desarrollada después de ese momento. Además, el contrato incluye un concepto de AGI suficiente, introducido en 2023, que se refiere a un sistema capaz de generar un nivel específico de beneficios, lo que requeriría la aprobación de Microsoft.
Un documento visto por informantes describe un sistema escalado en cinco niveles para medir cuán avanzados están los sistemas de IA, y algunos modelos en ese momento se encontraban en el Nivel 1, mientras que otros se acercaban al Nivel 2. Este análisis evita dar una única definición de AGI y, en cambio, utiliza un espectro de capacidades para describir sistemas de IA cada vez más generales.
No se prevé cuándo estos sistemas alcanzarán cada uno de los niveles, pero se advierte sobre los riesgos emergentes a medida que las herramientas de IA se vuelven más poderosas e independientes. Recientemente, se discutió que el modelo o1 de la empresa podría clasificarse como Nivel 2 y se espera alcanzar el Nivel 3 en un plazo más corto de lo anticipado.
En conclusión, el proceso de publicación del documento se vio postergado, en parte debido a la asociación con Microsoft. Sin embargo, OpenAI ha enfatizado que no se debe interpretar que se retuvieron ideas para proteger esta asociación y que hubo razones técnicas para no lanzarlo al público. Según Sam Altman, CEO de OpenAI, la definición de AGI varía según las perspectivas de cada persona, lo que lleva a una interpretación diversa de este concepto crítico.
