El nuevo motor de razonamiento de Clarifai acelera y abarata los modelos de IA.
Clarifai ha presentado un nuevo motor de razonamiento que, según la empresa, permitirá que la ejecución de modelos de inteligencia artificial sea el doble de rápida y un 40% más económica.
La plataforma de inteligencia artificial Clarifai anunció recientemente el lanzamiento de un nuevo motor de razonamiento, que, según afirma, permitirá ejecutar modelos de IA el doble de rápido y a un 40% menos de costo. Este sistema está diseñado para ser adaptable a diversos modelos y proveedores de cloud, optimizando el rendimiento del hardware existente.
Matthew Zeiler, CEO de la empresa, explicó que se han implementado diferentes tipos de optimizaciones que incluyen desde núcleos CUDA hasta técnicas avanzadas de decodificación especulativa. "Se puede obtener más rendimiento de las mismas tarjetas," afirmó.
Las pruebas realizadas por una firma externa, Artificial Analysis, confirmaron que el nuevo motor estableció récords en el sector en términos de capacidad de procesamiento y latencia. Este proceso se centra en la inferencia, que se refiere a la carga computacional necesaria para operar un modelo de IA ya entrenado. Esta carga ha aumentado especialmente con el desarrollo de modelos que requieren múltiples pasos para ejecutar una sola instrucción.
Desde sus inicios como un servicio de visión por computadora, Clarifai ha enfocado sus esfuerzos en la orquestación computacional, intensificada por la creciente demanda de GPU y los centros de datos que las soportan. El anuncio de su plataforma de computación tuvo lugar en AWS re:Invent en diciembre, pero este motor de razonamiento es el primer producto destinado específicamente a modelos de razonamiento que requieren múltiples pasos.
Este lanzamiento se produce en un contexto de considerable presión sobre la infraestructura de IA, lo que ha llevado a una serie de acuerdos millonarios. OpenAI ha proyectado gastar hasta 1 billón de dólares en nuevos centros de datos, anticipando una demanda casi ilimitada de capacidad computacional. A pesar del intenso crecimiento en la construcción de hardware, el CEO de Clarifai opina que aún hay oportunidades para optimizar la infraestructura existente. “Existen trucos de software que pueden llevar un buen modelo como este aún más lejos, como el motor de razonamiento de Clarifai”, dice Zeiler, añadiendo que aún no hemos llegado al final de las innovaciones algorítmicas.
