Uptime Industries busca fomentar el uso de inteligencia artificial local con un producto denominado Lemony AI.
El dispositivo Lemony AI es capaz de ejecutar modelos de lenguaje extensos, agentes de inteligencia artificial y flujos de trabajo automatizados de manera local.
Uptime Industries ha decidido apostar por la infraestructura de inteligencia artificial local con un dispositivo portátil denominado Lemony AI, que tiene un tamaño similar al de un sándwich. Se afirma que Lemony AI es capaz de operar un modelo de lenguaje grande (LLM), agentes de inteligencia artificial y flujos de trabajo de IA, todo desde un único nodo. Cada dispositivo requiere apenas 65 vatios de energía, comparable a la carga de un laptop, y puede apilarse y conectarse para formar clústeres de inteligencia artificial más grandes.
Sascha Buehrle, cofundador y CEO de Uptime, mencionó que cada nodo puede soportar LLM de hasta 75 mil millones de parámetros. Además, puede alojar modelos de código abierto o versiones adaptadas de modelos cerrados. En un clúster de nodos Lemony, cada dispositivo tiene la capacidad de ejecutar diferentes modelos. Uptime ha establecido alianzas con IBM y JetBrains para ofrecer un acceso más fácil a modelos de IA a sus clientes, incluidos algunos modelos cerrados de IBM.
La concepción de Lemony AI surgió de un proyecto paralelo. Buehrle e Ivan Kuleshov, los cofundadores, inicialmente buscaban distribuir modelos de lenguaje en microcomputadoras Raspberry Pi. Aunque en un principio esto no estaba relacionado con la IA generativa, al ver que funcionaba, comenzaron a explorar otras aplicaciones de estos dispositivos. Al darse cuenta de que ejecutar modelos en dispositivos locales podría facilitar la adopción de IA en organizaciones, especialmente aquellas que prefieren no recurrir a modelos basados en la nube, decidieron construir su propio dispositivo. Plantearon que un formato pequeño, enfocado en la privacidad de los datos, podría incitar a las empresas a integrar la IA más rápidamente. Según Buehrle, el objetivo es crear un sistema flexible que se ajuste a las necesidades del cliente.
La demanda de estos dispositivos ha sido significativa entre empresas de sectores altamente regulados, como el financiero, la salud y el legal. Buehrle afirmó que "todo permanece dentro de tu caja". Esto significa que documentos, archivos y correos electrónicos están almacenados localmente, con los modelos y agentes funcionando dentro del sistema sin ser compartidos hacia afuera.
Hasta la fecha, Uptime ha recaudado 2 millones de dólares en una ronda seed de financiación liderada por True Ventures, con la participación de Alumni Ventures, JetBrains y algunos inversores ángeles. Los fondos se destinarán a seguir desarrollando sus dispositivos. La empresa planea hacer que su software, Lemony OS, funcione en hardware de otras compañías, como el Nvidia DGX Spark, y expandir su enfoque para que sea usado por equipos en lugar de ser solo para un único usuario. El costo de Lemony AI es de 499 dólares al mes y puede ser utilizado por hasta cinco personas.
