TrueFoundry, una startup creada por exingenieros de Meta, ha recaudado 19 millones de dólares en una nueva ronda de inversión liderada por Intel Capital. Esta empresa ayuda a las organizaciones a implementar sistemas de inteligencia artificial (IA) a gran escala. Desde el lanzamiento de ChatGPT en noviembre de 2022, muchas empresas han buscado formas de adoptar la IA, pero esta tecnología requiere modelos de lenguaje grandes que necesitan mucha potencia de cálculo. No todas las empresas tienen acceso a cientos o miles de unidades de procesamiento gráfico (GPU), por lo que optimizar su uso es fundamental.
Además, las empresas deben probar varios modelos para encontrar el que mejor se adapte a sus necesidades y ajustar los modelos existentes para que sean útiles en sus operaciones. TrueFoundry ofrece una solución de software bajo un modelo de plataforma como servicio, diseñada para científicos de datos. Sus características incluyen escalado automático, mantenimiento proactivo, controles de acceso centralizados y monitoreo en tiempo real, lo que facilita la implementación de IA de principio a fin.
Fundada en junio de 2021 por los exingenieros de Meta Nikunj Bajaj y Abhishek Choudhary, junto con su compañero de IIT Kharagpur, Anuraag Gutgutia, TrueFoundry comenzó ofreciendo un software nativo de múltiples nubes para acelerar las implementaciones de aprendizaje automático. Sin embargo, con la popularidad de la IA generativa en 2023, la startup adaptó su sistema para soportar estas capacidades.
Gutgutia explicó que antes, los científicos de datos solo trabajaban con modelos y experimentaban con ellos, mientras que la implementación era tarea de ingenieros de aprendizaje automático. Con su sistema, los científicos de datos pueden construir y probar todo el sistema antes de entregarlo al equipo de plataforma para su implementación final.
TrueFoundry cuenta con un sistema llamado autopiloto, que utiliza IA para analizar registros y métricas, ayudando a escalar aplicaciones de IA ajustando el uso de GPU y solucionando requisitos de memoria. Un cliente de TrueFoundry, con un equipo de solo dos personas, logró manejar 10 millones de solicitudes por segundo gracias a este sistema.
Actualmente, TrueFoundry tiene 30 clientes de pago en todo el mundo y muchos usuarios que acceden a su marco de trabajo de código abierto para experimentación. Entre sus clientes se encuentran NVIDIA, que utiliza el software para optimizar sus clústeres de GPU, y Resmed, que desarrolla una plataforma interna de IA. Otras empresas como Siemens Healthineers y Automation Anywhere también son clientes.
La startup ha diseñado su software utilizando Kubernetes, lo que lo hace compatible con todas las principales plataformas en la nube, como AWS, Google Cloud y Azure. Las empresas que utilizan TrueFoundry han construido y lanzado sus plataformas internas de IA en solo dos meses, logrando un retorno de inversión en cuatro meses, en comparación con el promedio de 14 meses en la industria.
TrueFoundry ha logrado reducir los costos de infraestructura entre un 40% y un 50%, además de mejorar la velocidad de implementación en 10 veces, independientemente del tipo de modelo en el que trabajen. Aunque proveedores de la nube como Amazon y Google han comenzado a ofrecer sus propios software para facilitar la construcción de modelos de IA, Gutgutia sostiene que la solución de TrueFoundry sigue siendo relevante, ya que ayuda a acelerar el uso de recursos de computación y a reducir costos.
La ronda de inversión de la Serie A, completamente en acciones, también contó con la participación de Eniac Ventures, Peak XV Partners y Jump Capital, así como de inversores ángeles. TrueFoundry utilizará estos fondos para expandir su equipo en India y establecer posiciones en el mercado estadounidense, incluyendo ventas y marketing de productos. También planea invertir en asociaciones, especialmente con proveedores de la nube, y está en proceso de ser listada en los principales mercados de la nube, comenzando con AWS Marketplace.
Con esta nueva financiación, TrueFoundry ha recaudado más de 21 millones de dólares en total, incluyendo 2.3 millones en su ronda inicial en septiembre de 2022. La startup ha cuadruplicado su base de clientes el año pasado y ha desplegado más de 1,000 clústeres para cargas de trabajo de aprendizaje automático. Gutgutia también mencionó que están generando más de 1.5 millones de dólares en ingresos anuales recurrentes y buscan duplicar esta cifra este año.
