Una nueva tarjeta PCIe, similar a una GPU, ha sido desarrollada por la startup d-Matrix, respaldada por Microsoft. Esta tarjeta ofrece un impresionante poder de cómputo de 10 PFLOPs en FP4 y cuenta con 2 GB de SRAM. La SRAM se utiliza generalmente en pequeñas cantidades como memoria caché en procesadores. A diferencia de las memorias más caras como HBM, esta tarjeta utiliza LPDDR5, lo que la hace más accesible.
El producto actual de d-Matrix, llamado Corsair, es descrito como la “primera plataforma de cómputo de IA de su tipo”. Esta tarjeta PCIe incluye dos ASICs de d-Matrix, cada uno con cuatro chiplets. Juntos, logran un total de 9.6 PFLOPs de poder de cómputo y 2 GB de memoria de rendimiento basada en SRAM. Corsair promete un rendimiento interactivo diez veces mejor, tres veces más eficiencia energética y tres veces mejor costo-rendimiento en comparación con alternativas de GPU, como la popular Nvidia H100.
Sree Ganesan, jefe de producto en d-Matrix, explicó que las soluciones actuales enfrentan un “muro de memoria” con las arquitecturas existentes, lo que requiere más potencia y recursos. La compañía se ha enfocado en mejorar el ancho de banda de la memoria y en innovar para superar este obstáculo. Ganesan destacó que han construido un núcleo de cómputo digital en memoria que permite realizar cálculos directamente en la memoria, alcanzando velocidades de hasta 150 terabytes por segundo.
El CEO Sid Sheth mencionó que d-Matrix fue fundada en 2019, impulsada por la idea de que la inferencia sería el futuro de la inteligencia artificial. Aunque en ese momento no se percibía como una gran oportunidad, la situación cambió drásticamente después de 2022 con el auge de herramientas como ChatGPT. La compañía también apostó por las redes transformadoras desde sus inicios.
Corsair comenzará su producción en masa en el segundo trimestre de 2025, y d-Matrix ya está trabajando en su próximo ASIC, llamado Raptor, que integrará DRAM apilada en 3D para soportar cargas de trabajo de razonamiento y mayores capacidades de memoria.
