Las empresas están preocupadas porque su deseo de adoptar inteligencia artificial (IA) las ha hecho más vulnerables a ciberamenazas. Según una encuesta reciente a más de 350 líderes de tecnología, más de la mitad de los ejecutivos dijeron que la complejidad de las aplicaciones de IA debilita la ciberseguridad de sus organizaciones. Además, más de dos quintas partes de los ejecutivos creen que sus equipos de seguridad no tienen las habilidades necesarias para proteger sus aplicaciones y cargas de trabajo de IA.
La necesidad de soluciones para asegurar las aplicaciones de IA ha dado lugar a una nueva ola de startups. Por ejemplo, HiddenLayer y Protect AI se centran en defender los sistemas de IA de ataques adversariales, mientras que Cranium ofrece visibilidad en los sistemas de IA a nivel de aplicación. Una nueva empresa que ha surgido, Noma Security, afirma hacer todo esto y más, según su cofundador y CEO, Niv Braun. Noma está desarrollando herramientas para identificar pipelines de datos y códigos vulnerables en entornos de ciencia de datos, así como amenazas como los ataques de inyección de comandos.
Braun lanzó Noma junto a Alon Tron después de dejar la empresa de automatización de experiencia del cliente Verint, donde notó un “punto ciego significativo” para los equipos de seguridad en el ciclo de vida de los datos y la IA. “Las herramientas existentes están diseñadas para el ciclo de vida del software tradicional”, dijo Braun. “Sin embargo, el ciclo de vida de los datos y la IA es inherentemente diferente. Involucra procesos de I+D distintos, depende de tecnologías diferentes y enfrenta vulnerabilidades técnicas únicas dentro de los modelos de IA”.
Noma está diseñada para ayudar a detectar y corregir configuraciones incorrectas en los componentes utilizados para desarrollar y ejecutar aplicaciones de IA. Por ejemplo, la plataforma escanea datos “sensibles” en conjuntos de datos de entrenamiento de modelos, como textos que contienen información personal identificable. Braun sostiene que las empresas pueden estar mejor preparadas para enfrentar amenazas si pueden consolidar las funciones de seguridad de las aplicaciones de IA en un solo panel de control que se pueda implementar en entornos en la nube y autohospedados.
“Muchas soluciones de seguridad de función única están inundando el mercado, tratando de capitalizar la moda de la IA”, dijo. “Al ayudar a las empresas a entender su huella de aplicaciones de IA y proporcionarles controles de gobernanza, Noma no solo ayuda a las organizaciones a minimizar y mitigar riesgos, sino que también les da la confianza necesaria para expandir su uso de IA más rápido y hacia partes de alto valor del negocio”.
Noma, fundada en 2023, ya tiene clientes que pagan, incluyendo empresas de Fortune 500 en software B2B, servicios financieros y retail. La startup cerró recientemente una ronda de financiamiento Serie A de 25 millones de dólares, que Braun dijo fue anticipada por los inversores; Noma tenía fondos de sobra. “Decidimos aceptar los 25 millones, incluso con fondos sustanciales aún en el banco, para acelerar nuestro desarrollo y especialmente nuestros equipos y esfuerzos de salida al mercado”, añadió, mencionando que Noma planea duplicar el tamaño de su equipo de 20 personas en el próximo año. Ballistic Ventures lideró la Serie A de Noma, que eleva el capital total recaudado por la empresa a 32 millones de dólares. Noma recaudó 7 millones en una ronda de semillas previamente no divulgada, liderada por Glilot Capital Partners con participación de Cyber Club London.
