Las empresas enfrentan un dilema con la inteligencia artificial (IA): si no la implementan, podrían perder oportunidades de aumentar su productividad y otros beneficios. Pero si lo hacen de manera incorrecta, podrían poner en riesgo a su negocio y a sus clientes. Aquí es donde entran nuevas startups que se especializan en “seguridad para IA”. Estas empresas, como la israelí Noma y las estadounidenses Hidden Layer y Protect AI, están diseñadas para abordar amenazas que no se pueden ignorar, como los ataques de jailbreak y la inyección de comandos.
Una de estas startups es Mindgard, una empresa derivada de una universidad británica. Su CEO y CTO, el profesor Peter Garraghan, explica que “la IA sigue siendo software, por lo que todos los riesgos cibernéticos que probablemente has escuchado también se aplican a la IA”. Sin embargo, añade que la naturaleza opaca y el comportamiento aleatorio de las redes neuronales justifican un nuevo enfoque. En el caso de Mindgard, este enfoque es una Prueba de Seguridad de Aplicaciones Dinámicas para IA (DAST-AI), que se centra en vulnerabilidades que solo se pueden detectar durante su funcionamiento. Esto implica un equipo de simulación de ataques automatizado y continuo, utilizando una biblioteca de amenazas de Mindgard. Por ejemplo, puede probar la robustez de los clasificadores de imágenes contra entradas adversariales.
La tecnología de Mindgard se beneficia de la experiencia de Garraghan en seguridad de IA. Este campo está evolucionando rápidamente; cuando él comenzó, herramientas como ChatGPT no existían, pero ya preveía que los modelos de procesamiento de lenguaje natural y de imágenes podrían enfrentar nuevas amenazas. Desde entonces, lo que parecía futurista se ha convertido en una realidad en un sector en rápido crecimiento, aunque los modelos de lenguaje y las amenazas siguen cambiando.
Garraghan confía en que sus vínculos con la Universidad de Lancaster ayudarán a Mindgard a mantenerse al día, ya que la empresa tendrá derechos sobre el trabajo de 18 investigadores de doctorado durante los próximos años. “No hay ninguna empresa en el mundo que tenga un acuerdo como este”. Aunque Mindgard tiene conexiones con la investigación, ya es un producto comercial, específicamente una plataforma SaaS, con el cofundador Steve Street liderando como COO y CRO.
Las empresas son clientes naturales para Mindgard, así como los equipos de pruebas de penetración, pero la compañía también colabora con startups de IA que necesitan demostrar a sus clientes que están previniendo riesgos en IA. Dado que muchos de estos clientes potenciales están en EE. UU., la empresa ha incorporado un toque estadounidense a su estructura de inversión. Después de recaudar 3 millones de libras en una ronda inicial en 2023, Mindgard ha anunciado una nueva ronda de 8 millones de dólares liderada por .406 Ventures, con participación de Atlantic Bridge, WillowTree Investments y otros inversores existentes.
La financiación ayudará a “construir el equipo, desarrollar productos, investigación y desarrollo, y todo lo que podrías esperar de una startup”, pero también a expandirse en EE. UU. Su nuevo vicepresidente de marketing, Fergal Glynn, ex CMO de Next DLP, está basado en Boston, aunque la empresa planea mantener la investigación y la ingeniería en Londres. Con un equipo de 15 personas, Mindgard es relativamente pequeña y planea seguir así, con la meta de alcanzar entre 20 y 25 empleados para finales del próximo año. Esto se debe a que la seguridad en IA “aún no está en su apogeo”. Pero cuando la IA comience a implementarse en todas partes y las amenazas de seguridad aumenten, Mindgard estará lista. Garraghan afirma: “Construimos esta empresa para hacer un bien positivo para el mundo, y ese bien positivo es que las personas puedan confiar y usar la IA de manera segura”.
