La inteligencia artificial (IA) ha transformado la manera en que las organizaciones realizan sus tareas, desde optimizar operaciones hasta automatizar procesos complejos. Sin embargo, a medida que esta tecnología se vuelve más común, las empresas están descubriendo que la rápida adopción de la IA puede traer consecuencias no deseadas.
Un informe de Swimlane revela que, aunque la IA ofrece grandes beneficios, su implementación ha superado la capacidad de muchas empresas para proteger datos sensibles. A medida que las organizaciones integran profundamente la IA en sus operaciones, también deben enfrentar riesgos asociados, como violaciones de datos, incumplimientos de normativas y fallos en los protocolos de seguridad.
La IA utiliza Modelos de Lenguaje Grande (LLMs), que son entrenados con grandes conjuntos de datos que a menudo incluyen información disponible públicamente. Estos conjuntos de datos pueden contener texto de fuentes como Wikipedia, GitHub y otras plataformas en línea, lo que proporciona un amplio material para entrenar los modelos. Esto significa que si los datos de una empresa están disponibles en línea, es probable que se utilicen para entrenar a los LLMs.
El estudio reveló una discrepancia entre los protocolos y la práctica al compartir datos en LLMs públicos. Aunque el 70% de las organizaciones afirma tener protocolos específicos para proteger el intercambio de datos sensibles con LLMs públicos, el 74% de los encuestados son conscientes de que hay personas dentro de sus organizaciones que aún ingresan información sensible en estas plataformas. Esta discrepancia resalta una falla crítica en la aplicación y el cumplimiento de las medidas de seguridad establecidas.
Además, hay un constante bombardeo de mensajes relacionados con la IA que está desgastando a los profesionales, y el 76% de los encuestados coincide en que el mercado está actualmente saturado de exageraciones sobre la IA. Esta sobreexposición está causando una especie de fatiga por la IA, y más de la mitad (55%) de los encuestados reportaron sentirse abrumados por el enfoque persistente en la IA, lo que indica que la industria podría necesitar cambiar su enfoque para promover la tecnología.
Curiosamente, a pesar de esta fatiga, la experiencia con tecnologías de IA y aprendizaje automático (ML) se está convirtiendo en un factor crucial en las decisiones de contratación. Un sorprendente 86% de las organizaciones informó que la familiaridad con la IA juega un papel importante en la determinación de la idoneidad de los candidatos. Esto demuestra cuán arraigada se está volviendo la IA, no solo en las herramientas de ciberseguridad, sino también en la fuerza laboral necesaria para gestionarlas.
En el sector de ciberseguridad, la IA y los LLMs han tenido un impacto positivo, ya que el informe afirma que el 89% de las organizaciones atribuyen a las tecnologías de IA un aumento en la eficiencia de sus equipos de ciberseguridad.
