El Instituto de Seguridad en IA del Reino Unido abrirá su primera oficina en el extranjero en San Francisco este verano, según confirmó la Secretaria de Tecnología, Michelle Donelan. En un comunicado de prensa, se anunció que la primera oficina extranjera del Instituto de Seguridad en IA (AISI) reclutará un equipo inicial de personal técnico liderado por un director de investigación, complementando la sede en Londres que ya cuenta con más de 30 expertos.
La expansión estratégica busca aprovechar el talento tecnológico del Área de la Bahía de San Francisco, donde se encuentran muchas de las principales empresas de tecnología e inteligencia artificial del mundo.
Instituto Británico de Seguridad en IA se globaliza
La oficina de Londres continuará evaluando los riesgos de los sistemas avanzados de IA, mientras que la nueva oficina en San Francisco facilitará la colaboración estrecha entre ambas naciones. Tanto el Reino Unido como Estados Unidos se han comprometido a acuerdos similares de seguridad en IA, incluyendo la firma de la Declaración de Bletchley en una cumbre organizada por el Reino Unido junto con otros 25 países y la Unión Europea.
Donelan comentó: “[La expansión] es un momento crucial en la capacidad del Reino Unido para estudiar tanto los riesgos como el potencial de la IA desde una perspectiva global, fortaleciendo nuestra asociación con Estados Unidos y allanando el camino para que otros países aprovechen nuestra experiencia mientras seguimos liderando el mundo en seguridad de IA.”
El Reino Unido y Canadá también se han comprometido a una asociación destinada a mejorar la investigación en seguridad de IA.
La noticia coincide con la publicación de los resultados recientes de pruebas de seguridad en IA por parte del AISI. Además de resaltar algunas de las limitaciones técnicas de los grandes modelos de lenguaje, el estudio también señaló que “todos los modelos probados siguen siendo altamente vulnerables a ‘jailbreaks’ básicos, y algunos producirán resultados dañinos incluso sin intentos dedicados de eludir las salvaguardas.”
Ian Hogarth, presidente del AISI, comentó: “La seguridad en IA sigue siendo un campo muy joven y emergente… Nuestra ambición es seguir avanzando en este campo desarrollando evaluaciones de vanguardia, con énfasis en los riesgos relacionados con la seguridad nacional.”
El anuncio también precede a la Cumbre de IA de Seúl 2024, que se considera una especie de sucesora de la cumbre de Bletchley Park celebrada en noviembre de 2023. Se espera que gobiernos internacionales, empresas de IA, academia y sociedad civil se reúnan para continuar las discusiones sobre la seguridad en IA.
