El gobierno del Reino Unido está decidido a impulsar su economía e industria mediante la inteligencia artificial (IA). Para ello, ha decidido cambiar el nombre de una institución que creó hace poco más de un año. El Departamento de Ciencia, Industria y Tecnología anunció que el Instituto de Seguridad de IA pasará a llamarse “Instituto de Seguridad de IA”. Este cambio significa que el enfoque de la institución se moverá de temas como el riesgo existencial y el sesgo en los Modelos de Lenguaje Grande, hacia la ciberseguridad, específicamente en “fortalecer las protecciones contra los riesgos que la IA representa para la seguridad nacional y el crimen”.
Además, el gobierno también anunció una nueva asociación con Anthropic, aunque no se han detallado servicios específicos. El acuerdo sugiere que ambas partes “explorarán” el uso del asistente de IA Claude de Anthropic en los servicios públicos. Anthropic también contribuirá a la investigación científica y la modelización económica. En el Instituto de Seguridad de IA, se proporcionarán herramientas para evaluar las capacidades de la IA en el contexto de la identificación de riesgos de seguridad.
Dario Amodei, cofundador y CEO de Anthropic, comentó: “La IA tiene el potencial de transformar cómo los gobiernos sirven a sus ciudadanos. Esperamos explorar cómo el asistente de IA Claude podría ayudar a las agencias del gobierno del Reino Unido a mejorar los servicios públicos, con el objetivo de descubrir nuevas formas de hacer que la información y los servicios vitales sean más eficientes y accesibles para los residentes del Reino Unido”.
Aunque Anthropic es la única empresa anunciada en esta ocasión, no es la única que colabora con el gobierno. En enero, se presentaron nuevas herramientas que estaban impulsadas por OpenAI. En ese momento, Peter Kyle, el Secretario de Estado para Tecnología, mencionó que el gobierno planeaba trabajar con varias empresas de IA fundamentales, lo que se está concretando con el acuerdo con Anthropic.
El cambio del Instituto de Seguridad de IA, que se lanzó hace poco más de un año con gran expectativa, no debería sorprender. Cuando el nuevo gobierno laborista presentó su Plan de Cambio centrado en la IA en enero, fue notable que no se mencionaron palabras como “seguridad”, “daño”, “existencial” ni “amenaza”. Esto no fue un descuido; el plan del gobierno es iniciar inversiones en una economía más modernizada, utilizando tecnología y específicamente IA. Busca colaborar más estrechamente con las grandes empresas tecnológicas y también quiere desarrollar sus propias empresas tecnológicas locales.
Los mensajes principales que se han promovido son desarrollo, IA y más desarrollo. Los funcionarios públicos tendrán su propio asistente de IA llamado “Humphrey”, y se les anima a compartir datos y utilizar IA en otras áreas para agilizar su trabajo. Los consumidores recibirán billeteras digitales para sus documentos gubernamentales y chatbots.
¿Se han resuelto los problemas de seguridad de la IA? No exactamente, pero el mensaje parece ser que no se pueden considerar a expensas del progreso. El gobierno afirmó que, a pesar del cambio de nombre, la esencia seguirá siendo la misma. “Los cambios que anuncio hoy representan el siguiente paso lógico en cómo abordamos el desarrollo responsable de la IA, ayudándonos a liberar la IA y hacer crecer la economía como parte de nuestro Plan de Cambio”, dijo Kyle en un comunicado. “El trabajo del Instituto de Seguridad de IA no cambiará, pero este enfoque renovado asegurará que nuestros ciudadanos, y los de nuestros aliados, estén protegidos de aquellos que buscan usar la IA en contra de nuestras instituciones, valores democráticos y forma de vida”.
Ian Hogarth, presidente del instituto, agregó: “El enfoque del Instituto desde el principio ha sido la seguridad y hemos formado un equipo de científicos centrados en evaluar riesgos serios para el público. Nuestro nuevo equipo de uso indebido criminal y la profundización de la asociación con la comunidad de seguridad nacional marcan la siguiente etapa en la lucha contra esos riesgos”.
A nivel internacional, parece que las prioridades han cambiado en torno a la importancia de la “Seguridad de la IA”. El mayor riesgo que contempla actualmente el Instituto de Seguridad de IA en EE. UU. es que podría ser desmantelado. El vicepresidente de EE. UU., J.D. Vance, insinuó esto durante su discurso en París esta semana.
