Andrew Ng, el fundador y exlíder de Google Brain, apoya la reciente decisión de Google de eliminar su compromiso de no desarrollar sistemas de inteligencia artificial (IA) para armas. Durante una entrevista en el evento Military Veteran Startup Conference en San Francisco, Ng expresó: “Estoy muy contento de que Google haya cambiado su postura”.
Esta semana, Google eliminó un compromiso de siete años que prometía no diseñar IA para armas o vigilancia. Junto con esta eliminación, Google publicó un blog escrito por el CEO de DeepMind, Demis Hassabis, quien mencionó que las empresas y los gobiernos deberían colaborar para construir IA que “apoye la seguridad nacional”.
Google hizo este compromiso en 2018 tras las protestas por el Proyecto Maven, donde miles de empleados se opusieron a los contratos de la empresa con el ejército de EE. UU. Los manifestantes estaban preocupados porque Google proporcionaba IA para un programa militar que ayudaba a interpretar imágenes de video, lo que podría mejorar la precisión de los ataques con drones. Sin embargo, Ng se mostró confundido por las protestas del Proyecto Maven, señalando que muchos veteranos están dispuestos a arriesgar sus vidas por el país. “¿Cómo puede una empresa estadounidense negarse a ayudar a nuestros propios soldados que están luchando por nosotros?”, preguntó Ng.
Aunque Ng no estaba en Google durante las protestas, desempeñó un papel clave en el desarrollo de la IA y las redes neuronales de la empresa. Actualmente, lidera un estudio de inversión enfocado en IA y habla frecuentemente sobre políticas de IA. Ng también expresó su gratitud por la eliminación de dos esfuerzos regulatorios de IA en EE. UU., argumentando que ambas medidas habrían ralentizado el desarrollo de IA de código abierto en el país.
Ng enfatizó que la clave para la seguridad de la IA en EE. UU. es asegurar que el país pueda competir tecnológicamente con China, señalando que los drones de IA “revolucionarán completamente el campo de batalla”. No es el único exejecutivo de Google que comparte este mensaje. Eric Schmidt, exCEO de Google, ahora hace lobby en Washington D.C. para que se compren drones de IA para competir con China.
A pesar del apoyo de Ng y Schmidt al uso militar de la IA, el tema ha dividido a Google durante años. Meredith Whittaker, actual presidenta de Signal, lideró las protestas del Proyecto Maven en 2018 y expresó su satisfacción por la decisión de Google de no renovar sus contratos, afirmando que la empresa “no debería estar en el negocio de la guerra”.
Otros exinvestigadores de IA de Google, como Geoffrey Hinton, han pedido a los gobiernos que prohíban y regulen el uso de IA en armas. Jeff Dean, actual científico jefe de DeepMind, también firmó una carta en contra del uso de aprendizaje automático en armas autónomas.
En años recientes, Google y Amazon han enfrentado un renovado escrutinio por su trabajo militar, incluyendo sus contratos del Proyecto Nimbus con el gobierno israelí. Empleados de ambas empresas realizaron protestas el año pasado en oposición a este proyecto, que supuestamente proporcionaba servicios de computación en la nube a las Fuerzas de Defensa de Israel.
El Pentágono y los ejércitos de todo el mundo han mostrado un renovado interés en utilizar IA, según el jefe de IA del Departamento de Defensa. A medida que Google, Amazon, Microsoft y otros gigantes tecnológicos invierten cientos de miles de millones de dólares en infraestructura de IA, muchos buscan recuperar esa inversión a través de asociaciones militares.
