Lilian Weng, una de las principales investigadoras de seguridad de OpenAI, anunció el viernes que dejará la empresa. Weng ocupó el cargo de vicepresidenta de investigación y seguridad desde agosto y anteriormente lideró el equipo de sistemas de seguridad de OpenAI. En una publicación en X, Weng comentó que “después de 7 años en OpenAI, me siento lista para reiniciar y explorar algo nuevo”. Su último día será el 15 de noviembre, aunque no especificó a dónde irá después.
Weng expresó que fue una decisión muy difícil dejar OpenAI y se mostró orgullosa de los logros del equipo de sistemas de seguridad, confiando en que seguirán prosperando. Su salida se suma a una serie de renuncias de investigadores y ejecutivos en el ámbito de la seguridad de la inteligencia artificial en el último año, algunos de los cuales han acusado a OpenAI de priorizar productos comerciales sobre la seguridad de la IA.
Weng se une a Ilya Sutskever y Jan Lieke, quienes también dejaron OpenAI este año tras la disolución de su equipo de Superalineación, que buscaba desarrollar métodos para guiar sistemas de IA superinteligentes. Weng se unió a OpenAI en 2018, trabajando en el equipo de robótica que creó una mano robótica capaz de resolver un cubo Rubik, un proyecto que tomó dos años.
A medida que OpenAI se enfocó más en el paradigma GPT, Weng también cambió su enfoque y ayudó a construir el equipo de investigación aplicada en 2021. Tras el lanzamiento de GPT-4, fue encargada de crear un equipo dedicado a construir sistemas de seguridad en 2023. Actualmente, la unidad de sistemas de seguridad de OpenAI cuenta con más de 80 científicos, investigadores y expertos en políticas.
Sin embargo, muchos han expresado preocupaciones sobre el enfoque de OpenAI en la seguridad mientras desarrolla sistemas de IA cada vez más potentes. Miles Brundage, un investigador de políticas, dejó la empresa en octubre y anunció la disolución del equipo de preparación para AGI, del cual era asesor. El mismo día, el New York Times destacó a un exinvestigador de OpenAI, Suchir Balaji, quien se fue porque creía que la tecnología de la empresa podría causar más daño que beneficio a la sociedad.
OpenAI comunicó a TechCrunch que los ejecutivos y los investigadores de seguridad están trabajando en una transición para reemplazar a Weng. “Agradecemos profundamente las contribuciones de Lilian a la investigación de seguridad innovadora y a la construcción de salvaguardias técnicas rigurosas”, dijo un portavoz de OpenAI en un comunicado. “Estamos seguros de que el equipo de sistemas de seguridad seguirá desempeñando un papel clave en garantizar que nuestros sistemas sean seguros y confiables, sirviendo a cientos de millones de personas en todo el mundo”.
Otros ejecutivos que han dejado OpenAI en los últimos meses incluyen a la CTO Mira Murati, el director de investigación Bob McGrew y el vicepresidente de investigación Barret Zoph. En agosto, el destacado investigador Andrej Karpathy y el cofundador John Schulman también anunciaron su salida. Algunos de ellos, como Leike y Schulman, se unieron a un competidor de OpenAI, Anthropic, mientras que otros han comenzado sus propios proyectos.
