El legislador detrás del proyecto de ley de inteligencia artificial de California, SB 1047, que fue vetado recientemente, no se rinde. Durante meses, se debatió en Silicon Valley si este proyecto protegería a California de los peligros de los sistemas avanzados de IA o si tendría un efecto negativo en el crecimiento de la IA en el estado. La respuesta nunca fue clara, ya que el gobernador de California, Gavin Newsom, decidió que no era el enfoque correcto y vetó el proyecto el domingo antes de que se convirtiera en ley.
Ahora, el senador estatal Scott Wiener le dijo a TechCrunch que algunas instituciones de Silicon Valley difundieron un nivel sin precedentes de “desinformación” sobre SB 1047 en los meses previos al veto. Críticos de fuera de Silicon Valley, como Nancy Pelosi y el Departamento de Comercio de EE. UU., también se opusieron al proyecto. Wiener comentó: “He tenido proyectos difíciles antes, pero nunca uno con este nivel de desinformación. Fue una campaña de propaganda”.
Wiener criticó específicamente a Y Combinator y a los ejecutivos de Andreessen Horowitz por ayudar a difundir la idea de que SB 1047 enviaría a los fundadores de startups a la cárcel. Aunque esto no es completamente falso, ya que un desarrollador que mintiera en los informes de seguridad de IA requeridos por SB 1047 podría enfrentar cargos por perjurio, esto solo ocurriría si realmente hubiera mentido. En junio, el CEO de Y Combinator, Garry Tan, firmó una carta a los legisladores de California afirmando que “los desarrolladores de software de IA podrían ir a la cárcel” bajo SB 1047. Anteriormente, Anjney Midha, socio de Andreessen Horowitz, dijo en un podcast que “ningún fundador de startup racional arriesgaría tiempo en prisión o ruina financiera solo para avanzar en la IA”.
Wiener también mencionó que A16Z (Andreessen Horowitz) estaba en el centro de la oposición al proyecto. Y Combinator no respondió de inmediato a la solicitud de comentarios de TechCrunch. Andreessen Horowitz dirigió a TechCrunch a una carta de su director legal escrita meses antes, en la que se afirmaba que SB 1047 “es una desviación profundamente preocupante y fundamental de la forma en que se ha regulado el desarrollo de software en este país”.
Otra afirmación que Wiener calificó como desinformación fue que SB 1047 expulsaría a las startups de IA de California. Según Wiener, las startups de todo el país se verían afectadas de igual manera por SB 1047 si operaban en California. Jason Kwon, director de estrategia de OpenAI, escribió una carta a Newsom en agosto afirmando que SB 1047 haría que los emprendedores de California abandonaran el estado. La Cámara de Progreso, un grupo comercial de grandes empresas tecnológicas que representa a Meta, Apple y Google, también tiene una afirmación similar en su sitio web.
Wiener también criticó a Fei-Fei Li, conocida como la madrina de la IA, por escribir inexactitudes sobre SB 1047 en un artículo de opinión para la revista Fortune. En ese momento, Li escribió que los programas de código abierto que los desarrolladores descargan podrían ser cerrados por el proveedor original del modelo de IA bajo SB 1047. Una gran parte del debate sobre SB 1047 giró en torno a cómo impactaría el ecosistema de código abierto. Wiener aclaró: “En el proyecto estaba claro que solo se requiere cerrar un modelo si está en tu posesión”. Sin embargo, Li incluyó esa afirmación inexacta en su artículo. “Es muy respetada, así que fue desafortunado”, agregó.
Por último, el autor de SB 1047 criticó la carta de Newsom que explicaba por qué vetó el proyecto, diciendo que el gobernador “no hizo justicia al describir el proyecto”. Newsom dio una razón inesperada para su veto, afirmando que SB 1047 debería haber abarcado más modelos de IA. “Al centrarse solo en los modelos más costosos y a gran escala, SB 1047 establece un marco regulatorio que podría dar al público una falsa sensación de seguridad sobre el control de esta tecnología en rápido movimiento”, dijo Newsom en la carta. “Modelos más pequeños y especializados pueden surgir como igualmente o incluso más peligrosos que los modelos que SB 1047 pretendía regular”.
Muchos, incluido Newsom, han criticado a SB 1047 en el pasado por ser demasiado oneroso, por lo que fue sorprendente ver al gobernador sugerir que el proyecto debería tener un marco más flexible que cubriera más modelos de IA. A pesar de no haber logrado convertirse en ley esta vez, Wiener afirma que SB 1047 impulsó la conversación sobre la seguridad de la IA en California. El domingo, Newsom anunció un nuevo grupo de trabajo con Li y otros investigadores para desarrollar pautas para un desarrollo responsable de la IA. El estado también aprobó otras 18 leyes que regulan la IA en septiembre. Wiener no descarta la posibilidad de que regrese el próximo año con una versión revisada de SB 1047. “Es muy pronto para decir exactamente qué vamos a hacer”, comentó Wiener. “Estamos absolutamente comprometidos a promover la seguridad de la IA”.
