En una declaración el martes, Dario Amodei, CEO de la startup de inteligencia artificial Anthropic, calificó la Cumbre de Acción sobre IA en París como una “oportunidad perdida” y pidió a la industria de la IA y al gobierno que “avancen más rápido y con mayor claridad”. Amodei expresó: “Nos complace haber asistido a la Cumbre de Acción sobre IA en París y apreciamos los esfuerzos del gobierno francés por reunir a empresas de IA, investigadores y responsables de políticas de todo el mundo. Sin embargo, se necesita un mayor enfoque y urgencia en varios temas, dado el ritmo al que avanza la tecnología”.
La crítica de Amodei a la Cumbre de Acción sobre IA, que reunió a empresas de IA y reguladores para intentar llegar a un consenso sobre la gobernanza de la IA, coincide con la opinión de varios académicos que también asistieron. Uno de ellos comentó que los compromisos de la conferencia, que Estados Unidos y Reino Unido se negaron a firmar, “no decían nada más que palabras vacías”.
Durante la conferencia, el vicepresidente de EE. UU., JD Vance, adoptó una postura diferente y criticó lo que describió como regulaciones “masivas” y restrictivas sobre la IA promovidas por Europa. Vance también cuestionó la moderación de contenido, aludiendo a la redacción “sostenible” e “inclusiva” de los compromisos de la conferencia, que rechazó como “censura autoritaria”.
Amodei advirtió que la IA está avanzando rápidamente y que no regularla podría tener consecuencias desastrosas. “Las capacidades de los sistemas de IA deben considerarse como un nuevo estado poblado por personas altamente inteligentes que aparecen en el escenario global”, dijo. “La IA avanzada presenta peligros significativos para la seguridad global, desde el mal uso de los sistemas de IA por actores no estatales… Debemos asegurar que las sociedades democráticas lideren en IA y que los países autoritarios no la utilicen para establecer una dominación militar global”.
Amodei instó a los gobiernos a utilizar sus recursos para medir cómo se está utilizando la IA y a implementar políticas que aseguren que todos compartan los beneficios económicos de la IA poderosa. También abogó por una mayor transparencia gubernamental en cuanto a la seguridad de la IA y planes para evaluar los riesgos asociados.
La evaluación de Amodei sobre los procedimientos de la Cumbre de IA de París contrasta con la de OpenAI, que afirmó estar confiada en que la conferencia sería “otro hito importante hacia el desarrollo responsable y beneficioso de la IA para todos”. Anthropic ha mostrado en general una mayor apertura a la regulación de la IA en el pasado. De hecho, Amodei ha hecho advertencias similares antes, señalando que una IA sin restricciones podría tener implicaciones económicas, sociales y de seguridad profundamente negativas. Anthropic fue una de las pocas empresas de IA que apoyó tácitamente el proyecto de ley SB 1047 de California, que es una regulación integral y muy debatida sobre la IA. OpenAI se opuso a este proyecto, que fue vetado por el gobernador Gary Newsom el otoño pasado.
Sin embargo, esto no sugiere que los motivos de Anthropic sean puramente filantrópicos. Al igual que el CEO de OpenAI, Sam Altman, en su reciente ensayo, Amodei no ofrece recomendaciones concretas para garantizar que los beneficios de una IA poderosa, si surge en un futuro cercano, se distribuyan de manera amplia y equitativa.
