La carrera hacia la IA que se mejora sola: promesas, límites y miedos de la recursión

La “recursión” se ha convertido en la nueva palabra de moda en inteligencia artificial. El concepto clave es la mejora recursiva de la propia IA (RSI): sistemas capaces de diseñar, probar y perfeccionar nuevas versiones de sí mismos sin depender de humanos, más allá de los límites que marque la capacidad de cómputo.

Varios actores punteros ya compiten por acercarse a ese objetivo. El investigador Richard Socher ha lanzado la startup Recursive Superintelligence con la meta declarada de automatizar por completo el ciclo de investigación: idear, implementar y validar resultados con IA. Andrej Karpathy, ex Tesla y OpenAI y ahora en Anthropic, experimenta con “enjambres” de agentes que realizan pequeñas tareas de investigación en su proyecto Auto-Research, capaz de introducir mejoras incrementales en modelos tipo GPT-2. Adaption, la empresa de Sara Hooker, propone algo similar con su herramienta AutoScientist, enfocada a abaratar y automatizar el entrenamiento de modelos frontera. Y la fundadora de Disarray, Doris Xin, ha demostrado la capacidad de un agente de aprendizaje automático para ganar 28 medallas en competiciones de Kaggle sin supervisión humana directa, aunque advierte que el gran reto ahora es la fiabilidad.

Pese a estos avances, las voces más influyentes coinciden en que aún no existe un sistema verdaderamente recursivo. El propio CEO de Google, Sundar Pichai, admite que se progresa en un continuo, pero que el salto cualitativo que muchos imaginan con la RSI todavía no se ha producido. Ejemplos como Claude Code de Anthropic, que ya escribe casi todo el código de su propio equipo, muestran un alto grado de automatización, pero siguen requiriendo humanos para tareas de dirección, criterio y verificación: justo lo que haría falta para cerrar completamente el bucle.

El centro CSET de Georgetown y expertos como Helen Toner y Ajeya Cotra proponen pensar la RSI como una serie de hitos: desde la “adecuación” (la IA puede investigar sola, aunque peor que los humanos) hasta la “paridad” y, finalmente, la “supremacía” (la IA investigando mejor que cualquier equipo mixto humano-máquina). Cotra cree que podríamos estar muy cerca de la adecuación, lo que aceleraría drásticamente el progreso cuando se alcance la paridad. Sin embargo, persisten obstáculos técnicos (fiabilidad, alineamiento, límites de cómputo) y conceptuales: hasta ahora, incluso con lenguajes y herramientas más avanzadas, el ser humano sigue “llevando el timón” del proceso informático.

El consenso actual es que la RSI, tal y como la imaginan los escenarios más extremos —una IA que se reinventa sola de forma explosiva y descontrolada—, aún no ha llegado. Pero el creciente uso de IA para diseñar nueva IA, y la inversión masiva en automatizar cada fase del ciclo de investigación, hacen que el futuro sea más difícil de predecir y mantienen viva la pregunta de cuándo (y cómo) se cruzará la línea hacia una verdadera recursión.