Yoshua Bengio, conocido como el “padrino de la IA”, ha lanzado una advertencia sobre la carrera por desarrollar inteligencia artificial (IA) cada vez más potente. En una entrevista con Sky News, Bengio expresó su preocupación de que la velocidad en el desarrollo de la IA está siendo priorizada sobre la seguridad, lo que podría tener consecuencias impredecibles y peligrosas.
Bengio, quien ayudó a crear las bases de las redes neuronales que alimentan diversas herramientas de IA, desde chatbots hasta asistentes de investigación, considera que la presión por avanzar rápidamente está llevando a los desarrolladores a tomar atajos peligrosos. La competencia entre empresas, especialmente con el auge de firmas chinas como DeepSeek, ha intensificado esta carrera. En lugar de frenar y evaluar los riesgos, las grandes empresas tecnológicas están acelerando su desarrollo de IA, lo que podría resultar en implementaciones apresuradas y medidas de seguridad inadecuadas.
El experto advierte que estamos en un “punto de inflexión”. Es crucial implementar regulaciones y protocolos de seguridad significativos antes de que la IA evolucione a sistemas autónomos que puedan tomar decisiones sin intervención humana. Actualmente, algunos modelos de IA ya están realizando operaciones financieras y gestionando logística con mínima supervisión, lo que podría llevar a comportamientos complejos e impredecibles si no se manejan adecuadamente.
Bengio no aboga por detener el desarrollo de la IA, sino por un cambio de enfoque hacia un trabajo más reflexivo y responsable. Participa en discusiones políticas, como la próxima Cumbre Internacional de Seguridad de IA en París, para promover la ética y la seguridad en el desarrollo de tecnología de IA. También enfatiza que las empresas deben invertir tanto en investigación de seguridad como en mejoras de rendimiento, aunque esto puede ser difícil en un entorno donde la velocidad es sinónimo de dominio.
A medida que avanza la carrera armamentista de la IA, las advertencias de Bengio y otros expertos se vuelven más urgentes. Espera que la industria reconozca los riesgos antes de que una crisis obligue a actuar. La pregunta es si el mundo está listo para escuchar antes de que sea demasiado tarde.
