Los modelos de inteligencia artificial de código abierto de China han estado en el centro de atención recientemente debido a su destacado rendimiento en tareas como la programación y el razonamiento. Sin embargo, también han recibido críticas, incluso de empleados de OpenAI, por censurar temas sensibles para el gobierno chino, como la masacre de Tiananmen. Clement Delangue, CEO de HuggingFace, ha expresado preocupaciones similares. En un reciente podcast en francés, advirtió sobre las posibles consecuencias no deseadas de que empresas occidentales utilicen modelos de IA chinos que funcionan bien.
Delangue explicó que si creas un chatbot y le preguntas sobre Tiananmen, no responderá de la misma manera que un sistema desarrollado en Francia o EE. UU. También mencionó que si un país como China se convierte en el más fuerte en IA, podría difundir aspectos culturales que el mundo occidental preferiría no ver. Delangue ha señalado que la IA china está alcanzando rápidamente a la IA occidental gracias a su adopción del movimiento de código abierto.
En el podcast, Delangue expresó su preocupación por la fuerte concentración de modelos de código abierto provenientes de China, describiéndolo como un desarrollo relativamente nuevo. Afirmó que es importante que la IA esté distribuida entre todos los países, para evitar que uno o dos países sean mucho más fuertes que los demás. HuggingFace es la plataforma más grande del mundo para modelos de IA y un lugar popular para que las empresas chinas muestren sus últimos modelos de lenguaje.
Esta semana, el CTO de HuggingFace anunció que el modelo predeterminado en HuggingChat es Qwen2.5-72B-Instruct, desarrollado por el gigante del comercio electrónico Alibaba. Este modelo en particular no parece censurar preguntas sobre la masacre de Tiananmen ni otros temas que suelen ser censurados por el gobierno chino. Sin embargo, otro modelo de la familia Qwen de Alibaba disponible en HuggingChat, QwQ-32B, sí censura claramente cuando se le pregunta sobre las protestas de Tiananmen. DeepSeek, otro modelo chino que se volvió viral en la comunidad de IA por sus capacidades de razonamiento, también censura extensamente los temas considerados sensibles por el gobierno chino, según informes anteriores de TechCrunch.
Las empresas de IA chinas enfrentan un desafío, ya que el gobierno chino obliga a sus modelos a “encarnar los valores socialistas fundamentales” y cumplir con su extenso sistema de censura. Un portavoz de HuggingFace declinó hacer más comentarios, pero señaló que Delangue predijo recientemente que China comenzaría a liderar la carrera global de IA en 2025.
