OpenAI ha eliminado silenciosamente una frase que promovía la idea de una inteligencia artificial “sin sesgos políticos” de uno de sus documentos de políticas más recientes. En el borrador original de su “plan económico” para la industria de la IA en EE. UU., OpenAI afirmaba que los modelos de IA “deberían aspirar a ser políticamente imparciales por defecto”. Sin embargo, en un nuevo borrador publicado el lunes, esa frase ha sido eliminada.
Un portavoz de OpenAI comentó que este cambio fue parte de un esfuerzo por “simplificar” el documento, y que otros documentos de OpenAI, como el Especificaciones del Modelo, “hacen hincapié en la objetividad”. Este documento, lanzado en mayo, busca aclarar el comportamiento de los diferentes sistemas de IA de la empresa.
La revisión también señala el complicado debate político que rodea el tema de la “IA sesgada”. Muchos aliados del presidente electo Donald Trump, incluidos Elon Musk y David Sacks, han acusado a los chatbots de IA de censurar puntos de vista conservadores. Sacks ha señalado específicamente a ChatGPT de OpenAI como “programado para ser progresista” y poco veraz en temas políticamente sensibles. Musk ha culpado tanto a los datos con los que se entrenan los modelos de IA como a la “mentalidad progresista” de las empresas del área de la Bahía de San Francisco.
“Muchas de las IA que se están entrenando en el área de la Bahía de San Francisco adoptan la filosofía de las personas que las rodean”, dijo Musk en un evento respaldado por el gobierno de Arabia Saudita el octubre pasado. “Así que tienes una filosofía progresista y nihilista —en mi opinión— que se está incorporando a estas IA”.
En realidad, el sesgo en la IA es un problema técnico difícil de resolver. La empresa de IA de Musk, xAI, también ha tenido dificultades para crear un chatbot que no favorezca ciertas opiniones políticas sobre otras. Un estudio de investigadores del Reino Unido publicado en agosto sugirió que ChatGPT tiene un sesgo liberal en temas como inmigración, cambio climático y matrimonio entre personas del mismo sexo. OpenAI ha afirmado que cualquier sesgo que aparezca en ChatGPT “son errores, no características”.
