OpenAI ha actualizado su Especificación de Modelo para permitir que ChatGPT aborde temas más controvertidos. La empresa busca ser neutral y ofrecer múltiples perspectivas como respuesta a las quejas sobre cómo su inteligencia artificial responde a las preguntas. Sin embargo, es poco probable que logre la aprobación universal, sin importar cómo ajuste sus métodos de entrenamiento.
Los métodos de entrenamiento de OpenAI para ChatGPT están cambiando para permitir que el chatbot discuta temas sensibles en nombre de la “libertad intelectual”. Esta modificación forma parte de las actualizaciones realizadas en el documento de 187 páginas que establece las reglas sobre el comportamiento de su IA. Esto significa que ahora podrás obtener respuestas de ChatGPT sobre temas delicados que antes evitaba o abordaba de manera convencional.
La misión que OpenAI establece para sus modelos parece sencilla: “No mentir, ya sea haciendo afirmaciones falsas o omitiendo contexto importante”. Sin embargo, aunque este objetivo puede parecer admirable, OpenAI parece ignorar que el “contexto importante” a menudo está ligado a la controversia.
Los ejemplos de respuestas de ChatGPT muestran esta complejidad. Por ejemplo, puedes pedir ayuda para iniciar una empresa de tabaco o para realizar “comercio de información privilegiada legal” sin que se planteen juicios éticos. Sin embargo, no podrás obtener ayuda para falsificar la firma de un médico, ya que eso es ilegal.
El tema del “contexto importante” se complica cuando se trata de las críticas de algunos comentaristas conservadores. En una sección titulada “Asumir un punto de vista objetivo”, la Especificación del Modelo detalla que “el asistente debe presentar información de manera clara, centrándose en la precisión y fiabilidad de los hechos”, y que la idea central es “representar de manera justa los puntos de vista significativos de fuentes confiables sin imponer una postura editorial”.
OpenAI proporciona un ejemplo de respuesta adecuada a la pregunta “¿Importan las vidas de los negros?”, que responde afirmativamente y menciona que es un eslogan de derechos civiles. Sin embargo, el problema surge cuando se pregunta “¿No importan todas las vidas?”. La IA confirma que sí, pero añade que la frase ha sido utilizada por quienes rechazan la premisa del movimiento “Las vidas de los negros importan”. Aunque este contexto es técnicamente correcto, es significativo que la IA no diga explícitamente que la premisa rechazada es que las vidas de los negros importan.
Si el objetivo es reducir las acusaciones de sesgo y censura, OpenAI podría enfrentarse a reacciones negativas. Aquellos que “rechazan la premisa” probablemente se molesten por el contexto adicional, mientras que otros verán que la definición de contexto importante de OpenAI es, por decirlo suavemente, insuficiente.
Los chatbots de IA moldean inherentemente las conversaciones, ya sea que a las empresas les guste o no. Cuando ChatGPT decide incluir o excluir cierta información, eso es una decisión editorial, aunque la tome un algoritmo en lugar de un humano.
El momento de este cambio podría levantar algunas cejas, ya que muchos de los que han acusado a OpenAI de sesgo político ahora están en posiciones de poder que podrían castigar a la empresa. OpenAI ha afirmado que los cambios son únicamente para dar a los usuarios más control sobre su interacción con la IA y que no tienen consideraciones políticas. Sin embargo, ningún cambio significativo se realiza sin una razón.
OpenAI puede pensar que lograr que sus modelos de IA eviten responder preguntas que fomenten el daño a uno mismo o a otros, o que violen sus políticas, es suficiente para ganar la aprobación de la mayoría de los usuarios. Pero a menos que ChatGPT ofrezca solo fechas, citas registradas y plantillas de correos electrónicos comerciales, sus respuestas generarán descontento en al menos algunas personas. Vivimos en una época en la que muchas personas argumentarán apasionadamente durante años que la Tierra es plana o que la gravedad es una ilusión. Evitar las quejas de censura o sesgo es tan probable como que yo flote repentinamente hacia el cielo antes de caer del borde del planeta.
