**Crédito de la imagen: OpenAI**
**OpenAI presenta CriticGPT: Nueva herramienta para mejorar el código de ChatGPT**
OpenAI ha lanzado CriticGPT, un nuevo modelo diseñado para ayudar a los desarrolladores a identificar errores en el código generado por ChatGPT. Basado en GPT-4, OpenAI afirma que CriticGPT ha superado los esfuerzos sin ayuda en un 60% de las veces, demostrando su capacidad para mejorar el rendimiento humano en tareas de revisión de código, en lugar de reemplazar a los trabajadores humanos.
El objetivo de OpenAI es perfeccionar el proceso de ‘Aprendizaje por Refuerzo con Retroalimentación Humana’ (RLHF) para garantizar una mayor calidad y fiabilidad en los sistemas de inteligencia artificial.
**Nuevo modelo de revisión de código de OpenAI**
La última serie de GPT-4 de OpenAI, que impulsa las versiones públicas de ChatGPT, depende en gran medida del RLHF para asegurar que sus resultados sean confiables e interactivos. Hasta ahora, este proceso ha sido manual, apoyándose en entrenadores humanos de IA que califican las respuestas de ChatGPT para mejorar el rendimiento del modelo.
Con el lanzamiento de CriticGPT, OpenAI puede ahora criticar las respuestas de ChatGPT de manera autónoma, abordando las preocupaciones sobre la sofisticación del chatbot que supera a muchos entrenadores humanos.
CriticGPT fue entrenado mediante la inserción de errores intencionales en el código generado por ChatGPT, y los resultados fueron prometedores. Los entrenadores prefirieron las críticas de CriticGPT en aproximadamente dos tercios (63%) de las veces, gracias a la capacidad de la herramienta para reducir errores menores y alucinaciones.
Sin embargo, el proyecto tiene sus limitaciones, y la colaboración entre IA y humanos sigue siendo más efectiva en comparación con la IA sola.
En su anuncio, OpenAI resumió: “Las sugerencias de CriticGPT no siempre son correctas, pero encontramos que pueden ayudar a los entrenadores a detectar muchos más problemas en las respuestas generadas por el modelo que sin la ayuda de la IA.”
La compañía también reconoció que “los errores pueden estar distribuidos en muchas partes de una respuesta,” lo que hace más complejo para una herramienta de IA identificar la causa.
De cara al futuro, OpenAI ha confirmado planes para ampliar su trabajo en CriticGPT y ponerlo en práctica.
