El modelo más reciente de OpenAI, GPT-4o, puede comportarse de manera bastante extraña. Por ejemplo, puede imitar tu voz o emitir sonidos eróticos durante una conversación. Sabemos esto no porque investigadores independientes o usuarios aleatorios lo hayan descubierto, sino porque OpenAI lo ha observado en un informe de “red teaming”. Este informe está diseñado para identificar los riesgos del modelo y las formas en que se han abordado.

Para ser claros, parece que OpenAI se siente cómodo identificando estos riesgos porque ha encontrado formas de mitigarlos. Así que la versión de GPT-4o a la que el público tiene acceso no debería empezar a imitar voces de repente, y supuestamente se niega a hacer sonidos eróticos o violentos, o a generar ese tipo de discurso. También se supone que se niega a hacer efectos de sonido en general.

Aprende más sobre este tema y déjanos saber tu opinión en los comentarios.