Recientemente, se lanzó ChatGPT Search, un motor de búsqueda impulsado por inteligencia artificial. Sin embargo, un periódico del Reino Unido, The Guardian, ha descubierto que este sistema puede ser engañado para generar resúmenes engañosos.
La función de búsqueda de ChatGPT está diseñada para hacer que navegar por internet sea más rápido, resumiendo, por ejemplo, las reseñas de productos en las páginas web. Pero The Guardian encontró que, al insertar texto oculto en los sitios web, se podía hacer que ChatGPT ignorara las reseñas negativas y produjera resúmenes “totalmente positivos”. Además, este método también podría hacer que ChatGPT generara código malicioso.
Este tipo de ataque con texto oculto es un riesgo conocido para los modelos de lenguaje, pero parece ser la primera vez que se demuestra en un producto de búsqueda impulsado por IA en vivo. Google, que es el líder en el sector de búsqueda, tiene más experiencia en lidiar con problemas similares. OpenAI, la empresa detrás de ChatGPT, no comentó sobre este incidente específico, pero mencionó que utiliza varios métodos para bloquear sitios web maliciosos y que está en constante mejora.
