Google ha presentado SynthID Text, una nueva herramienta que permite marcar y detectar texto generado por inteligencia artificial. Esta herramienta está disponible como código abierto a través de Hugging Face, lo que significa que desarrolladores y empresas pueden comenzar a usarla para insertar marcas de agua en textos creados por modelos de inteligencia artificial. Con esto, Google espera ayudar a prevenir la desinformación y asegurar que se dé el crédito adecuado a los creadores de contenido.

¿Cómo funciona SynthID Text? La herramienta modifica la distribución de los “tokens”, que son las unidades básicas del texto generado por IA. Estos tokens son grupos de letras que forman palabras. Los modelos de IA ya generan texto basándose en probabilidades, es decir, adivinando qué palabra viene a continuación. SynthID Text simplemente ajusta la probabilidad de que se seleccionen ciertas palabras, creando un patrón de marca de agua que luego puede ser identificado.

Google afirma que la herramienta puede seguir funcionando incluso si el texto es parafraseado o modificado ligeramente. Sin embargo, la empresa también reconoció algunas limitaciones. Por ejemplo, en textos cortos, traducciones y respuestas fácticas donde hay poca variación, la efectividad de SynthID Text puede verse afectada. Además, reescribir completamente una respuesta puede “reducir significativamente” la confianza del detector.

SynthID Text ya se ha integrado en Gemini desde principios de este año. Sin embargo, Google no es el único en el espacio de la IA. OpenAI, que desarrolla ChatGPT, competidor de Gemini, probablemente no querrá utilizar la herramienta de su rival y está explorando su propia tecnología de marcas de agua.

Aún no está claro cómo funcionarán estos diferentes sistemas en el futuro, a medida que el contenido generado por IA se vuelva más común en internet. También se desconoce si uno de estos sistemas se convertirá en un estándar de la industria o si se establecerán marcos legales para regular su uso.