Google está intensificando sus esfuerzos para combatir la aparición de imágenes y videos explícitos creados con inteligencia artificial (IA) en los resultados de búsqueda. La empresa quiere dejar claro que los deepfakes no consensuados producidos por IA no son bienvenidos en su motor de búsqueda. Aunque las imágenes pueden ser ofensivas de alguna manera, Google ha adoptado un nuevo enfoque para eliminar este tipo de material y enterrarlo lejos de los resultados de la primera página si no es posible borrarlo.
Google ha permitido a las personas solicitar la eliminación de deepfakes explícitos durante un tiempo, pero la proliferación y mejora de los creadores de imágenes generativas de IA significa que hay que hacer más. El sistema de solicitud de eliminación se ha simplificado para facilitar la presentación de solicitudes y acelerar la respuesta. Cuando se recibe una solicitud y se confirma como válida, los algoritmos de Google también trabajarán para filtrar cualquier resultado explícito similar relacionado con la persona.
La víctima no tendrá que buscar manualmente cada variación de una solicitud de búsqueda que pueda mostrar el contenido. Los sistemas de Google escanearán automáticamente y eliminarán cualquier duplicado de esa imagen. Y no se limitará a un archivo de imagen específico. Google pondrá un freno proactivo al contenido relacionado. Esto es particularmente importante dado que el contenido puede duplicarse y difundirse en múltiples plataformas y sitios web.
El método también comparte algunas similitudes con los esfuerzos recientes de Google para combatir los deepfakes no autorizados, explícitos o no, en YouTube. Anteriormente, YouTube etiquetaba dicho contenido como creado por IA o potencialmente engañoso, pero ahora, la persona representada o su abogado pueden presentar una queja de privacidad, y YouTube dará al propietario del video un par de días para eliminarlo antes de revisar la queja.
La eliminación de contenido no es 100% perfecta, como bien sabe Google. Por eso, la búsqueda de resultados explícitos de deepfakes también incluye un sistema de clasificación actualizado. El nuevo ranking se opone a los términos de búsqueda con posibilidades de mostrar deepfakes explícitos. Google Search ahora intentará reducir la visibilidad de contenido falso explícito y sitios web asociados con su difusión en los resultados de búsqueda, especialmente si la búsqueda incluye el nombre de alguien.
Por ejemplo, si buscas un artículo de noticias sobre cómo los deepfakes de una celebridad específica se volvieron virales y están testificando ante legisladores sobre la necesidad de regulación, Google Search intentará asegurarse de que veas esas noticias y artículos relacionados sobre el tema y no los deepfakes en discusión.
Dada la naturaleza compleja y en evolución de la tecnología de IA generativa y su potencial de abuso, abordar la difusión de contenido dañino requiere un enfoque multifacético. Y Google no es único en enfrentar el problema o trabajar en soluciones. Han aparecido en Facebook, Instagram y otras plataformas de Meta, y la empresa ha actualizado sus políticas como resultado, con su Junta de Supervisión recomendando recientemente cambiar sus directrices para cubrir directamente el contenido explícito generado por IA y mejorar su propio proceso de apelaciones.
Los legisladores también están respondiendo al problema, con la legislatura del estado de Nueva York aprobando un proyecto de ley que apunta a la pornografía no consensuada generada por IA como parte de sus leyes de “pornografía de venganza”. A nivel nacional, esta semana se presentó en el Senado de EE. UU. la Ley de Nutrir Originales, Fomentar el Arte y Mantener el Entretenimiento Seguro de 2024 (NO FAKES Act) para abordar tanto el contenido explícito como el uso no consensuado de imágenes y voces de deepfake. De manera similar, la legislatura de Australia está trabajando en un proyecto de ley para criminalizar la creación y distribución de deepfakes explícitos no consensuados.
Google ya puede señalar algunos éxitos en la lucha contra los deepfakes explícitos. La empresa afirma que sus primeras pruebas con estos cambios están logrando reducir la aparición de imágenes explícitas de deepfake en más del 70%. Sin embargo, Google no ha declarado la victoria sobre los deepfakes explícitos todavía.
“Estos cambios son actualizaciones importantes a nuestras protecciones en la Búsqueda, pero hay más trabajo por hacer para abordar este problema, y seguiremos desarrollando nuevas soluciones para ayudar a las personas afectadas por este contenido”, explicó Emma Higham, gerente de producto de Google, en una publicación de blog. “Y dado que este desafío va más allá de los motores de búsqueda, continuaremos invirtiendo en asociaciones a nivel industrial y en la participación de expertos para abordarlo como sociedad”.
