Midjourney está a punto de lanzar una herramienta web mejorada que permitirá a los usuarios editar cualquier imagen que suban desde la web utilizando la inteligencia artificial generativa de Midjourney. El CEO de Midjourney, David Holtz, anunció que esta herramienta se lanzará “a principios de la próxima semana”. Además de editar imágenes, los usuarios podrán cambiar la textura de los objetos en las imágenes para “repintar” sus colores y detalles según las descripciones que proporcionen.
La edición de imágenes con inteligencia artificial se ha vuelto un tema muy debatido últimamente. Empresas como Meta han tenido problemas para etiquetar imágenes editadas con herramientas de IA en comparación con aquellas generadas desde cero. Por su parte, Google ha lanzado potentes funciones de IA que no muestran ninguna indicación visual de que las imágenes han sido modificadas por inteligencia artificial.
El año pasado, Midjourney se comprometió a utilizar la propiedad de Tipo de Fuente Digital del IPTC, un estándar técnico que incrusta metadatos en las imágenes para indicar que han sido generadas por IA. Sin embargo, la empresa es una de las pocas plataformas importantes de IA que no ha adoptado C2PA, una tecnología de metadatos que rastrea el origen completo de una imagen, incluyendo el equipo y el software utilizados para crearla.
En un mensaje en el servidor oficial de Discord de Midjourney, Holtz mencionó que la nueva herramienta de imagen estará restringida a un “subconjunto de la comunidad actual” al principio, con mayor moderación humana y “nuevos moderadores de IA más avanzados” para intentar prevenir abusos. “Honestamente, no estamos seguros de cómo restringir con precisión el despliegue de esta función”, dijo.
Existen riesgos al lanzar este tipo de herramientas de edición sin las salvaguardias adecuadas. Podrían facilitar la infracción de derechos de autor a gran escala o promover la difusión de deepfakes engañosos. Los deepfakes se están propagando rápidamente en las redes sociales, dificultando la distinción entre la verdad y la desinformación. Recientemente, imágenes generadas por IA que mostraban destrucción y sufrimiento humano inundaron la web tras el huracán Helene. Según datos de Clarity, una firma de detección de deepfakes, se han creado y publicado un 900% más de deepfakes este año en comparación con el mismo período del año pasado, lo que ha generado preocupación.
Una encuesta reciente de YouGov reveló que el 85% de los estadounidenses están preocupados por la difusión de deepfakes engañosos en línea. Ante la falta de una ley federal que criminalice los deepfakes en EE. UU., más de 10 estados han promulgado leyes contra la suplantación asistida por IA. La ley de California, que actualmente está estancada, sería la primera en permitir que los jueces ordenen a los autores de deepfakes que los eliminen o enfrenten posibles sanciones monetarias.
Midjourney no ha sido un ejemplo de implementación responsable de la IA. (Por ejemplo, está siendo demandada por su supuesto uso de contenido protegido por derechos de autor para entrenar sus modelos de IA generativa). Sin embargo, en los últimos meses, la plataforma ha tomado medidas para limitar la difusión de deepfakes, incluyendo filtros para figuras políticas en el contexto de las elecciones presidenciales en EE. UU.
