Zoom está trabajando en una nueva función que permitirá a los usuarios crear avatares digitales animados y realistas, aunque no estará disponible hasta el próximo año. Esta característica, presentada en la conferencia anual de desarrolladores de Zoom, transformará un video grabado por el usuario en un clon digital que incluirá cabeza, brazos superiores y hombros. Los usuarios podrán escribir un guion sobre lo que quieren que diga su avatar, y Zoom generará audio que se sincroniza con los movimientos de los labios del avatar.
Smita Hashim, directora de productos de Zoom, explicó que estos avatares están diseñados para ayudar a las personas a comunicarse de manera “asincrónica” con sus colegas, lo que significa que no necesitan estar en línea al mismo tiempo. “Los avatares ahorran tiempo y esfuerzo a los usuarios al grabar clips y les permiten crear videos de manera más eficiente”, dijo Hashim. Sin embargo, también existe el riesgo de que esta tecnología se use para crear “deepfakes”.
Varias empresas han desarrollado tecnología de inteligencia artificial para “clonar” digitalmente el rostro de una persona y combinarlo con un discurso sintético que suena natural. Por ejemplo, Tavus ayuda a las marcas a crear personajes virtuales para anuncios personalizados, y Microsoft lanzó un servicio el año pasado que puede generar dobles digitales convincentes. Sin embargo, muchas de estas herramientas tienen medidas de seguridad estrictas para evitar abusos. Tavus requiere declaraciones de consentimiento verbal, y Microsoft exige que sus clientes obtengan permiso por escrito de cualquier persona que aparezca como avatar.
Zoom ha sido menos específico sobre sus medidas de seguridad, pero Hashim mencionó que la empresa está implementando “numerosas salvaguardias” en su función de avatares personalizados, incluyendo “autenticación avanzada” y marcas de agua. “Seguiremos revisando y añadiendo salvaguardias según sea necesario en el futuro”, afirmó Hashim. “Usamos tecnología para que sea obvio cuando un clip es generado con un avatar y para ayudar a garantizar la integridad del contenido generado por avatares”.
Los avatares digitales de Zoom se alinean con la visión más amplia del CEO Eric Yuan de crear inteligencias artificiales que puedan hablar en reuniones de Zoom, responder correos electrónicos y realizar llamadas telefónicas. Sin embargo, esta innovación llega en un momento en que los deepfakes se están propagando rápidamente en las redes sociales, dificultando la distinción entre la verdad y la desinformación. Este año, deepfakes que presentan a figuras como el presidente Joe Biden y la cantante Taylor Swift han acumulado millones de vistas.
Los deepfakes también se han utilizado para atacar a individuos, como en el caso de suplantaciones de seres queridos. Según la FTC, las pérdidas relacionadas con estafas de suplantación superaron el mil millones de dólares el año pasado. Aún no está claro cómo Zoom evitará que los estafadores utilicen su herramienta para generar videos de personas diciendo cosas que no dijeron. Aunque la empresa ha mostrado un video de un avatar personalizado con una marca de agua visible, estas marcas pueden ser fácilmente eliminadas por herramientas de grabación de pantalla.
Se espera obtener más información sobre esta función a medida que se acerque la primera mitad de 2025, cuando Zoom planea lanzar los avatares personalizados como parte de una opción premium que costará 12 dólares por usuario al mes. Mientras tanto, hay esfuerzos regulatorios en curso para combatir la proliferación de deepfakes. A falta de una ley federal que criminalice los deepfakes en EE. UU., más de 10 estados han promulgado leyes contra la suplantación asistida por IA. La ley de California, que actualmente está estancada, sería la primera en permitir que los jueces ordenen a los publicadores de deepfakes que los eliminen o enfrenten posibles sanciones monetarias.
