En una entrevista reciente de la serie “Mujeres en IA” de TechCrunch, se destacó a la Dra. Rebecca Portnoff, vicepresidenta de ciencia de datos en Thorn, una organización sin fines de lucro que utiliza tecnología para proteger a los niños del abuso sexual. Portnoff estudió en la Universidad de Princeton y obtuvo su doctorado en informática en la Universidad de California, Berkeley. Desde 2016, ha trabajado en Thorn, comenzando como investigadora voluntaria y ahora liderando un equipo que se dedica a desarrollar inteligencia artificial y aprendizaje automático para prevenir y combatir el abuso infantil.
Durante su último año en Princeton, Portnoff se interesó en el abuso sexual infantil tras leer el libro “Half the Sky” de Nicholas Kristof y Sheryl WuDunn. Este libro la inspiró a investigar cómo hacer una diferencia en este ámbito, lo que la llevó a escribir su tesis doctoral sobre el uso de la inteligencia artificial en este contexto. En Thorn, su equipo trabaja para identificar a las víctimas, detener la revictimización y prevenir la difusión de material de abuso sexual.
El año pasado, Portnoff lideró la iniciativa “Safety by Design”, en colaboración con Thorn y All Tech Is Human, que busca evitar que la inteligencia artificial generativa se utilice para dañar a los niños. Ella destacó la importancia de definir principios y medidas para prevenir la producción de material de abuso y asegurar que este tipo de contenido sea detectado de manera más efectiva.
La creación de imágenes sexuales no consensuadas mediante inteligencia artificial es un tema candente, especialmente a medida que las tecnologías de pornografía generativa se vuelven más sofisticadas. Actualmente, no existe una ley federal integral que proteja a las personas de estas imágenes generadas sin su consentimiento, aunque algunos estados han implementado legislaciones específicas para abordar el abuso infantil relacionado con la IA.
Portnoff enfatiza que uno de cada diez menores conoce casos de compañeros que han generado imágenes desnudas de otros niños, y considera inaceptable que se haya llegado a este punto. Sin embargo, menciona que hay medidas que se pueden implementar para prevenir y reducir este tipo de abusos. Thorn está promoviendo que las empresas tecnológicas adopten principios de seguridad en el diseño y compartan públicamente sus esfuerzos para evitar el uso indebido de sus tecnologías de IA generativa.
A medida que Portnoff ha avanzado en su carrera, ha enfrentado desafíos en un campo dominado por hombres. Su consejo para las mujeres que desean ingresar al mundo de la IA es que crean en sus habilidades y en su propósito. Es fundamental no dejar que las suposiciones de los demás definan su potencial, ya que todas las voces son necesarias en esta revolución de la IA.
Portnoff también menciona que la construcción responsable de la IA requiere la participación de más partes interesadas, no solo de tecnólogos. Esto implica escuchar activamente y colaborar con otros. Además, sugiere que los inversores consideren la responsabilidad ética desde la etapa de diligencia debida, lo que puede prevenir daños y fomentar un crecimiento positivo.
“Hay mucho trabajo por hacer”, concluye Portnoff, animando a todos a ser parte del cambio necesario en el ámbito de la inteligencia artificial.
