Desde la pornografía deepfake hasta el acoso, el abuso digital se dirige desproporcionadamente a mujeres y niñas, lo que agrava el daño.

A finales de febrero, la Oficina del Comisionado de Privacidad de Datos Personales de Hong Kong firmó, junto con 60 organizaciones extranjeras, una declaración para llamar la atención sobre el creciente uso indebido de deepfakes. Con los rápidos avances tecnológicos, la creciente integración de la IA y la reducción de las barreras de acceso, se necesitan medidas rápidas para proteger a las mujeres y niñas de las crecientes formas de violencia facilitada por la tecnología.

La violencia facilitada por la tecnología no es nueva; simplemente ha evolucionado. Lo que comenzó como acoso telefónico pre-internet se transformó en ciberacecho, mientras que el abuso en línea ha surgido en paralelo con el auge de internet. Hoy en día, el abuso digital, la doxificación y el acoso están generalizados, afectando desproporcionadamente a mujeres y niñas: se estima que el 90% de la pornografía deepfake no consentida representa a mujeres.

El auge de la IA ha exacerbado la velocidad, la escala y la sofisticación de estos ataques. La inteligencia artificial no ha generado abuso, pero lo ha potenciado.

Ante estas amenazas, el debate público ha enfatizado la necesidad de una regulación integral. Si bien la regulación es vital, el verdadero cambio debe ser proactivo: en lugar de simplemente reaccionar, debemos diseñar soluciones que sitúen a las mujeres y las niñas en el centro de la tecnología, desde la creación y el diseño hasta el uso y la gobernanza.

Muchas plataformas, sin darse cuenta, permiten que la violencia facilitada por la tecnología prospere al opacar innecesariamente la denuncia y la rendición de cuentas. Aunque la mayoría publica políticas de seguridad, sigue existiendo una marcada desconexión entre lo que necesitan los usuarios y las respuestas tardías o inadecuadas que reciben.

La propagación de deepfakes dañinos pone de relieve cómo las vías de denuncia poco claras y el seguimiento ineficaz no protegen a las personas en riesgo. Además, navegar por estos sistemas puede ser retraumatizante, lo que refuerza cómo los espacios digitales aún ignoran, excluyen o simplemente no comprenden las experiencias vividas por mujeres y niñas.