Ciudad de México.- Más de 10 millones de mujeres han enfrentado agresiones en entornos digitales en México, cifra proporcionada por ONU Mujeres durante el lanzamiento de la campaña “Es Real #EsViolenciaDigital”, presentada en el marco del Día Internacional para la Eliminación de la Violencia contra las Mujeres.
El aumento desproporcionado de este tipo de violencia, alerta ONU Mujeres, se debe a la débil regulación del sector tecnológico, a la falta de reconocimiento jurídico de la violencia digital en diversos países, a la ausencia de responsabilidad por parte de las plataformas digitales y al anonimato de quienes cometen estas agresiones, factores que dificultan la obtención de justicia.
A ello se suma la creación de nuevas formas de abuso y la amplificación de la violencia sexual digital mediante el uso de la inteligencia artificial. Cabe señalar que el 95% de los deepfakes en línea son imágenes pornográficas no consentidas y que el 99% de las víctimas son mujeres, según cifras proporcionadas por ONU Mujeres.
Es importante precisar que el término deepfake se refiere a contenido falso, ya sea imagen, audio o video, altamente realista, generado o manipulado mediante inteligencia artificial (IA) para mostrar a una persona diciendo o haciendo cosas que nunca ocurrieron. El concepto emergió en 2017, cuando un internauta difundió un video pornográfico en el que el rostro de una actriz fue reemplazado por el de una celebridad.
Uno de los casos más recientes se presentó en el estado de Zacatecas, donde madres de familia y alumnas de la secundaria técnica 1 se manifestaron para denunciar la creación y difusión de material de abuso sexual infantil generado mediante inteligencia artificial por parte de un alumno; sin embargo, las autoridades correspondientes revictimizaron a las afectadas al ignorar las agresiones.
Se multiplican casos de violencia sexual digital con IA en Zacatecas. Adolescentes protestan
El caso de Zacatecas resulta especialmente preocupante porque en México ya existía un antecedente de violencia sexual digital por IA, el cual ocurrió en la Escuela Superior de Comercio y Administración (ESCA) del Instituto Politécnico Nacional (IPN) en la Ciudad de México. El 6 de octubre de 2023, alumnas denunciaron a Diego N., estudiante de la institución, por vender deepfakes sexuales elaborados sin consentimiento mediante inteligencia artificial y distribuidos en Telegram. En su tableta electrónica se encontraron 20 mil videos y 166 imágenes obtenidos ilegalmente o a través de redes sociales.
Alumnas del IPN denuncian red estudiantil de tráfico de imágenes
Asimismo, otro tipo de violencia digital que ha aumentado en los últimos años es el uso indebido de imágenes o el intercambio no consentido de contenido íntimo, comúnmente conocido como pornografía vengativa o filtración de desnudos.
Un caso registrado este año también ocurrió en Zacatecas, donde mujeres de la entidad denunciaron la existencia de grupos de Telegram y WhatsApp integrados por más de 2 mil hombres que utilizaban estos canales para intercambiar imágenes íntimas de mujeres zacatecanas sin su consentimiento. Tanto las víctimas como colectivas feministas se manifestaron para exigir justicia.
Este suceso, no es un hecho aislado, pues de acuerdo con el último reporte anual Violencia sexual digital contra las mujeres en México, elaborado por el Frente Nacional para la Sororidad (FNS), en la entidad se habían contabilizado 463 carpetas de investigación por el delito de violencia sexual digital.
Se trata de una situación que se replica en todo el país. Los estados con mayor número de casos son: Ciudad de México (2 mil 682), Querétaro (2 mil 556), Puebla (1 mil 095), Aguascalientes (776), Quintana Roo (649), Guerrero (205), Campeche (145), Chiapas (127), Sonora (91), Nayarit (42) y Tlaxcala (10).
Machosfera
ONU Mujeres refiere que otro factor que explica el incremento y la magnitud de la violencia digital es la normalización de discursos violentos en los espacios de la llamada “machosfera”, una red creciente de comunidades digitales que, bajo la apariencia de abordar problemáticas masculinas como la paternidad, la salud mental, las relaciones afectivas o la autoestima, difunden mensajes misóginos y violentos contra las mujeres.
Se ha señalado que estas comunidades han surgido como respuesta al avance del movimiento feminista, mientras que desde la extrema derecha se impulsa un discurso negacionista que rechaza la existencia de la violencia de género y la presenta como un mecanismo para criminalizar a los hombres. Este negacionismo ha permeado en la esfera pública, particularmente entre hombres jóvenes.
Dentro de estos espacios se encuentran los incels o “célibes involuntarios”, una subcultura de internet en la que se culpa a las mujeres por la imposibilidad de algunos hombres de acceder a relaciones sexuales.
Este tipo de grupos ya ha tenido consecuencias graves en el país. Un ejemplo ocurrió el 22 de septiembre de este año, cuando un estudiante del Colegio de Ciencias y Humanidades Plantel Sur (CCH Sur) atacó con un arma blanca a dos estudiantes y a un trabajador de la institución. El agresor fue vinculado a grupos incels, donde expresaba su resentimiento contra las mujeres y manifestaba su intención de lastimarlas.
Agresor en CCH Sur seguía ideología incel desde la machósfera
Prevención más allá del castigo
Ante esta crisis, ONU Mujeres subraya que la prevención debe ir más allá del castigo. Por ello exige a las empresas tecnológicas contratar a más mujeres en el desarrollo de tecnología, crear plataformas más seguras, eliminar rápidamente contenido dañino e integrar mecanismos de rendición de cuentas en el diseño de la IA.
La agencia de la ONU también destaca la importancia de invertir en alfabetización digital, especialmente entre jóvenes, así como en programas de cambio cultural que cuestionen las comunidades tóxicas en línea, incluida la creciente “manosfera”.
Asimismo, advirtieron que los movimientos feministas, que suelen ser los primeros en responder ante esta crisis, enfrentan actualmente una reducción del espacio cívico y recortes de financiamiento. Por ello, iniciativas como el programa ACT para Poner Fin a la Violencia contra las Mujeres y las Niñas, financiado por la Unión Europea, resultan fundamentales para mantener el progreso.
