La nueva polémica que generó Grok de Elon Musk por la creación de imágenes sexualizadas de mujeres, niñas y niños desnudas o con ropa sugestiva, trae a cuentas nuevamente la falacia de una supuesta neutralidad de la Inteligencia Artificial, aunque sea obvio, es necesario repetirlo, nada es neutral en este mundo y mucho menos la IA que es creada por seres humanos, en su mayoría hombres que proyectan sus prejuicios en ella.
Y digo mayoría, pues de acuerdo con ONU Mujeres sólo 12% de las personas que desarrollan estas tecnologías son mujeres.
Esta polémica nuevamente recuerda que lo que ocurre en el mundo virtual es real, donde las víctimas de violencia digital, que en su mayoría son mujeres, enfrentan graves impactos en sus vidas, que atentan contra su dignidad, su paz emocional y mental.
Que diga Musk, dueño de Grok, que no tenía conocimiento de ninguna «imagen de menores desnudos” deja claro la indolencia con la cual los dueños de estas aplicaciones responden ante el grave daño que provocan.
La exposición sexual de mujeres y menores de edad son el nuevo mercado que todas estas plataformas están explotando generando daños graves en la conformación de los imaginarios sexuales y sociales de niñas y niños, quienes de acuerdo con estudios ya advierten una distorsión de la concepción de placer sexual en las juventudes e infancias, quienes asocian disfrute sexual con violencia, es decir, que ellas y ellos no conciben sexo sin violencia, y esto realmente me parece grave, cuando uno mira el mundo con sus desastres en la humanidad.
Esto es lo que no se detienen a pensar los desarrolladores de Inteligencia Artificial y los dueños como Musk, quienes siguen andando en la impunidad y sin mecanismo reales que los llamen a cuentas, porque los estado no asumen su deber de proteger y garantizar los derechos humanos de sus ciudadanas y ciudadanos.
Lo ocurrido con Grok llevó a Malasia e Indonesia a bloquearlo, otros países europeos como Italia, Reino Unido y Francia están analizando distintas medidas para proteger a su población.
En el caso mexicano, a lo más que llegamos fueron declaraciones públicas de la Secretaria de las Mujeres, pero no más.
El sexismo en la Inteligencia Artificial, es la reproducción del poder masculino se muestra con la cosificación, sexualización y violencia contra las mujeres y niñas, por lo que no podemos hablar de neutralidad.
Prueba de ello son los datos que ONU Mujeres expuso en noviembre pasado, donde dio a conocer que 95% de los deepfakes sexuales en internet representan a mujeres, muchas de ellas menores de edad.
Tal cual dice Tania Roque: “Los sistemas de inteligencia Artificial, lejos de abonar a la igualdad, amplifican desigualdades históricas como el sexismo y el racismo mediante sesgos algorítmicos que perpetúan discriminación y exclusión”.
Porque el algoritmo no tiene sexo, pero si género.
La tecnología no es el problema sino los usos y abusos que se hacen de ella ante la falta de una regulación clara y la ausencia del Estado para garantizar el derecho humanos de las mujeres a una vida libre violencia.
Tal cual lo dijo una de las víctimas de deepfakes sexuales. La IA no ha creado la misoginia; la ha automatizado, la ha escalado y ha facilitado la negación de responsabilidades.
Y de esto los gobiernos, las empresas y los desarrolladores se deben hacer cargo para evitar seguir haciendo daño.
