En los últimos años, la inteligencia artificial se ha convertido en una de las innovaciones tecnológicas más influyentes al ser considerada como una herramienta de fácil acceso, con beneficios en la vida cotidiana al ofrecer modernización en múltiples esferas sociales, económicas, culturales y políticas. No obstante, también han dado lugar a problemáticas emergentes que afectan de manera diferenciada a hombres y mujeres. Una de las más significativas es el uso de ésta para la generación y difusión de imágenes y videos hiperrealistas de carácter sexual sin consentimiento, lo cual configura un nuevo tipo de violencia digital.
En México se han registrado diversos incidentes de esta índole que ponen en evidencia tanto la vulnerabilidad de las mujeres frente a estas prácticas, como la insuficiencia de las normativas actuales en materia de ciberseguridad y protección de derechos digitales. Al principio, la creación de contenido audiovisual hiperrealista fue considerado un avance tecnológico con aplicaciones positivas en distintos ámbitos. Sin embargo, ni los usuarios ni los desarrolladores dimensionaron el alcance de los algoritmos una vez programados, lo que ha convertido a estas herramientas en un riesgo potencial.
El acceso a aplicaciones capaces de generar contenido hiperrealista ha debilitado la confianza colectiva en la veracidad de fotografías y videos, dando lugar al fenómeno conocido como deepfake, imágenes y videos que se generan por medio del deep learning. Estas páginas se han convertido en un problema real para cientos de mujeres usuarias de redes sociales, quienes carecen de marcos legales efectivos que protejan su imagen y seguridad digital. Surge entonces la interrogante sobre cómo garantizar un acceso libre y seguro de las mujeres a internet cuando la propia tecnología constituye un riesgo.
Este fenómeno surgió en el año 2018, sin embargo, para 2023 se registraron alrededor de 14 678 casos y más de 134 000 000 de visualizaciones en sitios dedicados al deepfake. Este auge se debe sobre todo a la facilidad de acceso a estas herramientas, muchas de ellas gratuitas o de bajo costo.
Es importante esclarecer que las contextualizaciones existentes alrededor de la inteligencia artificial (IA) son bifurcaciones de la sociedad estructurada en la violencia sistémica y multifactorial hacia las mujeres. El vínculo de estos dos factores, cimientan en el territorio mexicano, un bloque negativo que perpetúa y amplifica la violencia. Para el año de 2024 sólo 12 % de mujeres laboraban en el sector tecnológico; 38 % de quienes sufren violencia digital son estudiantes y para ese año 606 mujeres fueron víctimas de la difusión de contenido íntimo, de las cuales a 352 fueron amenazadas y a 46 les crearon contenido.
Asimismo, el proceso de construcción de la inteligencia artificial es generativo y por lo tanto depende de las estructuras bajo las cuales se articula. Es decir, se “alimenta” de la información generada por los propios individuos en entornos sociotecnológicos, produciendo nuevo contenido desde la experiencia y el aprendizaje.
“La IA es programada por hombres. Además, la herramienta no puede hacer nada para ‘salvarse’: esa es la información que hay, esa es la información de la cual dispone, y no tiene capacidad para modificarla, para darle un carácter feminista, para al menos dotarla de un principio de igualdad de derechos de la mujer”. Dicha situación construye un escenario preocupante para las mujeres, ya que no sólo deben establecer cuidados en espacios físicos, sino también en el entorno digital.
Como afirma Judy Wajcman, “la tecnología no es neutral”, sino que reproduce y refuerza relaciones de poder preexistentes. Como usuarios ajenos al proceso y funcionamiento detrás de la IA, esto puede pasar desapercibido. Sin embargo, es importante conocer el trasfondo mediante el cual se crean estas tecnologías para que, con ello, se pueda exigir inclusividad en torno a la brecha digital y la violencia que la acompaña.
En coherencia, la Organización Mundial de la Salud conceptualiza la violencia sexual como los actos que van desde el acoso verbal, hasta la penetración forzada, pasando por conductas como la presión social y la intimidación a la fuerza física. En este contexto, la inteligencia artificial ha proporcionado nuevas capacidades a los agresores permitiendo ejercer violencia sexual sin contacto directo con la víctima.
Según un estudio realizado por Celeste López y Jordana González para el pódcast ECOS de las denuncias que recibe la fiscalía o bien el MP, el 30 % están relacionadas con el acoso, 40 % con la suplantación de identidad, mientras que de la modificación de imágenes con fines sexuales no se tienen cifras registradas. Asimismo, 60 % de los reportes recibidos son realizados por mujeres entre 25 y 40 años, seguido por la población de 18 y 25 años.
El Frente Nacional para la Sororidad reportó que en 2024 se obtuvo que el 95 % de las personas que sufren violencia digital son mujeres y tan sólo el 2 % son hombres y un 3% no se tiene registro. De 1 705 casos que se presentaron el 64.1 % se encuentran en un rango de edad entre los 18 y 30 años; el 15.8 % son menores de 18 años; 15.2 % son mayores de 30 años y el 4.9 % no se identifica el rango de edad.
Un caso emblemático es el de Diego “N”, alumno del Instituto Politécnico Nacional, acusado del delito contra la intimidad por haber realizado fotografías íntimas de sus compañeras con inteligencia artificial y comercializarlas. Según las afectadas, el joven presuntamente tomó fotografías de las redes sociales de diversas estudiantes y las manipuló con inteligencia artificial para hacer parecer que las mujeres estaban desnudas. Al ser el primer caso del tipo en México, las condiciones para atenderlo fueron torpes y evidenciaron las deficiencias institucionales existentes alrededor de la violencia protagonizada por la inteligencia artificial, las lagunas legales y la impunidad a estos sujetos.
El testimonio de “Sofía” una de las víctimas de Diego “N”, ejemplifica cómo las autoridades y la fiscalía no están preparadas para afrontar de manera correcta este tipo de casos y no sólo eso, sino que se invalida la violencia que es ejercida sobre las víctimas:
la psicóloga me hizo enseñarle la foto editada y me dijo: “ay, pero luego luego se ve que es editada, cualquier persona que vea esto no va a creer que eres tú” , que no me preocupara, que se preocuparan las que si les ocurrían cosas físicas como violaciones y así.
Además, la suboficial Fátima Colín, perteneciente a la Policía Cibernética de la Secretaría de Seguridad de la Ciudad de México, indica que la violencia digital también es la modificación de fotografías. Afirma que esto es consecuencia de tener públicos los perfiles en redes sociales y afirma que, quienes publican fotografías son responsables por haberlas publicado. “Debemos de tener el conocimiento que cuando nosotros compartimos algo al mundo digital, deja de ser de nosotros, aunque esté en nuestro perfil”. ¿Cómo es que las víctimas de violencia digital denunciarán su caso, si el proceso es igualmente violento?
Aunque la Secretaría de Seguridad Ciudadana no delimita estos delitos exclusivamente a la condición de género; es necesario remarcar que las mujeres tienden a recibir consecuencias sociales más graves en consideración de los contenidos que se publican o las noticias alrededor de las mismas. Por tanto, están mayormente expuestas a la violencia psicológica en el caso de que se cree un perfil falso o que se les engañe con uno; así como que se difunda material de su persona. Por el contrario, la sociedad no recibe ni procesa el contenido de los hombres y las mujeres, dado que, sistemáticamente existe un sesgo de crítica y clasificación cuya generalidad negativa, recae con dureza en la imagen femenina.
La violencia hacia las mujeres a partir de la inteligencia artificial exhibe una problemática significativa alrededor de la administración gubernamental, institucional y jurídica, nacional e internacional. No sólo expone las notables deficiencias que desde hace varios años ya sabíamos que existían, sino también reclama la necesidad de reconfigurar las normativas jurídicas y administrativas para garantizar una atención a las emergentes problemáticas que violentan la vida de miles de mujeres día con día.
Ejemplo de esta desvirtuada posición es que, agresores como Diego “N”, son absueltos de la condena por los múltiples vacíos legales, la predominancia misógina de los servidores públicos que fungen como jueces y, la casi nula presión social: “Tras una audiencia de más de cinco horas, el juez Francisco Salazar Silva absolvió a Diego “N”, el joven de 19 años acusado de alterar con inteligencia artificial miles de fotos de estudiantes del Instituto Politécnico Nacional (IPN), para fines sexuales”.
Este escenario hace referencia no sólo a la inmunidad de los agentes de peligro en el país, sino también de la ausencia de individuos preparados en materia de género que ejercen labores en el sistema judicial a partir de interpretaciones legales sin enfoque de género y la revictimización de las víctimas; las deficiencias en la tipificación de delitos; los errores o irregularidades en la recolección o asignación de pruebas; las deficiencias en el acceso a la justicia; el uso de tecnicismo para justificar absoluciones; y, los estigmas sociales y prejuicios existentes en el escenario social.
Por último, el Frente Nacional para la Sororidad ha trabajado para que víctimas de violencia digital encuentren un lugar seguro donde realizar sus denuncias. A través de su perfil de Facebook es que puedes encontrar una guía y pasos a seguir en caso de que quieras presentar una denuncia. El activismo por parte de esta organización no sustituye la labor de las autoridades correspondientes a este tipo de delitos. Sin embargo, sí es un paso significativo para la búsqueda de justicia a los casos de violencia en el ciberespacio con razón de género.
Mariana Reyes González
Internacionalista egresada de la UNAM. Trabaja en la intersección entre inteligencia artificial y género.