El mito de Theuth y Thamus, relatado en el Fedro de Platón, presenta un dilema sobre la invención de la escritura. Theuth, el dios inventor que representa la innovación tecnológica y la invención de la escritura, le ofrece al rey Thamus de Egipto la escritura como un remedio para la memoria y la sabiduría. Thamus la rechaza como un veneno que debilitará la memoria y producirá una falsa apariencia de sabiduría. Mientras Theuth representa la innovación tecnológica y la invención de la escritura, Thamus representa la sabiduría tradicional y la preocupación por las consecuencias no deseadas de la nueva tecnología.
Este antiguo dilema resuena sorprendentemente con las discusiones contemporáneas sobre la inteligencia artificial (IA).
La actual irrupción de la IA nos enfrenta a una versión moderna del dilema platónico: ¿es la IA un remedio o un veneno? Pero la IA no es inherentemente buena o mala, es remedio y veneno a la vez. Puede mejorar la atención médica, la educación, la investigación científica y ayudarnos a resolver problemas complejos. Pero también puede ser utilizada para la vigilancia masiva, manipulación política, exacerbar las desigualdades existentes y crear nuevas formas de discriminación. Sabemos que su impacto en la vida social, tanto positivo como negativo, depende de su uso y regulación.
Este artículo explora el potencial de la IA como remedio para reducir la impunidad en la prevención de la violencia laboral, un problema sistémico en México. Los datos de la última Encuesta Nacional sobre la Dinámica de las Relaciones en los Hogares (ENDIREH) revelan que, entre 2016 y 2021, sólo el 6.5% del total de las mujeres mexicanas que sufrieron violencia laboral (27.9%) denunciaron el hecho. Esto evidencia una alarmante brecha de impunidad, entendida como la distancia entre la alta prevalencia de violencia laboral y la baja tasa de denuncias e investigaciones.
Según la ENDIREH, esta brecha de impunidad tiene múltiples causas: el desconocimiento sobre la existencia de protocolos para la atención de la violencia laboral en las empresas (79.7%), el miedo de la víctima a las consecuencias o amenazas (22,2 %), sea porque piensa que no le van a creer, la respuesta a sus reclamos sea que es su culpa (13,4 %), no sabe dónde ni cómo denunciar (12,4), o simplemente por vergüenza (12,9 %).
En este contexto, un equipo de diseñadores digitales y activistas de derechos humanos hemos desarrollado un protocolo inteligente, que combina un proceso participativo de diagnóstico y capacitación empresarial con un chatbot que ofrece recursos, información y asistencia confidencial ante situaciones de violencia laboral. Aprovechamos la experiencia comparada y las mejores prácticas en el campo de la IA y los derechos humanos -en particular, en el acceso a la salud sexual y reproductiva de grupos históricamente discriminados y estigmatizados-, para diseñar y entrenar un algoritmo capaz de gestionar los conflictos y la violencia laboral de manera eficiente, segura y confidencial, sin revictimizar ni reproducir estereotipos de género.
El uso de chatbots impulsados por inteligencia artificial -diseñados y entrenados de forma transparente con algoritmos que integran el enfoque de derechos humanos y de género- puede ser una estrategia eficaz para acortar la brecha de impunidad en las empresas mexicanas. Estos chatbots cumplen rigurosamente con estándares de derechos humanos que permiten eliminar las causas primarias que reproducen y normalizan la impunidad, especialmente el miedo a la revictimización y la desinformación sobre protocolos y procedimientos. Los cuatro estándares que se aplican son los de disponibilidad, accesibilidad, aceptabilidad y calidad:
- Disponibilidad: los chatbots están disponibles las 24 horas del día, los siete días de la semana, garantizando que las personas puedan acceder a información y apoyo en cualquier momento y lugar. Esto es en especial importante para las víctimas de violencia laboral, que pueden necesitar asesoramiento fuera del horario laboral o en situaciones de emergencia. Los chatbots pueden ser diseñados para estar disponibles a través de múltiples plataformas, como sitios web, aplicaciones móviles y redes sociales, lo que aumenta su disponibilidad.
- Accesibilidad: los chatbots pueden ser diseñados para no discriminar y no reproducir estereotipos ni estigmas. Pueden ser fáciles de usar, incluso para personas con discapacidad o con conocimientos tecnológicos limitados. Los chatbots pueden ser diseñados para ser culturalmente sensibles, lo que significa que tienen en cuenta las diferencias culturales y lingüísticas de los usuarios.
- Aceptabilidad: los chatbots pueden ser diseñados para ser confidenciales y seguros, lo que garantiza que las personas se sientan cómodas compartiendo información sensible. Pueden ser empáticos y comprensivos, lo que ayuda a las víctimas de violencia laboral a sentirse escuchadas y apoyadas por la empresa.
- Calidad: los chatbots pueden proporcionar información precisa y actualizada sobre la prevención y gestión de la violencia laboral en la empresa. Pueden ayudar a las personas que experimentaron violencia laboral a acceder a recursos y apoyo especializado, como asesoramiento técnico y psicológico. Los chatbots pueden ayudar a las empresas a recopilar datos sobre la violencia laboral, lo que puede utilizarse para mejorar las políticas y prácticas de prevención e investigación.
A diferencia de la escritura en el mito de Theuth y Thamus, la IA es remedio y veneno a la vez. Sin embargo, su capacidad como herramienta para cerrar la brecha de impunidad y prevenir la violencia laboral en las empresas mexicanas, mediante chatbots diseñados con algoritmos que incorporan un enfoque de derechos humanos y de género, demuestra su potencial como un remedio efectivo y transformador.
Chris Gruenberg. Abogado antipatriarcal y director de neurona.me para México