Narco 2.0: redes sociales y crimen organizado

Internet facilita la información adecuada,
en el momento adecuado, para el propósito adecuado.
—Bill Gates

El “Rey del Software” manifestó estas palabras en 1997.¹ Han pasado 24 años desde la afirmación revolucionaria de Gates y ahora es necesario replantear ¿Qué ocurre cuando el propósito para el cual se usa Internet no es el adecuado? TikTok,² una de las redes sociales más utilizadas actualmente, permite mediante algoritmos basados en los vídeos con los cuales sus usuarios interactúan, clasificar y filtrar los millones de vídeos disponibles en su plataforma de acuerdo con las preferencias de los usuarios. Lo anterior genera un entorno personalizado en donde, por ejemplo, señalar el gusto por videos de comida italiana puede tener como consecuencia que comiencen a aparecer más de estos vídeos en nuestra pantalla de inicio.

Sin embargo, no todas las personas disfrutan del contenido culinario y quizás prefieren señalar que les agrada un vídeo de la persecución de un bote en los Estados Unidos. En ese momento, el algoritmo de TikTok detecta intereses relacionados con la actividad policial o criminal y comienza a ofrecer vídeos cuyo creador son grupos de narcotraficantes en México.³ Este hecho sucedió en la vida real y fue documentado por la investigación realizada por Óscar López, “Los cárteles mexicanos invaden TikTok”, en el diario El País y muestra como los algoritmos de las redes sociales pueden llevar a los usuarios a visualizar contenido subido por grupos delictivos. Así como TikTok, todas las redes sociales utilizan mecanismos semejantes para mantener a sus usuarios el mayor tiempo posible. El propósito adecuado señalado por el fundador de Microsoft ya no es el único objetivo de Internet, actualmente las redes sociales se han convertido en la nueva herramienta de los grupos criminales en México para realizar propaganda y, en el peor de los casos, reclutar nuevos miembros. En este escenario surge la pregunta que guía el presente texto: ¿Cómo evitar que el crimen organizado utilice las redes sociales para fomentar sus actividades?

Ilustración: Estelí Meza

Promoción y reclutamiento

Durante la década pasada se desconocía como el crimen organizado podría utilizar las redes sociales a su favor.⁴ Actualmente, si un usuario escribe en el buscador de TikTok la palabra “cartel” podrá encontrar vídeos con miles de visitas que hacen referencia al estilo de vida de los narcotraficantes. De acuerdo con Falko Ernst, analista para México de International Crisis Group, los vídeos de esta red son producidos por los miembros más jóvenes de las agrupaciones criminales “sicarios ansiosos por mostrar sus botines de guerra”⁵ y tienen como propósito atraer a los jóvenes que ven estos vídeos a unirse a las filas del crimen en los puestos más bajos y peligros de la organización: sicarios o halcones.

Además del reclutamiento, el crimen organizado busca a través de los vídeos establecer una conexión social desde una distancia segura. “Si busca novia amigo aquí estoy”, “Que bien amiguitos, que Dios les bendiga hoy y mañana y siempre”, “¿Cómo le contacto? Quisiera unirme”: son algunos de los mensajes que se encuentran en los incontables vídeos que hacen referencia a los beneficios de pertenecer a las filas del narcotráfico y que muestran el éxito de este marketing. Sin embargo, a pesar de la gravedad y proliferación de este fenómeno la política de las empresas de redes sociales es estar dispuestas a cooperar con las autoridades para combatir la actividad delictiva organizada de acuerdo con sus normas comunitarias.⁶

Narcotráfico y terrorismo

La presencia del narcotráfico en las redes sociales no ha pasado inadvertida en los Estados Unidos; organizaciones como la Alianza para Combatir el Crimen en Línea (ACCO) han realizado un llamado a endurecer la legislación que restrinja el acceso a las redes a los cárteles mexicanos.⁷ Las medidas que buscan aprobar se centran en obligar a las compañías dueñas de las redes a eliminar el contenido que sería ilegal en la vida real y que estas cuentas no puedan volver a publicar. La ACCO ha puesto sobre la mesa el hecho de que los cárteles mexicanos y el terrorismo islámico están utilizando las redes de la misma manera y para efectos de este trabajo es necesario plantear que tan útil puede ser esta comparación en la búsqueda de medidas regulatorias.

En la actualidad existe una discusión amplia acerca de si el crimen organizado en México es equiparable con el terrorismo. Si bien este texto no pretende abordar esta discusión si es necesario señalar que en el uso de redes sociales ambos fenómenos tienen características semejantes. Por ejemplo: tanto los miembros del Estado Islámico (EI) como del Cártel Jalisco Nueva Generación (CJNG) pretenden, mediante el uso de las redes, proyectar una buena imagen de sus acciones y buscar nuevos seguidores. Realizar esta comparativa permite pensar políticas regulatorias basadas en las medidas que otras naciones han diseñado para combatir la propaganda y reclutamiento de los grupos terroristas en las redes sociales y que pueden ser presentadas de la siguiente manera.

Autorregulación

La autorregulación consiste en que sean las propias plataformas las que limiten el contenido disponible para los usuarios y que éstos también puedan denunciar aquel contenido que considerar infringe las normas de la comunidad. Dentro desde esta medida el papel del Estado estaría limitado a un enfoque preventivo desde fuera de las plataformas (promoción de la vigilancia de los padres al contenido que visualizan sus hijos o advertir a los jóvenes sobre las consecuencias de integrarse a las filas del crimen). Este enfoque conlleva dos beneficios significativos a pesar de mantener el statu quo.

El primer beneficio es el aprovechamiento de la información que los miembros del crimen organizado publican. Actualmente la Organización Internacional de Policía Criminal (Interpol) utiliza las redes sociales para identificar posibles amenazas de grupos terroristas. Para aprovechar esta ventaja es necesario por parte de las autoridades mexicanas dotar a los agentes de inteligencia de las capacidades técnicas y recursos tecnológicos que les permitan aprovechar las fuentes abiertas que los propios criminales generan. El segundo beneficio es que la autorregulación permitiría eludir al Estado de las consecuencias de aventurarse en romper la delgada línea entre seguridad y libertad de expresión que es vehementemente defendida por las compañías de redes sociales.

Estado regula, plataforma filtra

La segunda propuesta está inspirada en la Ley NetzDG (Network Enforcement Act) de Alemania, la cual está diseñada para contrarrestar el discurso de odio y las noticias falsas en Internet, no obstante, puede replicarse a cualquier contenido. Basados en esta ley las plataformas están obligadas a borrar el contenido ilegal en 24 horas o tendrán que afrontar fuertes multas (hasta 50 millones de euros). Asimismo, las plataformas deben de publicar un reporte cada 6 meses sobre los resultados y acciones que hayan emprendido para cumplir con la ley.⁸ Esta medida fue criticada por personas y organizaciones que consideraron que la misma era un ataque contra la libertad de expresión. Además, una de las consecuencias que ha tenido es que debido a la amenaza del castigo que representa para las plataformas el hecho de que omitan realizar un control adecuado, las compañías eliminan contenido que es legal bajo los estándares comunitarios con el fin de evitar sanciones. Este hecho fue denunciado por Reporteros sin Fronteras como un “bloqueo excesivo de contenido legal”.⁹

El ejemplo alemán puede servir como un parámetro para el diseño de una política que establezca obligaciones claras de regulación de contenido y que evite la eliminación de contenidos masiva. Esto último puede ser controlado al contar con supuestos bien delimitados y específicos con relación a lo que es ilegal mostrar en redes. Sin embargo, esta regulación enfrentaría el reto de saber si un vídeo es realmente una invitación o promoción del narcotráfico y que autoridad sería el responsable de realizar esta determinación.

Desconexión

En el caso opuesto a la autorregulación están las leyes de países como Rusia que permiten al Estado desconectar todas a todas las personas de las redes sociales en “casos de emergencia” (los cuales son sumamente ambiguos) y que también exigen a las empresas de redes sociales almacenar toda la información sobre ciudadanos rusos en los servidores que se encuentren dentro del país.¹⁰ Éste sería el mecanismo que más afectaciones tendría sobre la libertad de expresión de los ciudadanos, puesto que el Estado tendría el poder discrecional de desconectar a los usuarios de su red. India o Malasia ya han realizado estas desconexiones cuando han ocurrido protestas al interior de su territorio.¹¹

Por supuesto esta medida sería desproporcional al número de usuarios que comparten contenido aludiendo al crimen organizado y al número total de vídeos subidos en México. Además, una propuesta así tendría una firme resistencia por parte de los ciudadanos y que no lograría un cambio significativo debido a la existencia del “cambio táctico” el cual ocurre cuando los miembros del crimen organizado saben que están siendo censurados o su contenido bajado de la red y, por lo tanto, se mudan a otras plataformas de tal manera que puedan seguir construyendo sus redes y objetivos trasladando su base social digital con ellos. Una situación de cambio táctico ocurrió cuando el ex presidente de los Estados Unidos Donald Trump fue suspendido de Twitter y sus seguidores se “mudaron” a Parler, un servicio de red social con políticas comunitarias más laxas.

La cuarta propuesta

Ante los retos que cada una de las medidas previas presenta y que van desde la autorregulación de la sociedad de la información hasta la capacidad discrecional del Estado de desconectar a los usuarios, es posible construir un mecanismo que englobe el combate a la promoción y reclutamiento del crimen organizado, la investigación policial para la prevención del delito y el respeto a la libertad de expresión, así como el involucramiento de las plataformas digitales en la moderación de su contenido. Para ello es necesario pensar desde un escenario en el cual el crecimiento exponencial de Internet limita cualquier mecanismo que involucre seres humanos debido a sus limitaciones físicas. Los problemas de la tecnología pueden ser afrontados únicamente a partir del paradigma de que una tecnología mejor ésta al alcance y es allí cuando se puede poner a discusión el uso de la inteligencia artificial.

Esta tecnología ya existe. Después de un discurso en Foro Económico Mundial en donde la primer ministra Theresa May urgió a las empresas a avanzar más rápido en la eliminación de contenido terrorista en línea el ministro del interior anunció que habían desarrollado una herramienta que permitía detectar y rechazar el 94 % de la propaganda del Estado Islámico con una tasa de éxito del 99 %.¹² En línea con el mecanismo desarrollado por el Reino Unido, las autoridades del Estado mexicano pueden regular de tal manera que obliguen a las plataformas con una determinada cantidad de usuarios al uso de esta tecnología para la eliminación de contenido que promueva o aliente el reclutamiento de menores de edad al crimen organizado. Asimismo, está regulación estaría enfocada en la transparencia y cooperación mediante la información recopilada y archivada por las empresas con las autoridades a diferencia de las fuertes multas. Para abordar el posible conflicto con la libertad de expresión de los usuarios el diseño de los supuestos de eliminación, parámetros de uso de la inteligencia artificial e indicadores que permitan cuantificar el avance de la medida se deberán delimitar a partir de foros abiertos a expertos en la materia y ciudadanía de manera que se obtengan consensos a partir delos cuales se pueda perfeccionar el apartado técnico de esta medida.

Conclusión

Internet y las redes sociales están lejos de ser inherentemente buenos y con los objetivos adecuados que planteó hace 24 años Bill Gates. El crimen organizado ha ampliado su campo de acción al entorno digital y representan una amenaza para la seguridad de los ciudadanos. Para el narcotráfico, el fácil uso de las redes, su gratuidad y amplio alcance representan una herramienta invaluable para establecer vínculos con el público y lavar su imagen ante la sociedad, así como una fuente de reclutamiento entre jóvenes que ven en el contenido expuesto una oportunidad de posicionamiento social. Ante estas circunstancias no hacer nada no es una opción y a partir de la experiencia de diferentes naciones se puede ofrecer un abanico de posibilidades para que el legislador mexicano actúe ante un fenómeno que ya comienza a ser percibido a nivel mundial como fue ejemplificado en el caso de la ACCO estadounidense.

Este texto realizó un breve esbozo de lo que tres medidas podrían implicar para la regulación de las redes en el país, pero también hizo una propuesta arriesgada pensada en el uso de tecnología actualmente al alcance. Por supuesto, como fue citado en palabras previas, el ingenio de los grupos criminales buscará soluciones a la regulación cuando vea mermados sus intereses. Sin embargo, a diferencia de la falta de previsión que representó para las autoridades la adaptación del crimen organizado a las redes sociales, actualmente las redes pueden ser herramientas de prevención a través de mecanismos de cooperación entre compañías, Estado y ciudadanía.

José Miguel González Serrano. Estudiante de la licenciatura en derecho del CIDE.

¹ Enguita Mayo, “El País, Bill Gates, el rey del software, promociona Internet como la gran herramienta del futuro”, El País, Consultado el 20 de mayo de 2021.

² “A Guide to TikTok for Anyone Who Isn’t a Teen, Heather Schewedel”, Slate, consultado el 20 de mayo de 2021.

³ Óscar López, “Los cárteles mexicanos invaden TikTok”, El País, consultado el 20 de mayo de 2021.

⁴ Stuart Macdonald, Sara Giro y Amy-Louise. “Regulating terrorist content on social media: automation and the rule of law”, Cambridge, consultado el 20 de mayo de 2021.

⁵ Óscar López, “Los cárteles mexicanos invaden TikTok”, El País, consultado el 20 de mayo de 2021.

⁶ Karol Suárez, “Cómo los carteles de la droga mexicanos están usando TikTok para atraer a los jóvenes al crimen organizado”, Courier-Journal, consultado el 20 de mayo de 2021.

⁷ Adyr Corral, “Presionan a congresistas de EU para restringir contenidos de ‘narcos’ en redes sociales”, Milenio, consultado el 20 de mayo de 2021.

⁸ Internet Report, “Un vistazo al edurecimiento de Alemania frente al discurso de odio”, Internet Report, consultado el 20 de mayo de 2021.

⁹ Reporter Ohne Grenzen, “NetzDG aparentemente conduce a un bloqueo excesivo”, Reporter Ohne Grezen, consultado el 20 de mayo de 2021.

¹⁰ Redacción, “Redes sociales: ¿Cómo las regulan otros gobiernos?”, BBC, consultado el 20 de mayo de 2021.

¹¹ Marta Peirano, “Hay gobiernos que quieren desconectar a sus ciudadanos de Internet, y alguno ya tiene su botón rojo”, El País, consultado el 20 de mayo de 2021.

¹² Patrick Greenfield, “Home Office unveils AI program to tackle Isis online propaganda”, The Guardian, consultado el 20 de mayo de 2021.