La Suprema Corte inicia (mal) la discusión sobre inteligencia artificial

Hace unos días, la Suprema Corte de Justicia resolvió una acción de inconstitucionalidad¹ en la que se analizó la validez de una reforma al Código Penal del estado de Sinaloa -en concreto a su artículo 185 Bis C-. Lo que estaba en juego en este asunto era una redefinición del delito de violación a la intimidad sexual, al ampliar este tipo penal de tal manera que también sería sancionado:

…a quien haciendo uso de la Inteligencia Artificial, manipule imágenes, audios o videos, de contenido íntimo sexual de una persona, para crear hechos falsos con apariencia real, con el propósito de exponer, distribuir, difundir, exhibir, reproducir, transmitir, comercializar, ofertar, intercambiar y/o compartir a través de materiales impresos, correo electrónico, mensajes telefónicos, redes sociales o cualquier otro medio tecnológico, sin su consentimiento expreso, voluntario, genuino y deseado.

En esta misma reforma también se introdujo una definición de inteligencia artificial, aspecto clave para hacer operable este nuevo elemento del tipo penal: “Para efectos del párrafo anterior, se entenderá por Inteligencia Artificial las aplicaciones, programas o tecnología que analice fotografías, audios o videos y ofrece ajustes automáticos para hacerles alteraciones o modificaciones.”

La Suprema Corte validó esta porción de la mencionada disposición: por un lado, la relativa “a quien haciendo uso de la Inteligencia Artificial” (párrafo quinto) y, a su vez, la definición de inteligencia artificial (párrafo sexto). 

La discusión entre las ministras y ministros giró en torno a si este nuevo aspecto del tipo penal cumplía el principio de taxatividad en materia penal, es decir, si se ceñía a la exigencia de claridad y exactitud. O, más bien, si su concepto era de tal ambigüedad y vaguedad que no era posible que las personas determinarán con claridad cuál era la conducta que evitaba la sanción.

La respuesta de la Suprema Corte fue que este argumento del demandante era infundado por dos motivos. Debido a que las características polisémicas del lenguaje hacen imposible que el legislador pueda construir una definición unívoca de cierto tipo penal y, a su vez, que la veloz y constante evolución tecnológica impiden una acepción única de inteligencia artificial (IA) -además de que este significado en concreto era adecuado pues permite a las personas comprender el punto esencial del delito sin apoyarse en una jerga técnica y especializada-. 

A continuación, nos interesa enfocarnos justo en este último aspecto: la definición que ratificó la Suprema Corte de IA. Si bien es cierto que no hay un consenso en la comunidad académica y científica sobre la concepción de IA, que se trata de una tecnología en rápido cambio y que urge una alfabetización ciudadana de aspectos básicos de ella, también lo es que una institución como la Suprema no debe tergiversar conceptos con origen en otras disciplinas como las ciencias computacionales. Esto debido a que generará problemas serios al pretender aplicar definiciones deficientes a casos reales y en poco ayudará a la sociedad a entender la inteligencia artificial.

Algunas definiciones autoritativas de inteligencia artificial son las siguientes:

• La IA se define como el estudio y diseño de agentes racionales. Donde un agente racional es aquel que actúa para lograr el mejor resultado posible en su entorno, dados sus objetivos y la información que posee. Este enfoque abarca tanto la capacidad de pensar como la de actuar racionalmente. (Russell, Stuart, and Peter Norvig. Artificial Intelligence: A Modern Approach. 4th ed.  Pearson Education, 2020.)
• IA es el esfuerzo por automatizar tareas intelectuales que de manera normal realizan los seres humanos. (Chollet, François. Deep Learning with Python, Second Edition. 2nd ed. New York: Manning Publications Co. LLC, 2021.)

De estas citas resulta evidente lo que se apuntó al inicio de este análisis: no hay una definición única de IA². Entonces, ¿cuál es el problema con la definición que ha validado la Suprema Corte? A continuación, algunas razones:

• Desde el punto de vista técnico, el principal problema es que la Corte está confundiendo el campo de estudio y todas sus posibles materializaciones tecnológicas y algorítmicas –presentes y futuras– con un pequeño subgrupo de aplicaciones tecnológicas. Subgrupo elegido, por cierto, por ser el más reciente o de moda; es decir, la Suprema Corte está cometiendo el sesgo cognitivo de recencia y/o de disponibilidad.³
• La definición validada por la Suprema Corte se enfoca sólo en la manipulación de imágenes, audios o videos, por lo que se restringe de manera indebida a la IA generativa (deepfakes, contenido sintético), dejando fuera muchas otras aplicaciones fundamentales de IA que podrían tener implicaciones penales futuras (sistemas predictivos, modelos de recomendación, reconocimiento facial, reconocimiento biométrico, entre otros). Esto es problemático porque establece un precedente peligroso en el cual no sólo cada ley, sino cada delito, podría tener su propia definición legal de IA. Es decir, se estaría creando una fragmentación conceptual en diferentes fuentes normativas y generando incertidumbre jurídica a nivel nacional tanto para personas físicas cuando su derechos y esfera legal se vean afectados, como para las empresas al tener diferentes conceptos y estándares para cumplimiento regulatorio. Es cierto, en algunos casos valdrá la pena limitar la definición al contexto específico, pero es necesario contar con definiciones legales que, además de ser generales, sean tecnológicamente informadas.
• Al definir la IA como "aplicaciones, programas o tecnología que analice fotografías, audios o videos", se incluyen herramientas tecnológicas demasiado amplias, como software de edición convencional o tecnologías que no emplean inteligencia artificial. La definición validada por la Suprema Corte omite características fundamentales de la IA y sobre las que hay consenso de la comunidad técnica, tales como: capacidad de aprendizaje automático, autonomía relativa, adaptación mediante la interacción con el entorno o capacidad de predicción probabilística. Estas características son más fundamentales que las mencionadas por la Corte, ya que como se discutió arriba son los atributos generales y esenciales de una instancia de IA. En el caso particular de la definición de la Suprema Corte es aún peor ya que su definición es limitante –descarta casos, tipos y aplicaciones de IA– y; a su vez, amplia al grado de suscitar problemas –su definición incluye software de edición de audio, imagen y video, inclusive a editores de texto-. En suma, una definición flexible sobre una tecnología que evoluciona muy rápido no justifica ignorar elementos fundamentales que la identifican y distinguen de otras tecnologías digitales.
• La frase "ofrece ajustes automáticos para hacerles alteraciones o modificaciones" no refleja con precisión cómo operan en realidad los sistemas de inteligencia artificial en la actualidad. La IA no sólo "ofrece ajustes", sino que genera contenido sintético nuevo en su totalidad a partir de patrones aprendidos. Esta definición parece más cercana a una función de software de edición fotográfica automática, que no depende o utiliza siempre IA. Por otra parte, este lenguaje no refleja que los sistemas avanzados de IA pueden ejecutar decisiones o modificaciones de manera autónoma, sin intervención humana posterior inmediata. Este tema se volverá cada vez más común con el despliegue comercial de agentes computacionales.

Contrario a lo señalado por la Suprema Corte, al validar una definición en términos tecnológicos errónea o imprecisa se aumenta la incertidumbre jurídica. El ciudadano promedio, sin conocimientos técnicos, tendrá mayor dificultad para entender con claridad qué herramientas tecnológicas están permitidas o prohibidas en ciertos contextos, violando en la práctica el principio de taxatividad penal. Más aún, esto puede generar situaciones graves de impunidad o de abuso de derecho penal, al abrir puntos de debate en los procesos judiciales sobre si el uso de ciertas herramientas puede ser sancionado.

La Suprema Corte, sin duda, tendrá más oportunidades para volver al tema de la IA, pero lo cierto es que nuestro tribunal constitucional abrió, desde la arena judicial, de manera equivocada una discusión medular para el futuro del país, al ratificar una definición errónea y disfuncional, sin base científica, que dificultará la operación del sistema jurídico mexicano.

Saúl López Noriega. Profesor e investigador de la Escuela de Gobierno y Transformación Pública del Tecnológico de Monterrey, su último libro es El futuro de la libertad expresión. Internet, plataforma y algoritmos, Grano de Sal, 2023.

Adolfo De Unánue. Científico de datos. Profesor e investigador de la Escuela de Gobierno y Transformación Pública del Tecnológico de Monterrey y director del Centro de Ciencia de Datos de la misma institución.

Patricia Villa. Doctora por Chicago-Kent College of Law, su investigación doctoral se enfocó en el proceso de diseño e implementación de la inteligencia artificial en el sector legal para la mejora de servicios jurídicos y de diseño normativo. Académica y consultora.  

¹ Acción de inconstitucionalidad 66/2024, promovida por el Ejecutivo federal, demandando la invalidez del artículo 185 Bis C, del Código Penal del estado de Sinaloa, publicado en el Periódico Oficial de esa entidad del 12 de febrero de 2024, mediante Decreto 699. Ponente: ministro Juan Luis González Alcántara Carrancá.

² En Russell, Stuart, and Peter Norvig. Artificial Intelligence: A Modern Approach. 4th ed.  Pearson Education, 2020, en esta obra los autores discuten este punto y dividen en cuatro las posibles aproximaciones: (a) pensar como humano, (b) pensar racionalmente, (c) actuar como humano, y (d) actuar racionalmente. La definición aceptada por la comunidad (y citada en el texto) está basada en esta última. Todas las definiciones de IA giran alrededor de estas categorías.

³ “Recency Bias" y "Availability Heuristic" en inglés.