Necesario regular el uso de la IA para evitar comisión de delitos

TOLUCA, Edomex., 5 de septiembre de 2024.- Este jueves 5 de septiembre del año en curso, en el marco de su ciclo de conferencias en materia electoral 2024, las magistraturas que conforman el Pleno de la Sala Regional del Tribunal Electoral del Poder Judicial de la Federación con sede en la ciudad de Toluca de Lerdo, en el Estado de México, recibieron la visita de la Dra. María Solange Maqueo Ramírez, Directora de la Facultad de Derecho de la Universidad La Salle, quien tuvo a bien dictar la conferencia magistral intitulada “Inteligencia Artificial en el Derecho. Perspectivas desde la regulación.”

En un comunicado de prensa, en su intervención, la Dra. Solange destacó la forma en que se va construyendo la Inteligencia Artificial o IA, sus elementos. Llamó la atención sobre la necesidad de emplear la IA como una herramienta, sin que exista un ser o deber ser sobre la tecnología y su uso adecuado.

Recordó que la IA está muy desarrollada en el campo de la salud en donde puede llevarnos a incrementar la esperanza de vida o a detectar en tiempo diversos padecimientos, mejoras en temas ambientales, avances neurológicos, aspectos agrícolas, alimentarios, etc.

Sobre sus riesgos destacó la manera en que funcionan los sistemas de IA, uno de ellos sobre los denominados “riesgos imprevistos”, la opacidad de los algoritmos, dada la complejidad de su diseño o porque se atiende a cuestiones de propiedad intelectual o industrial, lo que impide conocer su alcance, ya que el sistema sigue aprendiendo y procesando la información. Recordó el “machine learning” con el caso de Meta, antes Facebook.

Recordó la importancia e impacto que puede tener la IA en materia de Derechos Humanos, el carácter predictivo de las IA respecto de la eventual recurrencia en la comisión de delitos, sujetos beneficiarios de programas sociales, o aspectos laborales personales, todo ello útil, pero que puede implicar ciertas violaciones dada la imperfección de los sistemas y su sesgo, dado que la IA reproduce la ideología de los desarrolladores que son los encargados de incorporar la información al sistema según sus propias tradiciones, cultura o costumbres.

Llamó la atención sobre la necesidad de proteger la información personal y cuidar la privacidad de las personas dado que la IA se alimenta de datos e información, sin la cual no se puede diseñar, de modo que de no contar con la información suficiente puede tener amplios márgenes de error, de ahí la necesidad de su regulación.

Sugirió que en caso del Poder Judicial Mexicano es importante que la IA se desarrolle con la información propia de nuestro país, para garantizar por lo menos que dicha información se encuentre dentro del poder judicial y no en manos de un proveedor que incluso puede estar fuera del territorio nacional.

Destacó la importancia de cuidar y evitar la suplantación de identidad, voces, imágenes, sin consentimiento de los titulares, el respeto a los derechos de autor, la dignidad de la persona, etc., de ahí la necesidad de su regulación preventiva y no solamente punitiva.

Refirió la importancia de la creación del Reglamento de la IA de la Unión Europea; y el Convenio Marco del Consejo de Europa sobre IA y Derechos Humanos, Democracia y Estado de Derecho, ambos de 2024.

Alertó sobre el sistema de crédito social (China) que valora la conducta de las personas para que tengan acceso a ciertos beneficios o derechos, lo cual en si mismo conlleva un riesgo; así como de los beneficios de la AI generativa.

Por su parte el Magdo. Presidente de la Sala Regional Dr. Alejandro David Avante Juárez, además de agradecer la visita de la ponente, destacó la importancia del tema de la conferencia y llamó la atención sobre el impasse en que nos encontramos al no tomar aun conciencia cierta de los alcances de la IA y de la urgencia de involucrarnos en su estudio y de conocer el entorno que alimenta a la IA, teniendo cuidado de su aprendizaje y de los límites que han de fijarse a ésta como una necesidad real.

Llamó a no abandonar la tarea de aprender y razonar, y evitar dejar esa labor a la IA, cuidando nuestros datos y privacidad.

La Magda. Fernández por su parte destacó la necesidad de revisar si la IA podrá en algún punto sustituir a la precepción del juzgador y sobre el derecho de las personas a ser juzgados también por personas, ponderando los beneficios y los riesgos.

“Documento con fines de divulgación. Las sentencias son la única versión oficial.”

Suscríbete a nuestro canal en YouTube: y síguenos en Twitter: @TEPJF_TOL o a través de nuestra página de Facebook: Sala Regional Toluca del TEPJF https://www.facebook.com/salaregionaltolucadelTEPJF/ donde se realiza la transmisión en vivo de nuestras sesiones públicas y eventos de interés.