Esperamos que esta iniciativa de ley, ayude a regular la IA en las instituciones públicas y asegurar que se mantenga un enfoque centrado en la protección de los derechos fundamentales de las personas.
Mucho se habla sobre el uso creciente de Inteligencia Artificial (IA), sin embargo, contar en México con una regulación de la IA es prioritario por varias razones: tiene gran potencial de innovación e impacto significativo en la vida de las personas; su uso sin los límites adecuados puede llevar a violaciones de derechos fundamentales y a importantes riesgos especialmente sobre la información personal, por ello tomando como base la Iniciativa del InfoCDMX, en el Infoem del Estado de México hemos trabajado una propuesta de regulación que establezca principios y procedimientos que garanticen a los habitantes la transparencia, responsabilidad y seguridad en el uso de estos sistemas desde las instituciones públicas.
La regulación de la IA y la protección de datos, es crucial por el tratamiento que se da en el gobierno durante diversos momentos, por lo que los entes públicos que desarrollen o utilicen sistemas de IA y usen datos personales deben garantizar que ese tratamiento sea lícito; esto incluye el respeto a los derechos ARCO y a la portabilidad, para que las personas mantengan control de su información personal.
Entre los puntos más sobresalientes de esta iniciativa del Infoem, destaca que la IA debe ser diseñada y utilizada protegiendo la autodeterminación informativa, la privacidad y el buen gobierno; se incluyen definiciones como ‘datos biométricos’, ‘datos de entrenamiento’ y ‘gestión de riesgos de privacidad’ para clarificar el marco legal de los sujetos obligados, se propone la creación de Comités de Regulación del Uso de IA en los entes públicos que evalúen impactos a la privacidad, generen política pública y cumplimiento de ley y, se propone establecer un Registro estatal de sistemas de IA utilizados en municipios y entes estatales que permita una mayor transparencia.
La transparencia algorítmica es fundamental para asegurar que no se discrimine o afecte a nadie ya sea un colectivo social, grupos vulnerables, territorios o cualquier aspecto que afecte a la persona, por lo que es necesario vincular estas iniciativas a esquemas de fiscalización ciudadana y de responsabilidad de los entes públicos al utilizar sistemas de IA, lo que a su vez fomenta la confianza y la ética pública.
Se propone prohibir ciertos tipos de IA, sobre todo para actividades que atenten contra la dignidad humana, los derechos fundamentales o la seguridad pública. Por ejemplo, los sistemas de IA que sean capaces de trascender la conciencia de una persona o que alteren el comportamiento humano, puedan provocar perjuicio a un determinado colectivo o los sistemas que clasifiquen personas por sus datos biométricos para etiquetarlas por su raza, opiniones políticas, convicciones religiosas, vida u orientación sexual, entre otras.
