Tech trends / ¿Quién vigila los algoritmos?
La transparencia y la rendición de cuentas no son cosas del pasado. Al contrario, hoy que tantas decisiones importantes se toman con ayuda de la tecnología, necesitamos más vigilancia, no menos. Por eso es tan importante entender qué viene después de la desaparición del Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (Inai), que de facto ha dejado de operar como lo conocíamos.
El gobierno federal ha propuesto crear una nueva dependencia bajo el Poder Ejecutivo que concentre funciones anticorrupción, acceso a la información y protección de datos. El reto ahora es asegurarse de que esa nueva institución no sea solo una oficina más.
Hoy muchas decisiones que nos afectan se toman con algoritmos: a quién le aprueban un crédito, a quién le dan un subsidio, qué contenido vemos en redes sociales, incluso a quién podrían detener por sospechas de delito. Estas herramientas tecnológicas pueden ser útiles, sí, pero también pueden ser injustas, cometer errores o tener sesgos. Por eso es vital que alguien las vigile, antes el Inai.
Por ejemplo, una persona puede ser rechazada para un empleo porque un sistema automatizado detectó inconsistencias en su historial, sin que se le diga exactamente por qué o cómo corregirlo. Una madre soltera puede ser excluida de un programa de apoyo social porque un algoritmo clasificó incorrectamente su situación económica. Un joven puede ser detenido en la calle porque un software de reconocimiento facial lo confundió con alguien más. Casos como estos ya han ocurrido en otros países, y México no está exento.
El Inai había comenzado a impulsar la transparencia algorítmica: la idea de que los sistemas automatizados deben ser explicables, revisables y justos. Con su desaparición, la pregunta es quién tomará esa función, y cómo lo hará.
Además, es crucial que la ciudadanía tenga voz. Que podamos saber qué datos se recopilan sobre nosotros, cómo se usan y qué derechos tenemos frente a decisiones automatizadas. Que exista un mecanismo confiable para exigir rendición de cuentas y corregir abusos. Eso no puede depender únicamente de la voluntad política del momento.
Este tema no es técnico ni lejano. Tiene que ver con nuestros derechos más básicos. Si un algoritmo decide algo sobre ti, tienes derecho a saber cómo y por qué. Tienes derecho a pedir explicaciones, a defenderte si se cometió un error. Y eso solo se garantiza si hay instituciones sólidas, con enfoque en el bien social y abiertas al escrutinio público.
México necesita una tecnología al servicio de las personas, no al revés. Necesita instituciones que vigilen cómo se usa, que eviten abusos y que promuevan la equidad. Lo que viene tras el Inai debería ser una oportunidad para mejorar, pero sin alguien que vigile, es nuestro deber como ciudadanos hacerlo.
@daguilargallego
Las opiniones vertidas en este artículo son responsabilidad de quien las emite y no de esta casa editorial. Aquí se respeta la libertad de expresión
