Lo ocurrido recientemente en la Escuela Secundaria Técnica 1 de Zacatecas, donde cuatrocientas alumnas denunciaron haber sido víctimas de compañeros que manipularon sus fotografías con inteligencia artificial para crear imágenes de contenido sexual, es un hecho atroz que pone en evidencia una nueva y alarmante forma de violencia digital en entornos escolares. Este caso expone que la tecnología, lejos de ser solo una herramienta de avance, también puede ser utilizada para reproducir y amplificar prácticas de violencia de género. 

Las víctimas no solo fueron expuestas, también fueron ignoradas, revictimizadas y desprotegidas por un sistema que debería cuidarlas. Este caso evidencia la urgente necesidad de garantizar entornos educativos seguros. Lamentablemente, no ha sido el único caso, también ocurrió en hecho similar en el Instituto Politécnico Nacional, revelando un patrón alarmante: la violencia de género se adapta a las nuevas tecnologías, por ejemplo, a nivel nacional el 21% de las y los usuarios de internet ha vivido alguna situación de ciberacoso, lo que representa 19 millones de personas. 22.2% son mujeres y 19.6% hombres. Yucatán, San Luis Potosí, Hidalgo, Durango y Zacatecas, entidades donde hubo mayor ciberacoso (Inegi).

Para Raymundo Ceja especialista en tecnología, lo ocurrido en la Escuela Secundaria Técnica 1 reveló “una falla sistemática en toda la sociedad”, aunado a una brecha digital profunda entre padres e hijos al desconocer que realizan las niñas, niños y adolescentes en su “vida alterna”.  Tenemos que actuar con responsabilidad social desde las instituciones educativas, las empresas tecnológicas y la sociedad civil, debemos reforzar los protocolos en escuelas, redes sociales y plataformas digitales para proteger a nuestras infancias.

El uso de la tecnología debe aplicarse bajo parámetros éticos y no ser una herramienta de la perversidad. Para la Unesco existen diez básicos de la inteligencia artificial (IA) basados en derechos humanos, entre los que destacan: derecho a la intimidad y protección de datos; equidad y no discriminación y sensibilización y educación. De lo contrario, estamos ante un riesgo creciente de violencia digital como lo ocurrido 

En México, la Ley Olimpia sanciona la difusión o manipulación de contenido íntimo, incluso cuando ha sido producido con inteligencia artificial. Desde mi responsabilidad, he presentado con voz firme diversas iniciativas para regular la IA para establecer lineamientos sobre su uso ético, y otra que tipifica como delito la creación y difusión de contenido sexual manipulado a través de la inteligencia artificial. Sin embargo, aún falta tipificar la violencia digital en todas las entidades para tener un adecuado marco legal y actuar en todos los frentes para contener esta nueva forma de violencia que crece al ritmo de la expansión tecnológica.