Mientras los líderes mundiales se reunían en Nueva York para dar inicio a la 80.ª Asamblea General de la ONU el pasado 22 de septiembre de 2025, más de 200 expertos, premios Nobel, exjefes de estado, pioneros de la IA y organizaciones de la sociedad civil lanzaron un llamado urgente: necesitamos reglas claras para evitar que la inteligencia artificial (IA) pueda cruzar límites peligrosos.

La iniciativa, conocida como Llamado Mundial para Fijar Líneas Rojas en la IA (Global Call for AI Red Lines), busca que gobiernos y organismos internacionales definan lo que nunca se debe permitir que haga la IA, evitando así riesgos inaceptables para toda la humanidad.

Entre los firmantes se encuentran figuras destacadas, como Maria Ressa, premio Nobel de la Paz, Mary Robinson, exprimera ministra de Irlanda, así como expertos y líderes reconocidos en temas de IA como Geoffrey Hinton, Yoshua Bengio, Wojciech Zaremba e Ian Goodfellow. Para todos ellos es urgente que la humanidad —más allá de sus conflictos y desencuentros— pueda ponerse de acuerdo sobre los límites éticos y de alto riesgo de una tecnología que rápidamente está transformando a las sociedades y que fácilmente puede desviarse hacia fines destructivos para todo mundo.

La petición subraya que la IA tiene un enorme potencial para el bienestar humano, pero también peligros inéditos. Expertos alertan sobre pandemias artificiales, desinformación masiva, violaciones de derechos humanos, sistemas de armas autónomas y desempleo masivo si la IA se desarrolla sin control. Como explicó Stuart Russell, investigador de la Universidad de California en Berkeley: “Se puede tener IA para el desarrollo económico sin tener una IAG que no sepamos cómo controlar. La industria debe elegir una vía tecnológica que incorpore la seguridad desde el principio.”

La petición no establece definiciones de cuáles son exactamente estas “líneas rojas” ni ofrece reglas claras sobre los mecanismos para supervisarlas. Al parecer, estas deberían ser el resultado de posteriores negociaciones científicas y políticas tanto en los foros internacionales como al interior de los países acerca de lo que los modelos y sistemas de IA no deben hacer, así como de qué usos quedarían totalmente prohibidos. Pero, ¿qué tipo de usos o de desarrollos podrían representar “líneas rojas”? Aquí ofrezco algunos ejemplos:

Coordinada por el Centro Francés para la Seguridad de la IA (CeSIA), The Future Society y el Centro para la IA Compatible con Humanos de UC Berkeley, la iniciativa advierte que los compromisos voluntarios de las empresas no son suficientes. Empresas como OpenAI, Anthropic o DeepMind han implementado marcos internos de seguridad, pero su cumplimiento sigue siendo irregular, como hemos dicho ya en este espacio. Los firmantes de la petición insisten en normas vinculantes y globales, evitando una “carrera al precipicio” donde la seguridad quede en segundo plano frente al lucro o la rapidez tecnológica.

La historia muestra que es posible llegar a acuerdos globales en temas de alto riesgo: el Tratado de No Proliferación (1970), la Convención sobre Armas Biológicas (1975) y el Protocolo de Montreal (1987) son ejemplos de que las naciones pueden unirse incluso en medio de tensiones geopolíticas. La petición propone un camino similar: acuerdos iniciales entre países, verificación técnica independiente e implementación nacional con auditorías y sanciones rigurosas.

Un aspecto que me parece muy positivo es que la petición también establece un cronograma claro, instando a un acuerdo internacional para finales de 2026, aprovechando los próximos diálogos de la ONU, la Cumbre de Impacto de la IA en India y el Diálogo Global de la ONU sobre la Gobernanza de la IA.

En un mundo donde el desarrollo de la IA avanza a gran velocidad, este llamado no es solo una precaución; es un acto de responsabilidad colectiva. Por eso, apoyarlo no es solo tarea de gobiernos o científicos: nos afecta a todos, porque de cómo manejemos la IA dependerá nuestra seguridad, la confianza en la información y la equidad en la sociedad digital.