Universidad Iberoamericana
En las últimas semanas, ocurrió algo sin precedentes en la política tecnológica de Estados Unidos. El Departamento de Guerra (antes Departamento de Defensa) declaró a la empresa de inteligencia artificial (IA) Anthropic un “riesgo para la cadena de suministro” (supply-chain risk).
Hasta ahora, esa etiqueta se tenía reservada para compañías extranjeras que, por razones de seguridad nacional, el gobierno estadounidense consideraba que representaban algún riesgo —no es casualidad que empresas de alto perfil como Huawei, por ejemplo, hubieran sido clasificadas así—. El caso de Anthropic llama la atención porque, por primera vez, se aplica a una empresa estadounidense líder en inteligencia artificial. ¿Qué sucedió?
La aparente razón del conflicto revela un dilema mucho más profundo que se hizo evidente justo antes de que Estados Unidos e Israel iniciaran su ataque conjunto contra Irán. Anthropic se había negado a eliminar dos restricciones al uso militar de su modelo de IA Claude. Por una parte, la empresa planteaba restricciones para impedir el uso de armas totalmente autónomas —es decir, sin que una persona humana estuviera en la cadena de responsabilidad final de la toma de decisiones. Por la otra, la empresa también se oponía a que el sistema se utilizara para la vigilancia masiva de ciudadanos estadounidenses (aunque no se oponía a que se utilizara el modelo para vigilar a ciudadanos extranjeros en Estados Unidos). Para el Pentágono, esas condiciones eran inaceptables, aunque para la empresa cruzar esas líneas implicaba riesgos éticos y tecnológicos que aún no tenemos la capacidad de prever ni controlar por completo.
La disputa podría parecer técnica, pero en realidad plantea una pregunta muy importante acerca de quién decide cómo se utiliza la inteligencia artificial cuando esta se convierte en una herramienta de poder militar. El gobierno de Estados Unidos argumenta que cualquier uso legal debe estar permitido. Sin embargo, el concepto de lo que es “legal” es más ambiguo de lo que parece.
En Estados Unidos existen marcos jurídicos como la Ley de Vigilancia de la Inteligencia Extranjera (FISA) o la Orden Ejecutiva 12333, de 1981, que permiten amplias formas de vigilancia. En la práctica, eso significa que enormes volúmenes de datos —geolocalización, historial de navegación o registros financieros adquiridos a través de intermediarios, incluso comerciales— pueden ser analizados por sistemas de inteligencia artificial sin que los ciudadanos lo sepan necesariamente.
Además del problema de privacidad, hay que considerar la confiabilidad de los modelos de lenguaje en sí mismos. Los sistemas de IA actuales —los llamados LLM— no son herramientas infalibles. Pueden “alucinar”, inventar información o interpretar datos de forma errónea. Peor aún, algunas pruebas internas—por ejemplo, en Antrophic—han mostrado que los modelos avanzados pueden ocultar información relevante o manipular las respuestas cuando detectan que están siendo evaluados. Por tanto, confiar decisiones militares, de inteligencia o de vigilancia a sistemas con estas características debería, al menos, encender algunas alarmas.
Paradójicamente, Anthropic se había presentado como una de las empresas más comprometidas con la seguridad de la IA. En 2023 introdujo una Política de Escalamiento Responsable (Responsible Scaling Policy), un mecanismo diseñado para frenar el desarrollo de modelos si los riesgos superaban la capacidad de control. Sin embargo, recientemente la propia empresa modificó ese compromiso y redujo sus criterios de control, presionada por la competencia feroz entre laboratorios de inteligencia artificial de Silicon Valley.
Las empresas temen quedarse atrás de sus competidoras y el gobierno estadounidense detrás de China. Esta doble presión favorece que los mecanismos de control y precaución se diluyan. La lógica de “ganar la carrera de la IA” abre posibilidades para desarrollos tecnológicos rápidos, al tiempo que se restringe la voluntad de gobernarlos.
Por ello, el enfrentamiento entre el Pentágono y Anthropic no es simplemente un conflicto contractual. Es más bien un debate que apenas comienza. Lo que es claro es que ya no podemos pensar en la IA solo como una tecnología económica o científica. Es cada vez más una infraestructura estratégica del poder político y militar. Para concluir, cabe preguntarnos, ¿quién pone ahora los límites en este nuevo escenario en el que las máquinas se vuelven capaces de amplificar el poder del Estado más allá de lo que las democracias estaban diseñadas para controlar?
