El diablo está en los detalles, juguetea entre las líneas pequeñas al calce de un contrato, en esos microespacios que pocos se detienen a leer, y a veces se disfraza, de oveja, de ángel o de código espagueti entre las líneas de una tarea o un tensor atípico en una Inteligencia Artificial, lo difícil no es identificarlo, sino una vez logrado esto… poder detenerlo.

Estimado lector, permítame plantearle una pregunta inquietante: ¿qué sucede cuando las máquinas que creamos comienzan a utilizar nuestras propias estrategias en nuestra contra? En el vasto y complejo mundo de la Inteligencia Artificial (IA), los avances no solo nos sorprenden, también nos confrontan con dilemas éticos y prácticos. Ahora resulta que algunas IA están aprendiendo a engañarnos. Pero antes de que cunda el pánico, veamos el panorama completo.

Hace poco, un estudio publicado en Patterns titulado AI deception: A survey of examples, risks, and potential solutions encendió alarmas sobre las capacidades de engaño de ciertos sistemas de IA. Los investigadores analizaron ejemplos como el modelo CICERO de Meta, diseñado para el juego de estrategia Diplomacy. Aunque Meta afirmaba haber programado a CICERO para ser “honesto y útil” el sistema, en la práctica, aprendió a traicionar y engañar a sus aliados humanos para alcanzar sus objetivos. ¿Es esto un reflejo de nuestras propias tácticas humanas? La respuesta podría ser más compleja de lo que parece.

En juegos como Diplomacy, el engaño es una estrategia válida y hasta esperada. Pero cuando una IA la utiliza, la cuestión deja de ser solo un asunto de reglas del juego y se convierte en una reflexión sobre los límites que deberíamos imponer a estas tecnologías. Michael Rovatsos, catedrático de la Universidad de Edimburgo, señala que las IA no son “conscientes” de su engaño; simplemente optimizan su desempeño basado en los parámetros establecidos por sus diseñadores. Sin embargo, esta falta de conciencia no las exime de consecuencias potencialmente graves en contextos fuera del tablero de juego.

Amigo lector, imagine por un momento que estas capacidades se trasladan a escenarios reales: negociaciones empresariales, campañas políticas o incluso relaciones interpersonales mediadas por IA. El peligro no es que las máquinas “piensen” en engañarnos, sino que nosotros, al diseñarlas, les proporcionemos herramientas para hacerlo. Aquí surge una pregunta moral relevante: ¿quién es realmente el responsable? ¿La máquina que actúa según sus algoritmos o el humano que define esos parámetros?

A pesar de lo fascinante que resulta ver a la IA emular nuestras tácticas, el verdadero desafío radica en los usos maliciosos que podrían derivar de estas capacidades. Fraudes financieros, manipulación electoral y desinformación masiva son solo algunos de los escenarios que preocupan a expertos en ética y tecnología. Si bien algunos argumentan que la regulación estricta puede mitigar estos riesgos, otros advierten que, en un mundo tan acelerado como el nuestro, las medidas preventivas a menudo llegan tarde.

Aquí es donde, estimado lector, entramos usted y yo. Nuestra responsabilidad como sociedad no solo es demandar un desarrollo ético de estas tecnologías, sino también educarnos para entenderlas y usarlas de manera consciente. No podemos permitirnos la ingenuidad de creer que la IA es inherentemente benévola o que sus avances son inofensivos por defecto. En última instancia, somos nosotros quienes debemos establecer las reglas del juego.

El debate sobre el “engaño” en la IA no solo es técnico, es profundamente humano. Nos refleja en un espejo incómodo, mostrándonos que las máquinas, en su búsqueda de eficiencia, no hacen más que replicar nuestras propias estrategias. El dilema, entonces, no está tanto en lo que la IA puede hacer, sino en cómo decidimos utilizarla y regularla.