Por qué no debemos confiar en la Inteligencia Artificial

Los dispositivos y servicios que parecen funcionar para nosotros, también funcionan secretamente en nuestra contra al espiarnos y recopilar y vender nuestros datos, entre otras dinámicas del llamado “capitalismo de vigilancia”

Bruce Schneier y Nathan Sanders*

Si le preguntas a Alexa, el sistema de Inteligencia Artificial (IA) asistente de voz de Amazon, si Amazon es un monopolio, responderá que no lo sabe. Y no se necesita saber mucho para dar esa respuesta, pero el artefacto guarda silencio sobre las fechorías de su propia empresa matriz.

Cuando Alexa responde de esta manera, es obvio que está anteponiendo los intereses de su desarrollador a los tuyos. Sin embargo, por lo general, no es tan obvio a quién sirve un sistema de IA. Para evitar ser explotados por estos sistemas, las personas deberán aprender a acercarse a la IA con escepticismo. Eso significa construir deliberadamente la entrada que le das y pensar críticamente sobre su salida.

Puede interesarte: IA personalizará más la música para tus oídos

Las nuevas generaciones de modelos de IA, con sus respuestas más sofisticadas y menos rotativas, hacen que sea más difícil saber quién se beneficia cuando habla. Pero todo eso no es nada nuevo. Los resultados de búsqueda de Google y su feed de Facebook están llenos de entradas pagadas. Facebook, TikTok y otros gigantes tecnológicos manipulan sus feeds para maximizar el tiempo que pasas en la plataforma, lo que significa más vistas de anuncios.

Lo que distingue a los sistemas de IA de esos otros servicios de internet es cuán interactivos son y cómo estas interacciones se volverán cada vez más como relaciones. No se necesita mucha extrapolación de las tecnologías actuales para imaginar IA que planificarán viajes para ti, que negociarán en tu nombre o que actuarán como terapeutas y entrenadores de vida.

Es probable que estén contigo las 24 horas del día, los 7 días de la semana, te conozcan íntimamente y puedan anticiparse a tus necesidades. Este tipo de interfaz conversacional para la vasta red de servicios y recursos en la web está dentro de las capacidades de las IA generativas existentes como ChatGPT. Y están en camino de convertirse en asistentes digitales personalizados.

Como expertos en seguridad y científicos de datos, creemos que las personas que confían en estas IA tendrán que confiar en ellas implícitamente para navegar en la vida diaria. Eso significa que deberán asegurarse de que las IA no estén trabajando en secreto para otra persona. A través de internet, los dispositivos y servicios que parecen funcionar para ti ya funcionan en tu contra en secreto. Los televisores inteligentes te espían. Las aplicaciones de teléfono recopilan y venden tus datos. Muchas aplicaciones y sitios web te manipulan a través de patrones oscuros, elementos de diseño que engañan, coaccionan o engañan deliberadamente a los visitantes de un sitio web. Eso es capitalismo de vigilancia, y la IA se perfila como parte de él.

En la oscuridad

Muy posiblemente, podría ser mucho peor con la IA. Para que ese asistente digital de IA sea verdaderamente útil, tendrá que conocerte realmente. Mejor que tu teléfono te conoce. Mejor que la búsqueda de Google te conoce. Mejor, quizás, que tus amigos cercanos, compañeros íntimos y terapeuta te conozcan.

No hay motivos para confiar en las principales herramientas de inteligencia artificial generativa de la actualidad. Dejando de lado las alucinaciones, los "hechos" inventados que producen GPT y otros grandes modelos de lenguaje. Esperamos que se limpien en gran medida a medida que la tecnología mejore en los próximos años.

Ganar dinero

Muchas de estas IA son creadas y entrenadas a un costo enorme por algunos de los monopolios tecnológicos más grandes. Se les ofrece a las personas para que los usen de forma gratuita o a un costo muy bajo. Estas empresas necesitarán monetizarlas de alguna manera. Y, al igual que con el resto de internet, es probable que de alguna manera incluyan vigilancia y manipulación.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Imagina pedirle a tu chatbot que planifique tus próximas vacaciones. ¿Eligió una aerolínea en particular, una cadena de hoteles o un restaurante porque era lo mejor para ti o porque su creador recibió un soborno de las empresas? Al igual que con los resultados pagados en la búsqueda de Google, los anuncios de suministro de noticias en Facebook y las ubicaciones pagadas en las consultas de Amazon, es probable que estos influencers pagados se vuelvan más subrepticios con el tiempo.

Si le pides a tu chatbot información política, ¿los resultados estarán sesgados por la política de la corporación propietaria del chatbot? ¿O por el candidato que pagó más dinero? ¿O incluso las opiniones de la demografía de las personas cuyos datos se usaron para entrenar el modelo? ¿Tu agente de IA es secretamente un agente doble? En este momento no hay forma de saberlo.

* Académicos de Harvard Kennedy School y Universidad de Harvard.

Alejandro Castro

Periodista especializado en música, arte y cultura. 25 años de experiencia en radio y medios impresos.

Últimas notas:

Por qué no debemos confiar en la Inteligencia Artificial

En la oscuridad

Ganar dinero

NOTAS RELACIONADAS

Mark Ruffalo, Jane Fonda y otros actores alzan la voz en la huelga contra Hollywood [Fotos]

¿Cuáles son las exigencias de los actores de Hollywood por las que se fueron a huelga?

Google presenta Genesis, la IA capaz de escribir artículos de noticias

Más Noticias

Producción minerometalúrgica cerró 2025 a la baja

Adeudos al SAT, mayores a tres billones de pesos, superan la inversión del gobierno en 2025

Data / México alargó su esperanza de vida

Google presenta su celular más económico

EU invierte 40 mdd en el Centro Internacional de Mejoramiento del Maíz y Trigo

Canadá y México buscan acuerdo trilateral bajo revisión del T-MEC, dice ministro canadiense

EU autoriza a la petrolera francesa Maurel & Prom operar en Venezuela

¿Quieres componerle una canción a tu pareja? Gemini ahora podrá hacerlo basandose en una imagen o texto

Europa quiere aprovechar nuevo tratado con México para acceder al T-MEC

CFE frena inversiones en Tijuana por retraso en factibilidad energética, expone Canacintra

LO+VISTO

Suspenden contingencia ambiental en el Valle de México

Sergio Mayer deja la Cámara de Diputados para participar en La Casa de los Famosos Telemundo

En 2025, Michoacán y CDMX concentraron más de la mitad de los delitos de piratería

COLUMNAS

Fuera de Agenda / Mercado negro de drones

El observador / ¿Por qué la prensa ignoró la misión canadiense?

Corporativo / Querétaro, con foco en crecer

Infancias en la era digital

LO+RECIENTE

Data / Camino a la electrificación

Telefónica Movistar admite costos por registro de datos, pero descarta aumento de precios

Industria textil pide mejores condiciones de competencia para elevar capacidad

Netflix abre oficinas en México; Ebrard destaca rol de la industria audiovisual para la economía

CARTONES

La auditoría de la auditoría

No bajan los homicidios