Comportamiento de chatbots; respuestas infundadas

Algunos resultados de búsquedas que genera la Inteligencia Artificial pueden ser “infundados o tóxicos”, de acuerdo con Klaudia Jaźwińska y Aisvarya Chandrasekar, expertas en el estudio de tecnología y periodismo de Columbia Journalist Review.

Otros investigadores y críticos a los resultados de la llamada búsqueda generativa, como Chirag Shah y Emily M. Bender, han expresado su preocupación por el uso de grandes modelos de lenguaje para la búsqueda, señalando que “reducen la transparencia y la autonomía del usuario, agravan los problemas asociados con el sesgo en los sistemas de acceso a la información”. Pero mejor vamos por partes:

Este problema afecta a los productores de noticias y sus audiencias debido a que “incluso aquellas que sí lo han hecho, a menudo no logran producir citas precisas ni respetar las preferencias indicadas mediante el Protocolo de Exclusión de Robots. Como resultado, los editores tienen opciones limitadas para controlar si los chatbots muestran su contenido y cómo lo hacen, y estas opciones parecen tener una eficacia limitada”.

La búsqueda con inteligencia artificial tiene un problema de citas. Y cada vez más en las escuelas, trabajos y otras actividades empresariales se utilizan estas herramientas como dogma. Los principales hallazgos del estudio son:

En general, los chatbots no se niegan a responder preguntas que no pueden responder con precisión y ofrecen respuestas incorrectas o especulativas.

Los chatbots premium proporcionan respuestas incorrectas con mayor seguridad que sus contrapartes gratuitas.

Algunos chatbots eluden las preferencias del Protocolo de exclusión de robots.

Las herramientas de búsqueda generativa crean enlaces y citan versiones sindicadas y copiadas de artículos.

Los acuerdos de licencia de contenido con fuentes de noticias no ofrecen ninguna garantía de citación precisa en las respuestas del chatbot.

La conclusión es que estas observaciones no son solo un problema de ChatGPT, sino que se repiten en la mayoría de las herramientas de búsqueda generativa. Al respectro el vocero de OpenAI comenta que “apoyamos a editores y creadores ayudando a 400 millones de usuarios semanales de ChatGPT a descubrir contenido de calidad mediante resúmenes, citas, enlaces claros y atribución… Seguiremos mejorando los resultados de búsqueda”. Microsoft afirmó: “Respetamos el estándar robots.txt y cumplimos con las instrucciones proporcionadas por los sitios web que no desean que el contenido de sus páginas se utilice con los modelos de inteligencia artificial generativa de la empresa”.

El estudio afirma que el uso de estas herramientas muestra “proporciona respuestas incorrectas a más del 60 % de las consultas. El nivel de inexactitud varió entre las diferentes plataformas: Perplexity respondió incorrectamente al 37 % de las consultas, mientras que Grok 3 tuvo una tasa de error mucho mayor, respondiendo incorrectamente al 94 % de las consultas”.

Ya casi para terminar, “DeepSeek atribuyó erróneamente la fuente de los extractos proporcionados en nuestras consultas 115 de 200 veces. Esto significa que, en la mayoría de los casos, el contenido de los editores de noticias se atribuía a la fuente equivocada”. Un editor de Time, parafrasea la cita de que lo barato sale caro, con la idea de que “si algún consumidor cree ahora mismo que alguno de estos productos gratuitos será 100 % preciso, ¡qué vergüenza!”

Comunicólogo político, académico de la FCPyS UNAM y Maestro en Periodismo Político

@gersonmecalco

Las opiniones vertidas en este artículo son responsabilidad de quien las emite y no de esta casa editorial. Aquí se respeta la libertad de expresión

ÚLTIMAS COLUMNAS

Más Noticias

f41d98a2db019ad31182f95227a795ed4ebcdc91w

MUNDO

Crisis por el cierre del Estrecho de Ormuz se extiende por el mundo: países cierran oficinas y racionan combustibles

Trabajo a distancia, racionamiento de combustibles, subsidios y cambios en los horarios de comercios son algunas de las medidas tomadas alrededor del mundo ante la crisis energética