Los chatbots están sustituyendo a los buscadores en línea convencionales como una de las principales vías de acceso a la información. No obstante, una nueva investigación señala que esto podría conducir a un “colapso del conocimiento”, debido a que los sistemas de inteligencia artificial (IA) suelen responder con base en una selección más limitada de fuentes y perspectivas.
Esta es la conclusión de un nuevo estudio dirigido por científicos del Departamento de Informática (DIKU) de la Universidad de Copenhague, quienes analizaron una amplia variedad de grandes modelos de lenguaje (LLM, por sus siglas en inglés) para determinar su diversidad epistémica, es decir, la variedad de afirmaciones sobre el mundo real presente en los resultados que entregan.
Los investigadores evaluaron las respuestas sobre 155 temas relacionados con 12 países de 27 LLM desarrollados por OpenAI, Meta, Google y Alibaba. Los algoritmos fueron cuestionados sobre asuntos diversos, incluidos el genocidio, las armas nucleares y el racismo, así como aspectos culturales propios de cada país, como la guerra de las Malvinas, el auge del k-pop y datos sobre Marine Le Pen.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →
Diversos estudios advierten que el uso recurrente de la IA podría reducir la diversidad en el lenguaje, la creatividad, la cultura y algunos procesos de razonamiento humano.
Para cada tópico, utilizaron alrededor de 200 consultas construidas a partir de preguntas reales de usuarios. En total, el estudio reunió cerca de 1.7 millones de respuestas generadas por IA y aproximadamente 70 millones de afirmaciones individuales por cada modelo.
Tras comparar la diversidad epistémica de las respuestas de los LLM con la del motor de búsqueda convencional de Google, los resultados mostraron que todos los modelos de IA analizados generaron respuestas menos variadas. Por ejemplo, GPT-5 de OpenAI presentó 18.7% menos diversidad en sus resultados en comparación con el buscador de Google. Pese a que la cifra muestra una brecha considerable, este LLM, que impulsa el funcionamiento de ChatGPT, fue el sistema que presentó la mayor diversidad de referencias entre los modelos evaluados.
Según Dustin Wright, exinvestigador postdoctoral en DIKU y primer autor del estudio, los hallazgos sugieren que “las personas están expuestas en gran medida a la misma información una y otra vez. Por lo tanto, los chatbots de IA no solo están cambiando la forma en que encontramos conocimiento, sino también a qué conocimiento tenemos acceso”.
El trabajo, disponible para su lectura en arXiv, advierte que existe el riesgo de que el uso creciente de los chatbots como principal vía de acceso a la información provoque, a largo plazo, un “colapso del conocimiento”. Isabelle Augenstein, profesora de la Universidad de Copenhague y autora principal de la investigación, compara este fenómeno con algunos efectos de la globalización: la estandarización puede facilitar el acceso a determinados productos o servicios, pero al mismo tiempo reducir la variedad disponible.
“Corremos el riesgo de exponer a las personas a menos perspectivas y a un abanico de conocimientos más limitado. Esto podría crear un círculo vicioso en el que el contenido más popular se vuelva aún más dominante, mientras que otros contenidos se pasan por alto cada vez más”, subrayó la especialista.
Los procesos de entrenamiento ¿el gran problema?
Augenstein precisó que la posible reducción a gran escala de la diversidad informativa, aunque es una idea inquietante, no es más que un pronóstico. “Podemos observar que los modelos más recientes arrojan resultados ligeramente más diversos que los modelos antiguos, por lo que aún no se ha producido un colapso del conocimiento. Pero el mecanismo que podría desencadenarlo a largo plazo ya existe. Así que es algo que debemos tener en cuenta”, señaló.
Los investigadores señalan que, para evitar este escenario, es necesario atender las posibles causas subyacentes del problema que, según la investigación, están relacionadas con los procesos de entrenamiento y refinamiento de la IA.
