La batalla por nuestra atención y el riesgo del ‘filtro burbuja’

La Inteligencia Artificial generativa domina ya titulares de prensa, inversiones económicas de gran calado y conversaciones estratégicas en los más altos niveles políticos. En muy poco tiempo, herramientas capaces de responder preguntas, redactar textos o generar imágenes han pasado del laboratorio a la vida cotidiana. Estamos, por tanto, ante una nueva fase de la revolución digital. 

Pero mientras la conversación pública gira en torno a la IA que habla, escribe o resume, otra tecnología mucho menos visible sigue determinando buena parte de nuestra experiencia online: los sistemas de recomendación. Esa fue una de las ideas que planteó Marc Torrens, profesor asociado de Esade, en una de las sesiones del Talent Arena, celebrada en el marco del 4YFN, y que estuvo centrada en cómo la IA generativa puede transformar o intensificar la lógica con la que se filtra y se ‘ordena’ Internet. 

Los algoritmos deciden qué canciones escuchamos, qué series aparecen primero en la pantalla, qué productos vemos al entrar en una plataforma o qué noticias llegan a nuestros feeds. Y, como subrayó Torrens, siguen siendo los verdaderos motores económicos de internet 

La cuestión, por tanto, ya no es solo qué puede hacer la IA generativa. También es qué cambia cuando se superpone a los sistemas que desde hace años filtran, ordenan y priorizan lo que vemos. 

De la abundancia a la saturación 

Internet transformó de raíz la lógica de los mercados de masas. Durante buena parte del siglo XX, la oferta era limitada y la mayoría de los consumidores se movía dentro de un catálogo relativamente pequeño de productos y contenidos. La digitalización rompió ese marco y abrió la puerta a una oferta prácticamente infinita. 

La música fue uno de los primeros terrenos donde se hizo evidente. Hoy, con una plataforma de streaming, cualquier persona puede acceder a casi todo el catálogo musical disponible. Pero el mismo patrón se repite en películas, noticias, cursos online, productos de consumo, conocimiento digital o incluso relaciones personales. La llamada long tail, una estrategia de negocio y SEO enfocada en vender o posicionar una gran variedad de productos de nicho con baja demanda individual, en lugar de pocos productos masivos, convirtió la escasez en sobreabundancia. 

Durante mucho tiempo, esta expansión se interpretó como una promesa de libertad. Más opciones implicaban mayor capacidad de elección y, en teoría, una experiencia más ajustada a las preferencias individuales. Pero esa ecuación no siempre se cumple. 

La infraestructura invisible de internet 

En ese contexto, los sistemas de recomendación se vuelven imprescindibles. No son un elemento accesorio del entorno digital, sino la infraestructura que permite navegar en un ecosistema saturado de alternativas. Su función es filtrar la complejidad y proponer caminos posibles dentro de un volumen de información que, sin mediación tecnológica, resultaría inmanejable. 

Su evolución ha sido rápida. Primero aparecieron fórmulas de filtrado colaborativo que comparaban a cada usuario con otros perfiles similares. Después llegaron técnicas como la factorización matricial, capaces de representar usuarios y productos en espacios latentes compartidos. Más tarde, los avances en deep learning permitieron integrar señales más complejas y optimizar patrones de interacción con una precisión sin precedentes. El resultado es una tecnología extraordinariamente eficaz para ordenar la abundancia y dirigir la atención.  

Pero esa eficiencia tiene un reverso. Cuanto más precisos son los sistemas de recomendación, más tienden a mostrar contenidos alineados con nuestras preferencias previas. Lo que ganamos en comodidad y personalización, podemos perderlo en diversidad. Accedemos a una parte muy pequeña del universo disponible, filtrada según la probabilidad de que interactuemos con ella.  

El riesgo del 'filtro burbuja' 

Aquí entra en juego el concepto de 'filtro burbuja'. Popularizado por Eli Pariser, el profesor Torrens lo usó en su charla para describir un entorno informativo altamente personalizado en el que el usuario recibe, sobre todo, aquello que confirma sus hábitos, intereses o creencias. El problema no es sólo que veamos menos cosas distintas. Es que dejamos de encontrarnos con lo inesperado o lo que desafía nuestro punto de vista. 

La paradoja es clara. Internet prometía acceso a una diversidad sin precedentes. Pero cuando esa diversidad está mediada por sistemas diseñados para maximizar afinidad e interacción, la experiencia puede volverse más reducida. En algunos casos, esta dinámica desemboca, además, en cámaras de eco, donde determinadas ideas se refuerzan por repetición y otras quedan relegadas. 

Qué cambia con la IA generativa 

La irrupción de los grandes modelos de lenguaje (LLM por sus siglas en inglés) ha alterado el debate tecnológico, pero no sustituye automáticamente a los sistemas de recomendación. Un modelo generativo puede interpretar instrucciones, producir lenguaje natural y mantener una conversación fluida. Sin embargo, no está diseñado por sí solo para clasificar grandes catálogos o gestionar el equilibrio entre explorar nuevas opciones y explotar preferencias ya conocidas. 

Como resume Torrens, un LLM sugiere, mientras que un sistema de recomendación optimiza rankings para usuarios. Por eso, una de las hipótesis más plausibles es que la IA generativa actúe como una capa conversacional sobre los recomendadores ya existentes. La interacción con el usuario se volverá más natural y probablemente más persuasiva, pero el motor de fondo seguirá siendo el algoritmo que ordena resultados y personaliza la experiencia. 

Cuando el 'filtro burbuja' empieza a conversar 

Ese desplazamiento importa porque cambia la forma en que se ejerce la influencia. Si hasta ahora la personalización se manifestaba a través de listas o rankings, la nueva capa conversacional puede convertir ese filtro en una experiencia más fluida. 

Eso abre dos escenarios. El primero es que el problema se intensifique: los modelos generativos tienden a adaptarse al tono del usuario y a responder de forma convincente. Si esa capacidad se integra con sistemas optimizados para reforzar afinidades, la recomendación puede convertirse en una forma de persuasión más sutil. La burbuja ya no solo organiza la experiencia: también empieza a hablar. Torrens advierte que esta capa puede profundizar el fenómeno mediante marcos persuasivos y narrativas personalizadas. 

El segundo escenario es más prometedor. Esa misma conversación podría utilizarse para introducir contexto y abrir la puerta a perspectivas menos previsibles. La IA generativa también podría ayudar a mitigar el 'filtro burbuja' si se diseña para ampliar el horizonte del usuario. 

Una cuestión de diseño y poder 

La tecnología, por sí sola, no resuelve el dilema. Todo depende de qué objetivos se prioricen y de cómo se diseñe esa mediación. Durante años, el éxito de los sistemas de recomendación se ha medido sobre todo en términos de rendimiento: más clics, más tiempo de permanencia y más conversión. Pero cuando estos sistemas median de forma tan decisiva nuestra relación con la información, esa métrica ya no basta. 

La pregunta de fondo es qué tipo de ecosistema digital queremos construir. ¿Uno que se limite a confirmar preferencias y maximizar la comodidad? ¿O uno que, además de ser útil, preserve espacio para el descubrimiento y el juicio crítico? 

En la era de la IA generativa, la batalla por nuestra atención no se jugará solo en el terreno de los chatbots. También se decidirá en la arquitectura invisible que organiza lo que aparece ante nosotros y en cómo esa arquitectura se vuelva conversacional. La IA más influyente quizá no sea la que más habla, sino la que selecciona y prioriza aquello a lo que prestamos atención. Por eso, el futuro de la recomendación ya no es solo una cuestión técnica: es, cada vez más, una cuestión ética.