Por qué la tecnología del futuro debe ser más prosocial
Cada vez más jóvenes utilizan la IA como si fuera un amigo o un terapeuta: le piden consejo o confían a ella para hablar de sus problemas. Pero, ¿es esto saludable? ¿Qué hay detrás de este comportamiento?
A medida que más jóvenes recurren a la IA en busca de orientación y consuelo, surgen preguntas sobre lo que implica utilizarla como sistema de apoyo emocional y qué dice esto sobre nuestras relaciones sociales. Un creciente sentimiento de soledad y necesidades emocionales no satisfechas —combinado con la accesibilidad, el anonimato y la ausencia de juicio de la IA— está transformando la forma en que entendemos las conexiones sociales.
Esta cuestión se abordó en el evento 4YFN en Barcelona, en una conversación liderada por Liliana Arroyo, directora de la Chair for Socially Responsible Digital Innovationde en Esade. Arroyo dialogó con Alison Lee, Chief R&D Officer de The Rithm Project, y con la investigadora Marisol Jiménez para explorar qué significa la IA para las relaciones humanas, especialmente entre las generaciones más jóvenes.
Una encuesta reciente de The Rithm Project, realizada a 2.400 jóvenes de entre 13 y 24 años en Estados Unidos, analizó cómo utilizan las herramientas de IA y qué revelan estas interacciones sobre su vida social, su bienestar emocional y su sentido de conexión humana.
Soledad en la era de las máquinas inteligentes
El uso de la IA como apoyo social no ocurre en un vacío. Forma parte de un fenómeno más amplio: el aumento global de la soledad. En Estados Unidos, distintos estudios muestran que la soledad entre los jóvenes lleva creciendo desde principios de la década de 2010. En España, el 87 % de los jóvenes encuestados afirma haber experimentado soledad. Al mismo tiempo, la IA generativa ha evolucionado hasta poder mantener conversaciones que resultan casi humanas.
El problema no es la falta de amigos o familia, sino la calidad de esas relaciones y el grado de comodidad emocional que ofrecen
“The Rithm Project nació cuando vimos dos fuerzas a punto de colisionar: la epidemia de soledad y el auge de la IA generativa”, explica Lee. “Los jóvenes pasan más tiempo solos que nunca y menos tiempo en comunidad con sus iguales. Y, al mismo tiempo, vemos cómo esta tecnología —los grandes modelos de lenguaje— está preparada para redefinir las relaciones humanas”.
¿Quién recurre realmente a la IA como apoyo emocional?
Uno de los hallazgos más sorprendentes del estudio es que muchas personas que se sienten solas no están utilizando las relaciones sociales que ya tienen. El problema no es tanto la falta de amigos o familiares, sino la calidad de esas relaciones y la dificultad para sentirse cómodos al pedir ayuda o compartir preocupaciones.
“Partíamos de la hipótesis de que los jóvenes más aislados socialmente serían los que recurrirían a la IA de forma más íntima”, explica Lee.
Sin embargo, el estudio reveló que muchos de los jóvenes que utilizan la IA para pedir consejo, buscar compañía o apoyo emocional son personas con redes sociales relativamente ricas y buena salud mental.
La clave, por tanto, no es la cantidad, sino la calidad de las relaciones humanas. Sentirse una carga, temer el juicio o no saber cómo reaccionará el otro puede dificultar conversaciones significativas.
Jiménez lo ilustra con un ejemplo cotidiano: “Si estoy desbordada a las dos de la mañana en mi habitación, no quiero despertar a mi mejor amiga porque no quiero cargarla con mis problemas”.
En este sentido, la IA cubre vacíos que ya existían en las relaciones sociales, ofreciendo una interacción inmediata, accesible y sin fricciones.
Diseñar una ‘IA prosocial’
Si las personas —y especialmente los jóvenes— se sienten más inclinadas a acudir a la IA para orientación práctica y emocional, surge una pregunta clave: ¿cómo deben diseñarse estos sistemas?
The Rithm Project propone un marco basado en cinco principios para guiar el desarrollo de tecnologías digitales y asegurar que refuercen, en lugar de debilitar, las relaciones humanas.
El objetivo es desplazar el diseño de la IA desde métricas de interacción hacia el bienestar humano y la conexión social
El primer principio es la transparencia artificial: la IA debe comunicar claramente que es una herramienta, no un agente humano. Por ejemplo, al ofrecer apoyo emocional, debería establecer límites claros.
Otro principio clave es la fricción productiva. Actualmente, la IA tiende a ser complaciente, validando al usuario para resultar útil o agradable. Pero esto puede generar cámaras de eco peligrosas. Según Lee, los sistemas deberían introducir momentos de fricción que desafíen al usuario y amplíen su perspectiva.
Un tercer principio se centra en la transferencia al mundo real, asegurando que lo aprendido en entornos digitales tenga un impacto positivo fuera de ellos. Otros principios abordan la representación equitativa en los datos de entrenamiento y la necesidad de reforzar la seguridad y la confianza, especialmente para usuarios vulnerables.
Por qué la voz de los jóvenes es clave
Un aspecto relevante del estudio es que no solo participaron expertos, sino también jóvenes estudiantes.
The Rithm Project creó grupos intergeneracionales que analizaron conjuntamente los datos y debatieron sus implicaciones. Como explica Jiménez, la participación juvenil no se limitó a validar resultados, sino que formaron parte del propio diseño de la investigación: “La cocreación con jóvenes no consiste solo en pedir feedback, sino en construir la investigación juntos”.
Este tipo de colaboración requiere generar espacios donde los participantes se sientan cómodos para expresarse, lo que permite comprender mejor cómo se relacionan tecnología y dinámicas sociales.
La tecnología no puede resolver la soledad por sí sola
El aumento del uso de la IA y la soledad no son consecuencia directa de la Inteligencia Artificial. La creciente sensación de aislamiento responde a problemas sociales más amplios. “La conexión humana es responsabilidad de todos. No es solo un problema que deba resolver la tecnología”, afirma Lee.
El estudio subraya la necesidad de mirar más allá de las plataformas digitales y analizar los entornos donde los jóvenes viven, estudian y se relacionan. Escuelas, familias, organizaciones comunitarias y responsables políticos tienen un papel fundamental en fomentar la conexión social.
Sin embargo, muchos espacios físicos y sociales que antes facilitaban la interacción han desaparecido o se han vuelto menos accesibles. Los espacios públicos, programas juveniles y entornos comunitarios han disminuido en muchas áreas, reduciendo las oportunidades de socialización.
Por ello, como señala Lee, “los jóvenes recurren a la tecnología para suplir necesidades reales que no están siendo cubiertas en su vida cotidiana”.
Y esto no es solo un reto para la industria tecnológica. Educadores, familias y líderes sociales también deben preguntarse por qué los jóvenes buscan apoyo en herramientas digitales. Como plantea Arroyo: “¿Por qué limitarse a arreglar la tecnología? ¿Por qué no rediseñar también nuestros sistemas sociales, políticos y legales para que sean realmente prosociales?”
Oportunidades de futuro
Aunque la investigación pone de relieve los retos de construir una IA verdaderamente justa, los participantes coinciden en que aún hay margen para orientarla hacia un enfoque más prosocial.
“El futuro no está escrito”, afirma Lee. “La presión de la opinión pública está teniendo impacto. Las restricciones al uso de tecnología por parte de jóvenes en países como Australia, Francia, Dinamarca, Portugal o España envían un mensaje claro a la industria. Y también es esperanzador ver a los propios jóvenes impulsando cambios y reclamando mayor protección”.
El objetivo no debería ser solo limitar los riesgos de la IA, sino imaginar cómo puede contribuir a formas más saludables de conexión humana.
Pasar de la interacción al sentido de pertenencia no dependerá únicamente de la tecnología, sino también de los entornos sociales que determinan cómo nos relacionamos.