El diseño de la IA es una elección — y la gente merece mejores opciones
Al priorizar la innovación centrada en el ser humano, la IA puede empoderar a los usuarios y fomentar la confianza, la satisfacción y el enriquecimiento mutuo entre personas y máquinas.
En la primera parte, analizamos cómo la IA limita la experiencia humana.
Cuando Ana Valenzuela, profesora de los programas Full Time MBA y Executive MBA de Esade, y un equipo internacional de investigadores estudiaron el impacto de la IA en la experiencia humana, descubrieron que lo que es bueno para los negocios no es necesariamente bueno para el consumidor.
Su análisis, publicado en el Journal of the Association of Consumer Research, reveló que, en lugar de mejorar la experiencia del consumidor, las interacciones con la IA reducen y limitan sus opciones. El impacto va más allá de restringir interacciones: la IA conlleva el riesgo de provocar una pérdida de habilidades similar a la que se produjo durante la Revolución Industrial, solo que esta vez afectaría a los trabajadores del conocimiento, así como a nuestras habilidades emocionales y sociales en general.
Sin embargo, a diferencia de lo que ocurrió con las ruedas hidráulicas y las máquinas de vapor que quedaron relegadas al pasado, en esta ocasión es personal. Lo que está en juego es la capacidad de los seres humanos para interactuar de manera natural, en tanto que estamos adaptando nuestro comportamiento para alinearnos con las máquinas.
Dado que las implicaciones para el futuro del trabajo y la sociedad son evidentes, Valenzuela y sus coautores afirman que ha llegado el momento de que el diseño de la IA se centre en las necesidades de las personas —y los beneficios para las empresas llegarán como consencuencia—.
Tendencias en la regulación de la IA
El futuro de la IA no es completamente distópico: los avances en investigación y tratamiento médico, por ejemplo, aportan grandes beneficios a los usuarios. Pero al mismo tiempo, no se pueden ignorar los riesgos de desarrollar y desplegar esta tecnología sin supervisión.
Los reguladores están siendo presionados para implementar de manera urgente normativas que protejan a los usuarios, y ha habido algunos avances. En agosto, entró en vigor la primera legislación del mundo destinada a regular la IA, la AI Act de la Unión Europea. Esta normativa establece prohibiciones sobre usos que amenazan derechos fundamentales, como la manipulación del comportamiento, el reconocimiento de emociones y la puntuación social.
En Estados Unidos, la administración Biden dio los primeros pasos con el Blueprint for an AI Bill of Rights, una orden ejecutiva sobre IA segura y un National Security Memorandum que establece estándares éticos para la IA en seguridad nacional. No obstante, aún no existe una legislación federal que regule el uso de la IA, y Donald Trump ha prometido priorizar la innovación sobre la regulación.
Independientemente del rumbo que tome la nueva administración estadounidense en materia de IA, la regulación global existente o en discusión se centra en criterios objetivos como la privacidad o los sesgos en la toma de decisiones algorítmica. Y aunque estos aspectos son sin duda relevantes, se está pasando por alto el impacto de la IA en la psicología humana.
Diseñando el futuro de la IA
La investigación de Valenzuela y sus coautores destaca tres áreas de preocupación que consideran especialmente relevantes para los legisladores:
- Transferencia de agencia: las personas ceden su autonomía a la IA, perdiendo habilidades y capacidad de decisión.
- Reduccionismo paramétrico: la IA traduce el comportamiento, la identidad y las preferencias humanas en datos legibles por máquinas, simplificándolos en exceso.
- Expresión regulada: la IA limita la comunicación auténtica y restringe la capacidad de expresión personal.
Inspirándose en los fenómenos psicológicos observados en su investigación, Valenzuela y su equipo han propuesto cuatro innovaciones basadas en el diseño que pueden abordar estos problemas:
Diversificar las opciones
La IA predictiva ofrece opciones basadas en comportamientos pasados, lo que limita las elecciones disponibles y conduce a los consumidores a una madriguera de material cada vez más de nicho. En lugar de ofrecer más de lo mismo, los algoritmos deberían diseñarse para ayudar a las personas a descubrir nuevos productos y servicios.
Ampliar la exposición
Del mismo modo, la IA suele ser criticada por crear cámaras de eco que refuerzan las creencias propias en lugar de desafiarlas. Si el objetivo del diseño es expandir el conocimiento en lugar de restringirlo, los consumidores estarán expuestos a nuevas perspectivas y a una mayor diversidad de opiniones.
Mejorar la funcionalidad
A simple vista, la IA parece personalizar la experiencia del usuario, pero en realidad los consumidores tienen poco o ningún control sobre el sistema. TikTok, por ejemplo, puede ofrecer una secuencia de vídeos de baile porque un usuario se detuvo en uno, pero ¿fue porque le gustó la canción o porque quería aprender los pasos? Incorporar opciones para que los usuarios tengan más control puede beneficiar a ambas partes. Si el usuario puede especificar que quiere aprender una nueva habilidad y el contenido se ajusta a ello, es más probable que regrese a la plataforma e incluso esté dispuesto a pagar por el servicio.
No antropomorfizar la IA
Las investigaciones muestran que las personas tienden a antropomorfizar la IA, interactuando con ella de la misma manera que lo harían con otros seres humanos. Esto las hace susceptibles a los mismos sesgos cognitivos y sociales que experimentan en interacciones humanas, al tiempo que subestiman la capacidad de la IA para extraer y explotar información. Los consumidores deben ser educados sobre cómo abordar la IA con una mentalidad más deliberativa: en lugar de aplicar instintivamente metáforas centradas en el ser humano, deberían adoptar nuevas formas de comprender la IA como una máquina altamente sofisticada.
La IA aporta numerosos beneficios a los negocios, pero cada vez es más necesario explorar cómo puede optimizar la experiencia humana. El diseño, según el equipo de dirigido por la profesora Valenzuela, es una elección. Si se tienen en cuenta las preferencias de los consumidores a la hora de desarrollar la tecnología, las futuras relaciones entre humanos y máquinas podrán basarse en la confianza, la satisfacción y el enriquecimiento mutuo, y no en la búsqueda del beneficio a cualquier precio.