Los nuevos actores: Agentes inteligentes y el futuro de los negocios

La inteligencia artificial está entrando en una nueva fase. Mientras que los chatbots y la IA generativa han estado en el centro de las discusiones, una nueva generación de agentes inteligentes está emergiendo como actores clave. Estos agentes, diseñados para operar de manera autónoma en diversos entornos, están transformando el comercio, la atención al cliente y la logística. Pero, ¿qué significa este cambio para las empresas y la sociedad? 

En el evento 4YFN durante el MWC Barcelona, un panel de expertos exploró las oportunidades y desafíos de este cambiante panorama de la IA. La conversación contó con la participación de Xavier Amatriain, vicepresidente de Producto (IA and Compute Enablement) en Google; Omar Puertas, experto en IA y socio de Cuatrecasas; Rosa Martínez Torres, directora de Inteligencia Artificial en CaixaBank Tech; y Sergio Álvarez-Napagao, Lead Researcher en el Barcelona Supercomputing Center. La discusión fue moderada por Esteve Almirall, profesor del Departamento de Operaciones, Innovación y Data Sciences en Esade. 

Comprender los agentes inteligentes: más allá de los modelos de IA

Xavier Amatriain abordó un malentendido común en la industria: la diferencia entre los modelos de IA y los agentes inteligentes. “Todo el mundo habla de agentes, pero nadie sabe realmente qué son”, comentó. 

Mientras que los modelos de IA generan resultados basados en datos, los agentes inteligentes integran modelos, herramientas y señales externas para actuar en el mundo. No solo reaccionan, sino que poseen una forma de razonamiento a largo plazo, tomando decisiones más allá de respuestas inmediatas. El verdadero desafío, según Amatriain, radica en diseñar estos agentes con acceso adecuado a herramientas y datos que los hagan realmente útiles para las empresas. 

Cuando la IA se percibe como una nueva forma de inteligencia profesional, se vuelve transformadora e irreversible

Aunque muchos aún ven la IA como una herramienta de automatización, Omar Puertas tiene otra perspectiva. “La IA como asistente o copiloto es una distracción. Lo realmente transformador es que estamos razonando con la tecnología”. La IA está emergiendo como un socio activo en el pensamiento. En lugar de simplemente acelerar procesos existentes, puede alterar fundamentalmente la forma en que las organizaciones conciben sus operaciones. 

“Si la IA se usa solo como una herramienta de productividad, no será transformadora. Pero si se ve como una nueva forma de inteligencia profesional, se vuelve transformadora e irreversible”, añadió. El verdadero valor de la IA reside en su capacidad para mejorar el pensamiento humano. Por ejemplo, puede generar múltiples contraargumentos basados en criterios específicos, permitiendo a los profesionales explorar perspectivas que de otro modo no habrían considerado. 

Pensemos en el sector legal. La IA no solo ejecuta tareas, sino que evalúa críticamente argumentos, estrategias y estructuras de razonamiento. Esta transformación permite a las empresas incorporar la IA en la toma de decisiones, pasando de simples mejoras en eficiencia a una verdadera aumentación cognitiva. 

Transformando la banca con decisiones impulsadas por IA

El sector bancario ha estado siempre a la vanguardia de la adopción de la IA, desde la detección de fraudes hasta la automatización de interacciones con clientes. Sin embargo, como destacó Rosa Martínez, la irrupción de la IA generativa está cambiando el paradigma. “Las herramientas de IA ya no son exclusivas de los equipos técnicos; ahora están al alcance de casi cualquier persona”. 

Uno de los mayores impactos se da en la atención al cliente, donde los modelos de IA pueden responder a consultas complejas de manera estructurada y atenta. Más allá de las interacciones con los clientes, la IA generativa permite a los bancos adoptar un enfoque más proactivo, identificando necesidades antes de que surjan y ofreciendo soluciones financieras personalizadas. 

No obstante, Martínez subrayó que las empresas deben utilizar la IA de manera estratégica. Es fundamental determinar dónde aplicar la IA generativa y dónde pueden ser más apropiadas otras tecnologías. Además, las empresas deben ser adaptables, ya que los modelos de IA evolucionan rápidamente. La clave del éxito, señaló, radica en la calidad de los datos: “Los datos precisos, completos y extensos son fundamentales. No todas las organizaciones están en el mismo nivel en cuanto a preparación de datos”. 

Los desafíos de la transparencia y la responsabilidad

Sergio Álvarez-Napagao ofreció una visión desde la vanguardia del desarrollo de la IA. Aunque actualmente disponemos de modelos generativos para casi todo, la característica definitoria de los agentes inteligentes es su capacidad para percibir e interactuar con su entorno de maneras específicas. Álvarez-Napagao, quien lleva años investigando agentes inteligentes en el Barcelona Supercomputing Center, señaló un gran inconveniente: “Todavía no entendemos completamente por qué los modelos de IA funcionan como lo hacen o por qué presentan ciertas propiedades”. 

Debemos pensar en los agentes de IA como herramientas que amplifican nuestras capacidades, pero siempre con un humano responsable de sus decisiones

Esto nos lleva a una de las preocupaciones más urgentes en torno a los agentes inteligentes: la asunción de responsabilidaes. A medida que los sistemas de IA ganan más autonomía, surge la pregunta: ¿quién es responsable de sus acciones? Amatriain advirtió que la IA no posee conciencia —ni agencia moral—. “Debemos pensar en ellos como herramientas que amplifican lo que hacemos, pero siempre debe haber un humano responsable de sus decisiones”, afirmó. 

Pensemos en un escenario hipotético donde una empresa entrena un agente de IA para actuar como su CEO. Si este agente tomara una decisión perjudicial, la cuestión de la responsabilidad legal y ética sería extremadamente compleja. El mismo dilema se extiende a muchas otras áreas donde las decisiones impulsadas por IA ya son una realidad. ¿Qué sucede cuando la IA decide quién recibe un préstamo o una ayuda social? ¿Quién es contratado o despedido? O, en ámbitos aún más problemáticos, ¿qué ocurre cuando una IA militar decide qué o quién es un objetivo legítimo? 

La frontera de la investigación en IA: ¿qué sigue?

De cara al futuro, Álvarez-Napagao sugirió que los agentes de IA pronto estarán profundamente integrados en la vida cotidiana. “Hace diez años, no podríamos haber imaginado el nivel de imágenes generadas por IA que tenemos hoy”, afirmó. En su opinión, dentro de otra década, podríamos ver robots domésticos, hospitalarios y de asistencia capaces de planificar, moverse de forma autónoma y ayudar en tareas diarias. Sin embargo, enfatizó la importancia de la educación del usuario: si no preparamos adecuadamente a las personas para interactuar con estos agentes, “corremos el riesgo de cometer errores significativos”. 

Uno de los temas más intrigantes de la discusión giró en torno a la capacidad de la IA para entrenarse a sí misma. Amatriain confirmó que la mayoría de los datos utilizados para entrenar modelos de IA ya están siendo etiquetados por otros modelos de IA. “Esto está evolucionando rápidamente. Es emocionante ver que estos modelos están en camino de descubrir soluciones a problemas que ni siquiera hemos considerado aún”, apuntó. Por ejemplo, podrían desempeñar un papel clave en la cura de enfermedades al identificar patrones que los humanos pasarían por alto. 

Sin embargo, esta rápida automejora también conlleva riesgos. Es crucial mantener una supervisión y comprender qué está ocurriendo dentro de estos modelos. La idea de un bucle de automejora sin control es preocupante, tal como señaló Amatriain. Aunque algunos especulan que ciertos modelos ya han entrado en esta fase, enfatizó la importancia de la supervisión humana para garantizar que la IA siga alineada con las necesidades de la sociedad. 

El futuro de los agentes de IA

A medida que los agentes inteligentes ganan protagonismo, las empresas deben adaptarse a un panorama en constante evolución. Las preocupaciones éticas, la transparencia y la regulación desempeñarán un papel crítico en la configuración del futuro de la IA. El reto para empresas y legisladores es aprovechar el poder de los agentes inteligentes mientras se garantiza que sirvan a los mejores intereses de la humanidad.