¿Qué pueden aportar la ética y la espiritualidad al desarrollo de la IA?
El despliegue tecnológico nos exige regresar a los fundamentos de la ética y la reflexión humanista. A su vez, las incógnitas sobre su futuro nos interrogan sobre el valor y sentido de la vida humana.
“La inteligencia artificial (IA) está generando profundos cambios en la vida de los seres humanos, y continuará haciéndolo”. Con esta frase empieza el documento titulado Rome Call for AI Ethics, elaborado por el Vaticano y la Fundación RenAIssance, y que ya han firmado 150 participantes, entre los que se encuentran representantes de las once religiones más importantes del mundo, 13 países, la FAO, numerosas organizaciones y algunas de las principales empresas tecnológicas como Microsoft, Cisco o IBM.
Por el amplio eco que está consiguiendo, constituye un documento de referencia sobre la relación entre la IA y la ética en un mundo caracterizado por múltiples modelos e iniciativas regulatorias de todo tipo que intentan, según los países y contextos, impulsar, encauzar o poner freno al desarrollo de esta tecnología. Algún autor ha descrito este cúmulo de iniciativas como un “mar de documentación ingente sobre la IA que nos inunda con la fuerza de un tsunami”.
En julio asistimos a dos iniciativas especialmente relevantes. La primera fue la invitación que el G-7 realizó al Papa Francisco para hablar de la IA. La segunda, el encuentro que las principales religiones del mundo tuvieron en Hiroshima (Japón), donde se presentó un documento sobre esta tecnología elaborado por los organizadores del encuentro y representantes de las tres religiones abrahámicas: la Academia Pontificia para la Vida, el Foro de Abu Dhabi para la Paz y la Comisión para Relaciones Interreligiosas del Rabinato Principal de Israel. Este documento ha recibido el nombre de Llamamiento de Hiroshima, relacionando la potencia de esta tecnología con todo el simbolismo del lugar. El texto reitera la necesidad de utilizar la IA sólo para el bien de la humanidad y del planeta e insta a la comunidad internacional a utilizar vías pacíficas para resolver cualquier conflicto, pidiendo el cese inmediato de todos los conflictos armados.
Si no se adopta un marco legal y ético viable y confiable, las empresas pueden verse atrapadas entre normas inconsistentes o contradictorias
La sensación, por tanto, es que vivimos en un momento de especial relevancia. Casi cada día asistimos a un nuevo anuncio sobre las posibilidades inmensas de esta tecnología. En paralelo, también aumenta la consciencia sobre sus riesgos. Desde el punto de vista empresarial, no hay sector de actividad económica que quede al margen de esta ola tecnológica. Esto, por supuesto, es una enorme oportunidad de negocio para algunos. La IA es un paso más en el proceso de optimización o maximización de la eficiencia que caracteriza nuestra economía global. Pero también hay tres riesgos principales. El primero es reputacional, derivado de los escándalos que produzca el mal uso o los errores en el diseño de las aplicaciones. El segundo es operativo, ya que “si no se adopta rápidamente un marco legal y ético viable y confiable con efectividad demostrable, las empresas pueden verse atrapadas en un atolladero de normas y leyes inconsistentes e incluso contradictorias”, tal y como dice el informe de la Universidad de Santa Clara (California, EE.UU.) Ethics in the Age of Disruptive Technologies (p. 16). El tercero es estratégico, ya que, dependiendo de donde se encuentren, hay empresas que tienen pocas o ninguna restricción para desarrollar esta tecnología sin impedimentos.
La magnitud de los retos
El problema no es solo económico o empresarial. Los cambios y la disrupción que está provocando esta tecnología tienen consecuencias sobre la delincuencia, la guerra, el cambio climático, la inmigración, las relaciones sociales dentro de cada país y, en fin, la estabilidad de la democracia. No todos estos retos son exclusivamente consecuencia del cambio tecnológico, pero sin duda los afecta y acentúa de una manera especial.
Pero los retos son tan numerosos y grandes que no es fácil saber por dónde empezar. La sacudida o el desbordamiento que están experimentando nuestros marcos tradicionales de pensamiento llevan a buscar nuevas referencias desde donde construir un nuevo edificio normativo que sea realmente universal. De aquí que la mirada se vuelva hacia la ética. Como se indica en el citado informe:
- La ética es la base sobre la cual la gente construye todo lo demás. Buenas relaciones éticas crean confianza, y la confianza es en lo que se basa toda institución social. Sin ella, las relaciones se desmoronan, y si suficientes relaciones sociales se desmoronan, ya no se vive en sociedad, sino en anarquía. (p.11)
El problema es cómo y dónde encontrar una base común cuando precisamente nuestras sociedades están impulsando —o está aumentando por diversas razones— el pluralismo y la diversidad. En otras palabras, la dificultad es que no hay una base indiscutida sobre la que apoyarnos.
Vuelta a los fundamentos morales
La definición tradicional de la ética, que se remonta a Aristóteles, define esta rama de la filosofía como “la ciencia que estudia el carácter y las acciones humanas con el propósito de realizar el bien”. La ética, por tanto, tiene tres elementos: a) el sujeto que realiza la acción; b) la acción que se realiza; y c) el resultado de la acción, entendiendo que la acción humana no es neutra. En función de qué elemento se ha considerado más importante aparecen las principales corrientes éticas que han marcado la historia de Occidente: la ética de la virtud, la deontología y el consecuencialismo. La siguiente tabla ofrece una breve descripción:
| Énfasis | Teoría "paraguas" | Pregunta Moral | Teorías éticas | Fuente |
| La persona | Ética de la virtud | Cómo ser una buena persona | Ética aristotélica | Punto medio entre extremos, finalidad del ser humano |
| La acción | Deontología | Qué acciones son correctas en sí mismas o con qué intención se han realizado | Ética del deber | Universalismo, ser humano como fin |
| Derechos humanos | Declaraciones de DDHH | |||
| Éticas religiosas | Mandamientos divinos | |||
| La consecuencia de la acción | Consecuencialismo | Los actos son buenos en función de sus consecuencias | Utilitarismo | Sopesar dolor vs placer para el mayor número de personas |
Este esquema, válido para una ética general, se ve significativamente alterado ante la emergencia de la IA. De entrada, podemos decir que la IA refuerza los planteamientos de tipo consecuencialista o utilitarista. La justificación de esta tecnología reside en los resultados tan extraordinarios que consigue, gracias a la ingente cantidad de datos que maneja y su velocidad de computación, aunque existe una discusión abierta sobre sus efectos en algunos campos de actividad.
Algunos autores destacan los riesgos éticos de esta tecnología asociados a los sesgos o errores en el diseño de los algoritmos. Estos, sin embargo, deberían ser subsanables a medida que se identifican. En nuestra opinión, el mayor problema reside precisamente en su éxito, y cómo un sistema con capacidades netamente superiores a las del ser humano puede alterar la comprensión de lo que somos y nuestro lugar en la sociedad.
La IA y sus efectos sobre la ética
Frente al esquema general de la ética, la IA introduce o incide en tres elementos. En primer lugar, en la acción. Esta tecnología no actúa como una extensión de la acción humana (como ocurre, por ejemplo, con un coche conducido por una persona), sino que se trata de un sistema capaz de actuar por sí mismo adaptando su comportamiento al entorno, analizando los efectos de sus acciones anteriores y trabajando de manera autónoma (Pegoraro y Curzel, 2023, p. 316). Desaparece la persona que realiza la acción, o esta se convierte en un apéndice de una decisión tomada por la máquina.
En segundo lugar, redobla la importancia de las organizaciones empresariales como sujetos o agentes morales. Es conocido el papel relevante que las empresas tienen sobre nuestra realidad económica y social. Sin embargo, la irrupción de la IA asigna un rol cuantitativo y cualitativo muy superior a estas organizaciones. Poco a poco, la tecnología se hace omnipresente y es difícil encontrar una actividad humana en la que no esté o pueda estar involucrada. Las empresas tecnológicas extienden su actuación e influencia por todo el mundo, disputándose el poder incluso con algunos estados. Por ello, la reflexión sobre esta tecnología no se sitúa a nivel de un sector o una actividad concreta, sino a nivel más global. Esto se aprecia en la cantidad de iniciativas que buscan garantizar que la tecnología sea o esté al “servicio a la humanidad”, “para el bien”, “centrado en lo humano”, “ética por diseño” y “abierta”.
En este sentido, una iniciativa muy oportuna y que ya hemos mencionado ha sido el acuerdo entre el Vaticano y la Universidad jesuita de Santa Clara, situada en Sillicon Valley, para elaborar el manual de uso de esta tecnología por parte de las organizaciones empresariales. El informe titulado Ethics in the Age of Disruptive Technologies: An Operational Roadmap o ITEC Hanbook fue publicado en 2023 y tiene como objetivo principal “ayudar a las empresas que desarrollan, adquieren o aprovechan las tecnologías avanzadas, a comprender los riesgos éticos que introducen dichas tecnologías; e implementar la infraestructura necesaria para mitigar esos riesgos en todo el ciclo vital de sus productos o servicios”.
La hibridación entre el hombre y la tecnología puede hacer emerger un nuevo sujeto humano
El documento propone un marco ético detallado y completo que debe actuar a un doble nivel: la gestión del ciclo de vida de los productos y servicios basados en IA que se ofrecen en el mercado, y el nivel organizativo y cultural de la empresa. Este marco tiene una estructura triple. Está construido sobre un principio ancla: la tecnología tiene que servir para el bien común de la humanidad y del medio ambiente. Se articula en siete principios guía, que son el resultado de un gran proceso de diálogo entre distintas culturas y religiones, incluidas personas que no pertenecen a ninguna confesión religiosa.
Estos siete principios son los siguientes:
- Respeto por la dignidad y los derechos humanos
- Promoción del bienestar humano
- Invertir en humanidad
- Promoción de la justicia, el acceso, la diversidad y la inclusión
- Reconocimiento de que el planeta es para toda vida
- Mantener la responsabilidad
- Transparencia y explicabilidad
Cada uno de estos se despliega, a su vez, en otros principios más detallados.
El tercer elemento es que emerge un nuevo sujeto ético que afecta al valor y el sentido de la vida humana. Nuestra tradición filosófica liga la dignidad del ser humano a la autonomía y la razón. Pero estas características las tendrá en un futuro quizás no muy lejano la IA. Elaborando esta línea de pensamiento, algún autor, como Nick Bostrom, ha postulado otorgar un estatus no inferior al humano a las aplicaciones de esta tecnología que desarrollen autoconciencia o algo que se le parezca. En última instancia, la hibridación entre el hombre y la tecnología que algunos proponen puede hacer emerger un nuevo sujeto humano. El libro de Ray Kurzweil, The Singularity is Near, es un buen ejemplo de estos planteamientos.
En sentido positivo, quizás la IA puede ayudarnos a darnos cuenta de que lo humano es mucho más complejo, rico y ambiguo que una serie de capacidades racionales. En The Essentials of Theory U, el profesor Otto Scharmer, del MIT, explica que tenemos tres dimensiones constitutivas: la relación con nosotros mismos, nuestras relaciones sociales y nuestra relación con la naturaleza (pp. 16-18). Un análisis de estas dimensiones ayuda a entender muchos de los problemas sociales y psicológicos que caracterizan nuestros días. No en vano uno de los efectos de la nueva tecnología es precisamente la fragmentación de las relaciones (Pegoraro y Curzel, 2023, p. 317). Estas tres dimensiones abren a una comprensión espiritual del ser humano, caracterizado precisamente por su búsqueda de un equilibrio entre la corporalidad y su deseo de trascendencia.
Formación en una IA humanista
En Esade tenemos la ventaja de que nuestro marco pedagógico incorpora una visión holística del ser humano, así como una alta sensibilidad a nuestro mundo y las injusticias o desigualdades que en él existen. Por nuestra tradición y participación en la red jesuita de universidades también podemos tener un acceso especial a algunas de las instituciones o movimientos que hemos mencionado en este artículo. En cualquier caso, el desarrollo de la IA forma parte de un reto que afectará profundamente la enseñanza y nuestro futuro en este sector. La apuesta por el refuerzo de la ética y nuestro modelo pedagógico 4Cs son buenos pasos para, al menos, iniciar la reflexión desde un suelo compartido.