La regulación de la inteligencia artificial o el camino hacia los límites éticos

Por Lola Bardají

En ocasiones, la voz de un personaje relevante y representante de un poder “fáctico” indiscutible puede llegar a calar más hondo y con más rapidez que cualquier voz pública institucional.

Pichai Sundararajan, más conocido como Sundar Pichai, CEO de Google y Alphabet, ha destacado recientemente, en declaraciones al Financial Times, la necesidad de regular la inteligencia artificial (IA) para evitar que puedan traspasarse los límites éticos. 

En definitiva, el ejecutivo de Google comparte la idea de que, por encima de todo, debe prevalecer el uso adecuado de la IA a favor de la sociedad, al tiempo que resalta los muchos beneficios que en distintos órdenes de la vida proporciona el avance tecnológico alimentado por este tipo de inteligencia.

Pero ha llegado el momento de establecer límites para que dicho avance no resulte arbitrario, desordenado y perjudicial para las personas en su dimensión individual.

Cuestiones como el uso del reconocimiento facial no pueden ir avanzando sin garantizar la protección de los derechos individuales

Cuestiones como el uso del reconocimiento facial no pueden ir avanzando sin control y sin unas reglas que permitan considerarlo una tecnología que garantiza el respeto y la protección de los derechos individuales.

El mismo día en que Pichai se pronunció sobre la necesidad de regular la IA, la Casa Blanca hizo público el borrador de Memorandum for the heads of executive departments and agencies en materia de inteligencia artificial, siguiendo la agenda fijada en febrero del 2019 cuando lanzó la Executive order on maintaining American leadership in artificial intelligence (Orden Ejecutiva 13859). 

El propósito del memorándum es recoger los principios que deben inspirar las iniciativas reguladoras y no reguladoras de las agencias federales en materia de IA, señalando de manera explícita que el espíritu en estas acciones ha de ser no obstaculizar innecesariamente la innovación y el crecimiento de la inteligencia artificial.

Los 10 principios que se enuncian en el memorándum (Principles for the stewardship of AI applications) son:

  1.  Confianza pública en la inteligencia artificial
  2. Participación pública
  3. Integridad científica y calidad de la información
  4. Evaluación y gestión de riesgos
  5. Beneficios y costes
  6. Flexibilidad
  7. Equidad y no discriminación
  8. Divulgación y transparencia
  9. Seguridad y protección
  10. Coordinación entre agencias

Esta declaración de intenciones de la Casa Blanca, que busca dotar de seguridad, a todos los niveles (público y privado), al desarrollo de aplicaciones de IA, se enmarca entre dos prioridades que se enuncian sin disimulo: la falta de claridad normativa no puede impedir la innovación y la cooperación internacional es imprescindible en este terreno.

El propio Pichai, en sus declaraciones al Financial Times, destaca la necesidad de la cooperación internacional, al menos para consensuar los “valores fundamentales” que deben prevalecer en esta materia. Es más, apela al modelo normativo europeo, representado por el Reglamento General de Protección de Datos (RGPD), que considera una buena base normativa para entender que “no se parte de cero”.

La Comisión Europea establecerá nuevas reglas sobre inteligencia artificial en sectores de alto riesgo

Pero quizás esa necesidad puede convertirse en un obstáculo –ya veremos si insalvable o no–, porque es una realidad que la denominada “cultura de la innovación” es muy diferente en los Estados Unidos con respecto a Europa. 

De entrada, acabamos de conocer a través de Bloomberg que la Comisión Europea está trabajando en un borrador de Libro blanco sobre inteligencia artificial con la finalidad de establecer nuevas reglas y exigencias legales en sectores que pueden considerarse de “alto riesgo”, como el de la salud o el de los transportes (se espera que el documento se haga público en febrero).

Parece que el borrador puede incluir una disposición relativa a la prohibición del uso del reconocimiento facial por parte de las autoridades públicas, así como normas restrictivas en relación con su uso en espacios públicos durante varios años (hasta que pueda determinarse que no atenta contra la privacidad de los ciudadanos).

Este documento se enmarca dentro de una iniciativa más amplia de la UE para competir con los Estados Unidos y con China en sus avances en materia de IA, pero siempre asentándose en los valores europeos, fundamentados en la ética y la privacidad del usuario.

Ursula von der Leyen, presidenta de la Comisión Europea, tiene entre sus prioridades afrontar la nueva regulación sobre inteligencia artificial.

Por su parte, en los Estados Unidos, el memorándum apela a la Orden Ejecutiva 13609 (Promoting international regulatory cooperation), que prevé “[…] considerar, en la medida de lo posible, apropiado, y acorde a la ley, cualquier enfoque regulatorio por parte de un gobierno extranjero que los Estados Unidos haya consentido en tomar en cuenta en un plan de trabajo del Consejo de Cooperación Regulatoria”.

La cuestión esencial que va a permitir esta cooperación internacional será determinar cuáles han de ser los valores fundamentales sobre los cuales debe asentarse la regulación de la IA, entre unas sociedades y unas culturas que abordan la innovación de un modo distinto, fundamentalmente con respecto a la privacidad.

Todo el contenido está disponible bajo la licencia Creative Commons Reconocimiento 4.0 Internacional.