No es oro todo lo que reluce: los riesgos de las aplicaciones de rastreo de contactos

Por Tirso Virgós

Después de que el brote de la pandemia de la covid-19 haya pulverizado cualquier sensación de normalidad en todo el mundo, los Estados han empezado a reactivar paulatinamente sus economías y a permitir de nuevo a sus ciudadanos salir a la calle e ir a tiendas y bares. Sin embargo, persiste el riesgo de que aparezcan nuevos brotes descontrolados y, si el virus sigue sin control, la única solución puede ser imponer nuevos confinamientos. En consecuencia, todo el mundo tiene la mirada puesta en la inteligencia artificial (IA) como una salida de este atolladero.

Como ya hemos visto, la IA no va a ser la panacea, pero probablemente resultará muy útil para prevenir futuras infecciones. Sin embargo, ante la perspectiva incierta de una vacuna, existe una solución alternativa, impulsada por la IA, que puede ayudar a prevenir el incremento de las infecciones por coronavirus y evitar así el colapso de los sistemas sanitarios: las aplicaciones de rastreo de contactos.

La idea en que se basan estas apps es simple: si podemos identificar a las personas infectadas, así como a quienes han estado en contacto con ellas, podemos rastrear una cadena de contagios y pedir a sus integrantes que se pongan en cuarentena, para prevenir una mayor expansión del virus. Dado que la amplia mayoría de la población tiene móvil, una aplicación de rastreo de contactos podría reducir enormemente el número de infectados.

Tracing apps for Covid-19
Las aplicaciones de rastreo de contactos podrían reducir enormemente el número de infectados (Foto: Benicat/Twenty20)

Sin embargo, estas apps entrañan una serie de problemas que ya han sido descritos por varios analistas.

En primer lugar, las personas mayores, que son uno de los grupos de riesgo más evidentes en esta crisis, usualmente no tienen teléfono móvil o carecen de las habilidades digitales para instalarse la app y entender cómo funciona. En segundo lugar, estas apps pueden proporcionar una sensación de falsa seguridad y llevarnos a pensar que ya no necesitamos adoptar otras medidas de precaución (como llevar la mascarilla protectora) para prevenir la expansión del virus.

Finalmente, las personas infectadas, y quienes hayan estado en contacto con ellas, pueden ser vistas como parias, lo cual puede ocasionarles eventuales perjuicios sociales y económicos, tanto a ellas como a sus familias y sus negocios.

Las aplicaciones de rastreo de contactos pueden proporcionar una sensación de falsa seguridad y llevarnos a pensar que ya no necesitamos adoptar otras medidas

Podría argumentarse que estos problemas pueden resolverse aplicando medidas como, por ejemplo, contratar rastreadores de contactos manuales, para eliminar la brecha digital. Su labor sería contactar con todas las personas que hayan dado positivo en un test y preguntarles qué lugares han visitado y con quién han estado en contacto. En segundo lugar, los gobiernos podrían aplicar normas más estrictas de distanciamiento social y aprobar el uso obligatorio de las mascarillas protectoras, llevando la lucha tanto al ámbito online como al offline. Finalmente, los datos deberían anonimizarse para evitar la identificación de la persona que ha dado positivo.

Pero, aun adoptando todas estas medidas, existen varios riesgos derivados del uso de dichas apps, más allá de sus resultados, que afectan la esencia misma de las democracias liberales.

Tanto la OECD como la Comisión Europea han indicado que el uso de aplicaciones basadas en la IA puede resultar muy útil para prevenir futuros contagios si están alimentadas por suficientes datos y por los modelos apropiados, pero que ello no debe ir en perjuicio de determinados valores esenciales. Entre ellos señalan la fiabilidad, la explicabilidad, la seguridad, la robustez y la transparencia.

Tracing apps
Existen varios riesgos derivados del uso de las aplicaciones de rastreo que afectan la esencia misma de las democracias liberales (Foto: Benicat/Twenty20)

Sin embargo, estas aplicaciones presentan algunas contrapartidas. Por ejemplo, se ha dicho que deberían bajarse la app entre el 60 y el 75 % de los ciudadanos para que sus resultados fueran efectivos. Y, pese a que otra investigación señala que esta efectividad podría lograrse con una tasa de adopción de solo el 15 %, únicamente cinco países superan este umbral en la actualidad. Por tanto, puede que los gobiernos sientan la necesidad de obligar a bajarse la app, por falta de una masa crítica si la descarga es meramente voluntaria.

Ciertamente, los contratos sociales liberales permiten a los Estados interferir en la esfera de libertad de sus ciudadanos, en ciertas circunstancias. Pero ¿podemos justificar una intromisión de este tipo –que supone recoger datos muy personales– en la vida de los ciudadanos de un Estado democrático?

Algunos autores sostienen que esta vulneración de los derechos fundamentales solo puede justificarse con el argumento de evitar la vulneración de otros derechos en el futuro, como la libertad de movimiento (eso es, evitar nuevos confinamientos).

¿Puede justificarse el uso de las aplicaciones de rastreo si las personas pueden ser identificadas?

Pero el temor subyacente es que las medidas temporales acaben siendo permanentes, con la proliferación de unas tecnologías de vigilancia que violen, más si cabe, la esfera privada de los ciudadanos de las democracias liberales. ¿Puede un liberal justificar el uso obligatorio de una app para maximizar su eficiencia, en vez de confiar en las recomendaciones y en las descargas voluntarias de la aplicación? ¿Podemos justificar el uso de estas apps si las personas pueden ser identificadas, pese a anonimizar sus datos?

Estos son unos pocos ejemplos de los efectos negativos que puede acarrear el desarrollo de la IA. Algunos de ellos inciden en los principios fundamentales sobre los cuales se sostienen nuestras sociedades. La IA puede ser una fuerza al servicio del bien común, capaz de producir unas sociedades más sanas y prósperas.

Sin embargo, como puede observarse en este caso, algunos avances, como las apps de rastreo de contactos, pueden tener también una gran incidencia en nuestros derechos y libertades. En consecuencia, toda propuesta debe estar en línea con las recomendaciones de la Comisión Europea sobre la necesidad de transparencia, seguridad, interoperabilidad y respeto a la privacidad de los ciudadanos, y tener una arquitectura descentralizada. Por último, estas apps deben tener un límite temporal estricto y desmantelarse en cuanto se haya superado la pandemia.

Las apps de rastreo deben tener un límite temporal estricto y desmantelarse en cuanto se haya superado la pandemia

Pero, aun siendo importante la descarga voluntaria de estas apps, también podemos analizar si, en un marco liberal y democrático, es posible incrementar su efectividad sin anular la libre elección de los usuarios. Una opción sería incluir cláusulas opt-out, en vez de cláusulas opt-in, en que los usuarios fueran informados de antemano de la descarga de la app en sus móviles en una fecha determinada.

En ese caso, a la hora de recibir la comunicación o tras la instalación de la aplicación en sus teléfonos, podrían decidir desinstalarla y asegurase de la eliminación total de sus datos. Un enfoque de este tipo seguramente incrementaría la efectividad de la app, como ha señalado la literatura sobre psicología conductual.

Por otra parte, cabría argumentar que, pese a la comunicación previa y a la posibilidad de rechazo inmediato ("opting-out"), no se estaría cumpliendo el requisito de la voluntariedad en la descarga.

Para impedir esta situación, nuestra propuesta consiste en un proceso de implementación que consta de varias etapas.

  • En primer lugar, informar a todos los ciudadanos, a través de los canales gubernamentales, de los debates parlamentarios y de los medios, sobre los procedimientos operativos de la app, explicando por qué puede ser un instrumento útil durante un período excepcional.
  • En segundo lugar, reclamar un debate democrático en las instituciones representativas del Estado sobre su adopción para legitimar su intromisión en la esfera privada de los ciudadanos.
  • En tercer lugar, crear unos órganos de supervisión independientes, que puedan pedir cuentas al Gobierno por el uso de la app, para evitar usos indebidos de los datos.
  • Finalmente, garantizar que la decisión de poner fin a la app la tomará el Gobierno, con el asesoramiento de un grupo selecto de expertos independientes que aportará criterios científicos para justificar la decisión. Esta decisión debería contar también con el respaldo del Parlamento, para dar mayor legitimidad democrática al proceso.

También hemos de reconocer que la mera existencia de un debate sobre las posibles tensiones entre la protección de la privacidad y la seguridad es un signo positivo, puesto que pone de manifiesto que, ni siquiera ante la peor crisis sanitaria en muchos años, la UE se ha olvidado de la protección de los derechos fundamentales.

Sabemos que una nueva oleada de infecciones, seguida de una serie de confinamientos de nuestras economías, podría ocasionar unas pérdidas económicas enormes, que serían incluso más devastadoras que el virus en sí para algunas familias. Las aplicaciones de rastreo de contactos podrían facilitarnos una salida inteligente. Si logramos hallar el sutil equilibrio entre privacidad, seguridad y eficiencia, y respetar los principios consagrados en nuestras democracias liberales, podremos atajar el problema sanitario sin propiciar la aparición del Estado vigilante.

Todo el contenido está disponible bajo la licencia Creative Commons Reconocimiento 4.0 Internacional.