Singularidades y riesgos del 'big data' desde una perspectiva social

El auge del big data, definido como la obtención de grandes cantidades de datos y la extensión de técnicas avanzadas que permiten su uso, tiene un fuerte impacto en la esfera social, aunque no siempre seamos conscientes de ello.

Como cualquier fenómeno disruptivo, podemos entenderlo como un cambio que no tiene marcha a atrás y del cual cabe esperar, con certeza, un fuerte impacto transformador. Desde la perspectiva social, ¿tenemos motivos para estar preocupados?

Uno de los grandes cambios introducidos por la extensión de los algoritmos inteligentes en la llamada oleada digital es su gran capacidad de réplica y escalabilidad. Y, al igual que sucede con todas las innovaciones, debemos estar atentos a los dilemas éticos que su uso generalizado va a conllevar. 

Uno de los grandes cambios introducidos por la extensión de los algoritmos inteligentes es su gran capacidad de réplica

Un ejemplo conocido es el de la programación que requiere el algoritmo del coche inteligente. Con independencia del deseo de sus programadores, este algoritmo deberá tomar, de forma activa o implícitamente, decisiones que responden a criterios morales.

Así, por ejemplo, en caso de accidente, ¿va a seguir un patrón de conducta que minimice el daño causado, el número de víctimas, la vida del conductor o la reputación de la marca? ¿Cómo vamos a medir este daño? 

En los últimos años, ya hemos recogido mucha información sobre el impacto social del big data en casos menos extremos que el anterior.

Destaca, en primer lugar, la desigualdad en el acceso a los datos. Si analizamos las dinámicas de mercado generadas por las grandes plataformas digitales, observamos que estamos entrando en un nuevo modelo de competencia, en que no todos los agentes (públicos, privados, tercer sector) tendrán acceso a los datos de igual forma ni en la misma magnitud.

¿Qué tipo de mercados estamos creando en un mundo en que, si seguimos la estela de lo que sucede en los Estados Unidos, Facebook y Google concentran dos terceras partes de la publicidad digital y acaparan el 99 % del crecimiento de este mercado?  

La tecnología siempre va a desarrollarse a una velocidad superior a la capacidad legal de dar respuesta a nuevos retos

¿Quién puede acceder a la información que generamos en el espacio digital y quién termina beneficiándose de ella? ¿En qué lugar se sitúan los usuarios y qué marco normativo se establece para proteger su privacidad, así como la propiedad o la portabilidad de sus datos?

La legislación europea que entró en vigor en mayo de 2018 (el GDPR) aborda algunos de estos aspectos, aunque sabemos que la tecnología siempre va a desarrollarse a una velocidad superior a la capacidad legal de dar respuesta a los nuevos retos planteados. ¿Cómo incorporar las expectativas sociales y los dilemas éticos en el análisis y la manipulación de grandes cantidades de datos?  

Hoy en día, con el código IP de cualquier usuario de internet o con rastreadores de la huella digital, una empresa de venta online como Amazon puede estimar la capacidad de compra de sus clientes y definir estrategias de precios personalizadas que desbordan el marco legal existente, además de redefinir radicalmente los marcos de competencia en su aplicación práctica.

¿Sigue siendo el cliente el rey y el propósito último de una actividad empresarial cuando una empresa puede beneficiarse de sus datos para personalizar los precios en su contra? ¿Cómo se verá afectado este fenómeno con la extensión del big data?

Otro patrón de cambio, imperceptible para muchos pero que merece destacarse, es el grado de confianza depositada en los datos y la capacidad o no de revertir unos procesos de toma de decisiones automatizados y generalizados.

El Flash Crash de mayo de 2010 conllevó un desplome de los índices bursátiles de hasta 8 puntos como consecuencia de unos sistemas de trading automatizados. Fenómenos como este van a ser cada vez más frecuentes. Como decía hace poco un directivo en el aula, ¿realmente la solución a problemas como este pasa por desconectar el ordenador?

El famoso artículo The end of theory: The data deluge makes the scientific method obsolete de Chris Anderson (2008) en Wired nos sitúa ante un panorama desolador, desde el punto de vista humanístico.

¿Realmente no nos hace falta conocer el funcionamiento del mundo porque los datos, por sí mismos, van a permitirnos llegar al conocimiento profundo de los fenómenos económicos y sociales? ¿Qué tipo de directivos y de ciudadanos estamos creando con la generalización de una fe absoluta en la capacidad de los datos de dar respuesta a los grandes desafíos del mundo?

Los sistemas de predictive policing permiten anticipar las posibilidades de que surja el crimen en una zona determinada

Otro elemento de análisis ante el auge del uso generalizado del big data es de qué modo las premisas básicas de los programadores influyen en el mundo. Los sistemas de predictive policing, que se empiezan a extender, permiten anticipar las posibilidades de que surja el crimen en una zona determinada, tal y como anticipaba la película Minority Report (2002).

El algoritmo por sí mismo permite mejorar la eficiencia de los recursos policiales y reducir el crimen en determinadas zonas urbanas.

Menos conocida es la extensión de la estigmatización y del racismo por prácticas automatizadas que discriminan de facto a las personas de color. ¿Somos conscientes de las dinámicas sociales que desencadenamos con la automatización de decisiones de este tipo?

Una solución para resolver este tipo de problemas es la transparencia de los algoritmos, pero, ¿cómo vamos a llegar a ella si el valor principal de una aplicación o de una plataforma digital proviene precisamente de la capacidad predictiva de sus algoritmos, que es objeto de propiedad intelectual?

Por último, cabe señalar la clara tendencia a la hiperespecialización que conlleva la revolución digital en sí. Una hiperespecialización que, en cambio, permite anticipar un incremento de la demanda de profesionales pluridisciplinarios, capaces de utilizar su experiencia como valor añadido para ir más allá de los silos, de los múltiples subsegmentos del conocimiento científico, y resituar las organizaciones en el centro del debate social, abiertas al diálogo con el mundo. 

Para terminar, citemos (¿cómo no?) una frase de Steve Jobs: “El futuro son la tecnología y las humanidades. La tecnología nos dará las pautas de cómo hacer las cosas, pero sin las humanidades no conoceremos las trampas que nos ponemos a nosotros mismos". 

Sea o no cierta, la combinación de estos dos enfoques, el científico y el humanístico, será la única que nos reportará un mundo mejor y unas organizaciones más sostenibles en el tiempo y más responsables.