Los algoritmos se están convirtiendo en omnipresentes en nuestro día a día. Analizan, pero también toman decisiones o influyen en ellas, perpetuando sesgos que tradicionalmente han supuesto la discriminación de muchos colectivos.
La Dra. Gemma Galdón, socia fundadora y directora de investigación de Eticas Research & Consulting e investigadora del Departamento de Sociología de la Universitat de Barcelona, propone la auditoría algorítmica para comprobar los sesgos y la discriminación que generan los algoritmos.
“Lo que nos encontramos en el mundo real son algoritmos de muy baja calidad y muy simples. La industria busca la simplificación máxima para maximizar los beneficios, de modo que intenta vender el mismo algoritmo a todo el mundo, computando tres o cuatro variables muy básicas”, apunta, al tiempo que señala la importancia de analizar estos algoritmos para proponer mejoras.
La Dra. Galdón participa como experta en el workshop “Discriminación y algoritmos en el ámbito laboral. Propuestas técnicas y juristas para garantizar la accountability en el uso de la tecnología inteligente”, en el marco del proyecto LABORAlgorithm, que propone la auditoría algorítmica como fórmula para medir el impacto social de los algoritmos y garantizar la ausencia de sesgos discriminatorios.
LABORAlgorithm es un proyecto de investigación financiado por el Ministerio de Ciencia, Innovación y Universidades, que tiene por objeto analizar el uso de los algoritmos y de la tecnología inteligente en la relación laboral y, en concreto, el tratamiento jurídico de la elaboración de perfiles y la toma de decisiones automatizadas en el ámbito laboral.