Abriendo la caja negra: El derecho a algoritmos transparentes
Abriendo la caja negra: El derecho a algoritmos transparentes
Social 23 Junio 2026
Nos hemos acostumbrado a que los algoritmos elijan los anuncios que encontramos o el contenido que consumimos en las redes sociales. Pero ahora también determinan quién es el candidato ideal para un préstamo o un puesto de trabajo, e incluso quién debería ir a la cárcel y quién no. Los algoritmos influirán cada vez más en nuestra capacidad de acceder a los servicios. Sin embargo, sabemos cada vez menos sobre cómo funcionan y por qué toman las decisiones que toman.
¿Cuáles son los problemas planteados por esta opacidad algorítmica? ¿Y cómo podemos trabajar hacia una mayor transparencia? Estas son las preguntas que abordan Anna Ginés, directora del Instituto de Estudios Laborales, e Irene Unceta, directora académica del Bachelor en Inteligencia Artificial para los Negocios (BAIB).
¿Qué es la transparencia algorítmica?
La transparencia algorítmica es la capacidad de comprender, auditar y cuestionar cómo un sistema de inteligencia artificial toma sus decisiones. Un algoritmo transparente no oculta su lógica, permite saber qué variables utiliza, cuál es la importancia relativa de cada una y por qué llega a una conclusión concreta.
La opacidad algorítmica, su contrario, ocurre cuando ese proceso es inaccesible. Es lo que se conoce como “caja negra”: una IA que decide, pero no explica. Y la opacidad, según Unceta y Ginés, no es un accidente: tiene causas estructurales.
Los tres tipos de opacidad algorítmica
La opacidad algorítmica no es un fenómeno uniforme. Irene Unceta distingue tres formas distintas, cada una con sus propias causas y soluciones:
Tipo de opacidad | En qué consiste (según Irene Unceta, Esade) |
1. Secreto corporativo o estatal | Las empresas y administraciones no quieren revelar públicamente los algoritmos que utilizan. La opacidad es una decisión deliberada, no una limitación técnica. |
2. Analfabetismo técnico | Aunque el algoritmo esté disponible, la mayoría de personas carece de las competencias técnicas para comprender cómo toma sus decisiones. La transparencia requiere también comunicación comprensible. |
3. Complejidad inherente del machine learning | Los modelos de aprendizaje automático son opacos por arquitectura: ni sus propios creadores pueden rastrear linealmente cómo llegan a una decisión. Es la opacidad más difícil de resolver. |
Esta distinción es fundamental porque define dónde hay que intervenir. El secreto corporativo es un problema de regulación y rendición de cuentas. El analfabetismo técnico es un problema de comunicación y educación. La complejidad inherente es un problema de diseño de sistemas. Sin transparencia algorítmica en los tres frentes, cualquier solución parcial resulta insuficiente.
Discriminación algorítmica: cuando el sesgo se vuelve invisible
Un problema directo de la opacidad algorítmica es la discriminación algorítmica. Los modelos algorítmicos se entrenan en conjuntos de datos muy grandes con el objetivo de identificar conexiones y patrones estadísticos para determinar las preferencias de las personas.
El problema, como explica Ginés, es que "si este conjunto de datos está sesgado, y normalmente lo está, porque usamos datos de interacciones pasadas en nuestra sociedad, el algoritmo integra esos sesgos y adopta decisiones discriminatorias". Y lo más grave: el hecho de que los algoritmos no sean transparentes hace muy difícil detectar la existencia de esos sesgos.
Para evitar la discriminación algorítmica, es esencial:
- Entrenar los algoritmos en conjuntos de datos no sesgados, aunque esto es complejo cuando los datos históricos disponibles ya reflejan décadas de desigualdad.
- Excluir información sensible de las variables de entrenamiento: género, discapacidad, afiliación sindical.
- Garantizar la transparencia algorítmica como condición previa para que los sesgos puedan ser detectados y corregidos por auditores externos.
La investigación de Esade sobre cómo los algoritmos están impulsando la desigualdad documenta casos concretos, software de reconocimiento facial con tasas de error dispares según género y etnia, sistemas de selección de personal que perpetúan brechas históricas, o recomendaciones salariales que discriminan en función de características protegidas.
Inseguridad algorítmica: cuando el trabajador no sabe las reglas del juego
Anna Ginés introduce en la conversación un concepto especialmente relevante para el mercado laboral: la inseguridad algorítmica. Las plataformas digitales han sido pioneras en el uso de algoritmos para adoptar decisiones automáticas en el lugar de trabajo, utilizan el comportamiento pasado del trabajador para determinar su acceso a tareas y franjas horarias.
El problema es que "si los trabajadores no saben cómo el algoritmo adopta estas decisiones, no saben cómo adaptar su comportamiento para mantener su posición dentro de la plataforma". La transparencia algorítmica no es solo una cuestión de derechos individuales, es una condición necesaria para que la relación laboral sea mínimamente equitativa.
Además, Ginés señala otro problema estructural habitualmente ignorado, muchas empresas no diseñan sus propios algoritmos, sino que los compran. Esto significa que las propias empresas no tienen acceso completo a la información sobre cómo funciona el algoritmo que aplican. La transparencia algorítmica debe, por tanto, incluir también la obligación de que las empresas comprendan y compartan con los representantes de los trabajadores cómo opera el sistema que gestiona sus condiciones laborales.
Qué significa exigir transparencia algorítmica: derechos concretos
Garantizar que los algoritmos sean transparentes y explicables tiene un contenido concreto. Según Irene Unceta, las personas sujetas a decisiones algorítmicas deben saber, como mínimo, dos cosas: cuáles son las variables que utiliza la empresa para adoptar la decisión y cuál es la importancia relativa de cada variable en la decisión final. Esto se traduce en el siguiente conjunto de derechos.
Derecho reconocido
Cualquier persona sujeta a una decisión algorítmica tiene derecho a conocer las variables que el sistema ha utilizado para tomarla.
Derecho a conocer el peso de cada variable
No basta con saber qué factores intervienen, hay que conocer la importancia relativa de cada uno en la decisión final.
Derecho a la explicación comprensible
La información debe comunicarse de forma que el usuario pueda entenderla, independientemente de su nivel técnico.
Derecho a la intervención humana
Las decisiones de alto impacto no pueden quedar exclusivamente en manos de un algoritmo. Debe existir revisión humana real.
Derecho a la no discriminación
Los algoritmos no pueden reproducir sesgos por género, edad, discapacidad u otras características protegidas.
Derecho a la autonomía
La opacidad algorítmica es una barrera al ejercicio de la autonomía como derecho fundamental. Decidir libremente requiere información.
El marco legal europeo, RGPD y EU AI Act, ya reconoce muchos de estos derechos. En España, el Consejo de Transparencia y Buen Gobierno (CTBG) planteó en las jornadas de la COTAI celebradas en Barcelona los días 4 y 5 de junio de 2026 la necesidad de construir una doctrina común sobre transparencia algorítmica, incluyendo un proyecto piloto de aplicación de la IA a la gestión de la transparencia pública.
La auditoría de algoritmos es uno de los instrumentos más eficaces para hacer efectivos estos derechos, puesto que permite verificar de forma independiente que los sistemas cumplen los principios de equidad, precisión y no discriminación.
El EU AI Act en 2026
El Reglamento Europeo de Inteligencia Artificial (EU AI Act) convierte la transparencia algorítmica en una obligación legal para los sistemas de alto riesgo. Su calendario de aplicación en 2026 es el siguiente:
- Mayo 2026: acuerdo político sobre la propuesta 'AI Omnibus', que refuerza las obligaciones de trazabilidad y supervisión humana.
- 2 de agosto de 2026: entran en vigor las obligaciones de transparencia del Artículo 50 del EU AI Act: identificación obligatoria de chatbots como IA, etiquetado de deepfakes y marcado de contenido generado o manipulado por IA. Estas obligaciones no se han aplazado por el AI Omnibus.
- Diciembre 2027: normas específicas para sistemas de alto riesgo en empleo, banca, justicia, educación, migración y control fronterizo.
- Agosto 2028: plena aplicación para sistemas integrados en productos de consumo.
En el ámbito electoral, la cuestión de si podemos tener elecciones transparentes con el algoritmo como actor invisible ha ganado urgencia tras documentarse casos de microsegmentación política opaca y campañas de desinformación generadas por IA sin ningún tipo de escrutinio público.
El EU AI Act clasifica como de alto riesgo los sistemas de IA utilizados en la administración de justicia y los procesos democráticos, categoría que incluye explícitamente los sistemas de apoyo a decisiones en contextos electorales e institucionales, sometiéndolos a las obligaciones más estrictas de trazabilidad y supervisión humana.
En España, el Proyecto de Ley Orgánica para el Buen Uso y la Gobernanza de la IA, aprobado en Consejo de Ministros el 26 de mayo de 2026 y remitido al Congreso, refuerza la transparencia algorítmica e impone supervisión humana efectiva en todos los casos en que puedan verse afectados derechos fundamentales.
Irene Unceta formula una última idea muy poderosa: "el llamado a la transparencia no está vinculado únicamente a una cuestión de confianza o de control. Se trata de dar a la gente, a los ciudadanos, una oportunidad para reivindicar sus derechos humanos fundamentales".
La opacidad algorítmica, como subraya Ginés, es una barrera para ejercer nuestro derecho fundamental a la autonomía. Si un sistema decide si obtienes un préstamo, una pensión o un trabajo, y no puedes acceder a la lógica de esa decisión, no puedes formarla, cuestionarla ni impugnarla. Tu capacidad de decidir libremente queda comprometida.
Exigir algoritmos transparentes no es un tecnicismo. Es una condición de la justicia en el siglo XXI. Y la transparencia algorítmica, desde el diseño del sistema hasta la comunicación de sus decisiones en lenguaje comprensible, es el instrumento para hacerla efectiva.