Discriminación algorítmica y vulneración del principio de igualdad: riesgo para colectivos vulnerables
Sinopsis
La inclusión acelerada de sistemas de inteligencia artificial (IA) en los procesos de toma de decisiones públicas y privadas ha puesto en tensión el principio jurídico de igualdad, en la medida en que los algoritmos pueden reproducir, ocultar o amplificar sesgos preexistentes en los datos de entrenamiento y en las decisiones de diseño técnico. Este capítulo analiza los riesgos que la discriminación algorítmica representa para los colectivos vulnerables, mujeres, personas con discapacidad, personas migrantes, grupos étnicos y personas con procesos o antecedentes judiciales de carácter penal, a partir de una revisión integrativa cualitativa de la literatura académica publicada entre 2022 y 2025. La búsqueda documental se realizó en Dialnet, Scopus, Web of Science, Redalyc, SciELO y DOAJ, empleando operadores booleanos que combinaron los términos discriminación algorítmica, sesgo, inteligencia artificial e igualdad, y aplicando criterios de inclusión centrados en artículos revisados por pares con DOI verificable. Tras un proceso de cribado documental en cinco fases y una evaluación de calidad diferenciada, se seleccionaron quince estudios primarios, analizados mediante análisis temático inductivo. Los hallazgos evidencian que la discriminación algorítmica se manifiesta de forma directa e indirecta en el empleo, la salud, la movilidad humana, la justicia penal y el acceso a servicios, afectando desproporcionadamente a los colectivos vulnerables debido a la opacidad de los sistemas, la escasa representatividad de los datos de entrenamiento y la insuficiencia del andamiaje jurídico que regula el uso de la inteligencia artificial. La evidencia disponible es, sin embargo, predominantemente doctrinal, se concentra en contextos europeos y presta escasa atención a colectivos como las personas mayores y la infancia. Como aporte específico, el capítulo propone un esquema que relaciona los enfoques teóricos de la igualdad con los tipos y mecanismos de discriminación algorítmica, y compara los modelos regulatorios de la Unión Europea, Brasil y Colorado. Se concluye que resulta imprescindible fortalecer, de manera articulada, la transparencia técnica, la igualdad sustantiva y el desarrollo normativo en materia de IA, con especial atención a los contextos latinoamericanos, todavía insuficientemente representados en la literatura revisada.
Descargas
Páginas
Publicado
Licencia

Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-SinDerivadas 4.0.







