A Critical Study of Equity and Inclusion in Machine Learning Platforms: Algorithmic Bias as a New Educational Barrier

Counts differ because each database indexes a different set of publications. We treat OpenAlex as the canonical count; Google Scholar is not shown (no API, and crawling it violates its ToS).

La integración de la inteligencia artificial en educación promete personalización y eficiencia, pero introduce riesgos de perpetuar desigualdades. El sesgo algorítmico actúa como una barrera de acceso y permanencia que opera a nivel del código, afectando los derechos educativos de manera transversal a cualquier nivel académico. Esta revisión sistemática examina cómo los sesgos en datos y diseño algorítmico generan discriminación por género, nivel socioeconómico y origen cultural. Siguiendo los lineamientos PRISMA, se analizaron 33 estudios publicados entre 2018 y 2025. Se identificaron tres categorías de sesgo: en datos históricos, de representación y de validación. Las plataformas predictivas (deserción, recomendación, evaluación automatizada) presentan disparidades sistemáticas entre grupos demográficos. Esta revisión tiene limitaciones por la heterogeneidad metodológica de los estudios incluidos. Las estrategias de mitigación incluyen intervenciones en pre-procesamiento, durante el procesamiento y post-procesamiento, con efectividad variable. El marco ético propuesto ofrece una hoja de ruta para diseñar sistemas de IA verdaderamente participativa. Como contribución original, se propone un marco ético integrador para el desarrollo de IA inclusiva en educación, basado en cinco principios: justicia distributiva, transparencia radical, agencia del estudiante, diversidad cognitiva y gobernanza participativa. Se concluye que la equidad algorítmica requiere un abordaje socio-técnico que involucre a educadores, comunidadesy diseñadores en la co-construcción de sistemas inclusivos