Influencia del sesgo racial en el uso del reconocimiento facial aplicado al control de acceso: Un análisis crítico
DOI:
https://doi.org/10.33448/rsd-v14i2.48186Palabras clave:
Reconocimiento Facial, Aprendizaje Automático, Inteligencia Artificial, Control de Acceso, Ciberseguridad, Sesgo Racial, Racismo Algorítmico.Resumen
El sesgo racial ha sido un problema persistente en las tecnologías de reconocimiento facial, particularmente en las aplicaciones de control de acceso. Este estudio tiene como objetivo examinar la adopción generalizada de estas tecnologías en la era del aprendizaje automático, destacando su integración en los marcos de seguridad de la información, ciberseguridad y privacidad de datos. A pesar de su creciente prevalencia, los conjuntos de datos y algoritmos subyacentes frecuentemente exhiben sesgos significativos, impactando desproporcionadamente a individuos de grupos raciales marginados. A través de una extensa revisión de la literatura, esta investigación identifica brechas críticas y propone 14 recomendaciones específicas dirigidas a mitigar el sesgo racial en los sistemas de reconocimiento facial. Estas recomendaciones abarcan la diversificación de los conjuntos de datos de entrenamiento, el fortalecimiento de la transparencia algorítmica y la incorporación de equipos multidisciplinarios para garantizar la toma de decisiones éticas. Los hallazgos subrayan el potencial para mejorar tanto la equidad como la precisión de estas tecnologías, allanando el camino para aplicaciones más confiables e inclusivas. Al implementar las medidas propuestas, las partes interesadas pueden abordar las preocupaciones éticas, reducir los resultados discriminatorios y aumentar la confianza pública en la adopción del reconocimiento facial para contextos sensibles de control de acceso. Este análisis crítico proporciona una hoja de ruta para avanzar en la equidad y la responsabilidad en la inteligencia artificial, fomentando impactos transformadores en el campo.
Descargas
Referencias
Benjamin, R. (2019). Review of “Race After Technology: Abolitionist Tools for the New Jim Code.” Social Forces, 98(1), 1–3.
Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 1–15.
Caballero, A. (2017). Computer and information security handbook. Elsevier.
Cantor, J. R. (2020). Privacy impact assessment for the homeland advanced recognition technology system (HART) increment 1 PIA. Retrieved from https://www.dhs.gov/sites/default/files/publications/privacy-pia-obim004-hartincrement1-february2020_0.pdf [Accessed August 27, 2024].
Cornish, P. (2021). The Oxford handbook of cyber security. Oxford University Press
Gordon, F. (2019). Review of Virginia Eubanks (2018) Automating inequality: How high-tech tools profile, police, and punish the poor. New York: Picador/St. Martin’s Press. Law, Technology, and Humans, 1(1), 162–164.
Grother, P., Ngan, M., & Hanaoka, K. (2019). Face recognition vendor test part 3: Demographic effects. NIST Interagency/Internal Report (NISTIR). Gaithersburg, MD: National Institute of Standards and Technology.
HSBC. (n.d.). Touch ID and Face ID: A simple and secure alternative to your digital security device passcode. Retrieved from https://www.us.hsbc.com/mobile-banking/biometrics/ [Accessed August 27, 2024].
Hua, G., Nasrabadi, N. M., Chellappa, R., & Aggarwal, G. (2011). Introduction to the special section on real-world face recognition. IEEE Transactions on Pattern Analysis and Machine Intelligence, 33(10), 1921–1924.
Jain, A., Ross, A., & Prabhakar, S. (2004). An introduction to biometric recognition. IEEE Transactions on Circuits and Systems for Video Technology, 14(1), 4–20
Kärkkäinen, K., & Joo, J. (2021). FairFace: Face attribute dataset for balanced race, gender, and age for bias measurement and mitigation. 2021 IEEE Winter Conference on Applications of Computer Vision (WACV), 1547–1557.
Klare, B. F., Burge, M. J., Klontz, J. C., Vorder Bruegge, R. W., & Jain, A. K. (2012). Face recognition performance: Role of demographic information. IEEE Transactions on Information Forensics and Security, 7(6), 1789–1801.
Larson, J., Mattu, S., Kirchner, L., & Angwin, J. (2016). How we analyzed the COMPAS recidivism algorithm. ProPublica. Retrieved from https://www.propublica.org
Lecun, Y., Bottou, L., Bengio, Y., & Haffner, P. (1998). Gradient-based learning applied to document recognition. Proceedings of the IEEE, 86(11), 2278–2324.
Llauradó, J., Pujol, F., & Tomás, D. (2023). Study of image sensors for enhanced face recognition at a distance in the smart city context. Scientific Reports, 13, Article 14713.
Lynch, J. (2020). Face off: Law enforcement use of face recognition technology. Electronic Frontier Foundation (EFF), 10, 78–95.
Microsoft. (2021). Windows Hello face authentication. Retrieved from https://learn.microsoft.com/en-us/windows-hardware/design/device-experiences/windows-hello-face-authentication [Accessed August 27, 2024].
Najibi, A. (2020). Racial discrimination in face recognition technology. Retrieved from https://sitn.hms.harvard.edu/flash/2020/racial-discrimination-in-face-recognition-technology/ [Accessed August 27, 2024].
Oloyede, M., Hancke, G., & Myburgh, H. (2020). A review on face recognition systems: Recent approaches and challenges. Multimedia Tools and Applications, 279(22), 27891–27922.
Raji, I. D., & Buolamwini, J. (2019). Actionable auditing: Investigating the impact of publicly naming biased performance results of commercial AI products. Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society, 429–435.
Ratha, N. K., Connell, J. H., & Bolle, R. M. (2001). Enhancing security and privacy in biometrics-based authentication systems. IBM Systems Journal, 40(3), 614–634.
Solove, D. J. (2006). A taxonomy of privacy. University of Pennsylvania Law Review, 154, 477–564.
Stanley, J. (2019). The dawn of robot surveillance: AI, video analytics, and privacy. American Civil Liberties Union, 38–48.
Turk, M., & Pentland, A. (1991). Eigenfaces for recognition. Journal of Cognitive Neuroscience, 3(1), 71–86.
Wayman, J. L. (2008). Biometrics in identity management systems. IEEE Security & Privacy, 6(3), 30–37.
Whittaker, M. (2018). AI Now Report 2018. AI Now Institute, New York University.
Zhao, W., Chellappa, R., Phillips, P. J., & Rosenfeld, A. (2003). Face recognition: A literature survey. Association for Computing Machinery, 35(1), 399–458.
Descargas
Publicado
Número
Sección
Licencia
Derechos de autor 2025 Alexandre Mundim de Oliveira; Hugo Xavier Rodrigues; Alexandre Solon Nery; Fábio Lúcio Lopes de Mendonça; Luiz Antonio Ribeiro Junior
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
Los autores que publican en esta revista concuerdan con los siguientes términos:
1) Los autores mantienen los derechos de autor y conceden a la revista el derecho de primera publicación, con el trabajo simultáneamente licenciado bajo la Licencia Creative Commons Attribution que permite el compartir el trabajo con reconocimiento de la autoría y publicación inicial en esta revista.
2) Los autores tienen autorización para asumir contratos adicionales por separado, para distribución no exclusiva de la versión del trabajo publicada en esta revista (por ejemplo, publicar en repositorio institucional o como capítulo de libro), con reconocimiento de autoría y publicación inicial en esta revista.
3) Los autores tienen permiso y son estimulados a publicar y distribuir su trabajo en línea (por ejemplo, en repositorios institucionales o en su página personal) a cualquier punto antes o durante el proceso editorial, ya que esto puede generar cambios productivos, así como aumentar el impacto y la cita del trabajo publicado.
