Inteligencia artificial expone a grupos sociales marginados a la vigilancia digital y discriminación
María Luisa Abarca Sánchez 
Imagen de nobbot.com : El Solidario. La IA es discriminatoria en los grupos más vulnerables.
En la era digital, la inteligencia artificial (IA) se ha convertido en una herramienta poderosa para mejorar la eficiencia de los sistemas de bienestar social. Sin embargo, su implementación no está exenta de controversias. Un reciente informe de Amnistía Internacional ha puesto de manifiesto los riesgos que conlleva el uso de la IA en estos sistemas, especialmente en términos de vigilancia masiva y discriminación de los grupos marginados.
Te podría interesar: En tiempos de crisis, las redes sociales son las mejores trincheras para bulos y desinformación extremista
En países como Dinamarca, la autoridad de bienestar social, Udbetaling Danmark (UDK), ha adoptado algoritmos de detección de fraudes para identificar a personas que podrían estar cometiendo fraude en las prestaciones sociales. Aunque esta medida busca optimizar los recursos, ha generado preocupaciones sobre la privacidad y la dignidad humana. Según el informe, estos algoritmos pueden discriminar a personas con discapacidad, de bajos ingresos, migrantes, refugiadas y grupos raciales marginados.
La vigilancia masiva es otro aspecto preocupante. La recopilación y agrupación de datos personales de millones de residentes en Dinamarca ha creado un clima de miedo y desconfianza. La investigadora de Amnistía Internacional, Hellen Mukiri-Smith, ha señalado que este sistema, en lugar de proteger, ataca a las personas que debería ayudar.
Además, la colaboración con empresas multinacionales privadas para desarrollar estos algoritmos ha suscitado dudas sobre la transparencia y la rendición de cuentas. La falta de acceso completo a los algoritmos utilizados y la posibilidad de sesgos en su diseño y aplicación son cuestiones que requieren una atención urgente.
La IA impulsa la discriminación social y racial
El impacto de la discriminación en los grupos marginados es significativo. La discriminación racial, el sexismo, la homofobia y la xenofobia son barreras que limitan el desarrollo y la participación de estos individuos en la sociedad. La implementación de la IA en los sistemas de bienestar social debe ser cuidadosamente regulada para evitar perpetuar estas desigualdades.
La vigilancia digital también tiene un efecto devastador en los derechos humanos. La ONU ha advertido sobre el uso ilegal de tecnologías de vigilancia para socavar los derechos fundamentales, como la libertad de expresión y el derecho a la privacidad. La retórica antiterrorista se ha utilizado para justificar el aumento del despliegue de tecnologías de vigilancia, sin tener en cuenta el estado de derecho y la gobernanza.
Aunque la IA tiene el potencial de mejorar los sistemas de bienestar social, su implementación debe ser acompañada de una regulación estricta y responsable. Es fundamental proteger a los grupos más vulnerables y garantizar que la tecnología no se utilice para socavar los derechos humanos. La pregunta que debemos hacernos es: ¿hasta dónde permitiremos que la tecnología controle el bienestar social sin sacrificar la dignidad humana?
Síguenos en nuestras redes sociales @elsolidariorg / X: @X_ElSolidario y en nuestro canal de Whatsapp El Solidario
About The Author
