Discriminació algorítmica.

Abstract

Davant les discriminacions arran de les decisions automatitzades preses mitjançant sistemes algorítmics, la normativa antidiscriminatòria europea i la jurisprudència establerta fins ara, no semblen generar per si mateixes els mecanismes adequats per combatre-les. En aquest article repassem els tres eixos que presenten les principals limitacions per poder abastar aquest nou repte: una protecció excessivament basada en els atributs protegits; massa centrada en la dualitat discriminació directa o indirecta (que amb les noves eines causants de la discriminació poden veure’s difuminades); i les dificultats a nivell probatori que pot tenir algú que ha patit discriminació algorítmica, com per exemple, trobar un grup amb qui comparar-se, o alguna persona o entitat a qui responsabilitzar de l’acció discriminatòria. Cal identificar les mancances i les formes de discriminació que escapen a la regulació actual per poder proposar mecanismes que realment serveixin en la lluita envers la discriminació.

Keywords

• Unió Europea
• Intel·ligència Artificial
• Discriminació indirecta
• Algoritmes
• Interseccionalitat
• Igualtat de gènere