Datos vs. minorías sociales

enigma

La injusticia de los algoritmos. Fuente: Pixabay

Los datos son exactos, pero también injustos, en especial cuando miden la raza y la clase social.

Lo ha contado hace ya mucho tiempo Moritz Hardt en Medium, pero el suyo es uno de esos posts que siguen vigentes porque los datos controlan cada vez más territorios de la realidad que antes no gobernaban.

Según Hardt, los datos son “espejos sociales”. Los algoritmos inteligentes aprenden con base a datos diseñadas para tomar decisiones. Si las minorías sociales no están representadas en estos datos, cualquier algoritmo será necesariamente injusto. De hecho, Los patrones estadísticos que se aplican a las mayorías son en muchas ocasiones inválidos para las minorías.

Hay dos ejemplos esclarecedores. El primero tiene que ver con las dificultades que tiene Amazon para entregar sus productos al mismo precio y con la misma rapidez en todas las áreas de una ciudad. El segundo con los datos que se utilizan para asignar a los residentes un parámetro de peligrosidad.

La única solución, sugiere Hardt, sería crear parámetros de medición más complejos que evitaran la parcialidad de los algoritmos que utilizan los humanos para distribuir riquezas y justicia por igual.

Anuncios