“Els algoritmes augmenten les desigualtats socials”

Cathy O’Neil, doctora en Matemàtiques per la Universitat de Harvard, alerta que els sistemes de big data, basats en models matemàtics, es construeixen des dels prejudicis humans.

La matemàtica Cathy O’Neil ha donat la veu d’alarma sobre com els algoritmes poden empitjorar la vida de les persones. O’Neil, doctora en Matemàtiques per la Universitat de Harvard i postdoctorada en el departament de Matemàtiques del MIT, va treballar com a analista quantitativa per a un destacat fons de cobertura enmig de la crisi creditícia.

“La crisi financera va deixar ben clar que les matemàtiques no només estaven profundament involucrades en els problemes del món, sinó que a més agreujaven molts d’ells. La crisi immobiliària, la ruïna de grans entitats financeres, l’augment de la desocupació: tot això havia estat impulsat i induït per matemàtiques que brandaven fórmules màgiques”, explica.

Lluny del solucionismo tecnològic, que pregona que els models matemàtics condueixen a societats més igualitàries perquè jutgen amb les mateixes regles qualsevol assumpte, O’Neil alerta que, en realitat, passa tot el contrari.

En el llibre Armes de destrucció matemàtica. Com el big data augmenta la desigualtat i amenaça la democràcia (Capità Swing, 2016), O’Neil assenyala que els algoritmes, incontestables, secrets i discriminatoris, donen forma al nostre futur com a individus i com a societat. Serveixen per qualificar a professors i estudiants, concedir (o negar) préstecs, ordenar currículums, avaluar als treballadors, dirigir als votants, determinar horaris comercials i fins i tot fixar condemnes judicials.

O’Neil visita per primera vegada Barcelona per participar com a conferenciant principal del festival The influencers, celebrat al CCCB el passat cap de setmana. Parlem amb ella per reflexionar sobre els perills del big data, els biaixos dels algoritmes i l’impacte dels models predictius.

LAVANGUARDIA_pizarra formules

Per què afirma que els algoritmes són armes de destrucció matemàtica?

Els algoritmes sobre els quals va alertar són models matemàtics que compleixen tres requisits. En primer lloc, són models incontestables. Els atorguem el poder màgic de solucionar de manera justa qualsevol problema que tenim, des de trobar la persona adequada per a un lloc de treball fins a ordenar la informació que rebem a través de les xarxes socials. Segon, són secrets. Desconeixem sobre quines regles han estat construïts i sovint no som conscients que ens estem sotmetent al seu judici. La transparència importa, però en aquests casos sempre hi ha un “secret industrial” que impedeix conèixer l’origen i l’existència d’aquests algoritmes. Tercer, són models injustos. Sota aquest secretisme dels algoritmes solen operar contra els interessos de les persones.

Llegiu la entrevista a LA VANGUARDIA (clica aquí)

Cathy O Neil TED

Anuncis

Deixa un comentari

Fill in your details below or click an icon to log in:

WordPress.com Logo

Esteu comentant fent servir el compte WordPress.com. Log Out /  Canvia )

Google+ photo

Esteu comentant fent servir el compte Google+. Log Out /  Canvia )

Twitter picture

Esteu comentant fent servir el compte Twitter. Log Out /  Canvia )

Facebook photo

Esteu comentant fent servir el compte Facebook. Log Out /  Canvia )

S'està connectant a %s