‘Què normal que sóc?‘ és un documental interactiu que ens permet veure com actuen els sistemes de reconeixement facial mitjançant una experiència vivencial de forma segura i respectant la nostra privacitat ja que les dades queden guardades al núvol i no al nostre cercador. El projecte Sherpa finançat pel fons europeu Horizon 2020 ha sigut creat per l’artista i tecnòleg Pala de farigola i se’n fan ressó entitats que treballen el ciberactivisme com Donestech.
L’eina utilitza diferents sistemes de “aprenentatge automàtic” de codi obert descarregats de la plataforma GitHub que prediuen la nostra bellesa, la nostra edat, el nostre gènere, les emocions que sentim, l’índex de massa corporal i l’esperança de vida. Així, Schep vol evidenciar que moltes empreses no fan el procés d’entrenament dels seus algoritmes sinó que els encarreguen a tercers que es dediquen al ‘machine learning’ dificultant així la millora dels biaixos discriminatoris.
En el cas de l’índex de massa corporal, va haver de crear-lo de zero perquè no en va trobar cap que li servís per a l’eina en línia. Durant el desenvolupament basat en tots els altres algoritmes que havia trobat que adjuntaven un munt de fotografies, es va sentir brut, afirma.
Les dades que recollia per elaborar la puntuació que serviria per dir si algú estava per sobre o per sota del seu pes ideal variava en el cas dels homes ja que segons l’algoritme, que mesurava proporcions com per exemple la distància entre les celles i els ulls, acostumaven a tenir la cara més ampla. També si eres atleta baixava la predicció de la teva massa corporal.
D’aquesta manera, com diu el nom del documental, tenim més puntuació com més ebs assemblem a la mitjana. I això és el que passa als algoritmes que organitzen la informació en aplicacions i plataformes digitals, tals com Tinder, que promou els match entre persones amb el mateix nivell d’atractiu, o TikTok, que dona més visibilitat als continguts com més atractives són les persones que hi surten. Uns algoritmes que, a més, tenen dificultats per reconèixer les cares de les persones racialitzades.
Sobre la predicció de l’edat, que s’utilitza en la vigilància fronterera i també en les aplicacions de cites, es pot comprovar que si movem el cap el número varia i que, en molts casos, la màquina no l’encerta.
Però no calen sistemes de reconeixement facial per saber moltes coses de nosaltres. Només amb la connexió a aquesta web amb la nostra IP es pot saber on som, el nostre origen, quina edat tenim, el nostre gènere i fins i tot el nostre índex de massa corporal i així calcular la nostra esperança de vida. I encara més: la nostra cara té una emprempta digital amb un número que serveix perquè les empreses de vigilància massiva puguin identificar-nos. Ciència ficció o realitat?
