Malgrat que sembla que la preocupació sobre la intrusió dels algorismes a la nostra vida diària sigui cada vegada més gran, la realitat és que ja confiem més en els ordinadors que no pas en les persones com nosaltres, especialment a l’hora de dur a terme tasques difícils. Aquesta, si més no, és la conclusió a què ha arribat un estudi elaborat per científics de dades de la Universitat de Geòrgia (Estats Units) i que ha estat publicat a la revista ‘Scientific Reports’. Tot plegat, afirmen, per fer la vida més senzilla, més fàcil: de quina serà la propera cançó que escoltarem fins a quins pantalons hauríem de comprar, els humans cada cop deixem cada cop més aquestes decisions a un programa informàtic en detriment de les persones, i en part és per això que cada dia hi ha més algorismes i que fan més coses.
A mesura que les tasques són més difícils els humans confiem més i més en els algorismes i anem abandonant la influència social, afirma aquest estudi, que volia veure de quina manera i quan les persones treballem amb els algorismes a l’hora de processar informació i prendre decisions. En una part de la investigació, a 1.500 persones se’ls van donar fotografies i se’ls va demanar que contessin quanta gent hi apareixia, amb “recomanacions” fetes per un grup d’altres persones o bé per un algorisme. Com més gent hi havia a la fotografia i més difícil era comptar, més creixia la tendència a refiar-se de la decisió de l’algorisme en comptes de comptar per ells mateixos o confiar que altres persones ho haguessin comptat bé. L’explicació dels científics és que comptar les persones es fa és difícil a mesura que hi ha més i més gent a les fotografies i, en canvi, és una tasca que la majoria de gent pensa que els ordinadors saben fer perfectament.
Aquesta confiança en els algorismes, alerten els responsables de l’estudi, pot dur problemes. Quan es fa servir una intel·ligència artificial per concedir crèdits o préstecs, per exemple, que és una decisió subjectiva, es calculen els ingressos, el risc, etc. amb un algorisme, però fer-ho així no té en compte factors socials que acaben duent, sovint, a pràctiques discriminatòries que no són culpa de l’algorisme, és clar, sinó en tot cas de qui el va dissenyar. Els sistemes de reconeixement facial i de selecció de personal també tenen, i potser encara més exageradament, el mateix problema: el seu ús ha mostrat els biaixos de qui els va crear, que poden privar algunes persones de serveis o oportunitats. El problema, doncs, és que malgrat això cada dia confiem més en els algorismes, fins i tot a nivell individual i en les decisions més quotidianes, i podríem estar entrant en una espiral d’on pot resultar molt difícil sortir i que, sota l’aparença de l’objectivitat, tingui efectes més negatius per a grans sectors de la societat que els que van tenir la indústria publicitària i la discriminació “conscient” durant el segle XX.
