El professor canadenc Yoshua Bengio, considerat un dels ‘padrins’ de la intel·ligència artificial (IA) es penedeix d’algunes decisions preses durant els treballs en el que, sens dubte, ha estat l’obra de la seva vida. En una entrevista concedida a la cadena britànica BBC, Bengio afirma que se sent “perdut” i que no es podria imaginar com evolucionaria. Si ho hagués sabut, de fet, hauria triat prioritzar la seguretat en comptes de la utilitat de la tecnologia.
Dos dels tres ‘creadors’ de la IA estan molt preocupats
L’enginyer informàtic va parlar amb la cadena pública britànica poques hores després de la publicació d’un manifest d’experts en IA que afirma que aquesta podria, fins i tot, dur la humanitat a la desaparició. Ell mateix, de fet, s’ha unit a les crides a la regulació de la tecnologia que, en el seu parer, no hauria de caure mai en mans dels militars.
Amb Bengio, dos dels tres ‘padrins’ de la IA s’han unit al manifest i a les mostres públiques de preocupació, ja que el el doctor Geoffrey Hinton també el va signar. Hinton, de fet, fa poc que va abandonar el seu lloc al capdavant de la divisió d’IA de Google, penedit de la feina feta, i Bengio també va explicar que està molt afectat, ja que sent que ja no té allò que l’havia impulsat durant tota la seva vida professional. Tots dos, sembla, tenen la sensació d’haver creat un monstre amb les millors intencions.
Una tecnologia que ha crescut molt ràpidament
La intel·ligència artificial va néixer com la capacitat dels ordinadors de fer tasques complexes que, fins ara, requerien la intervenció d’un humà. És el cas de ChatGPT, per exemple, que dóna respostes com les que donaria una persona –amb moltes diferències, però– quan se li fan preguntes. No obstant això, alguns altres avenços i aplicacions, com les que s’han fet públics els darrers mesos i anys en medicina o biologia, han fet que molts experts s’adonessin que, si una IA pot crear un fàrmac, també pot dissenyar armes químiques noves i mortals.
Així, va afirmar Bengio, la seva preocupació és especialment sobre qui fa servir la IA, especialment ara que cada cop més més sofisticada i potent. Podrien ser “militars”, va dir, o bé “terroristes” o fins i tot “algú molt enfadat, psicòtic”. Davant d’això, “si és fàcil programar aquests sistemes d’IA per demanar-los que fàcin una cosa molt dolenta, podria ser molt perillós”. A més, va afegir, “si són més llestes que nosaltres, llavors és difícil que puguem aturar aquests sistemes o prevenir els danys”.
Cada cop més veus demanen una regulació clara al sector
És per això que tant Bengio com moltes altres veus autoritzades del sector estan demanant calma i reflexió abans de continuar desenvolupant les IAs, per poder preveure’n els riscos que poden derivar-se tant d’un ús maliciós com de les mateixes decisions que puguin prendre autònomament.
Per al professor, el primer hauria de ser que les empreses que creïn productes amb IAs potents estiguin obligades a registrar-se i a ser auditades pels governs, com en “qualsevol altre sector com fabricar avions o cotxes o les farmacèutiques”. A més, també creu que les persones que treballen en aquests sistemes haurien de tenir “algun tipus de certificació… necessitem formació ètica” per evitar que les pitjors prediccions es facin realitat.
