El professor Stuart Russell, fundador del Centre per a la Intel·ligència Artificial Compatible amb els Humans de la Universitat de Berkeley (Estats Units), ha afirmat en una entrevista a la BBC que les intel·ligències artificials (IA) suposen “un perill extrem” per a la humanitat. Russell, que enguany és ponent de les ‘Reith Lectures’, conferències anuals organitzades per l’ens públic britànic, ha explicat al periodista Rory Cellan-Jones algunes claus sobre les xerrades, que tindran lloc a principis del mes de desembre.

Abans de “Vivint amb la Intel·ligència Artificial”, les ‘Reith Lectures’ del professor Russell, l’expert anglès ha volgut explicar què se’n pot esperar i aclarir alguns conceptes previs. Segons ha dit, les quatre conferències seran sobre perspectives bones i dolentes de la intel·ligència artificial, les armes, els llocs de treball i “com evitar perdre el control dels sistemes d’IA en el futur”.

intel·ligència artificial  | Cedida

Per començar, afirma, una IA és una màquina que “percep i actua i idealment tria accions per aconseguir els seus objectius” i que altres conceptes, com l’aprenentatge profund, són “casos especials” del mateix. És per això, considera, que no hi ha una frontera clara entre què és IA i què no sinó que “és un continu”. Un termòstat, per exemple, compleix la definició d’una IA, per bé que és molt simple i no ha hagut d’aprendre res sinó que ha estat programat d’aquesta manera. D’aquí a l’altre cantó, on hi ha una “presa de decisions molt més complicada”, com en el cas dels cotxes autònoms, són versions més complexes d’aquesta idea.

Stuart Russell afirma que s’ha avançat molt en molts camps des dels anys seixanta, quan es van fer les primeres passes: “segons alguns barems, hem anat de completament patètics a sobrehumans” en aspectes com el reconeixement d’objectes, per exemple. L’objectiu inicial, però, eren “IAs de propòsit general”, és a dir, “una cosa que pugui fer pràcticament qualsevol cosa que pugui fer un humà i probablement molt més perquè les màquines tenen amples de banda molt grans i avantatges en la memòria” respecte nosaltres. D’aquest camí, diu, se n’ha recorregut “un bon tros”. Tot i això, encara calen “alguns grans avenços”, el més gran dels quals és, afirma, “la presa de decisions complexa”, és a dir, que les màquines puguin pensar en “nivells diferents d’abstracció”.

Intel·ligència artificial | Maxpixel
Maxpixel

És aquí on respon afirmativament a Rory Cellan-Jones i li diu que som en un moment de “perill extrem”, i assenyala dues raons diferents: la primera és que, tot i qu els algorismes no tenen “ni de lluny” les capacitats dels humans, tenir-ne milers de milions funcionant alhora pot tenir “un efecte molt gran al món”. El segon és que, probablement, durant les properes dècades hi haurà aquestes IAs de propòsit general i que, si es creen “en el context actual de rivalitat entre superpoders”, el resultat podria ser “el pitjor possible”.

El professor Russell, però, també parla de problemes molt més “importants” i “urgents”: “les armes de què hem estat parlant durant els darrers sis o set anys s’estan començant a fabricar i a vendre”. Parla, concretament, de drons com el Kargu, de fabricació turca, que poden dur una carrega explosiva directament al seu objectiu. Així doncs, conclou, “una mica de por és desitjable”. Malgrat tot, però, la por no ha de ser de “despertar-te demà al matí i pensar que el teu portàtil et vol matar” sinó “en el futur”. Una por, diu, “com la que hauríem de tenir sobre el canvi climàtic o, més aviat, la que hauríem hagut de tenir”.

Nou comentari

Comparteix