MonPlaneta
Una intel·ligència artificial derrota els científics al seu propi joc

Un ‘chatbot’ –”robot de conversa”– d’intel·ligència artificial (IA) ha aconseguit derrotar els científics al seu propi joc. Segons un article prepublicat a ‘bioRxiv’, i que encara no ha estat revisat, aquest programa escriu resums d’articles d’investigació que resulten pràcticament indistingibles dels reals. Les proves amb aquest ‘chatbot’, de fet, apunten que fins i tot els mateixos científics tenen problemes per destriar-los si els troben enmig de resums escrits per persones.

ChatGPT, un generador de textos que semblen reals

La IA en qüestió és ChatGPT, un programa que crea text amb aparença de realitat i d’intel·ligència en resposta a les indicacions que li donen els usuaris. Darrere d’això hi ha xarxes neurals que han creat un gran model lingüístic, aprenent a generar textos semblants als que faria un humà a través del processament de grans quantitats de text creat per humans.

ChatGPT va ser presentat fa poc i està deixant bocabadats tant els experts com la població general per les seves capacitats
ChatGPT va ser presentat fa poc i està deixant bocabadats tant els experts com la població general per les seves capacitats

D’ençà que l’eina va ser posada a disposició del gran públic el novembre passat, les seves capacitats han causat una gran sorpresa no només entre els usuaris ‘bàsics’ sinó, també i especialment, entre els científics, que han aconseguit publicar un ‘preprint’ i un editorial escrits per aquesta IA.

Fent servir la IA per generar resums científics

És per això que els responsables d’aquest darrer estudi van decidir fer-lo servir per generar resums d’articles científics i provar si els experts els podien distingir dels escrits per humans. En concret, van demanar a ChatGPT que escrivís 50 d’aquests ‘abstracts’ basant-se en una selecció d’articles publicats a les revistes de medicina més prestigioses del món. Després, van passar-los un detector de plagis, un detector de textos escrits per IAs i, finalment, van demanar a un grup d’investigadors mèdics que mirés de detectar els resums falsos.

intel·ligència artificial  | Cedida
La IA va aprendre d’una selecció d’articles científics per generar-ne de falsos | Cedida

El detector de plagis fa fracassar totalment, considerant que el 100% dels textos eren totalment originals. Pel que fa al detector de textos generats per IAs, va detectar-ne un 66% dels que hi havia a la mostra. Els humans, sorprenentment, no ho van fer gaire millor: van identificar un 68% dels textos generats per la IA… i un 86% dels que havien estat creats per humans. Així, van considerar que un 32% dels resums falsos eren reals i que un 14% dels resums reals eren falsos.

Tot plegat deixa clar que ChatGPT és capaç d’escriure resums d’articles científics creïbles, cosa que pot resultar preocupant, especialment pel que fa als seus usos ètics. La recerca científica té un paper molt important a la nostra societat, tant per a la comunitat, que els llegeix per orientar les seves recerques futures; com per als polítics, que en poden fer servir les dades per prendre decisions informades.

L'èxit de ChatGPT posa de relleu els perills que pot suposar la intel·ligència artificial | Pxhere
L’èxit de ChatGPT posa de relleu els perills que pot suposar la intel·ligència artificial | Pxhere

Uns resultats que poden resultar preocupants

La possibilitat de generar textos científics falsos indistingibles dels reals, doncs, podria tenir conseqüències greus, i per bé que seria sorprenent que cap científic seriós fes servir una IA amb aquest objectiu, d’altres podrien fer-ho per generar estudis falsos que donin suport als seus objectius empresarials o ideològics, sense anar més lluny.

És per això que els autors d’aquest estudi recomanen que els encarregats de revisar les comunicacions científiques augmentin els seus recursos per tal d’identificar els textos generats per IAs i que s’estableixin normes clares sobre l’ús d’aquestes eines en aquest àmbit. Fa poc, de fet, a la 40a Conferència Internacional sobre Aprenentatge Automàtic, es va anunciar que s’havien prohibit els articles escrits per ChatGPT i altres eines d’intel·ligència artificial.

Així doncs, l’ús de la IA, que durant els darrers anys ha fet grans avenços i que ha donat resultats molt prometedors i aplicacions en camps molt diferents, continua projectant una ombra cada cop més allargada. Una ombra no només ens remet a possibles problemes reals d’avui o de demà sinó, també, als que han anat apareixent a la imaginació dels escriptors de ciència-ficció durant el darrer segle.

Nou comentari

Comparteix

Icona de pantalla completa