Un equip d’investigadors ha descobert, horroritzat, que la seva eina per buscar nous medicaments també pot servir per crear armes bioquímiques extraordinàriament perilloses. Els científics, que treballen a Collaborations Pharmaceuticals, van voler provar si les eines d’intel·ligència artificial de què disposaven es podien fer servir al revés, i els resultats van ser molt més terribles dels que s’esperaven.
Fabio Urbina i els seus tres col·legues han exposat els resultats del seu experiment en un article a ‘Nature Machine Intelligence’. Normalment, el model d’aprenentatge automàtic que fan servir té, com un dels seus principis, la penalització dels nivells perillosos de toxicitat en els productes que dissenya. Al cap i a la fi, han de ser medicaments, i com menys efectes secundaris nocius tinguin pels pacients, molt millor. En aquest cas, però, els farmacèutics van invertir aquesta ordre.
Un experiment terrorífic
En fer-ho, van posar aquesta intel·ligència artificial en un camí al disseny de compostos amb efectes extraordinàriament nocius sobre el cos humà. De fet, l’eina va trigar menys de sis hores a “inventar” el VX, un agent nerviós creat a mitjans del segle XX i que continua sent entre les armes químiques més tòxiques que s’han creat mai. A més d’aquest, però, el programa va dissenyar diversos compostos enormement tòxics més, molts dels quals eren coneguts i alguns de desconeguts i que es pensa que podrien ser encara més perillosos.
La porta és impossible de tancar
Els investigadors, espantats per la facilitat com han dut a terme l’experiment i els resultats terribles que ha aconseguit, afirmen que hauria de servir com un toc d’atenció per als científics que fan servir intel·ligències artificials per descobrir nous medicaments. “Anant tan a prop com ens hem atrevit”, afirmen, “ja hem creuat una frontera moral difusa”. “Podem esborrar fàcilment els milers molècules que vam crear, però no podem eliminar el coneixement de com recrear-les”.
