L’arribada de la IA a la vida humana ha suposat que s’hagin registrat canvis en l’activitat diària i la forma de comunicar i consumir informació i entreteniment. Ara un nou informe de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OIEAC) alerta que la IA pot suposar una amenaça per als processos electorals i la distorsió que pot arribar a generar en l’opinió pública.
L’informe Estudi sobre els riscos de la IA en l’àmbit dels processos electorals identifica cinc categories en les quals la IA pot suposar una amenaça real per a la manipulació. Aquestes cinc categories són els ‘deepfakes’ -vídeos falsos amb aparença hiperrealista-, Grans Models de Llenguatge, bots d’amplificació automàtica, la microsegmentació psicogràfica i la suplantació d’identitat automatitzada. En l’informe els autors alerten que el 2024 es va produir un punt d’inflexió i es van detectar incidents relacionats amb la desinformació o la manipulació activa a partir de la intel·ligència a més de 60 països el que suposa que la IA va impactar en els processos electorals en més de la meitat dels estats d’arreu del món.
Vox i Aliança Catalana, els líders en la utilització de la IA a Catalunya
Els autors de l’estudi destaquen que l’impacte de la IA en l’àmbit polític català s’estén fins al 2019, quan des de Vox es van crear més de 600 grups de Facebook arribant a acumular un impacte de 763.000 visites. De fet, Vox ha estat un dels partits polítics que més rèdit ha tret de la utilització de la IA. Els investigadors posen d’exemple una campanya publicada el novembre del 2025 en la qual es van utilitzar imatges fetes amb IA o robades de les xarxes per establir un patró físic per difondre missatges d’odi. En el cas català destaca Aliança Catalana, qui va fer servir una imatge creada amb IA per augmentar la polèmica en un cas xenòfob a Manresa o un vídeo generat per IA en el qual sortia Sílvia Orriols, líder del partit, disparant a Carles Puigdemont; un cas que va acabar sent denunciat per delicte d’odi.
Albert Sabater Coll, director de l’observatori, destaca que aquest tipus de campanyes tenen més d’un objectiu, ja que “ja no és només enganyar sinó erosionar la confiança ciutadana en el sistema”.
