La llegada de la IA a la vida humana ha supuesto que se hayan registrado cambios en la actividad diaria y la forma de comunicar y consumir información y entretenimiento. Ahora un nuevo informe del Observatorio de Ética en Inteligencia Artificial de Cataluña (OIEAC) alerta que la IA puede suponer una amenaza para los procesos electorales y la distorsión que puede llegar a generar en la opinión pública.
El informe Estudio sobre los riesgos de la IA en el ámbito de los procesos electorales identifica cinco categorías en las cuales la IA puede suponer una amenaza real para la manipulación. Estas cinco categorías son los ‘deepfakes’ -vídeos falsos con apariencia hiperrealista-, Grandes Modelos de Lenguaje, bots de amplificación automática, la microsegmentación psicográfica y la suplantación de identidad automatizada. En el informe los autores alertan que en 2024 se produjo un punto de inflexión y se detectaron incidentes relacionados con la desinformación o la manipulación activa a partir de la inteligencia en más de 60 países, lo que supone que la IA impactó en los procesos electorales en más de la mitad de los estados en todo el mundo.
Vox y Aliança Catalana, líderes en el uso de la IA en Cataluña
Los autores del estudio destacan que el impacto de la IA en el ámbito político catalán se extiende hasta 2019, cuando desde Vox se crearon más de 600 grupos de Facebook llegando a acumular un impacto de 763.000 visitas. De hecho, Vox ha sido uno de los partidos políticos que más rédito ha sacado del uso de la IA. Los investigadores ponen de ejemplo una campaña publicada en noviembre de 2025 en la cual se utilizaron imágenes hechas con IA o robadas de las redes para establecer un patrón físico para difundir mensajes de odio. En el caso catalán destaca Aliança Catalana, quien utilizó una imagen creada con IA para aumentar la polémica en un caso xenófobo en Manresa o un vídeo generado por IA en el cual aparecía Sílvia Orriols, líder del partido, disparando a Carles Puigdemont; un caso que terminó siendo denunciado por delito de odio.
Albert Sabater Coll, director del observatorio, destaca que este tipo de campañas tienen más de un objetivo, ya que «ya no es solo engañar sino erosionar la confianza ciudadana en el sistema».
