El Parlamento Europeo debatirá y votará entre martes y miércoles de esta semana la primera ley de inteligencia artificial (IA) del mundo. La propuesta que ha llegado a la cámara de representación comunitaria está redactada de forma que clasifica y distingue los usos de esta tecnología –y no la tecnología en sí– según el riesgo que se percibe que comportan y, a partir de aquí, mirará de regularlos.
Así pues, y después de unos cuántos años de trabajo en la redacción de la propuesta y de haber ido viendo qué opinaban algunos expertos, finalmente esta ley llega al Parlamento Europeo en un momento en que parece que la urgencia se ha disparado tanto por los adelantos que se han visto durante los últimos meses como, también, por los llamadas de alerta que se han hecho sentir desde algunos sectores con bastante conocimiento de causa.
La ley podría entrar en vigor este mismo año
Si todo va según los planes, este martes se debatirá la ley y miércoles se votará. Si es aprobada se trasladará al Consejo Europeo, donde los gobiernos de la UE lo volverán a debatir y, si lo consideran oportuno, lo enmendarán, abriendo todavía otro periodo de negociación. Si no hay grandes problemas, la ley podría entrar en vigor a finales de este mismo año.
La ley europea de inteligencia artificial no considera esta tecnología como un riesgo en sí misma sino que parte de la idea que se pueden hacer malos usos que pueden afectar varios ámbitos. La propuesta distingue tres –la salud, la seguridad y los derechos fundamentales– que requieren una especial protección, y por eso clasifica los usos de la inteligencia artificial en tres niveles de riesgo: inaceptable, alto y bajo.
Riesgos inaceptables que quedan prohibidos
Es a partir de esta clasificación que la ley regula los usos prohibiendo, por ejemplo, todo aquello que se considera ‘inaceptable’, como los sistemas de identificación biométrica remota y en tiempo real de los espacios públicos, el ejemplo más conocido de que seria identificar personas a través de cámaras con sistemas de reconocimiento facial. Incluso en este caso, pero, la ley ya apunta excepciones, siempre con la excusa de la seguridad: buscar víctimas, prevenir amenaçes o arrestar sospechosos.
También se prohíbe el análisis de comportamientos sociales, capacidad económica y rasgos personales de los ciudadanos para darles una puntuación, una práctica que se conoce como ‘social scoring’ y que se considera un riesgo inaceptable para la sociedad por razones que resultan evidentes y que han sido mostrados incluso a la ficción, por ejemplo a series como ‘Black Mirror’.
La nueva ley también quiere prohibir la desinformación, con una redacción donde propone dejar fuera de la ley las prácticas basadas en la inteligencia artificial que tengan un «gran potencial para manipular las personas con técnicas subliminales que transciendan su conciencia» o bien que quieran sacar provecho de «vulnerabilidades de grupos concretos», poniendo como ejemplo los menores de edad o las personas con discapacidad.
Los usos de alto riesgo son regulados con cuidado
Los usos de la inteligencia artificial que se considera que tienen un riesgo alto son regulados con bastante cura. Aquí es dónde han ido a parar las excepciones a la prohibición de la identificación biométrica pero también otras posibles ámbitos donde se puede usar y que los legisladores creen que hay que vigilar por el peligro que suponen, como por ejemplo la gestión de las infraestructuras esenciales como las de tráfico o la distribución de electricidad, agua y gas.
También se consideran usos de alto riesgo los que afectan en el mundo laboral y a los sectores de la banca y las finanzas. Así, las aplicaciones que establezcan patrones de contratación o promoción de personal y las que evalúen los candidatos o sol·licitands para un puesto de trabajo también quedan prohibidos por evitar la discriminación, como también usar la inteligencia artificial para evaluar la solvencia de los clientes de los bancos o para decidir si se concede o no un seguro y a qué precio a una persona. El mismo criterio se aplica a la gestión de las migraciones, especialmente en la aprobación de solicitudes de asilo o de residencia.
Proteger las personas de los posibles impactos de la IA
Finalmente, la ley también mira de dar cierta protección a las personas de los impactos de los usos permitidos de la IA. Así, por ejemplo, la transparencia es importante, y es por eso que la propuesta haría obligatorio informar los usuarios cuando un contenido fundido generado por un programa y no una persona, tanto en el caso de textos como de audios, videos e imágenes que puedan parecer hechos por un humano. Además, también habrá que informar de la fuente de la información empleada para generar los contenidos protegiendo, así, los derechos de autor y la propiedad intelectual.
