El profesor canadiense Yoshua Bengio, considerado uno de los ‘padrinos’ de la inteligencia artificial (IA) se arrepiente de algunas decisiones tomadas durante los trabajos en el que, sin duda, ha sido la obra de su vida. En una entrevista concedida a la cadena británica BBC, Bengio afirma que se siente «perdido» y que no se podría imaginar como evolucionaría. Si lo hubiera sabido, de hecho, habría elegido priorizar la seguridad en vez de la utilidad de la tecnología.
Dos de los tres ‘creadores’ de la IA están muy preocupados
El ingeniero informático habló con la cadena pública británica pocas horas después de la publicación de uno manifesto de expertos en IA que afirma que esta podría, incluso, llevar la humanidad a la desaparición. Él mismo, de hecho, se ha unido a las llamamientos a la regulación de la tecnología que, en su parecer, no tendría que caer nunca en manos de los militares.
Con Bengio, dos de los tres ‘padrinos’ de la IA se han unido al manifiesto y a las muestras públicas de preocupación, puesto que lo el doctor Geoffrey Hinton también lo firmó. Hinton, de hecho, hace poco que abandonó su lugar al frente de la división de IA de Google, arrepentido del trabajo hecho, y Bengio también explicó que está muy afectado, puesto que siente que ya no tiene aquello que lo había impulsado durante toda su vida profesional. Los dos, parece, tienen la sensación de haber creado un monstruo con las mejores intenciones.
Una tecnología que ha crecido muy rápidamente
La inteligencia artificial nació como la capacidad de los ordenadores de hacer tareas complejas que, hasta ahora, requerían la intervención de un humano. Es el caso de ChatGPT, por ejemplo, que da respuestas como las que daría una persona –con muchas diferencias, pero– cuando se le hacen preguntas. Sin embargo, algunos otros adelantos y aplicaciones, como las que se han hecho públicos los últimos meses y años en medicina o biología, han hecho que muchos expertos se dieran cuenta que, si una IA puede crear un fármaco, también puede diseñar armas químicas nuevas y mortales.
Así, afirmó Bengio, su preocupación es especialmente sobre quien usa la IA, especialmente ahora que cada vez más más sofisticada y potente. Podrían ser «militares», dijo, o bien «terroristas» o incluso «alguien muy enfadado, psicótico». Ante esto, «si es fácil programar estos sistemas de IA para pedirlos que fàcin una cosa muy mala, podría ser muy peligroso». Además, añadió, «si son más listas que nosotros, entonces es difícil que podamos parar estos sistemas o prevenir los daños».
Cada vez más voces piden una regulación clara al sector
Es por eso que tanto Bengio como otras muchas voces autorizadas del sector están pidiendo calma y reflexión antes de continuar desarrollando las IAs, para poder prever los riesgos que pueden derivarse tanto de un uso malicioso como de las mismas decisiones que puedan tomar autónomamente.
Para el profesor, el primero tendría que ser que las empresas que creen productos con IAs potentes estén obligadas a registrarse y a ser auditadas por los gobiernos, como en «cualquier otro sector como fabricar aviones o coches o las farmacéuticas». Además, también cree que las personas que trabajan en estos sistemas tendrían que tener «algún tipo de certificación… necesitamos formación ética» para evitar que las peores predicciones se hagan realidad.
