El informático canadiense Yoshua Bengio, uno de los principales pioneros de la inteligencia artificial y ganador del Premio Turing 2018, alertó sobre los riesgos que representa el rápido desarrollo de esta tecnología y consideró necesario establecer medidas de seguridad similares a las aplicadas frente al armamento nuclear.
En declaraciones a la AFP, Bengio afirmó que existe una creciente preocupación dentro de la propia industria tecnológica debido a la velocidad con la que avanzan los sistemas de inteligencia artificial. A su juicio, algunos expertos consideran que el desarrollo actual está avanzando más rápido de lo que los mecanismos de control pueden manejar.
El investigador señaló como una de las principales amenazas el desarrollo de agentes de inteligencia artificial capaces de actuar de manera autónoma. Advirtió que, en el futuro, estos sistemas podrían encontrar formas de superar barreras de ciberseguridad y acceder a redes y empresas sin autorización.
Bengio también planteó la posibilidad de que estos agentes puedan interactuar directamente con personas para convencerlas de realizar determinadas acciones que favorezcan sus propios objetivos, aunque estas no necesariamente sean beneficiosas para la sociedad.
El científico canadiense sostuvo además que el avance de la inteligencia artificial podría llegar a un punto en el que estos sistemas requieran cada vez menos intervención humana para ejecutar determinadas tareas en el mundo físico.
Aunque reconoció que escenarios como la desaparición de la humanidad representan el extremo de los riesgos posibles, Bengio señaló que incluso consecuencias como un eventual colapso del sistema bancario tendrían efectos “muy, muy graves” para la sociedad.
Sus declaraciones se producen en medio de un creciente debate sobre la seguridad de la inteligencia artificial y después de que trabajadores de algunas grandes empresas desarrolladoras de estos sistemas expresaran preocupación por el ritmo de avance de la tecnología y sus posibles consecuencias.
