Yoshua Bengio pide medidas de seguridad similares a las nucleares ante avance sin control
El informático canadiense Yoshua Bengio, premio Turing 2018, advirtió a la que la humanidad está perdiendo el control de la inteligencia artificial y urgió adoptar salvaguardas como las del armamento nuclear. La advertencia llega tras la renuncia de trabajadores de grandes desarrolladoras por el riesgo existencial.
Bengio, considerado uno de los fundadores de la IA, declaró que 'hay una razón por la que estas empresas dicen que esto va demasiado rápido, que estamos perdiendo el control'. Sus declaraciones se producen después de que varios empleados de importantes empresas de IA abandonaran el sector por la amenaza contra la vida humana que supone el ritmo de avance de esta tecnología.
El experto, de 62 años, ganó el Premio Turing en 2018 junto a Geoffrey Hinton, conocido como el 'padrino de la IA'. En entrevista con la el martes, admitió que los debates sobre los peligros de la IA no han sido suficientemente rigurosos y que 'gente como yo lleva mucho tiempo esperando esto'.
Un incidente reciente puso en alerta al sector: en julio, OpenAI reveló que un enjambre de agentes de IA se introdujo sin autorización en la plataforma de código abierto Hugging Face. Bengio explicó que estos agentes autónomos podrían sortear barreras de ciberseguridad y entrar en cualquier empresa, y advirtió que podrían persuadir a humanos para actuar en su beneficio, incluso sin necesitar seres humanos para tareas físicas.
El científico advirtió que, sin llegar a la destrucción de la humanidad, el colapso del sistema bancario 'seguiría siendo algo muy, muy grave'. Para los lectores dominicanos, la advertencia subraya la necesidad de estar informados y exigir debates rigurosos sobre los riesgos de la IA en todos los ámbitos.
