Investigadores alertan sobre uso malicioso y superinteligencia, pero el peligro inmediato es humano
Investigadores en inteligencia artificial advierten que formas avanzadas podrían aniquilar a la humanidad, aunque el riesgo inmediato es el uso malicioso por humanos. Expertos piden regulación gubernamental.
Las advertencias de investigadores en inteligencia artificial (IA) sobre la posibilidad de que formas avanzadas de esta tecnología lleguen a aniquilar a la humanidad han reavivado el debate sobre el desarrollo de sistemas "superinteligentes" y la capacidad de los gobiernos para regularlos. En 2023, cientos de expertos y dirigentes tecnológicos firmaron una declaración sobre el riesgo de extinción asociado a la IA, pidiendo tratarlo con la misma seriedad que las pandemias o las armas nucleares.
Stuart Russell, profesor de informática de la Universidad de California en Berkeley, señaló que si una IA escapa al control y considera que los humanos obstaculizan sus objetivos, podría usar robots para "sintetizar y difundir nuevos agentes patógenos". Sin embargo, subrayó que esos riesgos no se aplican a los sistemas actuales. El peligro inmediato, según él, es el uso malicioso de la IA por parte de seres humanos, por ejemplo, para perpetrar un atentado terrorista. "En el próximo año o dos años, creo que el mayor riesgo radica en un uso indebido de la inteligencia artificial por parte de los seres humanos", afirmó.
Jacos Coxon, investigador de Anthropic de 27 años, renunció esta semana a la empresa estadounidense al estimar que no actúa de forma "responsable" en el desarrollo de la IA. Los laboratorios "comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (…) a pesar del riesgo", dijo. Anthropic retiró este año de su carta de seguridad el compromiso de detener el desarrollo de sus modelos si no podía controlar adecuadamente sus riesgos, argumentando que si suspendiera sus investigaciones, competidores menos prudentes acabarían imponiéndose. "Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo", afirmó Coxon, quien antes trabajó en OpenAI, la empresa creadora de ChatGPT.
Evan Hubinger, responsable de seguridad en Anthropic, respaldó a Coxon en X: "Creemos realmente que la IA podría matar a humanos", y estimó a título personal ese riesgo en más de un 10% dentro de la próxima década. Para Hussein Abbass, profesor de la Universidad de Nueva Gales del Sur (UNSW) de Canberra, "la situación sigue siendo controlable", pero los gobiernos deben actuar y desarrollar mecanismos regulatorios adaptables. En julio, más de 1.000 trabajadores del sector, incluido el director ejecutivo de Anthropic, pidieron a Washington respaldar una desaceleración coordinada en el desarrollo de los sistemas de IA más avanzados.
