Debate global sobre extinción humana por IA: voces expertas piden seguridad y rendición de cuentas
Sam Altman, director ejecutivo de OpenAI, y otros expertos advierten sobre los peligros de la inteligencia artificial, desde la pérdida de control hasta la concentración de poder. El debate sobre la extinción humana cobra fuerza y plantea interrogantes para países en desarrollo.
El debate sobre si la inteligencia artificial podría llevar a la extinción humana ha cobrado fuerza con las advertencias de destacados expertos. Sam Altman, director ejecutivo de OpenAI, señala dos grandes desafíos: 'el potencial de una pérdida de control, un accidente o alguna otra cosa grave que podría salir mal' y 'el potencial de un exceso de poder y concentración', donde las personas temen que quienes desarrollan la IA impongan su visión del mundo.
Stuart Russell, presidente de la Asociación Internacional para una IA Segura y Ética, plantea que si se crea algo más inteligente que nosotros, será más poderoso y difícil de controlar. Daniel Kokotajlo, ex investigador de OpenAI, compara la situación con la extinción de otras especies por parte de los humanos: 'no porque quisiéramos específicamente hacerlo, sino simplemente porque no nos importaban'.
Brad Carson, presidente de Americans for Responsible Innovation, advierte que la amenaza no requiere violencia directa: 'Basta con destruir los sistemas que nos mantienen con vida en la sociedad moderna'. Un fallo simultáneo de esos sistemas sería un evento con víctimas masivas, incluso en Estados Unidos y más aún en países en desarrollo. Marta Ziosi, directora asociada del Ada Lovelace Institute, preocupa que las empresas tengan mucho poder sin rendir cuentas, creando una 'tormenta perfecta'.
El senador demócrata por Virginia, Mark Warner, considera exagerada la idea de extinción, pero subraya la importancia de incluir protocolos de seguridad. Advierte que enjambres de agentes de IA podrían superar barreras y tomar el control de sistemas bancarios, de suministro de agua o de un hospital, dependiendo del prompt. 'Esa es una posibilidad lo suficientemente real como para que sea irresponsable no incluir la seguridad en este proceso', concluye.
