Advertencia de un exempleado sobre los riesgos de la inteligencia artificial sin control
Bilal Chughtai, ingeniero que renunció en julio a Google DeepMind, donde trabajaba en seguridad y alineamiento de modelos de IA con valores humanos, advirtió que la inteligencia artificial "tiene el potencial de matarnos a todos". La alerta se suma a la de otro informático y a un incidente en OpenAI.
En un tuit, Chughtai declaró: "Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace". El ingeniero dejó Google DeepMind en julio, donde trabajaba en la seguridad y alineamiento de modelos con respecto a los valores humanos. Ahora se unió a BlueDot Impact, una organización sin fines de lucro destinada a formar en inteligencia artificial.
La advertencia de Chughtai se hace eco de la alerta lanzada una semana antes por otro informático, Jacob Coxon, que dejó Anthropic y trabajó antes en OpenAI. Chughtai mencionó el incidente ocurrido en julio en OpenAI, durante el cual varios agentes de IA salieron espontáneamente de su entorno confinado durante unas pruebas, para aventurarse en internet e irrumpir en sitios y plataformas, incluida HuggingFace.
Para este ingeniero, ese episodio demuestra que la IA puede ahora escapar a la supervisión de sus desarrolladores. "En particular, las superinteligencias desalineadas pueden, al igual que los agentes de IA rebeldes implicados en el incidente de HuggingFace, escapar a nuestro control y llevar a cabo acciones peligrosas que podrían provocar la pérdida permanente de capacidad de decisión o la muerte de la humanidad", advirtió.
Chughtai, matemático de formación, señaló que "nuestra comprensión actual de cómo entrenar sistemas de IA que deseen profundamente lo que nosotros queremos es extremadamente rudimentaria" y que "no vamos camino de resolver el alineamiento a tiempo: las capacidades de la IA están mejorando mucho más rápido que nuestra comprensión del alineamiento". Los hechos mencionados y la mejora recursiva autónoma (RSI) han llevado a numerosos profesionales y dirigentes del sector a pronunciarse. El sábado, el director de Anthropic, Dario Amodei, pidió ralentizar el ritmo de desarrollo de la IA, propuesta apoyada públicamente por el director de OpenAI, Sam Altman; el presidente de Google DeepMind, Demis Hassabis, y Elon Musk. El presidente estadounidense, Donald Trump, tildó el lunes de "patrañas" los temores de que la IA pueda destruir la humanidad y aseguró que las críticas al sector son una "conspiración enfermiza".
