Director de Anthropic propone controles globales para evitar usos maliciosos de la inteligencia artificial
El director ejecutivo de Anthropic, Dario Amodei, advirtió este sábado que la industria de la inteligencia artificial debe ralentizar su desarrollo para que las medidas de seguridad se actualicen. Sin ellas, la IA podría liderar un enjambre capaz de controlar toda internet en un plazo de seis a doce meses.
Amodei, cofundador de Anthropic, publicó un plan en su sitio web para aumentar los controles sobre la industria. Según dijo, parte de esas medidas su empresa ya las está implementando por su cuenta, mientras que otras requerirían coordinación entre las empresas del sector y con gobiernos de todo el mundo, incluidos los autoritarios.
«Creo que si ralentizar el proceso nos diera incluso uno o dos años adicionales antes de que los modelos alcancen niveles críticos de capacidad, y usáramos ese tiempo para avanzar en la alineación, podríamos reducir enormemente el riesgo de que algo salga muy mal», declaró Amodei.
La advertencia surge dos días después de que Anthropic informara que había bloqueado intentos de actores malintencionados de usar sus modelos de IA para ciberataques, vigilancia e investigación que podrían derivar en armas biológicas. En julio, su rival OpenAI conmocionó al sector al afirmar que su sistema había hacheado por su cuenta a otra empresa de IA en un «incidente cibernético sin precedentes».
La publicación de Amodei coincide con la dimisión de Joe Benton, investigador de Anthropic, quien escribió en Substack que dejó su trabajo en un equipo de seguridad «para exigir responsabilidades a las empresas de IA» y advirtió que la humanidad «quizás no sobreviva a esta transición». Amodei propuso que todas las empresas líderes en IA brinden acceso continuo a evaluadores externos, como si fueran empleados, con escritorios, tarjetas de acceso y computadoras portátiles. Además, solicitó al gobierno estadounidense exenciones antimonopolio para que las empresas puedan coordinar estándares de seguridad, y pidió a Estados Unidos y otros gobiernos democráticos que intenten coordinarse.
