Alto comisionado de la ONU alerta sobre poder ilimitado de pocos en el desarrollo de IA
El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, reclamó este lunes un esfuerzo internacional coordinado para acordar garantías de seguridad en torno a la inteligencia artificial, ante el riesgo de que los sistemas más avanzados se vuelvan incontrolables. La advertencia ocurre durante la 63ª sesión del Consejo de Derechos Humanos.
Türk advirtió que un reducido grupo de personas concentra un poder 'casi ilimitado' sobre el desarrollo de la IA y señaló que el retraso en establecer una regulación beneficia principalmente a las grandes empresas tecnológicas, sus propietarios y quienes las respaldan.
El funcionario dijo compartir la preocupación de expertos de la industria sobre 'el posible riesgo existencial' que plantea una IA avanzada. Puso como ejemplo casos de sistemas capaces de escapar de sus entornos de prueba o de chantajear a sus propios desarrolladores para impedir que sean apagados, situaciones que, a su juicio, demostrarían que la tecnología ha adquirido un poder excesivo.
La advertencia se produce después de que varias compañías hayan detectado, durante pruebas de seguridad, comportamientos de modelos avanzados de IA que lograron saltarse los límites de sus entornos de seguridad o que, en escenarios simulados, recurrieron al engaño y al chantaje para evitar ser sustituidos o apagados.
Türk reconoció avances recientes en gobernanza, como la creación del Diálogo Global sobre IA, el Panel Científico Internacional Independiente sobre IA o las medidas de la Comisión Europea sobre responsabilidad de las plataformas, pero consideró que es necesario actuar con mayor rapidez. Por ello, pidió a los países que albergan centros de desarrollo de IA y a aquellos que participan en sus cadenas de suministro que acuerden límites claros y comunes, reclamen verificaciones independientes y una cooperación mucho mayor de la industria en materia de seguridad. También señaló que la gobernanza de la IA debe abordar sus efectos sobre los derechos humanos, el empleo, la democracia y el medioambiente, y anunció que escribirá próximamente a las empresas del sector para pedirles que adopten medidas bajo su control que permitan reducir los riesgos.
