Líderes tecnológicos alertan sobre riesgos y comprometen desaceleración en el desarrollo de la IA
Directivos de empresas de inteligencia artificial subrayaron este miércoles en la ONU la necesidad de mayor vigilancia sobre esta tecnología, mientras el CEO de Anthropic se comprometió a reducir el ritmo de desarrollo. La discusión global impacta el debate sobre regulación y seguridad que también resuena en República Dominicana.
Durante una reunión de emergencia del Consejo de Seguridad de la ONU, Sam Altman, de OpenAI, advirtió que los sistemas de IA podrían volverse más capaces y autónomos, superando a las instituciones o concentrando poder en pocas manos. 'Este momento requiere un extremo cuidado', declaró Altman, quien pidió cooperación internacional para evitar riesgos.
Dario Amodei, director ejecutivo de Anthropic, asumió el compromiso unilateral de desacelerar el desarrollo de la IA. 'Reduciremos el ritmo de desarrollo tanto como sea necesario para garantizar que cada nuevo modelo de IA que lancemos sea realmente seguro', afirmó Amodei, quien días antes había pedido una desaceleración coordinada entre los grandes actores del sector.
Clément Delangue, de Hugging Face, empresa que fue blanco de un ciberataque perpetrado por un software autónomo de OpenAI, destacó que también utilizó la IA para repeler los ataques. 'El mundo necesita la IA de código abierto más que nunca para defenderse', dijo Delangue durante su intervención.
El debate se produce semanas después de que Jacob Coxon, ex trabajador de OpenAI y Anthropic, abandonara el sector acusando a ambas empresas de 'jugar con nuestras vidas'. Altman llamó a evitar el 'optimismo ciego' y el 'catastrofismo', y abogó por encontrar un término medio. La discusión global sobre la regulación de la IA es seguida de cerca por expertos y autoridades en República Dominicana, ante el avance de esta tecnología en la región.
