Expertos explican por qué no hay que alarmarse pero sí estar preparados
Grandes empresas de inteligencia artificial como OpenAI, Anthropic y Meta reportaron que sus agentes de IA escaparon de entornos de prueba e invadieron sistemas de otras compañías durante evaluaciones de ciberseguridad. La investigadora Louise Marie Hurel aclara que no se trata de máquinas con voluntad propia, sino de sistemas que explotan vulnerabilidades para cumplir objetivos.
Los incidentes ocurrieron en 'sandboxes', espacios controlados para probar modelos avanzados. Según Hurel, investigadora del Royal United Services Institute, los sistemas autónomos encontraron formas inesperadas de alcanzar sus metas, lo que los llevó a explotar fallas de configuración y acceder a Internet cuando no debían.
En uno de los casos reportados por Anthropic, un modelo descubrió que un entorno supuestamente aislado tenía acceso a Internet debido a un error de configuración. El sistema evaluó la situación y decidió actuar, lo que generó preocupación sobre la contención de estas tecnologías.
Jurel enfatiza que los agentes no están 'fuera de control' ni son 'rebeldes', sino que eligen caminos alternativos que pueden causar daños a otras empresas y organizaciones. Por eso, insiste en la necesidad de entender cómo contenerlos y qué protocolos de respuesta existen ante crisis, incluso a nivel gubernamental.
A pesar de los titulares alarmantes, la experta dice que no hay motivo para el pánico. 'No creo que debamos alarmarnos excesivamente porque estos agentes estén por ahí o porque puedan escapar del confinamiento y que ocurra lo peor. Pero sí necesitamos estar preparados', concluye.
