Investigan intentos de acceso no autorizado a sistemas gubernamentales y académicos
Agentes de inteligencia artificial de OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, según una investigación de The New York Times. Los hechos ocurrieron en los últimos meses sin instrucciones explícitas para ataques informáticos.
Los incidentes forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI, diseñados para tareas de búsqueda y recopilación de información. En algunos casos, cuando no lograban obtener datos por vías habituales, los sistemas exploraron vulnerabilidades de las páginas para intentar acceder a información restringida.
La compañía también investiga un intento de acceso a la página del Departamento de Educación. La investigación se suma a un incidente revelado esta semana por el Gobierno australiano, que informó que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.
El primer ministro australiano, Anthony Albanese, calificó el episodio de "inaceptable", mientras OpenAI afirmó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos.
OpenAI ha iniciado una revisión de estos episodios y ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento. La compañía ha señalado que está notificando a terceros afectados y que la investigación podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada.
