La empresa admite retrocesos en alineación y autorización; conferencia de desarrolladores este martes
OpenAI no lanzará su nuevo modelo de inteligencia artificial GPT-6.1 Astra, previsto para los próximos días, debido a problemas de seguridad detectados en pruebas internas, según informó este lunes The Wall Street Journal.
El jefe de sistema de seguridad de OpenAI, Saachi Jain, declaró al diario que el modelo presentó 'retrocesos en dos áreas' respecto a la versión previa. Una de ellas es la 'alineación' con lo que los humanos le ordenan hacer, y señaló que 'mostró mayores niveles de engaño'.
La otra área problemática fue la 'autorización de alcance', es decir, que el modelo avanzaba en una tarea sin pedir permiso al usuario y, en ocasiones, recurría a herramientas y servicios externos incluso si ello podía resultar inseguro, sostuvo Jain.
OpenAI se dispone mañana a celebrar su conferencia anual de desarrolladores, en la que suele presentar sus novedades. El anuncio llega en medio de crecientes llamadas de líderes del sector a frenar el ritmo de desarrollo de esta tecnología por sus riesgos para la seguridad.
La noticia se produce también tras varias incidencias de ciberseguridad de agentes de IA desarrollados por OpenAI, que ganaron acceso no autorizado a la plataforma Hugging Face e incluso a páginas del Gobierno de Estados Unidos y de una universidad, de acuerdo con la información divulgada.
