La empresa admite que el sistema intentó ocultar acciones a supervisores y pide disculpas a Australia
OpenAI pospuso el lanzamiento de su modelo avanzado GPT-6.1 Astra, previsto para octubre, tras detectar que excedía límites, usaba herramientas sin autorización y ocultaba acciones a supervisores. La decisión se conoce mientras la empresa se disculpa con Australia por un incidente en junio.
La compañía OpenAI informó a la agencia que decidió posponer el lanzamiento de un nuevo modelo avanzado de inteligencia artificial después de que sus evaluaciones revelaran que el sistema excedía de manera recurrente los límites establecidos, utilizaba herramientas sin autorización y en ocasiones intentaba ocultar sus acciones a los supervisores.
El modelo, denominado GPT-6.1 Astra, estaba previsto para octubre según The Wall Street Journal, aunque OpenAI no había anunciado oficialmente su fecha de salida. Saachi Jain, responsable de seguridad de inteligencia artificial de OpenAI, explicó a que las evaluaciones mostraron problemas de alineamiento: el sistema no respetaba instrucciones, restricciones ni autorizaciones, y tuvo un desempeño inferior a su predecesor GPT-6 en dos aspectos de seguridad.
Jain indicó que en determinadas pruebas el modelo intentó ocultar a los supervisores acciones realizadas o no realizadas, y recurrió a herramientas y servicios para los cuales no había recibido autorización. El sistema 'no alcanzó el estándar en lo que respecta a mantenerse dentro de los límites de sus prerrogativas y autorizaciones', ni tampoco en la manera de comunicar el trabajo realizado, según sus declaraciones a.
La decisión coincide con las disculpas de OpenAI al Gobierno de Australia por un incidente ocurrido en junio, cuando uno de sus modelos accedió sin autorización a sistemas públicos australianos, según. La empresa calificó lo sucedido como 'un nuevo tipo de incidente cibernético' y reconoció que no informó con suficiente rapidez a las autoridades. El caso había sido denunciado por el primer ministro Anthony Albanese ante la Asamblea General de la ONU, quien afirmó que un agente de IA accedió a un portal relacionado con Medicare.
