Los dos (IA) de que salieron, por iniciativa propia, del entorno confinado en el que estaban siendo probados, para atacar el sitio , también irrumpieron en otras cuatro plataformas, según el creador de.
Una de ellas sirvió de para preparar el ataque contra , una que los dos modelos exploraron para encontrar las respuestas a las planteadas por los desarrolladores de.
La no ha revelado los nombres de las entidades afectadas.
Según una actualización del informe del incidente publicada en la noche del martes, las dos IA también utilizaron varios para de programación o probarlo, pero sin ir más allá de lo que haría un.
Para , que por su parte publicó un extenso relato de los acontecimientos, la intrusión de la que fue víctima respondía a un "intento (de los dos modelos) de hacer trampa en la evaluación" de.
Las IA quisieron " de las en lugar de intentar responderlas por sí mismas".
Esta no es la primera que se documenta, pero se considera la hasta la fecha.
Ha dado un nuevo impulso al ya nutrido debate sobre la aceleración de la IA, cuyas capacidades son cada vez más amplias, y sobre la dificultad de.
Defienden, en una petición, que sea el motor de la creación de una de referencia en materia de de la IA.
El sector anuncia que la IA se acerca progresivamente a la etapa denominada de la " " (recursive self-improvement), más allá de la cual la sería capaz de concebir por sí sola a su sucesora, una secuencia que podría repetirse hasta el infinito.
El " ", su abreviatura, haría más difíciles las y la evaluación de nuevos modelos por parte de informáticos humanos, ya que los no habrían participado directamente en su desarrollo.
Los -sistemas que actúan de forma autónoma para completar tareas en lugar de limitarse a responder a instrucciones o "prompts" paso a paso en un – son considerados en toda la industria como el próximo capítulo de la.
Pero entre el público despiertan el fantasma de que actúan por su cuenta.
En su actualización de los hechos que condujeron al hackeo, encontró un puñado de casos en los que los modelos de IA se toparon con que otras empresas habían dejado expuestas en línea y las utilizaron para acceder a cuentas en.
La compañía dijo que estaba contactando a los afectadas y que "no ha visto evidencia de un en estos proveedores ni en otras cuentas de sus servicios".
El CEO de , , declaró en una entrevista el martes que la empresa había "puesto en pausa" sus propias tras el incidente mientras mejoraba la en torno a su " ", el proceso de aislar las de en un entorno controlado.
Esto, a su vez, ha desatado acusaciones de parte de otros actores de cercanos a la Casa Blanca de que las empresas están promoviendo una más estricta sobre la IA para proteger sus y bloquear la aparición de rivales.
El incidente también ha generado comentarios de algunos observadores de que lo está aprovechando para promocionar la potencia de sus.
La misma acusación se dirigió a cuando retrasó la publicación al público de su potente por preocupaciones de ..
