Qué significa para los dominicanos el debate sobre los riesgos de la inteligencia artificial
Jacos Coxon, ingeniero británico de 27 años que trabajó en Anthropic y OpenAI, renunció por falta de responsabilidad en el desarrollo de la IA. El caso reaviva el debate global sobre los riesgos existenciales de la tecnología.
Jacos Coxon, un ingeniero de software británico de 27 años que ha trabajado en Anthropic y en los últimos tres años en OpenAI, presentó su dimisión porque ambas compañías 'no están actuando con responsabilidad' y están 'jugando con nuestras vidas'. Los medios lo identifican como uno de los desarrolladores de GPT-4o y GPT-4.5, aunque sin responsabilidades ejecutivas.
En un hilo en X, Coxon aseguró que quienes están detrás del desarrollo exponencial de la IA 'creen que podrá matarnos a todos al final de esta década', porque 'no hay otra actividad humana que suponga este nivel de amenaza'. Sostiene que se subestima el poder de la tecnología y que los proyectos de IA 'serán pronto sistemas sobrehumanos que podrán jaquear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos'.
Colon ve una diferencia entre las empresas: OpenAI 'tal vez no ha internalizado en profundidad los retos civilizacionales', mientras que Anthropic los comprende bien pero 'está atrapado en la carrera por llegar primero'. Pide coordinación entre los proyectos de IA y aboga por 'acciones costosas, como una prohibición temporal de mejorar las capacidades del modelo', además de reflexión profunda entre los investigadores.
Evan Hubinger, investigador de Anthropic, respaldó a Coxon en X: 'Jacob tiene razón aquí; realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es más del 10 % dentro de la próxima década'. Hubinger consideró bajo el riesgo de los modelos actuales, pero preocupante 'la superinteligencia que surge del automejoramiento recursivo (…) que está ocurriendo más rápido de lo pensábamos'. Coxon no es el único: Geoffrey Hinton renunció a Google en 2023 por los riesgos de la IA, y en 2024 exempleados de OpenAI advirtieron en una carta abierta sobre el rápido desarrollo y la falta de leyes que protejan a los denunciantes.
