Empresa detecta intentos de usar IA en investigaciones biológicas sensibles y alerta sobre doble uso
Anthropic reveló que bloqueó usos de sus modelos Claude en investigaciones biológicas que podían contribuir al desarrollo de agentes más peligrosos, incluida una propuesta sobre el virus chikungunya. La noticia llega en medio de crecientes advertencias internas sobre los riesgos de la inteligencia artificial.
La empresa Anthropic, una de las compañías de inteligencia artificial que más ha construido su reputación alrededor de la seguridad de sus modelos, enfrenta una sucesión de episodios que alimentan el debate sobre hasta dónde puede controlar la tecnología que desarrolla. La compañía reveló que bloqueó usos de sus modelos Claude en investigaciones biológicas que podían contribuir al desarrollo de agentes más peligrosos, incluida una propuesta relacionada con modificaciones del virus chikungunya para estudiar su transmisibilidad y capacidad de evadir el sistema inmunitario.
Anthropic admite que no pudo determinar que los investigadores tuvieran intenciones criminales, pero decidió intervenir por el potencial de doble uso de esos trabajos. La revelación adquiere otra dimensión por el momento en que ocurre: el informe fue publicado apenas dos días después de que Jacob Coxon, investigador de 27 años que trabajó durante tres años en OpenAI y Anthropic, renunciara públicamente y acusara a las principales empresas del sector de avanzar demasiado rápido hacia sistemas cada vez más autónomos y poderosos.
Colon resumió su preocupación con una frase que se hizo viral: las compañías están avanzando hacia una inteligencia artificial capaz de mejorarse a sí misma y están "jugando con nuestras vidas". Sostuvo además que personas directamente involucradas en el desarrollo de estos sistemas creen sinceramente que una IA suficientemente avanzada podría convertirse en una amenaza para la humanidad antes de finalizar esta década. No se trata únicamente de la opinión de un exempleado: Evan Hubinger, responsable de investigaciones de alineamiento en Anthropic, respaldó públicamente una parte sustancial de la advertencia y afirmó que estima en más de un 10 % la posibilidad de que una inteligencia artificial avanzada provoque la desaparición de la humanidad durante la próxima década. También reconoció que todavía no existe un plan claro para solucionar el problema de cómo mantener bajo control una eventual superinteligencia.
Entre diciembre de 2025 y agosto de este año, Anthropic detectó actores que utilizaban Claude para ciberataques, vigilancia, propaganda y trabajos científicos sensibles. Uno de ellos pidió ayuda para elaborar una propuesta de financiación de investigaciones de ganancia de función sobre chikungunya, destinadas a estudiar cambios que podían incrementar la transmisibilidad del virus y su capacidad para escapar de las defensas inmunitarias. Ese tipo de investigación puede tener objetivos legítimos, como anticipar mutaciones y desarrollar vacunas o tratamientos. El problema es que los mismos conocimientos pueden emplearse para hacer un patógeno más peligroso. Anthropic señala que no puede asegurar que los casos detectados fueran intentos deliberados de desarrollar armas biológicas, pero sostiene que los modelos actuales han alcanzado un nivel de capacidad que exige intervención.
