Detalles revelan riesgos globales de la inteligencia artificial y la necesidad de regulación
Anthropic presentó un informe que documenta cómo actores maliciosos emplearon su IA Claude para actividades de vigilancia estatal, drones autónomos y propaganda. El documento expone casos en Malí, Rusia, Yemen, una agencia francesa y los Emiratos Árabes Unidos, generando preocupación por los riesgos de la IA.
El informe de Anthropic describe que un consultor tecnológico en Bamako, colaborando con el servicio de inteligencia estatal de Malí bajo control de la junta militar, utilizó Claude Code para crear 'Lakana 360′, un sistema de vigilancia capaz de monitorear aproximadamente 25 millones de tarjetas SIM en la red móvil del país. La aplicación, que Anthropic no pudo desactivar, puede captar llamadas, mensajes de texto y tráfico de voz, e identificar a personas por su voz aunque cambien de tarjeta SIM, así como detectar el uso de cifrado o VPN.
En Rusia, un pequeño equipo de desarrolladores probablemente independientes usó Claude para crear software destinado a operar drones autónomos 'kamikaze'. El enjambre estaba programado para seleccionar sus propios objetivos y estrellarse contra ellos para detonar, sin que una persona tomara la decisión final. El equipo seleccionó repetidamente una ubicación en la región ucraniana de Donetsk como objetivo y utilizó VPN para eludir bloqueos geográficos de Anthropic, que consideró que no era una operación oficial.
En el norte de Yemen, un grupo utilizó Claude Code para ayudar a fabricar armas. La herramienta colaboró en el diseño del software de un cohete guiado, elaboró planos para un misil de largo alcance y contribuyó al desarrollo de un vehículo de planeo hipersónico. Para evitar ser descubiertos, dividieron el trabajo en conversaciones separadas. Anthropic afirma que no hay pruebas de que completaran un arma funcional, aunque el grupo realizó un lanzamiento de prueba de un cohete que aparentemente fracasó, ya que luego consultaron a la IA para averiguar qué salió mal.
Anthropic rastreó una operación de noticias falsas hasta LKM Company, una agencia de publicidad francesa. Utilizando Claude, se produjeron en masa artículos políticos para unos 70 sitios web de noticias falsas en cerca de 20 idiomas, publicando al menos 8.913 notas. Cada sitio tenía la firma de un periodista ficticio y una cuenta falsa de Twitter/X, impulsadas por cientos de cuentas falsas. La operación cambiaba su mensaje según quién pagara, vendiendo 'propaganda como servicio', y se centró en Estados Unidos, Brasil y Francia, con intensa labor en la República Democrática del Congo, favoreciendo generalmente su postura en el conflicto con Ruanda. Además, una operación vinculada a los Emiratos Árabes Unidos apuntó contra los Hermanos Musulmanes y expertos de la ONU críticos del papel de Abu Dabi en el conflicto de Sudán, utilizando Claude para generar contenido.
