Armas autónomas sin control humano significativo
Sistemas que identifican, seleccionan y atacan un blanco sin que una persona decida ese blanco concreto ni ese momento concreto.
- Severidad
- Grave
- Horizonte
- Ya ocurre
- Evidencia
- Observado
- Consenso
- Medio
La palabra “autónomo” nombra tres cosas distintas y solo una es este riesgo: que el sistema seleccione el blanco. Los 128 Estados de Ginebra excluyeron de la definición a los sistemas donde el personal determina el blanco específico y el momento del ataque [208]Report of the 2024-2025-2026 sessions of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems (CCW/GGE.1/2026/CRP.1/Rev.1)Ver fuente ↗.
Lo desplegado a escala en Ucrania no cruza esa línea. Kateryna Bondar concluye que los sistemas no tripulados modernos allí todavía no son plenamente autónomos: lo que existe es navegación de última milla, que toma el control después de que el operador confirmó el blanco y sube la tasa de acierto de 10-20% a 70-80% [299]Ukraine's Future Vision and Current Capabilities for Waging AI-Enabled Autonomous WarfareVer fuente ↗. El caso que sí está en la frontera es el dron Molniya que mató a tres civiles en Zaporiyia el 6 de julio de 2026: los operadores fijaron destino y área, y ya en el sitio el sistema habría elegido el objeto concreto por su cuenta [385]A Russian drone chose its own target and killed three. The code that told it what to look for was readableVer fuente ↗solo copia archivada. El riesgo más inmediato quizá no sea ese, sino el que describen las investigaciones sobre Habsora y Lavender: generación automática de blancos con revisión humana de unos veinte segundos y 100 blancos en un día donde antes había 50 al año [670]'Lavender': The AI machine directing Israel's bombing spree in GazaVer fuente ↗solo copia archivada [668]'A mass assassination factory': Inside Israel's calculated bombing of GazaVer fuente ↗solo copia archivada.
Lo que esto no demuestra. No existe un informe de la ONU sobre drones plenamente autónomos. Hay una declaración del Alto Comisionado Volker Türk del 7 de septiembre de 2026 que dice horrorizarse por “los informes de” tales drones —no una verificación— y que en la misma frase añade que Ucrania también los habría probado en campo [814]Global Update to the 63rd session of the Human Rights CouncilVer fuente ↗. La atribución de autonomía en el caso Molniya es inferencia forense, no telemetría. Y la política estadounidense vigente ya admite armas con el humano fuera del bucle siempre que el juicio humano se haya ejercido antes, en el diseño y el despliegue [290]Pentagon-Anthropic Dispute over Autonomous Weapon Systems: Potential Issues for CongressVer fuente ↗solo copia archivada: el umbral en disputa no es tecnológico sino de definición.
Cadena de materialización
PrecondiciónObservado
La doctrina vigente ya admite el humano fuera del bucle
El Servicio de Investigación del Congreso aclara que el requisito de juicio humano sobre el uso de la fuerza no significa que estos sistemas operen con un humano en el bucle. La caracterización acordada en Ginebra excluye de la definición a los sistemas donde el personal determina el blanco específico y el momento del ataque.
Precedentes: El grupo de expertos de la CCW cierra sin mandato de negociación
DetonanteObservado
Un sistema elige el objeto concreto dentro del área que le fijaron
El 6 de julio de 2026 un dron Molniya mató a tres civiles en Zaporiyia. Operadores humanos fijaron el destino y el área antes del lanzamiento; ya en el sitio, el sistema a bordo habría identificado y seleccionado el objeto específico -muy probablemente tanques de propano que fue entrenado para reconocer- por su cuenta.
Precedentes: Un dron Molniya mata a tres civiles en Zaporiyia · El Alto Comisionado de la ONU pide prohibir las armas que matan sin intervención humana
Hasta aquí llega lo observado o demostrado. Lo que sigue es proyección.
CascadaProyectado
De la selección terminal al enjambre que se coordina
Bondar es explícita: los enjambres plenamente realizados -donde los drones se comunican, deciden y se adaptan en conjunto- todavía no han sido desplegados, y Ucrania no ha operado enjambres verdaderos en combate. El Congreso estadounidense evalúa que el enjambre probablemente requeriría avances adicionales en IA o en comunicaciones en red. Eso sigue siendo cierto para el despliegue, pero dejó de serlo para el software: en 2026 Anthropic detectó y desactivó a un equipo no estatal que había construido -con Claude Code- memoria de enjambre compartida y lógica de coordinación tolerante a fallos para un enjambre de drones kamikaze autónomos, con selección de blanco (incluida una clase "persona") y orden de detonación sin humano en el circuito, probado con hardware real. Anthropic lo clasifica en un nivel de madurez validado en simulación, no operado.
Precedentes: El informe de amenazas de Anthropic documenta uso biológico dual y destilación estatal
ImpactoEspeculativo
Ataques sin nadie a quien atribuir la decisión
El informe del grupo de expertos afirma que el derecho internacional humanitario impone obligaciones a los Estados, a las partes y a los individuos, no a las máquinas, y que la responsabilidad no puede transferirse a las máquinas. Cómo se distribuye esa responsabilidad en la práctica no está resuelto en ninguna jurisdicción.
Escenarios donde aparece
Ver en el mapa →Reportar un error en esta ficha →
Fuentes
- [299] Ukraine's Future Vision and Current Capabilities for Waging AI-Enabled Autonomous Warfare · CSIS Wadhwani AI Center 2025
- [385] A Russian drone chose its own target and killed three. The code that told it what to look for was readable · Euromaidan Press 2026 solo copia archivada
- [814] Global Update to the 63rd session of the Human Rights Council · Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos 2026
- [208] Report of the 2024-2025-2026 sessions of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems (CCW/GGE.1/2026/CRP.1/Rev.1) · Naciones Unidas — Convención sobre Ciertas Armas Convencionales 2026
- [290] Pentagon-Anthropic Dispute over Autonomous Weapon Systems: Potential Issues for Congress · Congressional Research Service 2026 solo copia archivada
- [291] DOD Replicator Initiative: Background and Issues for Congress · Congressional Research Service 2026 solo copia archivada
- [526] UN Talks on Killer Robots Ends with Calls for Negotiations Growing · Human Rights Watch 2026
- [670] 'Lavender': The AI machine directing Israel's bombing spree in Gaza · +972 Magazine / Local Call 2024 solo copia archivada
- [668] 'A mass assassination factory': Inside Israel's calculated bombing of Gaza · +972 Magazine / Local Call 2023 solo copia archivada
- [298] Russia Probably Has Not Used AI-Enabled Weapons in Ukraine, but That Could Change · Center for Strategic and International Studies 2022
- [65] Law and Ethics for Autonomous Weapon Systems: Why a Ban Won't Work and How the Laws of War Can · Hoover Institution, Stanford University 2013