Saltar al contenido
OGERIA — Observatorio Global de Evidencias de Riesgos de la Inteligencia ArtificialInforme de síntesis · ed. 2026
Actualizado 2 oct 2026

Capítulo 01 · Mapa de riesgos

La competencia militar por capacidades de IA empuja a desplegar antes de saber si el sistema es confiable, y el foro que podría frenarla opera por consenso de los que compiten.

Severidad
Catastrófico
Horizonte
Ya ocurre
Evidencia
Observado
Consenso
Medio

No hay tratado sobre armas autónomas por una razón estructural, no por falta de acuerdo sobre los hechos. El foro que podría producirlo —el grupo de expertos de la Convención sobre Ciertas Armas Convencionales— trabaja por consenso, lo que da veto a cualquiera de las 128 Altas Partes, incluidas las que fabrican y usan estas armas [208]Report of the 2024-2025-2026 sessions of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems (CCW/GGE.1/2026/CRP.1/Rev.1)Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems · 2026 · documento oficialVer fuente ↗Consultada el 9 de septiembre de 2026. El foro donde sí hay mayoría abrumadora, la Asamblea General, no produce obligaciones: la resolución 79/62 pasó con 166 votos a favor y 3 en contra, y no ordena negociaciones de tratado [525]Killer Robots: UN Vote Should Spur Treaty NegotiationsHuman Rights Watch · 2024 · informeVer fuente ↗Consultada el 9 de septiembre de 2026.

La sesión de Ginebra del 31 de agosto al 4 de septiembre de 2026 lo ilustra: hubo convergencia sobre una caracterización y sobre principios, y la recomendación final es que la Conferencia de Examen decida por consenso las modalidades del trabajo futuro [208]Report of the 2024-2025-2026 sessions of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems (CCW/GGE.1/2026/CRP.1/Rev.1)Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems · 2026 · documento oficialVer fuente ↗Consultada el 9 de septiembre de 2026. Reuters reportó desde Ginebra que Estados Unidos y Rusia propusieron cambios y supresiones de última hora y que Washington prefiere directrices a un tratado vinculante [903]Opposition by US and Russia raises doubts over autonomous weapons talks outcome, diplomats sayLe Poidevin, Olivia · 2026 · prensaVer fuente ↗Consultada el 9 de septiembre de 2026. Mientras tanto los programas corren: el Departamento de Defensa adjudicó en julio de 2025 contratos de hasta 200 millones de dólares a cuatro laboratorios de frontera [290]Pentagon-Anthropic Dispute over Autonomous Weapon Systems: Potential Issues for CongressSayler, Kelley M. · 2026 · documento oficialVer fuente ↗solo copia archivadaConsultada el 9 de septiembre de 2026.

Lo que esto no demuestra. “Carrera” describe la estructura de incentivos, no una medición: no existe un estudio público que compare márgenes de prueba antes y después, ni bajas civiles con y sin autonomía en la selección de blancos. Human Rights Watch, que hace campaña por el tratado y por tanto es parte interesada, reporta que la versión final eliminó referencias al diseño, a consideraciones éticas y a predictibilidad y trazabilidad [526]UN Talks on Killer Robots Ends with Calls for Negotiations GrowingHuman Rights Watch · 2026 · informeVer fuente ↗Consultada el 9 de septiembre de 2026; el documento adoptado el 5 de septiembre todavía no estaba publicado a la fecha de esta revisión [1073]Convention on Certain Conventional Weapons — Group of Governmental Experts on Lethal Autonomous Weapons Systems (2026)United Nations Office for Disarmament Affairs · 2026 · webVer fuente ↗Consultada el 9 de septiembre de 2026, así que ese debilitamiento no se puede contrastar.

Cadena de materialización

  1. PrecondiciónObservado

    Los programas están en marcha y los contratos firmados

    En julio de 2025 el Departamento de Defensa adjudicó contratos de hasta 200 millones de dólares cada uno a Anthropic, Google, OpenAI y xAI. Replicator se anunció para desplegar miles de sistemas no tripulados hacia agosto de 2025; el Congreso registra que se desplegaron solo cientos.

    Precedentes: La disputa Pentágono-Anthropic sobre armas autónomas y vigilancia

  2. DetonanteObservado

    El foro que podría regular cierra sin mandato para negociar

    El grupo de expertos de la CCW sesionó del 31 de agosto al 4 de septiembre de 2026 y adoptó por consenso un informe que describe el problema y pospone decidir qué hacer. Reuters reportó que Estados Unidos y Rusia propusieron cambios y supresiones de última hora, y que Washington favorece algo más parecido a directrices que a un tratado vinculante.

    Precedentes: El grupo de expertos de la CCW cierra sin mandato de negociación

    Hasta aquí llega lo observado o demostrado. Lo que sigue es proyección.

  3. CascadaProyectado

    La presión competitiva come el margen de prueba

    El argumento es de incentivos y lo formula el propio proveedor: los sistemas autónomos podrían resultar críticos para la defensa nacional, pero los sistemas de IA de frontera no son hoy lo bastante confiables para impulsarlos. Que la competencia acorte la verificación es plausible y no está medido en ningún estudio comparativo público.

  4. ImpactoEspeculativo

    Sistemas desplegados cuyo comportamiento nadie caracterizó

    Ni el informe del grupo de expertos, ni el Servicio de Investigación del Congreso, ni SIPRI presentan un solo estudio comparativo de bajas civiles con y sin autonomía en la selección de blancos. La ausencia de ese dato después de una década de debate es, por sí misma, informativa.

Ver en el mapa →Reportar un error en esta ficha →

Fuentes

  1. [208] Report of the 2024-2025-2026 sessions of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems (CCW/GGE.1/2026/CRP.1/Rev.1) · Naciones Unidas — Convención sobre Ciertas Armas Convencionales 2026
  2. [526] UN Talks on Killer Robots Ends with Calls for Negotiations Growing · Human Rights Watch 2026
  3. [903] Opposition by US and Russia raises doubts over autonomous weapons talks outcome, diplomats say · Reuters 2026
  4. [525] Killer Robots: UN Vote Should Spur Treaty Negotiations · Human Rights Watch 2024
  5. [1073] Convention on Certain Conventional Weapons — Group of Governmental Experts on Lethal Autonomous Weapons Systems (2026) · Naciones Unidas — Oficina de Asuntos de Desarme 2026
  6. [206] Second session of the 2026 CCW Group of Governmental Experts on emerging technologies in the area of Lethal Autonomous Weapons Systems — Information for participants · Naciones Unidas — Oficina de Asuntos de Desarme 2026
  7. [291] DOD Replicator Initiative: Background and Issues for Congress · Congressional Research Service 2026 solo copia archivada
  8. [290] Pentagon-Anthropic Dispute over Autonomous Weapon Systems: Potential Issues for Congress · Congressional Research Service 2026 solo copia archivada
  9. [77] Where things stand with the Department of War · Anthropic 2026
  10. [972] Impact of Military Artificial Intelligence on Nuclear Escalation Risk · Stockholm International Peace Research Institute 2025
  11. [299] Ukraine's Future Vision and Current Capabilities for Waging AI-Enabled Autonomous Warfare · CSIS Wadhwani AI Center 2025

Pregúntale a OGERIA

Responde solo con lo que publica el observatorio y puede equivocarse: revisa las fichas que cita. Tus preguntas se envían a un modelo de IA, así que no escribas datos personales. Más en la política de privacidad.

Hasta 500 caracteres.

Apoyar a OGERIA en Ko-fi

El pago lo procesa Ko-fi, no este sitio. Abrir en ko-fi.com