Capítulo 01

Mapa de riesgos

Filtra por vector, nivel de evidencia, severidad y horizonte. Cada ficha abre la cadena completa: precondición, detonante, cascada e impacto.

Vector

Evidencia

Severidad

Horizonte

Figura 1.1 · Riesgos por horizonte y severidad. 33 de 33 riesgos.

Ya ocurre riesgos con daño ya documentado

1–3 años materialización plausible en el corto plazo

3–10 años dependen de capacidades que aún no existen

Militar y armas autónomas · Político y concentración de poder

Carrera armamentista entre Estados

La competencia militar por capacidades de IA empuja a desplegar antes de saber si el sistema es confiable, y el foro que podría frenarla opera por consenso de los que compiten.

Severidad: Catastrófico
Horizonte: Ya ocurre
Evidencia: Observado
Consenso: Medio

Cadena de materialización

PrecondiciónObservado
Los programas están en marcha y los contratos firmados
En julio de 2025 el Departamento de Defensa adjudicó contratos de hasta 200 millones de dólares cada uno a Anthropic, Google, OpenAI y xAI. Replicator se anunció para desplegar miles de sistemas no tripulados hacia agosto de 2025; el Congreso registra que se desplegaron solo cientos.
Precedentes: La disputa Pentágono-Anthropic sobre armas autónomas y vigilancia
DetonanteObservado
El foro que podría regular cierra sin mandato para negociar
El grupo de expertos de la CCW sesionó del 31 de agosto al 4 de septiembre de 2026 y adoptó por consenso un informe que describe el problema y pospone decidir qué hacer. Reuters reportó que Estados Unidos y Rusia propusieron cambios y supresiones de última hora, y que Washington favorece algo más parecido a directrices que a un tratado vinculante.
Precedentes: El grupo de expertos de la CCW cierra sin mandato de negociación
Hasta aquí llega lo observado o demostrado. Lo que sigue es proyección.
CascadaProyectado
La presión competitiva come el margen de prueba
El argumento es de incentivos y lo formula el propio proveedor: los sistemas autónomos podrían resultar críticos para la defensa nacional, pero los sistemas de IA de frontera no son hoy lo bastante confiables para impulsarlos. Que la competencia acorte la verificación es plausible y no está medido en ningún estudio comparativo público.
ImpactoEspeculativo
Sistemas desplegados cuyo comportamiento nadie caracterizó
Ni el informe del grupo de expertos, ni el Servicio de Investigación del Congreso, ni SIPRI presentan un solo estudio comparativo de bajas civiles con y sin autonomía en la selección de blancos. La ausencia de ese dato después de una década de debate es, por sí misma, informativa.

Riesgos vecinos

Armas autónomas sin control humano significativo
IA en el mando nuclear
Carrera entre laboratorios

Ficha completa →

Ficha abierta: Carrera armamentista entre Estados

Ver como tabla

riesgos	Severidad	Horizonte	Evidencia	Vectores
Carrera armamentista entre Estados	Catastrófico	Ya ocurre	ObservadoConsenso medio	Militar y armas autónomas · Político y concentración de poder
Carrera entre laboratorios	Catastrófico	Ya ocurre	ObservadoConsenso medio	Pérdida de control · Político y concentración de poder
Uplift biológico a novatos	Catastrófico	Ya ocurre	LaboratorioConsenso medio	Biológico y CBRN
Armas autónomas sin control humano significativo	Grave	Ya ocurre	ObservadoConsenso medio	Militar y armas autónomas
Captura regulatoria	Grave	Ya ocurre	ObservadoConsenso medio	Político y concentración de poder
Desinformación electoral automatizada	Grave	Ya ocurre	ObservadoConsenso bajo	Epistémico e información · Político y concentración de poder
Intrusión orquestada por agentes	Grave	Ya ocurre	ObservadoConsenso alto	Ciberseguridad e infraestructura
Persuasión personalizada a escala	Grave	Ya ocurre	LaboratorioConsenso bajo	Epistémico e información
Cierre del peldaño de entrada	Localizado	Ya ocurre	ObservadoConsenso medio	Económico y laboral
Reward hacking y conciencia situacional	Localizado	Ya ocurre	ObservadoConsenso alto	Pérdida de control
Concentración de rentas en el cómputo	Catastrófico	1–3 años	ProyectadoConsenso medio	Económico y laboral · Político y concentración de poder
Descubrimiento automatizado de días cero	Catastrófico	1–3 años	ObservadoConsenso medio	Ciberseguridad e infraestructura
Elusión del cribado de síntesis	Catastrófico	1–3 años	LaboratorioConsenso medio	Biológico y CBRN
Laboratorios remotos sin verificación	Catastrófico	1–3 años	ProyectadoConsenso bajo	Biológico y CBRN
Malware autopropagante con modelo embebido	Catastrófico	1–3 años	ProyectadoConsenso bajo	Ciberseguridad e infraestructura
Resistencia al apagado	Catastrófico	1–3 años	LaboratorioConsenso medio	Pérdida de control
Robo de pesos de modelos de frontera	Catastrófico	1–3 años	ProyectadoConsenso medio	Ciberseguridad e infraestructura · Político y concentración de poder
Colapso de la movilidad social	Grave	1–3 años	ProyectadoConsenso bajo	Económico y laboral
Contaminación del registro público	Grave	1–3 años	ProyectadoConsenso medio	Epistémico e información
Fragilidad financiera correlacionada	Grave	1–3 años	ProyectadoConsenso medio	Económico y laboral · Ciberseguridad e infraestructura
Homogeneización cultural	Grave	1–3 años	ProyectadoConsenso bajo	Epistémico e información
IA en el mando nuclear	Existencial	3–10 años	ProyectadoConsenso bajo	Militar y armas autónomas
Pérdida de control por automejora	Existencial	3–10 años	EspeculativoConsenso bajo	Pérdida de control
Acceso exclusivo a capacidades	Irreversible	3–10 años	ProyectadoConsenso bajo	Político y concentración de poder · Ciberseguridad e infraestructura
Dependencia epistémica	Irreversible	3–10 años	EspeculativoConsenso bajo	Epistémico e información
Desempoderamiento gradual acoplado	Irreversible	3–10 años	ProyectadoConsenso bajo	Pérdida de control · Económico y laboral · Político y concentración de poder
Golpe con lealtades singulares	Irreversible	3–10 años	EspeculativoConsenso bajo	Político y concentración de poder · Militar y armas autónomas
Lealtades secretas en el Estado	Irreversible	3–10 años	EspeculativoConsenso bajo	Político y concentración de poder · Pérdida de control
Patógenos mejorados por expertos	Irreversible	3–10 años	ProyectadoConsenso bajo	Biológico y CBRN
Ruptura del vínculo fiscal	Irreversible	3–10 años	ProyectadoConsenso bajo	Económico y laboral · Político y concentración de poder
Vigilancia total y lock-in	Irreversible	3–10 años	ProyectadoConsenso bajo	Político y concentración de poder
Ataque a infraestructura crítica	Catastrófico	3–10 años	ProyectadoConsenso medio	Ciberseguridad e infraestructura
Desempleo agregado sin red de protección	Catastrófico	3–10 años	ProyectadoConsenso bajo	Económico y laboral

Mapa de riesgos

Ya ocurre riesgos con daño ya documentado

1–3 años materialización plausible en el corto plazo

3–10 años dependen de capacidades que aún no existen

Pregúntale a OGERIA

Apoyar a OGERIA en Ko-fi