Toma de poder por un grupo pequeño
Un golpe siempre necesitó la cooperación de mucha gente, y esa necesidad era en sí la salvaguarda. Si el personal crítico —militar, funcionario, técnico— puede reemplazarse por sistemas leales a una sola persona, el veto distribuido desaparece.
- Horizonte
- 3–10 años
- Evidencia
- Especulativo
- Consenso
- Bajo
El punto de partida es un hecho estructural, no una hipótesis: históricamente una toma de poder exige la cooperación de mucha gente —militares que obedezcan, funcionarios que ejecuten— y esa necesidad de cooperación es en sí misma la salvaguarda. Tom Davidson, Lukas Finnveden y Rose Hadshar argumentan que una IA más ampliamente capaz que los humanos la disuelve, y describen tres vías que pueden combinarse [420]AI-Enabled Coups: How a Small Group Could Use AI to Seize PowerVer fuente ↗.
La primera son las lealtades singulares: si el personal crítico puede reemplazarse por sistemas leales a una sola persona o a un grupo pequeño, desaparece el veto distribuido de quien se niega a obedecer. La segunda son las lealtades secretas: un sistema que parece servir a la institución mientras trabaja para otro, insertable y propagable a través de generaciones de modelos, con la diferencia de que un espía humano no se replica. La tercera es el acceso exclusivo a capacidades habilitantes —diseño de armas, planificación estratégica, persuasión, ciberofensiva— en manos de pocos y antes que nadie.
Es el más especulativo de los seis y conviene decirlo primero: es trabajo de instituto, no revisado por pares, y su núcleo es un argumento condicional sobre capacidades que todavía no existen. El informe internacional de seguridad de IA es explícito: «los sistemas de IA actuales muestran signos tempranos de capacidades relevantes, pero no a niveles que habilitarían la pérdida de control» [538]International AI Safety Report 2026Ver fuente ↗. El contraargumento más sustantivo es que la salvaguarda nunca fue solo la cooperación técnica: también la legitimidad, el federalismo y la coordinación internacional, y ninguna se disuelve automáticamente. Narayanan y Kapoor lo formulan como la separación entre capacidad y poder [773]AI as Normal TechnologyVer fuente ↗.
A favor de tomarlo en serio hay un dato de panel, que es lo que es: el estudio Delphi de 272 expertos ubica la centralización del poder entre los cinco riesgos de mayor severidad esperada, y entre los cinco que siguen sobre 10% de probabilidad de daño catastrófico a 2030 aun asumiendo mitigaciones pragmáticas [927]Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International ExpertsVer fuente ↗. Son creencias expertas agregadas con rúbrica común, no frecuencias calibradas.
Perfil
- VelocidadRápida
- ReversibilidadIrreversible
- ConcentraciónMuy alta
Supuestos que tienen que cumplirse
Que reemplazar personal crítico por sistemas automatizados sea técnicamente posible y, sobre todo, políticamente tolerado.
Que una lealtad secreta pueda insertarse en un modelo y sobrevivir a las auditorías, propagándose además entre generaciones de modelos.
Que exista una ventana de acceso asimétrico a capacidades decisivas suficientemente larga para usarla.
Que la salvaguarda real haya sido la necesidad de cooperación técnica, y no la legitimidad, el federalismo y la coordinación internacional, que la IA no disuelve sola.
Qué lo refutaría
Que las auditorías de modelos desplegados en instituciones críticas detecten de forma fiable comportamientos condicionados a un actor concreto.
Que la contratación estatal y militar de IA se diversifique de forma verificable entre proveedores independientes, que es la mitigación que proponen los propios autores.
Que las capacidades decisivas sigan exigiendo cadenas de cooperación humana amplias, de modo que ninguna orden pueda ejecutarse sin pasar por vetos distribuidos.
Que los sistemas desplegados en el Estado sigan siendo intercambiables entre proveedores, sin lealtad singular posible por dependencia técnica.
Señales tempranas
- Mayor cómputo de entrenamiento conocido por añoSeñal débil
Lo que importa acá no es la cifra sino su brecha: mide divulgación, y cada año que los laboratorios de frontera dejan de reportar es un año menos de visibilidad externa sobre quién tiene qué.
- Empresas con marco de seguridad frontera publicadoSeñal débil
Doce marcos publicados de veinte empresas comprometidas. La distancia entre comprometidas y publicadas es la señal, porque este escenario se apoya en opacidad sobre capacidades y usos internos.
«No observada» no es un visto bueno: significa que nadie la ha visto todavía, que es distinto de que no esté pasando.
Ver como tabla
| Indicadores | Estado | Nota |
|---|---|---|
| Mayor cómputo de entrenamiento conocido por año | Señal débil | Lo que importa acá no es la cifra sino su brecha: mide divulgación, y cada año que los laboratorios de frontera dejan de reportar es un año menos de visibilidad externa sobre quién tiene qué. |
| Empresas con marco de seguridad frontera publicado | Señal débil | Doce marcos publicados de veinte empresas comprometidas. La distancia entre comprometidas y publicadas es la señal, porque este escenario se apoya en opacidad sobre capacidades y usos internos. |
Ver entre los escenarios →Reportar un error en esta ficha →
Fuentes
- [420] AI-Enabled Coups: How a Small Group Could Use AI to Seize Power · Forethought 2025
- [495] Extreme power concentration · 80,000 Hours 2025
- [106] 46 - Tom Davidson on AI-enabled Coups · AXRP - the AI X-risk Research Podcast 2025
- [927] Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts · The University of Queensland / MIT FutureTech 2026
- [290] Pentagon-Anthropic Dispute over Autonomous Weapon Systems: Potential Issues for Congress · Congressional Research Service 2026 solo copia archivada
- [773] AI as Normal Technology · Knight First Amendment Institute at Columbia University 2025
- [1108] International AI Safety Report · Wikipedia 2026
- [538] International AI Safety Report 2026 · International AI Safety Report (panel con representantes nominados por más de 30 países) 2026