Político y concentración de poder · Militar y armas autónomas
Golpe con lealtades singulares
Si el trabajo militar y administrativo lo hacen sistemas leales a una sola persona, tomar el poder deja de requerir que muchos acepten.
- Severidad
- Irreversible
- Horizonte
- 3–10 años
- Evidencia
- Especulativo
- Consenso
- Bajo
El argumento de Tom Davidson, Lukas Finnveden y Rose Hadshar no es sobre tecnología sino sobre la estructura del poder. Hoy, incluso los dictadores dependen de otros: la fuerza militar requiere personal, el gobierno depende de funcionarios, la producción depende de una fuerza de trabajo amplia. Esa dependencia distribuye el poder, y la reticencia humana a cumplir órdenes ilegales ha sido un freno histórico. Su tesis cabe en una línea: la IA avanzada elimina esa restricción, porque vuelve técnicamente viable reemplazar trabajadores humanos por sistemas singularmente leales a una sola persona [420]AI-Enabled Coups: How a Small Group Could Use AI to Seize PowerVer fuente ↗.
El punto menos obvio es el segundo: la lealtad singular no solo habilita el golpe, también anula la respuesta. La desobediencia civil y la huelga general funcionan porque el trabajo humano es insustituible; si hasta los partidarios leales pueden reemplazarse, quien tomó el poder queda sin contrapeso [420]AI-Enabled Coups: How a Small Group Could Use AI to Seize PowerVer fuente ↗. Finnveden, Riedel y Shulman llegan a lo mismo: la mayoría de los regímenes cae porque sus fuerzas de seguridad desertan, y esa vía se cierra cuando no hay soldados que puedan desertar [418]AGI and Lock-inVer fuente ↗.
Lo que esto no demuestra. Nada de esto está medido, y sus autores lo dicen: analizan sistemas que superan a los mejores expertos humanos en dominios críticos, no la IA actual, y presentan el ejercicio como implicaciones condicionales. En una entrevista de agosto de 2025 Davidson pone número a su propia tesis y lo descalifica en la misma frase: “si tuviera que arrancar un número, diría 10%, pero es muy inventado” [106]46 - Tom Davidson on AI-enabled CoupsVer fuente ↗. El contraargumento estructural más fuerte es una ausencia: en el resumen extendido para responsables de política del International AI Safety Report 2026 —más de cien expertos, paneles nominados por 29 países— la palabra “concentración” no aparece ninguna vez [538]International AI Safety Report 2026Ver fuente ↗. Esta literatura es específica y minoritaria; eso no la falsifica, pero sitúa su estatus.
Cadena de materialización
PrecondiciónObservado
El poder se distribuye porque hace falta gente
Hasta hoy, incluso los dictadores dependen de otros: la fuerza militar requiere personal, la acción de gobierno depende de funcionarios y la producción económica de una fuerza de trabajo amplia. Entre 1950 y 2010 hubo más de 200 golpes exitosos, y han bastado unos pocos batallones cuando lograron impedir que otras fuerzas intervinieran.
DetonanteObservado
La lealtad pasa a ser un parámetro que alguien configura
Hoy quién obedece qué se define en documentos de política de uso que escribe una empresa privada. La disputa de 2026 muestra el mecanismo funcionando y su fragilidad: Anthropic rechazó dos casos de uso -vigilancia doméstica masiva y armas plenamente autónomas- sobre la base de una política propia, y la respuesta estatal no fue obligarla sino excluirla de la cadena de suministro federal.
Precedentes: La disputa Pentágono-Anthropic sobre armas autónomas y vigilancia
Hasta aquí llega lo observado o demostrado. Lo que sigue es proyección.
CascadaProyectado
Desaparece el requisito de coalición
Davidson, Finnveden y Hadshar sostienen que sistemas autónomos que reemplacen por completo a los soldados podrían obedecer órdenes de una sola persona o de un grupo pequeño, y que las fuerzas armadas serían cautas pero las presiones competitivas podrían llevar a adopciones apuradas sin salvaguardas adecuadas. Analizan sistemas que superan a los mejores expertos humanos en dominios críticos, no la IA actual.
ImpactoEspeculativo
Y desaparece también la respuesta al golpe
El punto menos obvio del argumento es que la desobediencia civil y la huelga general dependen de que el trabajo humano sea insustituible. Si se puede reemplazar incluso a los partidarios leales, quien tomó el poder queda sin contrapeso. Es un argumento conceptual sin ninguna medición posible hoy.
Escenarios donde aparece
Ver en el mapa →Reportar un error en esta ficha →
Fuentes
- [420] AI-Enabled Coups: How a Small Group Could Use AI to Seize Power · Forethought 2025
- [106] 46 - Tom Davidson on AI-enabled Coups · AXRP - the AI X-risk Research Podcast 2025
- [418] AGI and Lock-in · Forethought 2022
- [495] Extreme power concentration · 80,000 Hours 2025
- [290] Pentagon-Anthropic Dispute over Autonomous Weapon Systems: Potential Issues for Congress · Congressional Research Service 2026 solo copia archivada
- [77] Where things stand with the Department of War · Anthropic 2026
- [73] Usage Policy · Anthropic 2025
- [299] Ukraine's Future Vision and Current Capabilities for Waging AI-Enabled Autonomous Warfare · CSIS Wadhwani AI Center 2025
- [538] International AI Safety Report 2026 · International AI Safety Report (panel con representantes nominados por más de 30 países) 2026