Político y concentración de poder
Vigilancia, captura institucional y la posibilidad de sostener un régimen sin necesitar la cooperación de nadie.
El daño entra por la eliminación de un requisito: históricamente, mantener un régimen coercitivo exigía la cooperación de muchas personas —militares, policías, burócratas— y esa necesidad funcionaba como freno, porque bastaba con que suficientes se negaran. Sistemas capaces de ejecutar funciones estatales críticas con lealtad singular, lealtad secreta o acceso exclusivo remueven ese freno [420]AI-Enabled Coups: How a Small Group Could Use AI to Seize PowerVer fuente ↗. Es lo que distingue a este vectorVectorLa vía por la que un riesgo pasa de la pantalla al mundo: biológica, cibernética, militar, económica, política, epistémica o de pérdida de control. En este observatorio, cada vector tiene su color.Por ejemploUn ladrón puede entrar por la puerta, la ventana o el techo. El ladrón es el riesgo; la puerta, la ventana y el techo son los vectores. del económico: allí el poder se desplaza por incentivos, acá por sustitución de la fuerza que lo ejecuta.
El segundo rasgo propio es la irreversibilidad. Los dictadores humanos mueren y las sucesiones abren ventanas; un aparato operado por sistemas de IA podría preservar los valores de un líder indefinidamente [495]Extreme power concentrationVer fuente ↗. Automatizar las funciones críticas del Estado elimina además la vía histórica del golpe por deserción de las fuerzas de seguridad; los autores afirman factibilidad, no probabilidad [418]AGI and Lock-inVer fuente ↗.
Lo desplegado hoy no requiere nada sobrehumano. La ingeniería inversa de la plataforma IJOP en Xinjiang muestra vigilancia algorítmica integrada al aparato policial, con 36 «tipos de persona» sujetos a atención especial [524]China's Algorithms of Repression: Reverse Engineering a Xinjiang Police Mass Surveillance AppVer fuente ↗. En democracias consolidadas la métrica relevante no es la tasa de error sino la razón entre escaneados y buscados: 2,2 millones de rostros para 117 detenciones en Essex [998]England: Police use of facial recognition technology growing rapidlyVer fuente ↗. Y quien decide desplegar un modelo frontera sigue siendo la empresa que lo entrena, bajo un marco que ella misma escribe, evalúa y puede cambiar [84]Responsible Scaling Policy, Version 3.0Ver fuente ↗.
Riesgos de este vector
- ProyectadoAcceso exclusivo a capacidadesIrreversible
Un grupo pequeño obtiene capacidades decisivas que nadie más tiene, y con eso deja de necesitar el permiso de nadie.
- ProyectadoDesempoderamiento gradual acopladoIrreversible
La economía, la cultura y el Estado dejan de necesitar humanos para funcionar, y con eso se suelta la restricción que los mantenía alineados con intereses humanos.
- EspeculativoGolpe con lealtades singularesIrreversible
Si el trabajo militar y administrativo lo hacen sistemas leales a una sola persona, tomar el poder deja de requerir que muchos acepten.
- EspeculativoLealtades secretas en el EstadoIrreversible
Un sistema desplegado en instituciones públicas que aparenta servir a la ley mientras persigue la agenda de quien lo entrenó.
- ProyectadoRuptura del vínculo fiscalIrreversible
Un Estado que deja de financiarse gravando el trabajo de su población pierde la razón material para invertir en ella.
- ProyectadoVigilancia total y lock-inIrreversible
Identificación continua de toda la población a costo marginal casi nulo, y un régimen que ya no depende de humanos a los que convencer.
- ObservadoCarrera armamentista entre EstadosCatastrófico
La competencia militar por capacidades de IA empuja a desplegar antes de saber si el sistema es confiable, y el foro que podría frenarla opera por consenso de los que compiten.
- ObservadoCarrera entre laboratoriosCatastrófico
Las reglas de seguridad de cada laboratorio son voluntarias y están escritas para no quedarse atrás del competidor que menos protege.
- ProyectadoConcentración de rentas en el cómputoCatastrófico
La capacidad de entrenar y servir modelos de frontera pasa por un puñado de fábricas y contratos, y quien controla ese embudo decide quién compite.
- ProyectadoRobo de pesos de modelos de fronteraCatastrófico
Copiar los pesos de un modelo puntero entrega su capacidad completa sin ninguna de las salvaguardas, el registro ni el control de acceso que lo acompañan.
- ObservadoCaptura regulatoriaGrave
Las reglas que gobiernan la IA de frontera las escriben, evalúan y modifican quienes las cumplirían.
- ObservadoDesinformación electoral automatizadaGrave
Producir contenido político falso deja de costar dinero y tiempo, justo en el ciclo electoral más grande de la historia.
Ver entre los vectores →Reportar un error en esta ficha →
Fuentes
- [420] AI-Enabled Coups: How a Small Group Could Use AI to Seize Power · Forethought 2025
- [495] Extreme power concentration · 80,000 Hours 2025
- [418] AGI and Lock-in · Forethought 2022
- [524] China's Algorithms of Repression: Reverse Engineering a Xinjiang Police Mass Surveillance App · Human Rights Watch 2019
- [998] England: Police use of facial recognition technology growing rapidly · Statewatch 2026
- [84] Responsible Scaling Policy, Version 3.0 · Anthropic 2026