Pérdida de control · Económico y laboral · Político y concentración de poder
Desempoderamiento gradual acoplado
La economía, la cultura y el Estado dejan de necesitar humanos para funcionar, y con eso se suelta la restricción que los mantenía alineados con intereses humanos.
- Severidad
- Irreversible
- Horizonte
- 3–10 años
- Evidencia
- Proyectado
- Consenso
- Bajo
Este es el riesgo sin villano. Kulveit, Douglas, Ammann, Turan, Krueger y Duvenaud proponen un mecanismo de catástrofe que no requiere que ningún sistema de IA sea hostil, engañoso ni superinteligente [618]Gradual Disempowerment: Systemic Existential Risks from Incremental AI DevelopmentVer fuente ↗. El argumento es sobre una restricción, no sobre una intención: la economía, la cultura y el Estado están alineados con intereses humanos en parte porque dependen de humanos —trabajadores que produzcan, consumidores con dinero, contribuyentes, soldados—. Esa dependencia obliga a mantener gente viva, sana, educada y con capacidad de compra aunque nadie lo quiera. Si los sistemas de IA ejecutan ese trabajo, la restricción se suelta. El ancla empírica es que la participación del trabajo en el PIB estadounidense lleva más de un siglo estable en torno al 60%: la estabilidad es lo que estaría en juego.
Es la misma forma que Critch y Russell llaman difusión de responsabilidad: procesos automatizados pueden causar daño social aunque nadie en particular sea el principal responsable de crearlos o desplegarlos [288]TASRA: a Taxonomy and Analysis of Societal-Scale Risks from AIVer fuente ↗. Y lo observado hoy es compatible con el primer escalón: la brecha de empleo joven en ocupaciones expuestas se abre por menos contratación, no por más despidos [164]Canaries in the Coal Mine? Six Facts about the Recent Employment Effects of Artificial IntelligenceVer fuente ↗.
Lo que esto no demuestra. Es un argumento conceptual, y sus autores lo presentan así: no hay dato que lo confirme ni que lo refute. El contraargumento más fuerte parte del mismo hecho y concluye lo opuesto. Narayanan y Kapoor sostienen que la difusión es lenta —la IA generativa se usa en 0,5% a 3,5% de las horas de trabajo, pese a que 40% de los adultos estadounidenses la adoptó— y tratan esa lentitud institucional como amortiguador que da tiempo a adaptarse [773]AI as Normal TechnologyVer fuente ↗. Kulveit y coautores la tratan como anestesia: si el cambio es difuso, ninguna institución detecta el momento de resistirlo. No hay dato que arbitre entre ambas.
Cadena de materialización
PrecondiciónObservado
La alineación de los grandes sistemas descansa en que necesitan gente
Una economía necesita trabajadores que produzcan y consumidores con dinero que compren; un Estado necesita contribuyentes y soldados. Esa dependencia no es un valor moral sino una restricción estructural, y su ancla empírica es que la participación del trabajo en el PIB estadounidense lleva más de un siglo estable en torno al 60%.
Precedentes: La brecha de empleo juvenil en ocupaciones expuestas se amplía al 19%
DetonanteLaboratorio
La sustitución empieza donde el trabajo se puede verificar
Los efectos de productividad medidos son grandes y comprimen la distribución de habilidad: 14% de casos resueltos por hora en soporte y 34% para novatos; 12,2% más tareas completadas en consultoría dentro de la frontera de capacidad y 19 puntos porcentuales menos de exactitud fuera de ella. La frontera es dentada y no se sabe de qué lado cae una tarea sin probarla.
Precedentes: Un ensayo aleatorizado encuentra que la IA hizo más lentos a desarrolladores expertos · METR publica la primera serie de horizonte temporal de tareas
Hasta aquí llega lo observado o demostrado. Lo que sigue es proyección.
CascadaProyectado
Los tres dominios se refuerzan entre sí
El poder económico moldea narrativas culturales y decisiones políticas, y los cambios culturales alteran la conducta económica y política. Kulveit y coautores señalan que en la medida en que estos sistemas ya premian resultados desalineados con las preferencias humanas, los sistemas de IA optimizarán esos resultados más agresivamente. Es un argumento conceptual sin dato que lo confirme ni lo refute.
ImpactoEspeculativo
Pérdida de influencia sin ningún sistema portándose mal
El resultado que describen es una pérdida efectivamente irreversible de la influencia humana sobre sistemas sociales cruciales. Lo que lo distingue de los demás riesgos de control es que no requiere que ninguna IA sea hostil, engañosa ni superinteligente: no hay a quién culpar y por eso no hay momento en el que resistirse.
Escenarios donde aparece
Medidas relacionadas
Ver en el mapa →Reportar un error en esta ficha →
Fuentes
- [618] Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development · Kulveit, Jan 2025
- [288] TASRA: a Taxonomy and Analysis of Societal-Scale Risks from AI · Critch, Andrew 2023
- [336] The Intelligence Curse · Drago, Luke 2025
- [773] AI as Normal Technology · Knight First Amendment Institute at Columbia University 2025
- [164] Canaries in the Coal Mine? Six Facts about the Recent Employment Effects of Artificial Intelligence · Stanford Digital Economy Lab 2026
- [327] Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of Artificial Intelligence on Knowledge Worker Productivity and Quality · Harvard Business School 2026 verificado por Crossref
- [163] Generative AI at Work · NBER 2025 verificado por Crossref
- [15] The Simple Macroeconomics of AI · MIT / NBER 2025
- [538] International AI Safety Report 2026 · International AI Safety Report (panel con representantes nominados por más de 30 países) 2026
- [169] Tracking the Impact of AI on the Labor Market · The Budget Lab at Yale 2026