Vigilancia total y lock-in

Este riesgo tiene dos mitades con calidades de evidencia muy distintas, y conviene no mezclarlas. La primera está observada y no requiere IA sobrehumana. Human Rights Watch hizo ingeniería inversa de la aplicación policial de la Integrated Joint Operations Platform de Xinjiang: recoge desde el color del auto hasta la estatura al centímetro, vinculado al número de cédula; marca 51 herramientas de red como sospechosas y clasifica 36 tipos de persona sujetos a atención especial ^[524]China's Algorithms of Repression: Reverse Engineering a Xinjiang Police Mass Surveillance AppHuman Rights Watch · 2019 · informeVer fuente ↗Consultada el 9 de septiembre de 2026. Y no es solo un régimen autoritario: Statewatch documentó en junio de 2026 cifras oficiales británicas —la policía de Essex escaneó 2,2 millones de rostros en 2024-2025 con 117 detenciones; la Policía Metropolitana escaneó 1,7 millones en cuatro meses de 2026 con 44— más 40 furgones adicionales y 115 millones de libras a tres años ^[998]England: Police use of facial recognition technology growing rapidlyJones, Chris · 2026 · prensaVer fuente ↗Consultada el 9 de septiembre de 2026. Lo relevante no es la tasa de error sino la razón entre escaneados y buscados.

La segunda mitad es el lock-inLock-inQue una situación quede fijada casi para siempre: un gobierno, unos valores o un reparto del poder que ya no hay forma de cambiar.Por ejemploComo firmar un arriendo a cien años con cláusulas que no escribiste y que nadie puede modificar., y es especulativa: Finnveden, Riedel y Shulman argumentan que la vía por la que históricamente caen los regímenes —la deserción de las fuerzas de seguridad— se cierra si el régimen no depende de apoyos humanos ^[418]AGI and Lock-inFinnveden, Lukas; Riedel, Jess; Shulman, Carl · 2022 · informeVer fuente ↗Consultada el 9 de septiembre de 2026.

Lo que esto no demuestra. Los autores del lock-in son explícitos: hacen afirmaciones sobre viabilidad, no sobre probabilidad, y es lo que más se les cita mal ^[418]AGI and Lock-inFinnveden, Lukas; Riedel, Jess; Shulman, Carl · 2022 · informeVer fuente ↗Consultada el 9 de septiembre de 2026. En el lado observado hay un matiz que corta contra la lectura fácil: HRW encontró código de reconocimiento facial de Face++ dentro de la app de Xinjiang y aclaró que confirmó de forma independiente que ese código es inoperante ^[524]China's Algorithms of Repression: Reverse Engineering a Xinjiang Police Mass Surveillance AppHuman Rights Watch · 2019 · informeVer fuente ↗Consultada el 9 de septiembre de 2026. Rose Hadshar recoge tres razones para que el poder siga distribuido —que las capacidades no lleguen tan lejos, que la respuesta regulatoria baste, que el miedo al desalineamiento reduzca el despliegue— ^[495]Extreme power concentrationHadshar, Rose · 2025 · informeVer fuente ↗Consultada el 9 de septiembre de 2026.