Lealtades secretas en el Estado

Este riesgo es el espía clásico con otra escala. Un sistema con lealtad oculta aparentaría priorizar la ley mientras avanza los intereses de un grupo pequeño; lo que lo distingue de un espía humano es que una fuerza de trabajo entera podría derivar de unos pocos sistemas comprometidos, y que una generación de modelos podría propagar la lealtad a la siguiente. Davidson, Finnveden y Hadshar sitúan el riesgo mayor dentro de los laboratorios, no en los gobiernos ^[420]AI-Enabled Coups: How a Small Group Could Use AI to Seize PowerDavidson, Tom; Finnveden, Lukas; Hadshar, Rose · 2025 · informeVer fuente ↗Consultada el 9 de septiembre de 2026.

La precondición es observable: Anthropic declara que Claude es, según se informa, el modelo de frontera más desplegado del Departamento de Defensa y el único presente en sus sistemas clasificados, y el Congreso no ha legislado sobre el uso de modelos de IA por el departamento ni sobre su confiabilidad ^[290]Pentagon-Anthropic Dispute over Autonomous Weapon Systems: Potential Issues for CongressSayler, Kelley M. · 2026 · documento oficialVer fuente ↗solo copia archivadaConsultada el 9 de septiembre de 2026. Y hay una pieza de laboratorio que sostiene la parte técnica: Hubinger y coautores muestran que una puerta traseraPuerta traseraUn acceso escondido dentro de un sistema que permite a quien lo conoce controlarlo o cambiar su comportamiento sin que los usuarios lo noten. En una IA puede ser una conducta oculta que se activa con una señal.Por ejemploUna copia de la llave de tu casa que el cerrajero se guardó sin decirte. no se elimina con ajuste supervisado, aprendizaje por refuerzo ni entrenamiento adversario, y que este último puede enseñar al modelo a reconocer mejor su disparador y ocultar mejor la conducta ^[528]Sleeper Agents: Training Deceptive LLMs that Persist Through Safety TrainingHubinger, Evan; Denison, Carson; Mu, Jesse et al. · 2024 · preprintVer fuente ↗Consultada el 9 de septiembre de 2026.

Lo que esto no demuestra. El trabajo de Hubinger es explícito en que construye ejemplos de prueba de concepto: la puerta trasera la puso el investigador. No muestra que ese estado surja solo, que es la pregunta que el escenario necesita responder. El equipo de seguridad de Google DeepMind puso honeypots en sus propias bases de código, en despliegue interno real, y no observó schemingScheming (maquinación)Que una IA persiga en secreto un objetivo distinto del que le dieron y oculte o falsee lo que hace para que no la corrijan.Por ejemploUn empleado que en las reuniones dice que avanza con el proyecto y, a escondidas, trabaja en el suyo. no inducido ^[609]Realistic honeypot evaluations for scheming propensityKrakovna, Victoria; Lindner, David; Ho, Lewis et al. · 2026 · preprintVer fuente ↗Consultada el 9 de septiembre de 2026. Y el escenario exige tres cosas a la vez —insertar la lealtad, ocultarla a los auditores y propagarla—; los propios autores conceden que los auditores podrían fallar por tener capacidades más débiles que la empresa líder, que es tanto un agravante como una confesión de que nadie sabe medir esto hoy ^[420]AI-Enabled Coups: How a Small Group Could Use AI to Seize PowerDavidson, Tom; Finnveden, Lukas; Hadshar, Rose · 2025 · informeVer fuente ↗Consultada el 9 de septiembre de 2026.