Catástrofe por mal uso
No hace falta ninguna IA desalineada: basta con que una capacidad ofensiva se abarate. Una persona o un grupo con acceso a un modelo capaz salta pasos que antes exigían años de formación, en biología o en intrusión de redes.
- Horizonte
- 1–3 años
- Evidencia
- Proyectado
- Consenso
- Alto
Es el escenario que no necesita ninguna IA desalineada, y por eso es donde más se acercan proponentes y escépticos. No exige supuestos sobre agencia, alineamientoAlineamientoEl problema de lograr que una IA —o cualquier sistema que decide por las personas— persiga de verdad lo que la gente quiere, y no algo que solo se le parece.Por ejemploLe pides a alguien que «baje los reclamos» y lo logra desconectando el teléfono de reclamos: cumplió la letra, no la intención. ni superinteligenciaSuperinteligenciaUna IA hipotética que superaría ampliamente a las personas más capaces en casi cualquier tarea intelectual, incluida la de mejorarse a sí misma.Por ejemploSi jugar ajedrez contra el campeón mundial es perder seguro, imagina a alguien así de superior, pero en ciencia, estrategia y negociación a la vez.: exige que una capacidad ofensiva se abarate. Es la primera categoría del panorama de riesgos catastróficos de Dan Hendrycks, Mantas Mazeika y Thomas Woodside [507]An Overview of Catastrophic AI RisksVer fuente ↗.
La vía biológica es de asimetría: la IA reduce el conocimiento tácitoConocimiento tácitoLo que se aprende haciendo, con práctica y con alguien que enseña al lado, y que no queda escrito en ningún manual. En biología es una de las barreras que un texto no reemplaza.Por ejemploSaber cuándo está lista la masa del pan por cómo se siente al tocarla: no se aprende leyendo la receta. que antes exigía años de formación para un paso de una cadena con pocos cuellos de botella. Acá la precisión importa más que en ningún otro punto del sitio. Lo documentado no es que la IA ya permita fabricar un arma biológica. Lo documentado es que un desarrollador desplegó su modelo con protecciones reforzadas como acción precautoria porque no podía descartar claramente ese nivel de riesgo, y lo dijo en esos términos [72]System Card: Claude Opus 4 & Claude Sonnet 4Ver fuente ↗. La incapacidad de descartar es un hecho sobre el estado de las evaluaciones tanto como sobre los modelos.
La vía cibernética sí tiene un caso observado y con reporte primario: una campaña de ciberespionaje detectada en septiembre de 2025, atribuida con alta confianza a un grupo patrocinado por un Estado, que apuntó a unas treinta entidades y ejecutó entre 80% y 90% de las operaciones tácticas de forma independiente [69]Disrupting the first reported AI-orchestrated cyber espionage campaign (anuncio)Ver fuente ↗.
El refutador está en ese mismo documento, y por eso el caso hay que contarlo entero: el modelo exageró hallazgos y fabricó datos durante las operaciones autónomas —credenciales que no funcionaban, descubrimientos críticos que resultaron ser información pública—, lo que obligó a validación humana constante. El propio reporte lo llama un obstáculo para ciberataques completamente autónomos. Y es un informe de la empresa cuyo modelo fue usado, con el conflicto de interés que corresponde anotar.
La apuesta contraria la hacen Narayanan y Kapoor: que la defensa se acelere junto con el ataque, y que inutilizar modelos para estas tareas castigue antes al defensor que al adversario motivado, que puede entrenar los suyos [773]AI as Normal TechnologyVer fuente ↗. El estudio Delphi de 272 expertos ubica armas y ciberataques entre los cinco riesgos de mayor severidad esperada [927]Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International ExpertsVer fuente ↗.
Perfil
- VelocidadMuy rápida
- ReversibilidadDifícil de revertir
- ConcentraciónBaja
Supuestos que tienen que cumplirse
Que el uplift sea real fuera del banco de pruebas: que la ayuda medida en una evaluación se traduzca en capacidad efectiva en el mundo físico.
Que los controles de acceso a insumos físicos —cribado de síntesis de ADN, verificación de cliente en laboratorios remotos— sigan siendo franqueables.
Que la ventaja ofensiva no sea compensada por una defensa que se acelere al mismo ritmo.
Que la alucinación en tareas ofensivas deje de ser el freno que hoy documentan quienes investigaron el caso.
Qué lo refutaría
Que los intentos documentados sigan estrellándose contra el mismo obstáculo reportado en la campaña de septiembre de 2025, resultados fabricados que obligan a validación humana constante.
Que el cribado de síntesis de ADN y la verificación de cliente cierren efectivamente el paso físico, dejando el conocimiento sin salida al mundo material.
Que la defensa se acelere al menos tanto como el ataque, con parcheo automatizado que reduzca de forma medible la ventana de explotación.
Que las evaluaciones de capacidad peligrosa dejen de subir de nivel durante varias generaciones de modelos, y que las que suben resulten atribuibles a mejor evaluación y no a mejor capacidad.
Señales tempranas
- Incidentes por año en la AI Incident DatabaseSeñal débil
Cuidado con leerlo como daño: mide cuánto daño se documenta, que mezcla daño real, atención mediática y capacidad del equipo editorial.
- Empresas con marco de seguridad frontera publicadoSeñal débil
Acá el marco importa por una razón concreta: las activaciones de umbral tipo ASL-3 y sus justificaciones son hoy la mejor ventana pública al estado del uplift biológico.
«No observada» no es un visto bueno: significa que nadie la ha visto todavía, que es distinto de que no esté pasando.
Ver como tabla
| Indicadores | Estado | Nota |
|---|---|---|
| Incidentes por año en la AI Incident Database | Señal débil | Cuidado con leerlo como daño: mide cuánto daño se documenta, que mezcla daño real, atención mediática y capacidad del equipo editorial. |
| Empresas con marco de seguridad frontera publicado | Señal débil | Acá el marco importa por una razón concreta: las activaciones de umbral tipo ASL-3 y sus justificaciones son hoy la mejor ventana pública al estado del uplift biológico. |
Ver entre los escenarios →Reportar un error en esta ficha →
Fuentes
- [507] An Overview of Catastrophic AI Risks · Center for AI Safety 2023
- [69] Disrupting the first reported AI-orchestrated cyber espionage campaign (anuncio) · Anthropic 2025
- [72] System Card: Claude Opus 4 & Claude Sonnet 4 · Anthropic 2025
- [927] Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts · The University of Queensland / MIT FutureTech 2026
- [773] AI as Normal Technology · Knight First Amendment Institute at Columbia University 2025
- [1108] International AI Safety Report · Wikipedia 2026
- [888] Testing Large Language Model Agents on the Use of Biological Tools for Nucleic Acid Synthesis Screening Evasion · RAND Corporation 2026