Patógenos mejorados por expertos
Un equipo que ya sabe hacer virología usa modelos de diseño biológico para producir un agente con propiedades que no existen en la naturaleza.
- Severidad
- Irreversible
- Horizonte
- 3–10 años
- Evidencia
- Proyectado
- Consenso
- Bajo
Este riesgo no pasa por el aficionado sino por quien ya sabe. La pregunta es si los modelos de diseño biológico permiten a un equipo competente producir un agente con propiedades que la naturaleza no ofrece —y que por eso no tiene contramedidas preparadas.
Lo demostrado es el paso previo. King y coautores publicaron en Science, el 6 de agosto de 2026, dieciséis bacteriófagos viables diseñados con modelos de lenguajeLLM (modelo de lenguaje)Un modelo de lenguaje grande: el tipo de IA que está detrás de asistentes como ChatGPT, Claude o Gemini, entrenado con enormes cantidades de texto para predecir qué palabra viene después.Por ejemploComo el autocompletar del celular, pero entrenado con muchísimo más texto: por eso sigue una conversación entera y no solo la próxima palabra. genómico sobre la plantilla de ΦX174 [597]Generative design of bacteriophages with genome language modelsVer fuente ↗verificado por Crossref. Y Anthropic reporta que Mythos 5.1 supera a un modelo de lenguaje de proteínas preentrenado en predicción de ensamblaje de cápsides AAV usando solo su razonamiento [82]System Card: Claude Fable 5.1 & Claude Mythos 5.1Ver fuente ↗. El diseño de genomas funciona, y el razonamiento general empieza a alcanzar a las herramientas especializadas.
Lo que falta para llegar al riesgo es todo lo demás, y los laboratorios lo dicen. Anthropic sitúa a Mythos 5.1 en CB-1 —ayuda significativa para sintetizar un arma conocida— y explícitamente por debajo de CB-2, el umbral de reemplazar al experto escaso, que es el factor limitante para armas novedosas [82]System Card: Claude Fable 5.1 & Claude Mythos 5.1Ver fuente ↗. En el eje Critical de OpenAI, cero de tres evaluaciones cruzan el umbral [825]GPT-5.6 System CardVer fuente ↗.
Lo que esto no demuestra. El trabajo de fagos estaba construido para no producir un patógeno humano: partió de sistemas no patogénicos en cepas de laboratorio de E. coli, y el Arc Institute declara que Evo no puede generar secuencias virales humanas por exclusiones deliberadas de datos de entrenamiento [93]How We Built the First AI-Generated GenomesVer fuente ↗. La tasa también acota la lectura: Simon Jackson calcula que funcionó alrededor del 5% de los diseños, y Jordi García Ojalvo señala que los genomas diseñados deben probarse uno por uno [976]Expert reaction to generative design of bacteriophages with genome language modelsVer fuente ↗. El umbral CB-2 no es una medición sino una frontera definida hacia adelante.
Cadena de materialización
PrecondiciónObservado
Los modelos genómicos ya producen genomas virales funcionales
King y coautores publicaron en Science, el 6 de agosto de 2026, dieciséis bacteriófagos viables diseñados con modelos de lenguaje genómico sobre la plantilla de ΦX174. De cientos de miles de candidatos, 285 pasaron a síntesis y 16 funcionaron.
Precedentes: Modelos de lenguaje genómico producen dieciséis bacteriófagos viables
DetonanteLaboratorio
El razonamiento general alcanza a las herramientas especializadas
Anthropic reporta que Mythos 5.1 excede el benchmark de predicción de ensamblaje de cápsides AAV usando solo razonamiento, sin datos etiquetados y sin internet, superando a una aplicación ingenua de ESM-2. El propio documento lo llama indicador temprano, necesario pero insuficiente.
Precedentes: Anthropic publica Claude Fable 5 y Claude Mythos 5 · La system card de Fable 5.1 y Mythos 5.1 reporta elusión de controles en producción
Hasta aquí llega lo observado o demostrado. Lo que sigue es proyección.
CascadaProyectado
El umbral que reemplaza al experto escaso
Anthropic define CB-2 como sustituir funcionalmente la experticia humana escasa, hoy la barrera primaria, y determina que Mythos 5.1 no lo cruza por ideación novedosa débil, juicio estratégico pobre y errores que exigen experticia para detectar. Nadie ha medido un cruce de ese umbral: es una frontera definida hacia adelante.
ImpactoEspeculativo
Un agente sin contramedidas y con transmisión sostenida
Es el único riesgo del observatorio cuya severidad se clasifica como irreversible por el agente y no por el actor: un patógeno con transmisión sostenida no admite retirada del producto. La estimación de magnitud es enteramente conceptual.
Escenarios donde aparece
Medidas relacionadas
Ver en el mapa →Reportar un error en esta ficha →
Fuentes
- [597] Generative design of bacteriophages with genome language models · Stanford University / Arc Institute 2026 verificado por Crossref
- [596] Generative design of novel bacteriophages with genome language models · King, Samuel H. 2025
- [93] How We Built the First AI-Generated Genomes · Arc Institute 2025
- [976] Expert reaction to generative design of bacteriophages with genome language models · Science Media Centre 2026
- [82] System Card: Claude Fable 5.1 & Claude Mythos 5.1 · Anthropic 2026
- [78] Claude Fable 5 and Claude Mythos 5 · Anthropic 2026
- [825] GPT-5.6 System Card · OpenAI 2026
- [161] Contemporary AI foundation models increase biological weapons risk · Brent, Roger 2025
- [156] Rethinking the De-skilling Narrative in AI and Biological Weapons Policy · Georgetown Journal of International Affairs 2026
- [507] An Overview of Catastrophic AI Risks · Center for AI Safety 2023