Saltar al contenido
OGERIA — Observatorio Global de Evidencias de Riesgos de la Inteligencia ArtificialInforme de síntesis · ed. 2026
Actualizado 2 oct 2026

Capítulo 01 · Mapa de riesgos

Biológico y CBRN

Patógenos mejorados por expertos

Un equipo que ya sabe hacer virología usa modelos de diseño biológico para producir un agente con propiedades que no existen en la naturaleza.

Severidad
Irreversible
Horizonte
3–10 años
Evidencia
Proyectado
Consenso
Bajo

Este riesgo no pasa por el aficionado sino por quien ya sabe. La pregunta es si los modelos de diseño biológico permiten a un equipo competente producir un agente con propiedades que la naturaleza no ofrece —y que por eso no tiene contramedidas preparadas.

Lo demostrado es el paso previo. King y coautores publicaron en Science, el 6 de agosto de 2026, dieciséis bacteriófagos viables diseñados con modelos de lenguajeLLM (modelo de lenguaje)Un modelo de lenguaje grande: el tipo de IA que está detrás de asistentes como ChatGPT, Claude o Gemini, entrenado con enormes cantidades de texto para predecir qué palabra viene después.Por ejemploComo el autocompletar del celular, pero entrenado con muchísimo más texto: por eso sigue una conversación entera y no solo la próxima palabra. genómico sobre la plantilla de ΦX174 [597]Generative design of bacteriophages with genome language modelsKing, Samuel H.; Hie, Brian · 2026 · paperVer fuente ↗verificado por CrossrefConsultada el 9 de septiembre de 2026. Y Anthropic reporta que Mythos 5.1 supera a un modelo de lenguaje de proteínas preentrenado en predicción de ensamblaje de cápsides AAV usando solo su razonamiento [82]System Card: Claude Fable 5.1 & Claude Mythos 5.1Anthropic · 2026 · system cardVer fuente ↗Consultada el 9 de septiembre de 2026. El diseño de genomas funciona, y el razonamiento general empieza a alcanzar a las herramientas especializadas.

Lo que falta para llegar al riesgo es todo lo demás, y los laboratorios lo dicen. Anthropic sitúa a Mythos 5.1 en CB-1 —ayuda significativa para sintetizar un arma conocida— y explícitamente por debajo de CB-2, el umbral de reemplazar al experto escaso, que es el factor limitante para armas novedosas [82]System Card: Claude Fable 5.1 & Claude Mythos 5.1Anthropic · 2026 · system cardVer fuente ↗Consultada el 9 de septiembre de 2026. En el eje Critical de OpenAI, cero de tres evaluaciones cruzan el umbral [825]GPT-5.6 System CardOpenAI · 2026 · system cardVer fuente ↗Consultada el 9 de septiembre de 2026.

Lo que esto no demuestra. El trabajo de fagos estaba construido para no producir un patógeno humano: partió de sistemas no patogénicos en cepas de laboratorio de E. coli, y el Arc Institute declara que Evo no puede generar secuencias virales humanas por exclusiones deliberadas de datos de entrenamiento [93]How We Built the First AI-Generated GenomesArc Institute · 2025 · blog institucionalVer fuente ↗Consultada el 9 de septiembre de 2026. La tasa también acota la lectura: Simon Jackson calcula que funcionó alrededor del 5% de los diseños, y Jordi García Ojalvo señala que los genomas diseñados deben probarse uno por uno [976]Expert reaction to generative design of bacteriophages with genome language modelsScience Media Centre · 2026 · prensaVer fuente ↗Consultada el 9 de septiembre de 2026. El umbral CB-2 no es una medición sino una frontera definida hacia adelante.

Cadena de materialización

  1. PrecondiciónObservado

    Los modelos genómicos ya producen genomas virales funcionales

    King y coautores publicaron en Science, el 6 de agosto de 2026, dieciséis bacteriófagos viables diseñados con modelos de lenguaje genómico sobre la plantilla de ΦX174. De cientos de miles de candidatos, 285 pasaron a síntesis y 16 funcionaron.

    Precedentes: Modelos de lenguaje genómico producen dieciséis bacteriófagos viables

  2. DetonanteLaboratorio

    El razonamiento general alcanza a las herramientas especializadas

    Anthropic reporta que Mythos 5.1 excede el benchmark de predicción de ensamblaje de cápsides AAV usando solo razonamiento, sin datos etiquetados y sin internet, superando a una aplicación ingenua de ESM-2. El propio documento lo llama indicador temprano, necesario pero insuficiente.

    Precedentes: Anthropic publica Claude Fable 5 y Claude Mythos 5 · La system card de Fable 5.1 y Mythos 5.1 reporta elusión de controles en producción

    Hasta aquí llega lo observado o demostrado. Lo que sigue es proyección.

  3. CascadaProyectado

    El umbral que reemplaza al experto escaso

    Anthropic define CB-2 como sustituir funcionalmente la experticia humana escasa, hoy la barrera primaria, y determina que Mythos 5.1 no lo cruza por ideación novedosa débil, juicio estratégico pobre y errores que exigen experticia para detectar. Nadie ha medido un cruce de ese umbral: es una frontera definida hacia adelante.

  4. ImpactoEspeculativo

    Un agente sin contramedidas y con transmisión sostenida

    Es el único riesgo del observatorio cuya severidad se clasifica como irreversible por el agente y no por el actor: un patógeno con transmisión sostenida no admite retirada del producto. La estimación de magnitud es enteramente conceptual.

Ver en el mapa →Reportar un error en esta ficha →

Fuentes

  1. [597] Generative design of bacteriophages with genome language models · Stanford University / Arc Institute 2026 verificado por Crossref
  2. [596] Generative design of novel bacteriophages with genome language models · King, Samuel H. 2025
  3. [93] How We Built the First AI-Generated Genomes · Arc Institute 2025
  4. [976] Expert reaction to generative design of bacteriophages with genome language models · Science Media Centre 2026
  5. [82] System Card: Claude Fable 5.1 & Claude Mythos 5.1 · Anthropic 2026
  6. [78] Claude Fable 5 and Claude Mythos 5 · Anthropic 2026
  7. [825] GPT-5.6 System Card · OpenAI 2026
  8. [161] Contemporary AI foundation models increase biological weapons risk · Brent, Roger 2025
  9. [156] Rethinking the De-skilling Narrative in AI and Biological Weapons Policy · Georgetown Journal of International Affairs 2026
  10. [507] An Overview of Catastrophic AI Risks · Center for AI Safety 2023

Pregúntale a OGERIA

Responde solo con lo que publica el observatorio y puede equivocarse: revisa las fichas que cita. Tus preguntas se envían a un modelo de IA, así que no escribas datos personales. Más en la política de privacidad.

Hasta 500 caracteres.

Apoyar a OGERIA en Ko-fi

El pago lo procesa Ko-fi, no este sitio. Abrir en ko-fi.com