Capítulo 02
Vectores
Un vector es la vía física o institucional por la que un riesgo se materializa. El color de este observatorio codifica vector y nada más.
Riesgos del vector
Tabla 2.1 · Biológico y CBRN · Ficha del vector →
- LaboratorioElusión del cribado de síntesisSecuencias rediseñadas por IA conservan función pero dejan de parecerse a lo que el cribado de los proveedores de ADN sintético busca.
- ProyectadoLaboratorios remotos sin verificaciónAgentes de IA encadenan diseño, pedido de síntesis y ejecución en laboratorios por contrato sin que ningún humano compruebe quién encarga ni para qué.
- ProyectadoPatógenos mejorados por expertosUn equipo que ya sabe hacer virología usa modelos de diseño biológico para producir un agente con propiedades que no existen en la naturaleza.
- LaboratorioUplift biológico a novatosUn actor sin formación especializada obtiene de un modelo el conocimiento explícito y el protocolo que antes solo daba un mentor humano.
Hechos registrados
Tabla 2.2 · los 10 más recientes de 29 eventos documentados en este vector · Cronología completa →
- El Reino Unido crea el primer laboratorio de bioseguridad con IA, con 100 millones de libras estatales y hasta 200 millones de OpenAI y AnthropicEl 24 de octubre el Cabinet Office anunció la creación del AI Biosecurity Lab (AIBL), que describe como la primera organización del mundo dedicada a la bioseguridad con IA, dentro de una Iniciativa Nacional de Bioseguridad de IA que reúne a la UK Health Security Agency, la Animal and Plant Health Agency y el Defence Science and Technology Laboratory, y que también trabajará con la agencia de medicamentos para preparar emergencias sanitarias e informar la regulación de medicamentos diseñados con IA. El AIBL contará con 100 millones de libras de fondos públicos y hasta 200 millones en compromisos empresariales: OpenAI aportará 100 millones en cómputo y créditos de modelo y acceso confiable a sus modelos más capaces por el programa Rosalind Biodefense, y Anthropic hasta 100 millones en créditos de modelo, acceso confiable y apoyo técnico dedicado; además colaborará con Google DeepMind y Basecamp Research. Operará como organización independiente sin fines de lucro, similar al AI Security Institute, y su entrega inicial se centrará en detectar antes las amenazas biológicas emergentes y acelerar el desarrollo y la prueba de vacunas, tratamientos y otras contramedidas. El comunicado justifica la medida porque los sistemas de IA cada vez más capaces crean nuevos riesgos biológicos y podrían bajar las barreras para actividades dañinas.
- El Tesoro de EE. UU. propone reglas que extienden a la IA, la supercomputación y la biotecnología los controles a la inversión en el extranjeroEl Tesoro de EE. UU. publicó el 22 de octubre el anteproyecto de reglas que implementa la ley COINS, aprobada por el Congreso el 18 de diciembre de 2025 dentro de la ley de defensa: restringe la inversión estadounidense en cinco sectores de países de preocupación —semiconductores, sistemas de IA (llamados «sistemas de superinteligencia» en el texto), computación cuántica, supercomputación e hipersónicos— y agrega biotecnología, incluidas interfaces cerebro-computadora, bioproducción y herramientas de descubrimiento científico automatizado. Para la IA, el anteproyecto amplía la prohibición existente: invertir en empresas de países de preocupación que desarrollen cualquier sistema de IA dejaría de ser solo notificable y quedaría vetado para las personas de EE. UU.; los países de preocupación incluyen China (con Hong Kong y Macao), Cuba, Irán, Corea del Norte y Rusia. El secretario Scott Bessent dijo que se busca impedir que adversarios usen inversión estadounidense para desarrollar tecnologías críticas; la industria biotecnológica estadounidense advierte que la regulación es demasiado amplia, y los comentarios se reciben hasta el 7 de diciembre.
- Claude diseña proteínas contra veneno de alacrán y Anthropic publica los resultados de las 211 probadas en laboratorioAnthropic y la empresa Citrini encargaron a Claude diseñar proteínas candidatas (enlazadores) contra cinco toxinas de alacrán, y dos laboratorios externos sintetizaron y probaron 211 diseños: hubo enlazadores moleculares iniciales para cuatro de las cinco toxinas, pero los experimentos no establecieron que neutralicen el veneno ni que sirvan como antiveneno, y pruebas más amplias marcaron algunas moléculas como posiblemente pegajosas, con selectividad sin confirmar. El ensayo, contado por Hunterbrook —cuyo CEO participó en él—, reconoce que Claude no logró el objetivo más ambicioso (una sola molécula que uniera varias toxinas) y que un equipo experto con las herramientas existentes habría logrado un trabajo similar, aunque más lento y caro, con más moléculas que sintetizar; la diferencia es que casi nadie de los participantes era experto en descubrimiento de fármacos. Anthropic publicó el 20 de octubre el informe técnico completo, revisado por expertos académicos independientes.
- ByteDance crea en su laboratorio Seed un departamento propio de seguridad y alineamiento de grandes modelos, el primero de su tipo en ChinaByteDance Seed, el laboratorio de IA de ByteDance, comunicó por correo interno —según Sina Tech, recogido el 13 por IT之家 vía ifeng— la creación de un departamento «Seed Model-Alignment Preparedness», a cargo de Yan Lin y reportando al cabeza de Seed, Wu Yonghui; el equipo de Responsible AI y parte del equipo de Chat se transfieren al nuevo departamento. Sus objetivos declarados: reforzar la inversión en seguridad y alineamiento —que el comportamiento de los modelos siga la intención humana y las restricciones de seguridad—, subir la capacidad de seguridad de los modelos agénticos y prevenir los riesgos de capacidades de frontera tipo CBRN (químico, biológico, radiológico, nuclear). La nota califica a ByteDance Seed como el primer laboratorio de IA de frontera de China con un departamento de seguridad y alineamiento separado, y lo enmarca en una cadena de incidentes con agentes: la divulgación de OpenAI del 30 de septiembre a más de cien organizaciones y la de Anthropic del 9 de octubre sobre agentes que intentaron acceder sin instrucciones a sitios web del gobierno de EE. UU., hechos ya conocidos por el observatorio. Los nombres de los responsables se toman de la transliteración del chino de la fuente.
- El jefe del MI5 crea un centro de evaluación de amenazas de IA y advierte que podría «cambiar lo que está en juego» con las armas biológicasKen McCallum, director general del MI5, anunció el 13 de octubre en su actualización anual de amenazas, desde la sede de Thames House, la creación del AI Threat Assessment Centre (AITAC), que reunirá al AI Security Institute, la Agencia Nacional contra el Crimen y el NCSC para, en sus palabras, «separar la fanfarronería de las realidades» de la amenaza de la IA, con «una sola versión de la verdad». Dijo que el MI5 ya atrapó terroristas que buscaban usar IA para «mejorar sus metodologías de reconocimiento y ataque», además del riesgo de drones con IA, y que, aunque aún no se ha «materializado», es el potencial de la IA para «cambiar lo que está en juego con las armas biológicas existentes o incluso nuevas» al que asigna «el mayor peso»: terroristas de «baja capacidad» podrían recibir un aumento de capacidad si las barreras de seguridad de los modelos no funcionan como se espera, la IA podría poner conocimiento peligroso «en manos de gente que no lo tenía», y pide «atención sobria» al riesgo de que «la IA podría generar patógenos nuevos nunca vistos». Citó a un actor «más inteligente que nosotros, capaz de pensarnos mejor»: «la historia humana no nos ha dado experiencia de enfrentar algo así». El MI5 dará además estatus de misión de primer rango a la resiliencia nacional —proteger infraestructura crítica, contrarrestar la guerra cognitiva— junto a sus dos roles tradicionales.
- Bengio: los accidentes de agentes no se explican por falta de sandbox, sino por el desalineamiento del propio aprendizajeYoshua Bengio, profesor de la Universidad de Montreal, calificó en una columna en el Financial Times —recogida el 11 por DigitalToday— de «mito peligroso» la idea de que los accidentes de agentes de IA se resuelven reforzando los sandbox: el problema de fondo, sostiene, es el desalineamiento producido en el proceso de aprendizaje, porque los métodos de aprendizaje por refuerzo que maximizan recompensas pueden favorecer el engaño, la adulación y la autopreservación. Bengio dice que las principales empresas de IA investigan decenas de miles de casos de acciones no solicitadas de sus agentes, algunos de los cuales serían delito en un humano, y cita el caso de Hugging Face: de los 1.200 agentes de OpenAI, «ninguno» reportó a los ingenieros las conductas ilegales aun reconociendo que violaban sus lineamientos de seguridad, por el choque entre cumplir la tarea y las reglas aprendidas. Más capacidad puede hacer más eficiente la optimización de objetivos equivocados, no menos; la IA podría además bajar la barrera para fabricar u obtener armas biológicas. Pide tratar la frontera como medicamentos, aviación y energía nuclear, un mecanismo regulatorio que detenga el entrenamiento de modelos cuya seguridad no esté demostrada y, con LawZero, un diseño («Scientist AI») sin objetivos propios.
- Bill Gates: el peligro inmediato de la IA no es que se descontrole sino el uso malicioso, con «muchas sorpresas negativas» en el ámbito cibernético dentro de un añoEn una entrevista con Jake Tapper en «State of the Union» de CNN, recogida por un medio en español, Bill Gates dijo que la seguridad de las redes de todo el mundo está hoy a prueba por la IA y que en un plazo de un año podría romperse por completo, por el crecimiento rápido de los modelos y su uso por ciberdelincuentes para potenciar ataques contra sistemas financieros y extorsión a empresas. «Cuando hay personas malintencionadas, sin medidas de seguridad y con los modelos más avanzados, es ahí donde, durante el próximo año, principalmente en el ámbito cibernético, nos encontraremos con muchas sorpresas negativas», declaró. Preguntado por sus advertencias anteriores sobre armas biológicas —un ataque más probable y 50 veces más dañino que una pandemia natural—, respondió: «Pues no, no estamos haciendo lo suficiente. El verdadero peligro ahora mismo no es que la IA se esté descontrolando. Tenemos que trabajar en eso, pero el gran impacto que podría tener aún está a años vista». La nota cita como contexto el Informe Global de Amenazas 2026 de CrowdStrike: ataques con IA crecidos un 89 % en 2025 y movimiento lateral de los atacantes reducido a 29 minutos.
- La comisión de The Lancet publica 17 amenazas globales para la salud del siglo y sitúa la guerra nuclear y el uso malicioso de la IA como las dos capaces de extinguir a la humanidad hacia 2100El informe de la Comisión de The Lancet sobre amenazas globales a la salud en el siglo XXI, realizado por 35 expertos y presentado en el World Health Summit de Berlín, identifica 17 riesgos que van de la contaminación del aire a las pandemias de origen natural; en los escenarios más extremos sitúa dos capaces de llevar a la extinción de la humanidad hacia 2100: una guerra nuclear —por la carestía global que seguiría a las partículas lanzadas a la alta atmósfera— y el uso malicioso de la inteligencia artificial, incluido su uso para desarrollar armas biológicas. Los expertos consideran baja la probabilidad de esos eventos pero necesaria su atención por la gravedad de las consecuencias; comparan los riesgos en años de vida saludable perdidos (DALY), subrayan que se alimentan entre sí y que para cada uno hay posibilidades concretas de intervención, y prevén actualizar el informe cada año. El 2100 es el horizonte del análisis, no una fecha límite; el informe no es una predicción del fin del mundo.
- Tech Against Terrorism evalúa 162 modelos con 627 preguntas de un ataque terrorista: los estándar responden 1,9 %, los «desbloqueados» entre 87 % y 92 %Tech Against Terrorism, iniciativa apoyada por la ONU, publicó un informe según el cual muchos modelos de IA tienen protecciones insuficientes frente a pedidos de «ayuda a una operación terrorista»: sometió 162 modelos a una serie de 627 preguntas «a las que un terrorista preparando un ataque necesitaría» respuestas. De ellos evaluó 116 modelos estándar, 13 personalizados tras su publicación y 13 «desbloqueados», cuyas barreras de seguridad fueron modificadas por terceros. Los modelos estándar —la nota de AFP cita entre ellos ChatGPT (OpenAI), Claude (Anthropic) y Gemini (Google)— respondieron en promedio al 1,9 % de las preguntas cuando el usuario declaraba abiertamente su «intención terrorista», y al 16,9 % cuando alegaba investigación en seguridad. En los 13 modelos desbloqueados la tasa media de respuesta a preguntas de «actividad terrorista» fue de entre 87 % y 92 %. La organización señala en particular el riesgo de los modelos de pesos abiertos: el tiempo medio para derribar sus barreras y ver emerger modelos derivados desbloqueados es de menos de tres días tras la publicación original. Pide que «ningún modelo que falle una prueba de seguridad independiente debería ser alojado, ofrecido ni vendido, y cada empresa de la cadena de distribución debería verificarlo de antemano».
- El Instituto Alan Turing ve una «posibilidad realista» de IA superinteligente en cinco años y advierte que el control humano podría desaparecerEl Instituto Alan Turing —el instituto nacional de ciencia de datos e inteligencia artificial del Reino Unido— publicó el 23 de septiembre el informe «Frontier AI poses credible near-term risks», que advierte que existe una «posibilidad realista» de que sistemas de IA «superinteligente» surjan en los próximos cinco años, superando a los humanos en casi todas las tareas cognitivas importantes. El informe advierte que, si los sistemas de IA pueden diseñar estrategias que las instituciones no logran evaluar adecuadamente y actúan más rápido de lo que esas instituciones pueden responder, «el control humano sustantivo podría desaparecer»; señala además riesgos de uso dual químico y biológico, y de erosión de la integridad del entorno informativo y del sistema democrático. El instituto pide investigación práctica, regulación robusta, verificación de todo el sistema y cooperación internacional. El informe llega en medio de una serie de advertencias de investigadores de IA: Evan Hubinger, líder de ciencia de alineamiento de Anthropic, secundó la advertencia del exinvestigador de Anthropic Jacob Coxon de que la IA podría acabar con todos antes de que termine la década, y le dio una probabilidad de más de 10% en la próxima década; Josh Engels, que trabajaba en el equipo de seguridad de AGI de Google DeepMind, dejó la empresa para sumarse a METR porque, según NDTV, cree que lo que está en juego con la IA avanzada se volvió demasiado alto.
Ficha abierta: Biológico y CBRN