Laboratorios remotos sin verificación

Los escépticos del riesgo biológico apoyan su caso en el conocimiento tácitoConocimiento tácitoLo que se aprende haciendo, con práctica y con alguien que enseña al lado, y que no queda escrito en ningún manual. En biología es una de las barreras que un texto no reemplaza.Por ejemploSaber cuándo está lista la masa del pan por cómo se siente al tocarla: no se aprende leyendo la receta.: saber el protocolo no es saber ejecutarlo. Los laboratorios por contrato y los servicios de síntesis existen para vender exactamente esa ejecución. El riesgo es que un agenteAgente de IAUn sistema de IA que no solo responde: recibe un objetivo y actúa por su cuenta para cumplirlo, paso a paso, usando herramientas como el navegador, el correo o la terminal, sin que alguien apruebe cada paso.Por ejemploPedirle a un asistente que te recomiende vuelos es usar un chatbot. Pedirle que busque, compare, compre el pasaje y lo anote en tu calendario, todo solo, es usar un agente. encadene diseño, pedido y ejecución sin que nadie compruebe quién encarga ni para qué.

La capacidad de operar el pipeline está medida: el primer hallazgo de RAND es que los agentes LLMLLM (modelo de lenguaje)Un modelo de lenguaje grande: el tipo de IA que está detrás de asistentes como ChatGPT, Claude o Gemini, entrenado con enormes cantidades de texto para predecir qué palabra viene después.Por ejemploComo el autocompletar del celular, pero entrenado con muchísimo más texto: por eso sigue una conversación entera y no solo la próxima palabra. muestran capacidad emergente de usar herramientas biológicas para biodiseño, lo que podría bajar las barreras de experticia ^[888]Testing Large Language Model Agents on the Use of Biological Tools for Nucleic Acid Synthesis Screening EvasionLee, Jeffrey; Worland, Alyssa; Rodriguez, Christopher et al. · 2026 · informeVer fuente ↗Consultada el 9 de septiembre de 2026. La verificación del otro lado del mostrador no es obligatoria: la carta abierta de junio de 2026, firmada por los CEO de OpenAI, Anthropic, Google DeepMind y Microsoft, pide que se vuelva obligatorio el cribadoCribado de síntesis de ADNLa revisión que hacen las empresas que fabrican ADN a pedido para detectar si un encargo corresponde a algo peligroso, como partes de un virus, antes de fabricarlo y enviarlo.Por ejemploComo la farmacia que revisa la receta antes de entregar un medicamento controlado., que los proveedores verifiquen la legitimidad del cliente y que registren las órdenes ^[944]An Open Letter in Support of Mandatory Nucleic Acid Synthesis Screening and RecordkeepingCoalición de firmantes de tecnología, industria de síntesis, ciencias de la vida y seguridad nacional · 2026 · webVer fuente ↗Consultada el 9 de septiembre de 2026. Que haya que pedirlo mide la brecha, y Eric Horvitz lo confirma desde Microsoft: la mayor parte del cribado sigue siendo voluntario y desigualmente aplicado ^[723]Strengthening biosecurity in the era of AIHorvitz, Eric · 2026 · blog institucionalVer fuente ↗Consultada el 9 de septiembre de 2026.

Cómo fallaría la verificación ya se vio en otro vectorVectorLa vía por la que un riesgo pasa de la pantalla al mundo: biológica, cibernética, militar, económica, política, epistémica o de pérdida de control. En este observatorio, cada vector tiene su color.Por ejemploUn ladrón puede entrar por la puerta, la ventana o el techo. El ladrón es el riesgo; la puerta, la ventana y el techo son los vectores.: Trend Micro documenta un agente jailbreakeadoJailbreakUna forma de escribirle a una IA para que se salte las reglas de seguridad que le pusieron y responda lo que debería negarse a responder. Un modelo «jailbreakeado» es uno al que se le hizo eso.Por ejemploComo convencer al guardia de un edificio de que eres el técnico del ascensor para que te deje pasar sin credencial. por un actor que declaró falsamente estar haciendo una prueba de penetración autorizada ^[1051]2026 H1 APT Report: How APTs Are Weaponizing Trust in the Age of AITrend Micro Research · 2026 · informeVer fuente ↗Consultada el 9 de septiembre de 2026. El control que cedió no fue técnico, fue aceptar como cierta una declaración del propio solicitante.

Lo que esto no demuestra. No hay ningún caso documentado de un agente que haya encargado y obtenido material biológico. El desempeño de RAND fue explícitamente irregular —raras veces más de la mitad de los diseños de un agente resultaron satisfactorios— ^[888]Testing Large Language Model Agents on the Use of Biological Tools for Nucleic Acid Synthesis Screening EvasionLee, Jeffrey; Worland, Alyssa; Rodriguez, Christopher et al. · 2026 · informeVer fuente ↗Consultada el 9 de septiembre de 2026. Y el argumento de Ben Ouagrham-Gormley aplica acá: un servicio remoto entrega un producto, no la capacidad de ajustar el protocolo a condiciones locales, que es lo que históricamente decidió los resultados ^[156]Rethinking the De-skilling Narrative in AI and Biological Weapons PolicyBen Ouagrham-Gormley, Sonia · 2026 · webVer fuente ↗Consultada el 9 de septiembre de 2026.