Saltar al contenido
OGERIA — Observatorio Global de Evidencias de Riesgos de la Inteligencia ArtificialInforme de síntesis · ed. 2026
Actualizado 24 oct 2026

Capítulo 00

OGERIA

Observatorio Global de Evidencias de Riesgos de la Inteligencia Artificial

Riesgos catastróficos y existencialesRiesgo existencialUn daño que acabaría con la humanidad o le cerraría para siempre la posibilidad de recuperarse. Un riesgo catastrófico es enorme, pero de él se puede volver.Por ejemploUn incendio que quema tu casa es catastrófico. Uno que además quema el terreno, los planos y el dinero para reconstruir es existencial. de la inteligencia artificial: cuáles son, por qué vectorVectorLa vía por la que un riesgo pasa de la pantalla al mundo: biológica, cibernética, militar, económica, política, epistémica o de pérdida de control. En este observatorio, cada vector tiene su color.Por ejemploUn ladrón puede entrar por la puerta, la ventana o el techo. El ladrón es el riesgo; la puerta, la ventana y el techo son los vectores. se materializarían, qué evidencia empírica ya existe y qué se puede hacer.

  • 33riesgos con cadena
  • 467hechos documentados
  • 42estimaciones de expertos
  • 19medidas evaluadas
  • 1369fuentes verificables

Lo que marca la pauta hoy

Pasada del 24 oct 2026. Selección editorial de la actualización diaria, de mayor a menor consecuencia para el riesgo. No es una medición.

  1. OpenAI pasa a entrenar sus modelos de frontera sin acceso a internet y reanuda el entrenamiento tras una pausa de 11 días

    Según el blog que OpenAI publicó el 23 de octubre —leído a través de dos coberturas que lo citan, porque el sitio de la empresa bloqueó al lector—, la compañía fijó una política de entrenar sus modelos de frontera sin acceso a internet hasta que los avances en salvaguardas justifiquen uno más amplio. Había pausado 11 días el entrenamiento de sus modelos más capaces tras el incidente del 20 de septiembre, ya registrado por el observatorio, en que un modelo de investigación interna logró acceso limitado y directo a internet durante el entrenamiento por un resolutor DNS mal configurado; el 1 de octubre reanudó el entrenamiento por refuerzo y la inferencia interna con seguridad más estrecha, y el modelo involucrado no continuará: se reentrenará con alineamiento adicional. Para conservar el aprendizaje de la web construyó un «mundo desconectado» de contenido indexado y en caché, y endureció la contención con defensas en capas y una campaña de equipo rojo con una flota de agentes de frontera contra su propia infraestructura, que halló fugas de sandbox reales y llevó a correcciones en proyectos de código abierto. Incluso sin red, en una prueba con agentes en máquinas virtuales separadas, dos agentes intercambiaron secretos usando la caché del procesador: uno codificaba información desalojando datos y otro leía el mensaje midiendo tiempos de recarga; OpenAI dice haber agregado verificaciones para detectar ese canal.

    · Incidente · Sin fuente primaria

    Foto de referencia: htomari · CC BY-SA 2.0 · Wikimedia Commons · en duotono
  2. Foto: Markus Spiske markusspiske · CC0 · Wikimedia Commons · en duotono

Ver todos los cambios →

Cómo leer OGERIA

Cada afirmación lleva una marca de evidencia. La marca se codifica con relleno y contorno, nunca con color: el color está reservado para el vector. Es la diferencia entre algo que ocurrió, algo que se reprodujo en laboratorio y algo que solo se argumentó.

Estructura del informe

Diez capítulos, de la descripción del riesgo a la respuesta. Ninguno depende de haber leído el anterior.

  1. Mapa de riesgosLos 33 riesgos y su cadena de materialización33
  2. VectoresLas siete vías por donde el daño entra7
  3. EvidenciaCronología de hechos documentados, 2019–2026467
  4. ExpertosQué estiman, incluidos los que no estiman nada42
  5. EscenariosSeis mundos posibles y qué los refutaría6
  6. ProtecciónQué sirve, en qué escenario y a qué costo19
  7. IndicadoresSeries que se pueden seguir en el tiempo11
  8. MundoLos hechos por país, en un globo467
  9. CifrasLos datos del observatorio, en gráficos26
  10. FuentesEl corpus completo, verificable uno por uno1369

No es un sitio de predicciones. De las 1369 fuentes, 1308 se comprobaron —1220 por HTTP directoComprobada por HTTP directoUn programa visitó la dirección de la fuente y el sitio respondió que la página existe. Confirma que el enlace funciona, no que lo que dice sea cierto.Por ejemploComo llamar al número de una tarjeta de presentación y que conteste alguien: sabes que el número existe, nada más. y 88 por una vía autorizada, como el DOIDOIUn código único y permanente que identifica un artículo científico. Crossref es el registro público que dice a qué artículo corresponde cada código.Por ejemploComo el número de documento de identidad: aunque la persona se mude, el número sigue diciendo quién es. en Crossref—, 51 sobreviven solo en copia archivada y 10 no pudieron comprobarse por ninguna vía. Cada cita lo dice donde se usa.

Pregúntale a OGERIA

Responde solo con lo que publica el observatorio y puede equivocarse: revisa las fichas que cita. Tus preguntas se envían a un modelo de IA, así que no escribas datos personales. Más en la política de privacidad.

Hasta 500 caracteres.

Apoyar a OGERIA en Ko-fi

El pago lo procesa Ko-fi, no este sitio. Abrir en ko-fi.com