Exigir que las evaluaciones se publiquen

Sirve si lo que quieres es que alguien de afuera pueda contradecir a quien desarrolla. Hoy la mejor ventana pública al estado real de las capacidades peligrosas son los marcos voluntarios y sus activaciones de umbral, y esa ventana es más chica de lo que parece: en la cumbre de Seúl de mayo de 2024, dieciséis empresas se comprometieron a publicar un marco de seguridad de frontera y otras cuatro se sumaron después; publicaron doce ^[708]Common Elements of Frontier AI Safety PoliciesMETR · 2025 · informeVer fuente ↗Consultada el 9 de septiembre de 2026. La distancia entre comprometidas y publicadas es mejor indicador que el conteo, porque mide incumplimiento de un compromiso explícito y no admite lectura optimista.

No sirve si te quedas en el conteo. La evaluación independiente de esos marcos encuentra calidad muy despareja entre proveedores ^[928]Evaluating AI Providers' Frontier AI Safety FrameworksStelling, Lily; Murray, Malcolm; Galizzi, Bruno et al. · 2025 · preprintVer fuente ↗Consultada el 9 de septiembre de 2026, y un marco publicado mide la promesa, no el cumplimiento.

Evidencia. Observada, en el sentido preciso de que existe y se puede contar. En la Unión Europea parte de esto ya es obligación legal para modelos con riesgo sistémico, incluidas las pruebas adversariales ^[22]EU AI Act — Article 55: Obligations for providers of general-purpose AI models with systemic riskUnión Europea · 2026 · documento oficialVer fuente ↗Consultada el 9 de septiembre de 2026.

Costo. Bajo para una persona: exigirlo, citarlo, preferir a quien publica.

Qué no resuelve. El problema de fondo, que es que quien escribe el umbral es quien decide si lo cruzó. Tampoco cubre a los desarrolladores que nunca se comprometieron a nada, ni impide que un marco se relaje justo cuando empieza a estorbar.