Pérdida de control rápida

Es el escenario más citado y el más discutido. Su mecanismo no es una máquina que despierta, sino un bucle: los sistemas hacen una parte creciente del trabajo que produce los sistemas siguientes, y el intervalo entre generaciones se acorta más rápido de lo que avanza la capacidad de verificar que cada generación hace lo que se le pide.

La evidencia de que el bucle existe es parcial y hay que leerla con cuidado. Que una empresa declare que la mayoría del código de su base lo escribe su propio modelo dice algo sobre producción de código; no dice que el modelo esté dirigiendo la investigación, que es el paso que haría al bucle cerrarse. Esa distinción es justamente donde discrepan quienes trabajan en esto.

El escenario es refutable, y ese es su mérito frente a versiones más vagas: si el horizonte de tareas se estanca durante varias generaciones seguidas, o si la investigación resulta limitada por experimentación física y cómputoCómputoLa capacidad de cálculo que se usa para entrenar y hacer funcionar una IA: miles de chips especializados trabajando durante semanas en centros de datos. Es caro y está concentrado en pocas empresas.Por ejemploSi la IA fuera una panadería, el cómputo serían los hornos: sin hornos grandes no importa lo buena que sea la receta. antes que por trabajo cognitivo, el mecanismo no se sostiene.