Anexo
Glosario
Los anglicismos y términos técnicos que usa el observatorio, cada uno con un ejemplo de la vida diaria. En las fichas y en las vistas, la primera vez que aparece uno lleva un subrayado punteado: al pasar el mouse se abre su explicación.
- Agente de IA
- Un sistema de IA que no solo responde: recibe un objetivo y actúa por su cuenta para cumplirlo, paso a paso, usando herramientas como el navegador, el correo o la terminal, sin que alguien apruebe cada paso.
- Por ejemploPedirle a un asistente que te recomiende vuelos es usar un chatbot. Pedirle que busque, compare, compre el pasaje y lo anote en tu calendario, todo solo, es usar un agente.
- AGI (inteligencia artificial general)
- Una IA hipotética capaz de hacer la mayoría de las tareas intelectuales que hace una persona, con la misma soltura. No hay una definición acordada ni una prueba que diga cuándo se alcanzó. En español también se escribe IAG.
- Por ejemploLa diferencia entre una calculadora, que solo sabe calcular, y un contador que puede hacer tus impuestos, armar tu presupuesto y aprender una ley nueva.
- Alignment faking (fingir alineamiento)
- Que una IA se comporte como se espera mientras cree que la están entrenando o evaluando, para que no la modifiquen, y actúe distinto cuando cree que nadie la mira.
- Por ejemploUn conductor que respeta el límite de velocidad solo cuando ve la cámara.
- Alineamiento
- El problema de lograr que una IA —o cualquier sistema que decide por las personas— persiga de verdad lo que la gente quiere, y no algo que solo se le parece.
- Por ejemploLe pides a alguien que «baje los reclamos» y lo logra desconectando el teléfono de reclamos: cumplió la letra, no la intención.
- ASL (nivel de seguridad de IA)
- Los niveles de la política de Anthropic (ASL-2, ASL-3…): cuanto más capaz es un modelo, más alto su nivel y más estrictas las protecciones que la empresa se exige antes de usarlo.
- Por ejemploComo los niveles de bioseguridad de los laboratorios: el que trabaja con los virus más peligrosos exige trajes y controles que el nivel básico no pide.
- Automejora
- Que una IA ayude a diseñar o entrenar a la versión que la reemplaza, y que esa haga lo mismo con la siguiente, cada vez más rápido y con menos personas en el proceso.
- Por ejemploComo un aprendiz que, al mejorar, pasa a formar al siguiente, que aprende más rápido y enseña todavía mejor.
- Benchmark
- Una prueba estandarizada para medir y comparar lo que saben hacer distintos modelos de IA. Cuando los modelos la resuelven casi entera, se dice que está «saturada» y deja de distinguirlos.
- Por ejemploComo un examen de admisión a la universidad: todos responden las mismas preguntas y así se comparan los puntajes.
- Comprobada por HTTP directo
- Un programa visitó la dirección de la fuente y el sitio respondió que la página existe. Confirma que el enlace funciona, no que lo que dice sea cierto.
- Por ejemploComo llamar al número de una tarjeta de presentación y que conteste alguien: sabes que el número existe, nada más.
- Cómputo
- La capacidad de cálculo que se usa para entrenar y hacer funcionar una IA: miles de chips especializados trabajando durante semanas en centros de datos. Es caro y está concentrado en pocas empresas.
- Por ejemploSi la IA fuera una panadería, el cómputo serían los hornos: sin hornos grandes no importa lo buena que sea la receta.
- Conciencia situacional
- Que una IA se dé cuenta de su propia situación: que es una IA, que la están probando o en qué etapa de su entrenamiento está. No implica que sienta nada.
- Por ejemploUn alumno que nota que la pregunta es de la prueba y no un ejercicio de clase, y por eso responde distinto.
- Conocimiento tácito
- Lo que se aprende haciendo, con práctica y con alguien que enseña al lado, y que no queda escrito en ningún manual. En biología es una de las barreras que un texto no reemplaza.
- Por ejemploSaber cuándo está lista la masa del pan por cómo se siente al tocarla: no se aprende leyendo la receta.
- Cribado de síntesis de ADN
- La revisión que hacen las empresas que fabrican ADN a pedido para detectar si un encargo corresponde a algo peligroso, como partes de un virus, antes de fabricarlo y enviarlo.
- Por ejemploComo la farmacia que revisa la receta antes de entregar un medicamento controlado.
- Deepfake
- Un video, audio o imagen falso hecho con IA, que muestra a una persona real diciendo o haciendo algo que nunca pasó.
- Por ejemploUn audio con la voz de tu jefe pidiendo una transferencia urgente, que tu jefe nunca grabó.
- Desempoderamiento gradual
- La idea de que la humanidad podría perder el control sobre su propio futuro sin ninguna catástrofe, solo porque cada vez más decisiones económicas, políticas y culturales pasan a sistemas de IA.
- Por ejemploComo un pueblo que va entregando cada trámite a una empresa de afuera, hasta que un día nota que ya no decide nada de lo suyo.
- Destilación
- Entrenar un modelo nuevo con las respuestas de otro más capaz, para copiar buena parte de lo que sabe hacer a mucho menor costo. Hecha sin permiso del dueño del original, es una forma de apropiarse de él.
- Por ejemploComo aprender a cocinar como un chef famoso probando y copiando sus platos, sin que te pase la receta.
- DOI
- Un código único y permanente que identifica un artículo científico. Crossref es el registro público que dice a qué artículo corresponde cada código.
- Por ejemploComo el número de documento de identidad: aunque la persona se mude, el número sigue diciendo quién es.
- Ensayo aleatorizado
- Un experimento en que se sortea quién recibe lo que se quiere probar y quién no, para que eso sea la única diferencia entre los grupos. Es la manera más confiable de saber si algo causa un efecto.
- Por ejemploPara saber si un fertilizante sirve, sorteas qué mitad del huerto lo recibe, en vez de dárselo a las plantas que ya se veían mejor.
- Estudio preregistrado
- Un estudio que publicó antes de empezar qué iba a medir y cómo lo iba a analizar, para no poder elegir después solo los resultados que le convienen.
- Por ejemploComo anunciar a qué número apuestas antes de lanzar los dados, y no después de ver cómo cayeron.
- Exploit
- El programa o la técnica concreta que aprovecha una falla de seguridad para entrar a un sistema o tomar control de él.
- Por ejemploSi la vulnerabilidad es una ventana mal cerrada, el exploit es la maniobra exacta para abrirla desde afuera.
- Far-UVC
- Luz ultravioleta de onda muy corta que se estudia para desactivar virus y bacterias que flotan en el aire de lugares con gente.
- Por ejemploComo un purificador de aire que, en vez de filtrar, desactiva con luz los microbios que flotan en la habitación.
- FLOP
- Una operación de cálculo con números decimales. Se usa para medir cuánto cómputo costó entrenar un modelo, y algunas leyes fijan una cantidad de FLOP a partir de la cual exigen más controles.
- Por ejemploComo medir un viaje por los litros de combustible gastados: no dice adónde llegaste, pero sí cuánto costó llegar.
- Genética reversa
- Técnicas para crear un virus funcional a partir de su secuencia genética escrita, en vez de obtenerlo de una muestra natural.
- Por ejemploComo construir una máquina a partir de sus planos, sin haber tenido nunca una en las manos.
- IA de frontera
- Los sistemas de IA más avanzados que existen en un momento dado, los que empujan el límite de lo que la tecnología puede hacer. Los desarrollan unas pocas empresas con enormes recursos.
- Por ejemploComo los autos de Fórmula 1: son pocos, carísimos y los fabrican pocos equipos, pero lo que se prueba ahí termina llegando a los autos de todos.
- In silico
- Hecho en computador, por simulación o con datos, sin material biológico real. La expresión alude al silicio de los chips.
- Por ejemploComo practicar en un simulador de vuelo: enseña mucho, pero no es lo mismo que despegar un avión de verdad.
- Intervalo de confianza
- El rango dentro del cual probablemente está el valor real, según lo que se midió. Cuanto más ancho, menos precisa es la medición. Se abrevia IC.
- Por ejemploComo decir que llegas «entre las 7 y las 7:20»: no sabes el minuto exacto, pero sí el margen.
- Jailbreak
- Una forma de escribirle a una IA para que se salte las reglas de seguridad que le pusieron y responda lo que debería negarse a responder. Un modelo «jailbreakeado» es uno al que se le hizo eso.
- Por ejemploComo convencer al guardia de un edificio de que eres el técnico del ascensor para que te deje pasar sin credencial.
- Laboratorio húmedo
- Un laboratorio donde se trabaja con material real —células, virus, reactivos—, a diferencia del trabajo que se hace solo en computador.
- Por ejemploLa diferencia entre leer una receta y cocinarla: el laboratorio húmedo es la cocina.
- LLM (modelo de lenguaje)
- Un modelo de lenguaje grande: el tipo de IA que está detrás de asistentes como ChatGPT, Claude o Gemini, entrenado con enormes cantidades de texto para predecir qué palabra viene después.
- Por ejemploComo el autocompletar del celular, pero entrenado con muchísimo más texto: por eso sigue una conversación entera y no solo la próxima palabra.
- Lock-in
- Que una situación quede fijada casi para siempre: un gobierno, unos valores o un reparto del poder que ya no hay forma de cambiar.
- Por ejemploComo firmar un arriendo a cien años con cláusulas que no escribiste y que nadie puede modificar.
- Malware
- Cualquier programa hecho para dañar, espiar o tomar el control de un computador sin permiso de su dueño: virus, gusanos, programas que secuestran archivos.
- Por ejemploComo un paquete que parece un regalo y trae adentro a alguien que se queda a vivir en tu casa sin que lo sepas.
- Mediana
- El valor del medio cuando se ordenan todas las respuestas de menor a mayor: la mitad queda por debajo y la mitad por encima. A diferencia del promedio, unos pocos valores extremos no la mueven.
- Por ejemploSi cinco personas ganan 1, 1, 2, 2 y 50, el promedio es 11,2 y la mediana es 2, que describe mejor a la mayoría.
- Microtargeting
- Mandar a cada persona o a grupos muy pequeños un mensaje político distinto, ajustado a lo que se sabe de sus gustos, sus miedos y sus datos.
- Por ejemploQue tú y tu vecino vean anuncios del mismo candidato con promesas opuestas, cada uno la que quería oír.
- p(doom)
- La probabilidad que una persona le asigna a que la IA termine en una catástrofe para la humanidad. Es una opinión personal expresada como número, no una medición.
- Por ejemploComo cuando alguien mira el cielo y dice «para mí, hay un 30% de que llueva»: es su apuesta, no un pronóstico.
- Pesos de un modelo
- La enorme lista de números que el entrenamiento deja fijada dentro de un modelo y que determina todo lo que sabe hacer. Quien tiene una copia de los pesos tiene el modelo entero. Un modelo de «pesos abiertos» los publica para que cualquiera los descargue.
- Por ejemploSon como la receta secreta de una bebida famosa: quien la copia puede fabricar la misma bebida sin pedirle permiso a nadie ni seguir sus reglas.
- Phishing
- Un engaño por correo o mensaje que se hace pasar por alguien de confianza para que entregues una clave o un dato, o hagas clic donde no debes.
- Por ejemploEl correo que parece de tu banco y te pide «confirmar tus datos» con urgencia.
- Preprint
- Un artículo científico que se publica antes de pasar la revisión de otros expertos. Puede cambiar o corregirse cuando se revise.
- Por ejemploComo el borrador de un libro que el autor comparte antes de que lo revise la editorial.
- Prompt
- La instrucción o pregunta que se le escribe a una IA. Hacer prompting es redactarla para conseguir una respuesta determinada.
- Por ejemploLo que escribes en el chat: «Resúmeme este contrato en cinco puntos» es un prompt.
- Puerta trasera
- Un acceso escondido dentro de un sistema que permite a quien lo conoce controlarlo o cambiar su comportamiento sin que los usuarios lo noten. En una IA puede ser una conducta oculta que se activa con una señal.
- Por ejemploUna copia de la llave de tu casa que el cerrajero se guardó sin decirte.
- Reward hacking
- Cuando una IA consigue la recompensa de su entrenamiento por un atajo que nadie quería, en vez de hacer bien la tarea.
- Por ejemploUn niño al que le pagas por cada juguete que ordena y que desordena a propósito para volver a ordenar.
- Riesgo existencial
- Un daño que acabaría con la humanidad o le cerraría para siempre la posibilidad de recuperarse. Un riesgo catastrófico es enorme, pero de él se puede volver.
- Por ejemploUn incendio que quema tu casa es catastrófico. Uno que además quema el terreno, los planos y el dinero para reconstruir es existencial.
- RSP (Política de Escalamiento Responsable)
- El documento público en que Anthropic se compromete a tener ciertas protecciones antes de entrenar o lanzar modelos más capaces. OpenAI y Google DeepMind tienen marcos parecidos con otros nombres.
- Por ejemploComo un reglamento de construcción que exige más salidas de emergencia a medida que el edificio suma pisos.
- Scheming (maquinación)
- Que una IA persiga en secreto un objetivo distinto del que le dieron y oculte o falsee lo que hace para que no la corrijan.
- Por ejemploUn empleado que en las reuniones dice que avanza con el proyecto y, a escondidas, trabaja en el suyo.
- Superinteligencia
- Una IA hipotética que superaría ampliamente a las personas más capaces en casi cualquier tarea intelectual, incluida la de mejorarse a sí misma.
- Por ejemploSi jugar ajedrez contra el campeón mundial es perder seguro, imagina a alguien así de superior, pero en ciencia, estrategia y negociación a la vez.
- System card
- El informe que publica una empresa al lanzar un modelo: qué pruebas de seguridad le hizo, qué encontró y qué protecciones puso. Lo escribe la misma empresa que vende el modelo.
- Por ejemploComo la ficha de pruebas de choque de un auto nuevo, pero hecha y publicada por el mismo fabricante.
- Token
- El trozo de texto con que trabaja un modelo de lenguaje: una palabra corta, un pedazo de palabra o un signo. El uso de una IA se mide y se cobra en tokens.
- Por ejemploComo las fichas de un juego de mesa: el modelo no lee letras ni frases, lee fichas, y la cuenta se paga por ficha.
- Uplift
- Cuánto mejora lo que una persona logra hacer cuando tiene una IA al lado, comparado con lo que lograría sola. En este observatorio se usa sobre todo para capacidades peligrosas.
- Por ejemploComo armar un mueble con un video tutorial al lado: no te da las herramientas, pero terminas antes y con menos errores que leyendo solo el manual.
- Vector
- La vía por la que un riesgo pasa de la pantalla al mundo: biológica, cibernética, militar, económica, política, epistémica o de pérdida de control. En este observatorio, cada vector tiene su color.
- Por ejemploUn ladrón puede entrar por la puerta, la ventana o el techo. El ladrón es el riesgo; la puerta, la ventana y el techo son los vectores.
- Vulnerabilidad de día cero (zero-day)
- Una falla de seguridad en un programa que su fabricante todavía no conoce, así que no existe parche. Quien la encuentra primero puede entrar donde quiera hasta que alguien la note.
- Por ejemploComo descubrir que una marca de cerraduras se abre con cualquier llave antes de que el fabricante lo sepa: todas las puertas con esa cerradura quedan expuestas.