SenseiTeoría desde cero0/59

Referencia

Glosario

Glossary · español–English

1025 conceptos, cada uno en un solo lugar, con su nombre en inglés y las lecciones que lo usan. Cuando a alguien le surge una duda, la respuesta se agrega o se mejora aquí.

.

.dockerignore

.dockerignore

El archivo que lista lo que no se le manda a Docker al construir una imagen (pruebas, .git, secretos, modelos), con la misma forma que un .gitignore.

Se pone junto al Dockerfile, en la raíz del contexto. Si falta, nada avisa: el build solo se vuelve lento y puede meter secretos, la historia de Git o un modelo de varios GB en la imagen.

Ejemplo. El del gateway de Alba tiene 19 patrones: tests/, .git/, .venv/, __pycache__, .env, *.pem, **/*.jpg, **/*.onnx, **/*.plan y otras. Las pruebas corren en CI, fuera de la imagen, y el modelo vive en Triton.

.gitignore

.gitignore

Un archivo con patrones de lo que Git debe hacer como que no existe: el entorno virtual, los archivos que Python genera, el archivo .env (ajustes, a veces con contraseñas), los pesos y los datos. Ignorar no saca lo que ya entró a un commit.

Cada línea es un patrón: .venv/ ignora una carpeta, *.pyc todo lo que termine así, .env un archivo. git check-ignore -v ruta dice qué línea ignora a un archivo. .gitignore solo actúa sobre archivos que Git todavía no sigue: si uno ya entró, hay que sacarlo con git rm --cached (lo quita del repositorio y lo deja en tu carpeta), y aun así sigue en los commits viejos. Por eso un secreto que llegó a un commit se da por filtrado. El lock file sí se versiona, porque con él se reconstruye el entorno.

Ejemplo. Con .venv/, __pycache__/, .env, pesos/ y datos/ en .gitignore, de siete archivos git status solo muestra dos: .gitignore y app.py.

Se presenta en 35 · Git: versiones del códigoAparece en 3 lecciones

A

Accuracy

accuracy · exactitud

La fracción de ejemplos en que el modelo acertó. Fácil de entender y fácil de engañar cuando una clase es mucho más común que otra.

Con desbalance de clases, un modelo que siempre dice la clase más común saca una accuracy alta sin servir para nada. Por eso se acompaña de la matriz de confusión, precision y recall. Con muchas clases, «accuracy» suele querer decir top-1 (top-k accuracy).

Ejemplo. De 1,000 compras, 10 son fraude. Un modelo que siempre dice «no es fraude» acierta 990: 99 % de accuracy y 0 fraudes atrapados.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 10 lecciones

Acelerador propio de la nube

custom cloud accelerator (TPU, Inferentia, Trainium)

Chips para aprendizaje automático (ML) diseñados por la misma nube: las TPU de Google, e Inferentia y Trainium de AWS (Amazon). Suelen salir más baratos por predicción, a cambio de compilar con otra herramienta y quedar más atado a esa nube.

Las TPU solo existen en Google Cloud y se programan con XLA (JAX, TensorFlow, PyTorch/XLA). Inferentia (instancias inf2) es para inferencia y Trainium (trn) para entrenar; las dos usan el Neuron SDK de AWS, que compila el modelo para el chip. No todas las operaciones de todos los modelos funcionan igual. Se evalúan con la misma prueba de carga que una GPU, en costo por 1,000 predicciones, y aumentan la dependencia del proveedor.

Ejemplo. Un equipo compila su modelo con Neuron para una inf2 y lo compara contra una g6.xlarge con la misma prueba de carga; elige por US$ por 1,000 predicciones y por cuánto le costaría volver a GPU.

Activación

activation function

La función sencilla que una neurona aplica al final de su suma. Sin ella, apilar capas no serviría de nada: todo seguiría siendo una recta.

Una capa sin activación solo multiplica y suma, y dos así juntas equivalen a una sola. La activación «dobla» la recta, y con muchas neuronas la red puede formar curvas tan complicadas como haga falta. La más usada es la ReLU; antes se usaban activaciones suaves, como la sigmoide, que aplasta el número entre 0 y 1. También se le dice «activación» al número que sale de una neurona.

Ejemplo. Sin activación, y = 3x + 1 seguida de z = 2y − 1 da z = 6x + 1: otra recta. Con una ReLU en medio, la red se dobla en el 0.

Active learning

active learning

Elegir qué ejemplos etiquetar en vez de etiquetar al azar: sobre todo los que el modelo tiene más dudosos, porque son los que más le enseñan por cada etiqueta pagada.

Estrategias: incertidumbre (la confianza del primer lugar es baja, o el primero y el segundo casi empatan), desacuerdo (una persona eligió otra cosa que el modelo), diversidad (cubrir tipos distintos de fotos) y categorías nuevas. Siempre se guarda una parte al azar: es lo único que dice cuánto se equivoca el modelo en el tráfico real. Se entrena con todo lo etiquetado, pero se evalúa con el golden set y con la parte al azar, nunca con lo que eligió el active learning, que es a propósito más difícil que lo normal.

Ejemplo. Alba, el marketplace del curso: fotos con top-1 menor que 0.3 o con margen chico entre el primero y el segundo, desacuerdos con quien vende y 20–30 % al azar, ≈ 5,000 al mes.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 3 lecciones

Acuerdo top-1

top-1 agreement

La fracción de fotos en que dos versiones de un modelo dan la misma primera sugerencia. Es el número de la paridad que más se parece a lo que ve la persona usuaria.

Se calcula como a1=Nigual÷N: fotos con el mismo top-1 entre fotos del examen. No compara contra la etiqueta real (eso es la exactitud, la accuracy), sino una versión contra otra. Un engine FP16 sano cambia solo unas pocas fotos casi empatadas. Hace falta un examen grande: con pocas fotos, un solo empate tumba el porcentaje, y el examen falla por mala suerte.

Ejemplo. En Alba, a1 ≥ 99.5 % sobre ≈ 10,000 fotos: 9,950 deben coincidir. Un engine con 97 % no es redondeo, es un bug.

Se presenta en 51 · Export, engine y paridadAparece en 2 lecciones

Adam

Adam · adaptive moment estimation

El optimizador más usado por defecto: para cada perilla lleva el promedio de sus gradientes y el de su tamaño, y con eso da pasos de tamaño parecido en todas, del orden del learning rate.

Propuesto por Kingma y Ba en 2014. Guarda dos números por perilla: m, el promedio de los gradientes (como el momentum), y v, el promedio de los gradientes al cuadrado. El paso es lr × m̂ ÷ (√v̂ + ε), donde m̂ y v̂ corrigen el arranque en cero. Valores por defecto: 0.9 y 0.999 para los dos promedios y ε = 0.00000001. Si el gradiente de una perilla cambia de signo a cada rato, m se cancela y el paso se achica. AdamW es la variante con weight decay aplicado aparte.

Ejemplo. Dos perillas con gradientes 100 y 0.01, lr = 0.0003: en el primer paso las dos se mueven 0.0003. Con SGD se moverían 0.03 y 0.000003.

Se presenta en 04 · Cómo aprende un modeloAparece en 3 lecciones

Adjudicación

adjudication

Que una persona experta decida cuál es el label correcto cuando dos anotadores no coinciden. Su decisión fija el label y, si el caso era confuso, mejora la guía.

La doble anotación encuentra los desacuerdos; la adjudicación los resuelve. Conviene que la haga alguien que conoce el tema mejor que los anotadores y que su decisión vuelva a la guía como ejemplo. Así la guía aprende de sus huecos.

Ejemplo. En Alba, 2 personas expertas del equipo de moderación adjudican los desacuerdos en hasta 3 días hábiles. El golden set también se adjudicó así.

AES

AES · Advanced Encryption Standard

El algoritmo de cifrado simétrico estándar: la oficina de estándares de Estados Unidos (NIST) lo eligió en un concurso público en 2000 y lo publicó como estándar en 2001. Cifra bloques de 16 bytes con llaves de 128, 192 o 256 bits, y los procesadores lo aceleran con instrucciones propias.

Lo usan casi todas las conexiones TLS, los discos cifrados y S3 (el almacén de archivos de AWS). Por sí solo cifra un bloque; para un archivo se usa un modo. El más común hoy es GCM, un cifrado autenticado: además del texto cifrado produce una etiqueta de 16 bytes que detecta cualquier cambio. GCM usa un nonce (un número que no se repite; normalmente de 12 bytes, el tamaño recomendado) que nunca debe repetirse con la misma llave; repetirlo deja combinar mensajes y falsificar etiquetas. El modo viejo ECB cifra igual los bloques iguales y deja ver patrones: no se usa.

Ejemplo. AES-128 con una llave de 16 bytes: tiene 2128 ≈ 3.4 × 10³⁸ llaves; a 10¹⁸ por segundo, dar con la buena (en promedio, tras probar la mitad) tomaría ≈ 5.4 × 10¹² años, y probarlas todas, el doble. Cifrar una foto de 200 KB toma microsegundos.

Ajuste con instrucciones

instruction tuning · SFT (supervised fine-tuning)

La segunda etapa de un modelo grande de lenguaje (LLM): seguir entrenando el modelo base con ejemplos de peticiones y buenas respuestas, para que conteste en vez de solo continuar el texto.

Es un fine-tuning con conversaciones, casi siempre escritas o revisadas por personas. La tarea es la misma de antes (adivinar el siguiente token), pero solo sobre esos ejemplos y en un formato fijo de roles (sistema, usuario, asistente) marcados con tokens especiales. Ahí aprende el formato del chat y a respetar el system prompt; casi todo lo que sabe viene del preentrenamiento.

Ejemplo. En InstructGPT (OpenAI, 2022), esta etapa usó del orden de 13 mil ejemplos: muy poco comparado con los billones de tokens del preentrenamiento.

ALB (Application Load Balancer)

Application Load Balancer

El balanceador gestionado de AWS (la nube de Amazon) que entiende HTTP: recibe las conexiones HTTPS, las descifra y reparte las requests entre copias sanas en varias zonas. Cobra por hora (≈ US$0.0225) y por LCU (su unidad de trabajo).

Es un balanceador de carga de capa 7 que vive en las subredes de varias zonas a la vez. Su cobro sorprende: además de la hora, cobra ≈ US$0.008 por LCU-hora, y cuando las requests llevan fotos en el body manda la dimensión de bytes, así que paga ≈ US$0.008 por GB que pasa. Mandar la llave de S3 en vez de los bytes baja ese cobro. En Google Cloud el equivalente es su Application Load Balancer (antes «balanceador HTTP(S)»), y en Azure, Application Gateway.

Ejemplo. El ALB de Alba: ≈ 83 GB/h de fotos ≈ 83 LCU → 83.3 × 0.008 × 730 + 0.0225 × 730 ≈ US$503 al mes, ≈ 27 % de la infraestructura (más de la cuarta parte).

Se presenta en 41 · Redes en la nube: VPC, subredes y egressAparece en 9 lecciones

Alerta multiventana

multiwindow, multi-burn-rate alert

Una alerta de burn rate que mira dos ventanas a la vez, una larga y una corta (1/12 de la larga), y suena solo si las dos pasan el umbral.

La ventana larga confirma que el problema es real: un pico de dos minutos no mueve el promedio de una hora. Pero tiene memoria y seguiría arriba mucho después del arreglo. La corta casi no tiene memoria: cuando el incidente termina, baja en minutos y la alerta se apaga. Se combinan varios niveles (rápido y lento) para cubrir incidentes graves y goteos.

Ejemplo. Alba: page a 14.4× en 1 h y en 5 min; ticket a 6× en 6 h y en 30 min. Un incidente al 3 % durante 40 min, con 0.1 % de fondo (el tope que deja el SLO; supuesto del ejemplo), hace sonar el page del minuto 27 al 42; con la ventana larga sola, sonaría hasta el 72.

Alertmanager

Alertmanager

El programa que recibe las alertas que dispara Prometheus y decide a quién y cómo avisar: agrupa, deduplica, inhibe y silencia.

Prometheus solo decide que una alerta suena. Alertmanager agrupa las de un mismo incidente en una notificación, deduplica las que llegan repetidas de dos Prometheus iguales, inhibe las que son consecuencia de otra y silencia durante un mantenimiento. También enruta cada severidad a su canal (el teléfono de la guardia, el chat del equipo, la cola de tickets).

Ejemplo. En Alba vive en el namespace monitoring, agrupa por alerta y namespace y calla los warning de la fila de Triton mientras TritonNotReady está sonando.

Algoritmo de balanceo

load balancing algorithm

La regla con la que un balanceador elige a qué copia mandar cada request o cada conexión: por turnos, al azar, por peso, a la menos ocupada, a la mejor de dos al azar o por hash.

Round-robin reparte por turnos y es el que usan por omisión muchos balanceadores; falla cuando las requests tardan muy distinto, porque reparte requests y no trabajo. Al azar no necesita memoria ni acuerdos entre máquinas, pero a veces junta dos pesadas en la misma copia. Por peso le da más a las copias más grandes. Least-connections o least outstanding requests manda a la copia con menos requests en vuelo, y se porta casi como una sola fila compartida. Dos opciones al azar (power of two choices) sortea dos y elige la menos ocupada: casi tan bueno, con muy poca información y sin que muchos balanceadores elijan al mismo a la vez. Por hash manda siempre el mismo id al mismo destino, para la afinidad.

Analogía. Las filas del súper contra la fila única del banco. Con una fila por caja asignada por turno, quedas atrás del carrito lleno aunque otra caja esté vacía; con la fila única, pasas a la primera que se libera. Se rompe en que el balanceador no ve el tamaño del carrito: solo cuenta cuántas requests tiene cada copia.

Ejemplo. Dos pods y una request de 100 ms seguida de nueve de 8 ms, una cada 10 ms. Con round-robin, cuatro ligeras esperan de 44 a 80 ms detrás de la pesada; con least-connections, ninguna espera. En una simulación con 4 pods al 71 % de uso, la espera p99 bajó de ≈ 332 ms con round-robin a ≈ 136 ms con least-connections.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 2 lecciones

Alias de modelo

model alias

Un nombre que señala a una versión del registro y que se puede mover, como champion o challenger. Promover un modelo o volver al anterior es mover un alias.

Un alias no copia nada: es un puntero. Por eso moverlo es instantáneo y volver atrás también. En MLflow reemplazó a los stages (Staging, Production, Archived), que la herramienta marcó como obsoletos: un alias tiene el nombre que tú elijas y una versión puede tener varios. Ojo: que exista un alias no quiere decir que los servidores lo lean; lo seguro es que el pipeline de despliegue lo lea una vez y despliegue esa versión.

Analogía. El pizarrón de «platillo del día» en un restaurante: las recetas tienen número y no se editan; el pizarrón dice cuál toca. Donde se rompe: cambiar el pizarrón no cambia lo que ya está en las ollas; hace falta que alguien cocine (que el despliegue corra).

Ejemplo. En Alba, hoy champion → 14. Al terminar el canary de la 15, el pipeline de despliegue hace champion → 15; si falla, la guardia lo regresa a 14 y se despliega la imagen de la 14.

Se presenta en 50 · Gate de evaluación y registryAparece en 4 lecciones

Almacén de artefactos y metadatos

artifact store and backend store

Los dos lugares donde un servidor que anota entrenamientos, como MLflow, guarda lo que anota: una base de datos para los números y textos chicos (metadatos) y un almacén de objetos para los archivos grandes (artefactos).

Lo que anota una corrida es de dos tipos muy distintos. Los parámetros, métricas y tags son chicos y muchos, y se buscan y comparan: van a una base de datos (el backend store). Los checkpoints, matrices y reportes son archivos grandes que se guardan y se bajan enteros: van a un almacén de objetos como S3 (el artifact store). Separarlos deja buscar rápido sin mover gigas, y guardar gigas sin llenar la base de datos.

Ejemplo. El MLflow de Alba guarda los metadatos en Postgres (una base de datos, gestionada por AWS) y los artefactos en s3://ml-datos/mlflow/. «Todas las corridas con lr 3e-4 y val_top1 > 85» se contesta en la base de datos; el checkpoint de 294 MB se baja de S3.

Almacenamiento de bloques

block storage

Un disco en crudo, visto como una fila de bloques numerados, sobre el que la máquina pone su propio sistema de archivos. En la nube es un disco de red pegado a una sola máquina, como EBS en AWS (la nube de Amazon).

Se puede leer y escribir a la mitad de un archivo, con latencias de milisegundos o menos, así que ahí van el disco con el que arranca la máquina y las bases de datos. A cambio, normalmente lo usa una sola máquina a la vez, vive en una sola zona de disponibilidad y se paga por los GB reservados, se usen o no: un gp3 de EBS cuesta ≈ US$0.08 por GB-mes, unas 3.5 veces S3 Standard, y da de base 3,000 IOPS y 125 MiB/s. Las otras dos maneras de guardar en la nube son el almacenamiento de archivos (una carpeta compartida por NFS que montan muchas máquinas, como EFS, ≈ US$0.30 por GB-mes) y el de objetos. El disco NVMe local de una máquina (instance store) es más rápido, pero se pierde con ella: sirve de caché, nunca de único lugar.

Ejemplo. Un servicio de búsqueda por foto guarda en un disco gp3 de cada máquina los 51.2 GB de vectores que lee en cada búsqueda, servidos desde el page cache. La copia que no se puede perder va a S3.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 2 lecciones

Alucinación

hallucination

Cuando un modelo de lenguaje (LLM) escribe, con toda seguridad y buena redacción, algo falso o que no está respaldado por ninguna fuente.

Pasa porque el modelo aprendió a producir texto probable, no texto verificado: si no sabe un dato, el token más probable sigue siendo uno que suena bien. No es un error raro que se arregla una vez; es una propiedad de cómo funcionan. Se reduce con RAG, con instrucciones de decir «no lo sé» y se mide en un conjunto de preguntas con respuesta conocida.

Ejemplo. Preguntas por la política de devoluciones del marketplace y el modelo contesta «30 días» porque es lo común, aunque la política real diga 15.

Ambiente

environment · dev, staging, prod

Una copia completa del sistema para un propósito: dev para desarrollar, staging para el ensayo general y prod, la de verdad. Corren las mismas piezas con distinta configuración.

Lo que debe ser igual: la imagen (el mismo digest), el código y la forma del sistema. Lo que cambia: la configuración (a qué servicios apunta, cuántas copias hay, qué datos ve, qué credenciales usa), y eso se le da a cada ambiente desde afuera, sin tocar la imagen; lo ves a fondo en «Configuración: YAML, variables de entorno y secretos». Staging tiene que parecerse a producción en lo que importa para lo que se prueba (el mismo tipo de GPU, la misma versión de Triton), pero suele ser más chico. Los datos de producción no se copian a dev ni a staging sin pensarlo: pueden tener datos personales.

Ejemplo. En Alba, staging corre la misma imagen del gateway y de Triton que producción, con una T4 prendida 60 horas por semana: 0.526 × 60 h × 52 semanas ÷ 12 meses ≈ US$137 al mes; ahí se hace la prueba de humo y se ensaya el rollback.

Se presenta en 36 · Pruebas y CI/CDAparece en 5 lecciones

Amenaza y modelo de amenazas

threat / threat model

Alguien con un motivo, algo de valor que quiere y un camino para llegar a eso. Un modelo de amenazas es la lista de esas amenazas, con lo que haces contra cada una y lo que decides no hacer.

Una amenaza junta tres cosas: quién (un vendedor tramposo, un competidor, alguien que vende datos), qué gana (visibilidad, tumbar el servicio, fotos con caras) y por dónde entraría (una API, un archivo que abres, una etiqueta que aceptas, un paquete que instalas). Si falta el motivo o falta el camino, no hay amenaza aunque haya un hueco. El modelo de amenazas responde cuatro preguntas: qué cuidas, quién lo querría, por dónde entraría y qué haces. Sirve para gastar en defensas en el orden correcto, en vez de defender todo igual.

Ejemplo. En Alba, engañar la sugerencia de una foto no tiene motivo (el vendedor la cambia a mano), así que no se gasta en robustez del modelo. Envenenar etiquetas sí: el 72 % viene de vendedores, y un vendedor gana visibilidad si sus productos caen en una categoría con más compradores.

Análisis del canary

canary analysis

La comparación automática de las métricas del canary contra las del estable en la misma ventana de tiempo, que decide si el canary sigue o se aborta.

Comparar en la misma ventana cancela el ruido del día: una campaña o la madrugada afectan a las dos versiones igual, porque los pesos reparten al azar por request. Lo que queda es la diferencia del modelo. Para eso cada métrica lleva la versión como etiqueta (model_version). Los topes absolutos se quedan como red, por si todo el sistema está mal. Las señales que miran qué contesta el modelo (la confianza, la mezcla de categorías con el PSI) son las que atrapan a un modelo que se equivoca con confianza.

Ejemplo. A las 13:00, una campaña de bicicletas sube la baja confianza (la parte de fotos en que el modelo duda) de las dos versiones: estable 6.0 %, canary 8.4 %. La razón, 1.4, queda bajo el límite de 1.5: el canary sigue.

Se presenta en 56 · Rollout seguroAparece en 2 lecciones

Ancho de banda

bandwidth

Cuántos datos puede mover un canal por segundo: una red, un disco, la conexión entre el procesador (CPU) y la GPU. La red se mide en bits por segundo (Gb/s); la memoria y los discos, en bytes por segundo (GB/s).

El tiempo de mandar algo grande es su tamaño entre el ancho de banda, con las unidades parejas (× 8 entre bytes y bits). No es lo mismo que la latencia: el ancho de banda dice cuánto cabe por segundo; la latencia, cuánto tarda en llegar lo primero. El de la memoria de la GPU tiene su propia entrada: ancho de banda de memoria.

Analogía. Una camioneta con 2 PB de discos que maneja 10 horas tiene un ancho de banda enorme (≈ 440 Gb/s) y una latencia pésima: el primer byte llega a las 10 horas. Se rompe en que una red manda un flujo continuo y la camioneta, todo de golpe.

Ejemplo. En el pico de diseño de Alba viajan 500 × 602 KB ≈ 301 MB/s del gateway a las GPUs: ≈ 2.4 Gb/s. Por PCIe, a ≈ 16 GB/s, copiar una foto tarda ≈ 40 µs.

Se presenta en 09 · Números grandes, unidades y estimacionesAparece en 5 lecciones

Ancho de banda de memoria

memory bandwidth

Cuántos bytes por segundo puede mover la memoria de un chip hacia sus núcleos y de regreso. En una GPU se mide en GB/s: 320 en una T4, 300 en una L4 y 3,350 en una H100 SXM.

Es la velocidad de la VRAM, no su tamaño: la capacidad dice qué cabe; el ancho de banda, qué tan rápido se lee. Ojo con las unidades: GB/s son gigabytes por segundo, mientras que el ancho de banda de una red se suele dar en Gb/s, gigabits, 8 veces menos. El tiempo mínimo para leer algo es bytes ÷ ancho de banda, y en un cálculo memory-bound ese es el tiempo que manda. Las memorias HBM de las GPUs grandes dan de ≈ 1,555 GB/s (A100 de 40 GB) a 3,350 GB/s (H100 SXM); las GDDR6 (un tipo de memoria más barato) de la T4 y la L4, ≈ 300.

Ejemplo. Llama 3 8B en BF16 pesa ≈ 16 GB, y para generar cada token hay que leerlo entero. A 300 GB/s (L4) son ≈ 54 ms por token, un techo de ≈ 19 tokens por segundo; a 3,350 GB/s (H100 SXM), ≈ 210.

Ancho de banda sostenido y de ráfaga

baseline / burst network bandwidth

Cada instancia trae un ancho de banda de red que aguanta todo el tiempo (sostenido) y uno más alto que aguanta solo por ratos (ráfaga). Para diseñar cuenta el sostenido.

AWS suele anunciar la ráfaga con un «hasta» («hasta 12.5 Gb/s»); la ráfaga dura típicamente de 5 a 60 minutos, sin garantía, y cuando se acaban los créditos, la máquina baja al sostenido y empieza a encolar o tirar paquetes. Está en bits por segundo: 1 Gb/s = 125 MB/s. Con tensores grandes se rebasa fácil, sobre todo cuando cae una zona y un nodo hace el trabajo de dos. Salidas: payloads más chicos (UINT8, JPEG), más nodos o una instancia con más red. Ver ancho de banda.

Ejemplo. Gateway de Alba en c6i.xlarge (1.56 Gb/s sostenidos, hasta 12.5): 500 req/s × 602,112 B × 8 ≈ 2.4 Gb/s. Con dos nodos, 77 % cada uno; si cae una zona, 154 % del sostenido.

ANN (vecinos cercanos aproximados)

approximate nearest neighbors

Buscar los vecinos más cercanos sin compararse contra todos: se revisa solo una parte bien elegida de la colección. Es muchísimo más rápido, a cambio de perder de vez en cuando algún vecino verdadero.

Cuánto se pierde se mide con el recall contra la búsqueda exacta: de los 100 vecinos verdaderos, cuántos encontró el ANN. Mirar más de la colección sube el recall y baja la velocidad: es una perilla, no un defecto. Las técnicas más usadas son los grafos (HNSW) y los grupos o «estantes» (IVF, inverted file).

Analogía. Una biblioteca ordenada por estantes de tema: para buscar un libro de cocina vas directo al estante de cocina y no revisas los otros. Se rompe en que un libro que quedó en el estante de al lado (un libro de nutrición con recetas) no lo vas a ver, aunque fuera el que querías.

Ejemplo. En la búsqueda de Alba, el marketplace del curso, se pide recall@100 ≥ 0.95: de los 100 vecinos exactos, el ANN tiene que encontrar al menos 95 (recall@k=h÷k, con h los que halló).

Anonimización

anonymization

Transformar datos personales de modo que nadie, con medios razonables, pueda volver a la persona. Un dato anónimo de verdad deja de ser dato personal, pero lograrlo es difícil y hay que demostrarlo.

Quitar el nombre no basta: los cuasi-identificadores (código postal, fecha de nacimiento, sexo, fecha y lugar de una foto) permiten la reidentificación. Las técnicas van de generalizar hasta cumplir k-anonimato a publicar solo agregados o resultados con privacidad diferencial (se les agrega ruido calculado para que ninguna persona sola cambie el resultado). Un dataset de fotos casi nunca es anónimo: las fotos pueden traer caras, casas o placas, y se pueden buscar por imagen. Lo honesto es tratarlo como seudónimo.

Ejemplo. «Cuántas publicaciones de cada categoría hubo por semana y por estado», sin ids, es anónimo. Las mismas publicaciones con su hora exacta y la ciudad de la vendedora no lo son.

API

Application Programming Interface

La «ventanilla» de un programa: lo que otros programas le pueden pedir, cómo pedírselo y qué les va a regresar.

Quien la usa no necesita saber cómo funciona por dentro, solo qué pedir y en qué formato. Un modelo en producción casi siempre se usa a través de una API: le mandas una request con la foto y te regresa la categoría.

Analogía. La ventanilla de un banco: no ves la bóveda ni los sistemas de atrás, pero sabes qué trámites puedes pedir y qué papeles llevar. Se rompe en que en la ventanilla te atiende una persona que puede improvisar; una API solo responde lo que está definido, y en el formato exacto.

Ejemplo. La API de Alba recibe una foto y regresa las 5 categorías más probables, cada una con su porcentaje. El marketplace no necesita saber que adentro hay una ResNet-50.

Se presenta en 00 · El camino completoA fondo en 22 · HTTP: requests, respuestas y códigosAparece en 8 lecciones

API gateway

API gateway

Un intermediario del lado de los servidores (un proxy inverso) que conoce las reglas de la API: antes de pasar cada request revisa quién llama, qué puede hacer, cuánto puede pedir y a dónde va.

Concentra en un lugar lo que, sin él, cada servicio reimplementaría a su manera: autenticación (llaves o tokens), autorización, rate limits y cuotas, ruteo por ruta, versión o alias, topes de tamaño y la medición de uso por cliente. Lo hacen productos como Kong, Envoy Gateway o el API Gateway de AWS. Ojo con la palabra: «el gateway» de Alba, el marketplace del curso, hace trabajo de API gateway (cuota por cliente, tope de 10 MB, límite de tiempo), pero además preprocesa la foto, que es lógica de ML. El «llm-gateway» de un servicio que sirve su propio LLM es una puerta pura.

Ejemplo. El llm-gateway de un servicio que sirve su propio LLM a varios equipos de una empresa revisa la llave de cada equipo, le cobra su cuota de un token bucket en tokens por minuto, resuelve el alias chat-default a la revisión actual del modelo y elige una de las 16 réplicas de vLLM. Un equipo que se pasa recibe 429 él solo.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 3 lecciones

Aprendizaje contrastivo

contrastive learning

Entrenar una red que convierte cosas en vectores (un encoder) con pares que deben quedar juntos (una foto y su título): se acercan los vectores de cada par y se alejan los de las cosas que no son pareja.

En cada batch de B pares, cada foto tiene 1 título correcto y B − 1 incorrectos: los de las otras fotos (los «negativos dentro del batch»). Se calcula una tabla de B × B cosenos, se divide entre una temperatura, se aplica un softmax por fila y la pérdida es la entropía cruzada con la diagonal como respuesta correcta. Así se entrenó CLIP, y así se entrenan muchos modelos de embeddings de texto y los modelos de dos torres de recomendación.

Analogía. Un memorama: volteas una foto y tienes que encontrar su tarjeta de texto entre muchas. Se rompe en que en el memorama las tarjetas no cambian; aquí cada error mueve las tarjetas (los vectores) para que la próxima vez la pareja quede más cerca.

Ejemplo. Con cosenos 0.80 (su título), 0.55 y 0.10, y temperatura 0.1, la foto de tenis le da 92 % a su título y su pérdida es −ln 0.92 ≈ 0.08. CLIP usó ≈ 400 millones de pares y batches de 32,768.

Árbol limpio

clean working tree

Cuando cada archivo del repositorio en el disco es idéntico al de la versión guardada (el commit): no hay cambios sin guardar. Solo así el commit anotado dice qué código corrió de verdad.

Un commit fija el código guardado; el programa corre el que hay en el disco. Si alguien editó un archivo sin hacer commit, el árbol está «sucio» y los dos no coinciden. git status --porcelain lo revela: si no imprime nada, está limpio. La trampa: MLflow anota el commit aunque el árbol esté sucio, sin avisar. Por eso las candidatas se entrenan solo desde un pipeline que clona el commit y falla si el árbol no está limpio.

Ejemplo. Alguien dejó df = df[df.label != 17] sin commit en su laptop y entrenó desde ahí. La corrida dice c3f2fc2, pero el código que corrió saca una categoría entera. En Alba, el primer comando del fine-tune es git status --porcelain: si no sale vacío, el paso falla.

Archivo

file

Una fila de bytes con nombre, guardada en un disco. El sistema operativo sabe cuánto mide, de quién es y cuándo cambió, pero no qué significan sus bytes: eso lo dice el formato.

El sistema de archivos guarda cada archivo en el disco y lo encuentra por su ruta. Por dentro es solo una secuencia de bytes, numerados desde el 0. Un programa puede leerlo completo, de principio a fin, o saltar a cualquier posición (seek) y leer solo un pedazo: formatos como Parquet y safetensors aprovechan eso. También se le puede añadir al final sin reescribir lo anterior, que es lo que hace un log en JSON Lines. Qué significa cada byte lo decide el formato.

Ejemplo. Los bytes 48 6F 6C 61 son «Hola» leídos como letras, 1,634,496,328 leídos como un entero de 4 bytes y ≈ 2.7 × 10²⁰ leídos como float32. El archivo es el mismo; cambia quien lo lee.

Se presenta en 27 · Archivos y formatos: JSON, CSV, Parquet y YAMLAparece en 2 lecciones

Archivo .env

.env file · dotenv

Un archivo de texto con una línea NOMBRE=valor por variable. docker compose lo usa para llenar las variables de su archivo, y python-dotenv lo carga como variables de entorno con una línea. Es cómodo en la laptop y casi siempre trae contraseñas, así que va en el .gitignore y en el .dockerignore.

Vive en la carpeta del proyecto, junto al código, y por eso es el secreto que más se sube por error a Git (un git add . basta) o a una imagen (un COPY . o COPY .env). La defensa es ponerlo en el .gitignore desde el primer día y subir en su lugar un .env.example con los nombres y valores de mentira. En producción no se usa: los valores llegan de un ConfigMap, de un Secret o de un gestor de secretos.

Ejemplo. DB_PASSWORD=dev-1234 en un .env. Con .env en el .gitignore, git status ni lo muestra; sin él, aparece como ?? .env, listo para subirse.

Argmax

argmax

La posición del valor más alto de una lista, no el valor. En un clasificador, la posición del logit más alto es la respuesta top-1.

Como softmax no cambia el orden, da lo mismo sacarlo de los logits o de las probabilidades: para saber cuál gana no hace falta softmax. Si dos valores empatan exacto, las librerías suelen devolver la primera posición. En las fotos casi empatadas, un cambio diminuto en los logits mueve el argmax: por eso Alba, el marketplace del curso, exige que el top-1 coincida en al menos 99.5 % de las fotos al pasar el modelo a números más chicos (FP16, 2 bytes por número en vez de 4). El argmax repetido k veces es el top-k.

Ejemplo. Logits 3.0, 1.0 y 0.0 de Tenis, Botas y Sandalias: el máximo es 3.0 y el argmax es la posición de Tenis.

Se presenta en 01 · Qué es un modeloAparece en 2 lecciones

Argo CD

Argo CD

Un programa que corre dentro de un clúster de Kubernetes, lee un repositorio de Git y hace que el clúster se parezca a lo que dice. En GitOps (desplegar cambiando un repositorio de Git), es la parte que vive en el clúster.

Con GitOps, desplegar es cambiar un archivo en un repositorio de despliegue. Argo CD lo revisa, por omisión, cada 2 a 3 minutos, o al instante con un webhook, compara lo que dice con lo que corre y aplica la diferencia. Así el CI no necesita permiso para entrar al clúster: solo escribe en Git. Con la corrección automática prendida, también deshace los cambios hechos a mano. No promueve entre ambientes ni hace canary por sí solo. Es un proyecto de la CNCF (Cloud Native Computing Foundation, la fundación que también cuida Kubernetes); no confundir con Argo Workflows, un orquestador de pipelines del mismo grupo de proyectos.

Ejemplo. En Alba, Argo CD lee alba/despliegue; cuando la línea del gateway cambia a classifier-gateway:3f9c2ab@sha256:…, reemplaza las copias. El rollback es un git revert en ese repositorio.

Se presenta en 54 · CI/CD y registro de imágenesAparece en 3 lecciones

Argo Rollouts

Argo Rollouts

Un programa que corre dentro de Kubernetes (un controlador) y agrega el objeto Rollout: la misma plantilla de pod que un Deployment, más los pasos de un canary o un blue/green, con análisis automático y aborto.

Los pasos son una lista (setWeight: 5, pause: {duration: 4h}…). Con trafficRouting escribe los pesos (qué parte del tráfico va a cada versión) en el balanceador (en AWS, en una anotación del Ingress que el AWS Load Balancer Controller aplica al ALB); sin él, reparte por número de pods. Su análisis consulta métricas (Prometheus, entre otros) y, si una medición falla, aborta y regresa el tráfico al estable. Con GitOps, Argo CD aplica el Rollout como cualquier manifiesto; tras un aborto, el Rollout queda abortado hasta que Git vuelva a pedir la versión estable. Apaga la versión vieja 30 s después del switch (en blue/green) o de llegar al 100 % (en canary con trafficRouting) si no se cambia scaleDownDelaySeconds. Y volver a una versión anterior ya promovida es, para él, un cambio más: corre otra vez todos los pasos, salvo que rollbackWindow diga cuántas revisiones recientes se saltan los pasos.

Ejemplo. El gateway de Alba es el Rollout gateway, en el namespace classifier, con los Services gateway-stable y gateway-canary, el Ingress gateway y el análisis canary-vs-estable.

Se presenta en 56 · Rollout seguroAparece en 2 lecciones

Argumento

argument · command-line argument · flag

Cada palabra que va después del comando. La shell las separa por los espacios y se las pasa al programa como una lista de textos; las que empiezan con guion son opciones (flags).

Las opciones cortas llevan un guion y una letra (-n 20) y las largas, dos guiones y una palabra (--lines=20); varias cortas se juntan (ls -la). Lo demás son argumentos posicionales, casi siempre archivos. Como el espacio separa, un texto con espacios va entre comillas: las dobles todavía reemplazan variables, las simples no reemplazan nada. Una \ al final de la línea dice que el comando sigue abajo. Las opciones largas son sobre todo de los programas de GNU (Linux); los de macOS muchas veces solo aceptan las cortas. Casi todo programa explica las suyas con --help.

Ejemplo. rm mis fotos le pasa a rm dos argumentos, mis y fotos; rm "mis fotos" le pasa uno. En tail -n 20 gateway.log, -n 20 es una opción con su valor y gateway.log es el posicional.

Se presenta en 32 · La terminal y la shellAparece en 2 lecciones

Arquitectura de CPU

CPU architecture · instruction set · x86-64 · ARM64

El idioma de instrucciones que entiende una CPU. Las dos comunes son x86-64 (o amd64: Intel y AMD, la mayoría de los servidores) y ARM64 (o aarch64: las Mac con Apple Silicon, los Graviton de AWS y los teléfonos). Un programa compilado para una no corre en la otra.

Un binario ejecutable guarda instrucciones en el idioma de una CPU: la instrucción «regresar» es el byte C3 en x86-64 y los 4 bytes C0 03 5F D6 en ARM64. El kernel revisa la cabecera antes de ejecutar y, si es de otra arquitectura, falla con «exec format error» (errno 8). El código de Python no depende de la CPU, pero el intérprete y las librerías con partes compiladas (torch, NumPy, Pillow) sí: pip baja una versión para cada una. Las imágenes de Docker tienen plataforma (linux/amd64, linux/arm64); una imagen multi-arquitectura es un índice con una por plataforma bajo el mismo tag.

Ejemplo. Si construyes la imagen del gateway en una Mac con Apple Silicon, sale linux/arm64; en los nodos de Alba, que son x86-64, el contenedor muere con «exec format error». Se arregla construyendo en CI con --platform linux/amd64.

Se presenta en 19 · El sistema operativo: Linux, archivos y permisosAparece en 6 lecciones

Arranque desde el champion

warm start

Empezar el entrenamiento del modelo nuevo con los pesos del modelo que hoy está en producción, en vez de con unos pesos genéricos. Es más barato, pero encadena cada modelo con todos los anteriores.

El champion es el modelo que hoy atiende a la gente. Arrancar desde él aprovecha lo que ya sabe y pide menos épocas. A cambio, el linaje se encadena: para repetir el modelo de este mes hace falta el del mes pasado, y el anterior, y un error aprendido en uno pasa a todos los siguientes. Conviene cuando entrenar desde el principio cuesta días o mucho dinero, o cuando el modelo se actualiza muy seguido. No es lo mismo que reanudar una corrida desde su propio checkpoint (reanudar desde un checkpoint).

Ejemplo. Alba no lo usa: cada mes arranca desde los pesos de ImageNet con la receta fija, porque una corrida cuesta ≈ US$3–4 y así cada modelo depende solo de su snapshot, su commit y su imagen.

Arranque en frío

cold start

El tiempo desde que el sistema decide agregar una copia hasta que esa copia contesta su primera request: prender la máquina, bajar la imagen, cargar el modelo y pasar la prueba de listo.

En Alba, con un nodo nuevo: detectar 0.5–1.5 min, nodo 2–5, imagen 2–5, engine 10–60 s, listo 5–15 s: ≈ 5 a 13 minutos. Por eso el autoscaling no absorbe picos de segundos. En serverless es al revés de lo que parece: escalar hasta cero es lo que crea el arranque en frío, y lo que lo elimina (instancias mínimas, concurrencia aprovisionada) se paga siempre.

Analogía. Prender el boiler cuando ya te quieres bañar: el agua sale fría un rato. Se rompe porque aquí el «rato» puede ser de minutos, y la request ya se cansó de esperar.

Ejemplo. A 500 requests por segundo, 13 minutos de arranque son 390,000 requests que tienen que atender las réplicas que ya estaban prendidas.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 3 lecciones

Artefacto

artifact · build artifact

Lo que produce un pipeline y se guarda para usarlo después: un reporte de pruebas, un paquete de Python (wheel), un engine (un modelo compilado para una GPU), un modelo o una imagen de contenedor. Se construye una vez y no se cambia.

La regla de CD es construirlo una sola vez, en el CI, y promover ese mismo por staging y producción: reconstruir «lo mismo» produce otro, con otras versiones de lo que no estaba fijo, y entonces lo probado no es lo que corre. Por eso se nombra por lo que lo produjo (el commit) y se identifica por su contenido: una imagen por su digest, un modelo por su hash y su versión en el registro de modelos. Se guarda donde dure lo necesario para volver: las imágenes en un registro de imágenes, con las últimas versiones protegidas para un rollback. En ML, el modelo también es un artefacto, y por eso un rollback de modelo es cambiar un puntero.

Ejemplo. En Alba: la imagen classifier-gateway nombrada con el commit, el ONNX de ≈ 98 MB, el engine de TensorRT construido en la T4 con su reporte de paridad, y el reporte de las pruebas que guarda la corrida de GitHub Actions.

Se presenta en 36 · Pruebas y CI/CDAparece en 5 lecciones

ASGI

ASGI (Asynchronous Server Gateway Interface)

El contrato entre un servidor web de Python y una aplicación asíncrona: una función async que recibe la request y manda la respuesta por pedazos. Gracias a él, uvicorn puede correr FastAPI.

ASGI define cómo se hablan el servidor y la aplicación: la aplicación es una función async que recibe un diccionario con la request (scope) y dos funciones, una para recibir los pedazos del body y otra para mandar la respuesta. Como es asíncrona, un solo proceso atiende muchas requests a la vez en su event loop. Es el sucesor de WSGI (Web Server Gateway Interface), que era una función normal, una request a la vez por hilo.

Ejemplo. Las pruebas del gateway de Alba llaman a la aplicación ASGI directamente para simular una subida cortada a la mitad: el cliente de pruebas de FastAPI siempre entrega el body completo.

Asignación con hash

hash-based assignment

Decidir a qué grupo va cada usuario (un brazo de un experimento A/B, un canary, el set de entrenamiento o el de validación) con un hash de su id: siempre igual, en cualquier máquina, sin guardar ninguna tabla.

La receta: cubeta = hash(sal + id) mod 100, y cada grupo es un rango de cubetas. Es determinista (el mismo vendedor cae siempre del mismo lado, aunque lo calculen el backend, el job de métricas o un analista), no necesita una tabla que guardar ni sincronizar, permite rampas ordenadas (5 % son las cubetas 0–4; al subir a 25 %, los de antes se quedan) y, con una sal distinta por experimento, cada uno sortea de nuevo. Se usa con un hash fijo como sha256, nunca con el hash() de Python. Es la manera de fijar la unidad de aleatorización de un A/B.

Ejemplo. En Alba, el marketplace que sigue el curso: cubeta = sha256(sal + seller_id) mod 100; de 0 a 49 al brazo A, de 50 a 99 al B, y el backend manda el brazo en el header X-Model-Arm. Un sistema de fraude con tarjetas decide su exploración con un hash de (sal, payment_id), para que un reintento caiga del mismo lado.

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 4 lecciones

Async (programación asíncrona)

async · asynchronous programming · asyncio

Una forma de programar en la que una tarea, cuando tiene que esperar (la red, el disco, otro servicio), suelta el turno para que avancen otras, en vez de bloquear el hilo. Así un solo hilo atiende muchas requests a la vez. En Python: async def, await y asyncio.

El código marca con await cada punto donde espera, y un event loop reparte el turno entre las corrutinas que están listas. Da concurrencia sin paralelismo: muchas cosas en curso, pero solo una ejecutándose en cada instante. No hace más rápida a ninguna request: deja que, mientras una espera, otras avancen. Sirve para el trabajo I/O-bound; uno CPU-bound dentro de una corrutina bloquea a todas. No es lo mismo que el patrón asíncrono de arquitectura, en el que la API acepta el trabajo, lo pone en una cola y entrega el resultado después.

Analogía. Un mesero que atiende diez mesas: toma una orden, la deja en la cocina y, mientras se cocina, va a otra mesa. Se rompe en que al mesero lo puedes interrumpir con un grito; al event loop, no: una tarea suelta el turno solo cuando llega a un await.

Ejemplo. Tres esperas de 0.3, 0.1 y 0.2 s, una tras otra, tardan 0.6 s. Con asyncio.gather, turnándose, tardan 0.3 s: lo que tarda la más larga.

At-least-once

at-least-once delivery

La garantía de entrega «al menos una vez»: ningún mensaje se pierde, pero alguno puede llegar más de una vez. Es la normal en colas y streams; obliga a que quien recibe aguante duplicados.

Sale de confirmar después de hacer el trabajo: si el consumidor se cae entre terminar y confirmar, o el ack se pierde, el broker no distingue «no lo hizo» de «lo hizo y no avisó», y reentrega. SQS estándar, Pub/Sub, Kafka y los webhooks entregan así. Se combina con un consumidor idempotente (resultado en una llave fija, upsert o ids procesados descartados) para lograr el efecto de exactly-once.

Ejemplo. 1,000 mensajes con un consumidor que se cae el 5 % de las veces antes del ack: 1,060 entregas y 60 efectos de más (56 trabajos hechos dos veces y 2, tres). Descartando por id, salen exactamente 1,000 efectos.

Se presenta en 30 · Colas y streams: mensajes que esperanAparece en 3 lecciones

At-most-once

at-most-once delivery

La garantía de entrega «a lo más una vez»: ningún mensaje llega dos veces, pero alguno se puede perder. Sale de confirmar antes de hacer el trabajo.

Si el consumidor manda el ack y después se cae, el mensaje ya se borró y ese trabajo no se hace nunca. Sirve para lo que se puede perder sin daño: una métrica entre millones, una lectura de un sensor que llega cada segundo. Para casi todo lo demás se prefiere at-least-once con consumidores idempotentes, porque perder un trabajo suele ser peor que repetirlo.

Ejemplo. 1,000 mensajes con un consumidor que se cae el 5 % de las veces justo después del ack: ningún repetido, pero 58 trabajos perdidos.

Ataque del intermediario

man-in-the-middle · MITM

Alguien que se mete entre dos puntas de una conexión y se hace pasar por cada una ante la otra: lee, y hasta cambia, lo que pasa, sin que ninguna lo note.

Puede ser el dueño de un wifi falso, un router comprometido o un DNS (el sistema que traduce nombres a direcciones) que miente. Cifrar no basta: el intruso tiene una conexión cifrada perfecta con cada lado, porque le entregó al cliente su llave pública en lugar de la del servidor. Lo que lo evita es autenticar al servidor: un certificado firmado por una CA en la que el cliente confía, y la firma del saludo de TLS con la llave privada de ese certificado. Por eso apagar la verificación del certificado (verify=False) deja la puerta abierta.

Ejemplo. En el wifi de una cafetería, un intruso contesta al saludo con su propia llave. Sin certificados, el teléfono de Ana cifraría la foto para él. Con TLS, el intruso no tiene un certificado firmado para el nombre del servidor y la conexión se corta.

Atención

attention · self-attention

El mecanismo con el que cada token mira a los demás tokens (en un modelo de lenguaje que escribe, solo a los anteriores), decide cuáles le importan más y mezcla su información en esa proporción.

Para cada token se calculan tres vectores, Q, K y V. Se compara la Q del token con la K de cada token (producto punto), esas calificaciones se convierten en porcentajes con softmax, y el resultado es la suma de las V con esos porcentajes. Así, la palabra «banco» puede tomar significado de «senté» o de «dinero», según cuál esté en la frase. Se hace varias veces en paralelo (multi-cabeza) y no sabe el orden por sí sola.

Ejemplo. En «Me senté en el banco», «banco» le pone ≈ 78 % de su atención a «senté» (con números inventados para el ejemplo).

Se presenta en 08 · Transformers y LLMsAparece en 3 lecciones

Atención multi-cabeza

multi-head attention

Hacer la atención varias veces en paralelo dentro de cada bloque, cada vez con sus propias tablas de Q, K y V. Cada copia, una cabeza, puede fijarse en una relación distinta.

El vector de cada token se reparte entre las cabezas: cada una calcula su propia atención con vectores más chicos, y al final sus resultados se pegan otra vez y una tabla más los mezcla. No es lo mismo que la cabeza de una red de visión, que es su parte final.

Ejemplo. Llama 3 8B (una familia de LLMs públicos de Meta): 32 cabezas de 128 números (32 × 128 = 4,096) en cada uno de sus 32 bloques, con solo 8 juegos de K y V (GQA).

Se presenta en 08 · Transformers y LLMsAparece en 2 lecciones

AUC

area under the ROC curve

El área bajo la curva ROC: 1 es perfecto y 0.5 es lo que saca adivinar al azar. Es la probabilidad de que el modelo le dé más puntos a un «sí» que a un «no», tomados al azar.

Sirve para comparar modelos sin haber elegido umbral. No dice qué umbral usar ni cuánto vas a acertar con él. Con clases muy desbalanceadas puede verse excelente aunque casi todo lo que el modelo marca sea falsa alarma: ahí se mira la curva PR.

Ejemplo. 4 fotos de tenis y 6 que no: 24 parejas. En 21 la de tenis tiene más puntos: AUC = 21 / 24 = 0.875.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 2 lecciones

Autenticación

authentication (AuthN)

Comprobar quién es quien hace una request (una petición): una persona con su contraseña y un segundo factor, o un programa con un secreto o un token firmado. Si falla, el servidor responde 401 (el código de «no autenticado»).

Responde «¿quién eres?» y nada más: no dice qué puede hacer esa identidad, eso es la autorización. Se basa en algo que solo el dueño puede mostrar: algo que sabe (una contraseña), algo que tiene (un teléfono, una llave física) o algo que es (una huella). Entre programas, en algo que le entregó un emisor de confianza: una llave de API o un token de acceso como un JWT. El código 401 se llama Unauthorized, pero significa «no autenticado».

Analogía. El guardia de la entrada de un concierto, que revisa tu identificación. Se rompe en que una identificación no se copia con Ctrl+C, y un token sí: por eso los tokens caducan pronto.

Ejemplo. Un programa que llama al clasificador de Alba (un caller) manda un JWT que caducó hace 2 minutos: la autenticación falla y recibe 401. Pide un token nuevo al proveedor de identidad y repite.

Autenticación multifactor (MFA)

multi-factor authentication (MFA, 2FA)

Pedir, además de la contraseña (algo que sabes), una prueba de otro tipo: algo que tienes, como un código del teléfono o una llave física, o algo que eres, como una huella.

Existe porque las contraseñas se roban fuera del sistema: con una página falsa (phishing) o porque la persona la repite en otro sitio que se filtró. Las formas más comunes: un código de 6 dígitos que cambia cada 30 segundos en una app (TOTP, time-based one-time password: un HMAC de un secreto compartido con la hora); un código por SMS, el más débil, porque el número se puede pasar a otra SIM; y una llave física o una passkey, que firma un reto con una llave privada ligada al nombre del sitio y por eso no sirve en una página falsa.

Ejemplo. Ana entra a Alba con correo, contraseña y, si lo activó, el código de su app. Aunque alguien tenga tenis2026, sin su teléfono no entra.

autocast

autocast

La herramienta de PyTorch para la precisión mixta (unas cuentas con números de 16 bits y otras de 32): dentro de su with, cada operación corre en el tipo de número (dtype) que le conviene, 16 bits donde es seguro y 32 (FP32) en lo delicado. Los pesos no cambian.

Las multiplicaciones de matrices y las convoluciones van en FP16 o BF16; lo delicado, como la pérdida, se queda en FP32. Los pesos siguen en FP32 y se convierten al vuelo, operación por operación. Al servir, es la forma de correr en 16 bits sin tocar el checkpoint; la otra es modelo.half(), que sí convierte los pesos a FP16 y ahorra su memoria. En CPU, autocast usa BF16. Como cambia el último decimal, la paridad contra FP32 compara con tolerancia (≈ 0.01) y mira también el acuerdo del top-1.

Ejemplo. Una cabeza de 500 clases con autocast en BF16 da logits a 0.007 de los de FP32 como máximo: falla allclose con 0.0001 y pasa con 0.05. El entrenamiento mensual de Alba usa AMP con autocast.

Autograd

autograd · automatic differentiation

La pieza de PyTorch que calcula los gradientes sola. Cada operación con un tensor marcado para aprender (requires_grad=True) deja una nota de cómo se deriva, y backward() recorre esas notas al revés.

Las notas, unidas, forman una gráfica (un grafo: puntos unidos por flechas) que va de los parámetros a la pérdida y se arma sola durante el forward; el resultado de cada operación la lleva en su atributo grad_fn. backward() la recorre aplicando la regla de la cadena: es la backpropagation hecha automática. El costo: para derivar después, muchas notas guardan sus entradas, que en una red son las activaciones de cada capa, y se quedan en memoria hasta el backward. Al responder, el backward nunca llega y esa memoria se gasta para nada: por eso se apaga con no_grad o inference_mode.

Ejemplo. Con w = 3 y y = w·w + 2·w = 15, y.backward() da dy/dw = 2·w + 2 = 8. En la ResNet-50 de Alba, con autograd prendido, cada foto guarda ≈ 86 MB de notas en FP32: un batch de 32 son ≈ 2.75 GB, ≈ 28 veces lo que pesan los pesos.

Autoridad certificadora (CA)

certificate authority · CA

Una organización que comprueba que quien pide un certificado controla el nombre que pide, y lo firma. Los sistemas operativos y los navegadores traen de fábrica las llaves públicas de las CA raíz en las que confían.

Las CA raíz casi nunca firman certificados de servidores: firman a CA intermedias, y la llave privada de la raíz se guarda apagada, fuera de línea. El cliente verifica la cadena de abajo hacia arriba: servidor → intermedia → raíz de su almacén de confianza. Comprobar el nombre suele ser poner un registro en el DNS (el sistema que traduce nombres a direcciones) o un archivo en el sitio. Una empresa puede tener su propia CA interna para mTLS entre sus servicios; entonces los programas tienen que confiar en esa raíz. Si una CA se compromete, los navegadores la quitan de su almacén (pasó con DigiNotar en 2011).

Ejemplo. Para darle a Alba un certificado de api.alba.example, la CA le pide crear un registro en el DNS de ese dominio. Si aparece, Alba controla el nombre, y la CA firma.

Autorización

authorization (AuthZ)

Decidir qué puede hacer una identidad que ya se comprobó: qué rutas, qué acciones, qué objetos. Si no le toca, el servidor responde 403, «prohibido» (o 404, «no existe», para no revelar que existe).

Responde «¿qué puedes hacer?». Va después de la autenticación y se revisa en el servidor, en cada request, contra la identidad verificada. Tiene dos niveles: el grueso, «¿puede este tipo de identidad hacer esta acción?» (un scope del token, un rol de RBAC), y el fino, «¿este objeto en particular es suyo?». Olvidar el fino es el IDOR. Esconder un botón en la pantalla no es autorizar: la request se puede escribir a mano.

Analogía. La pulsera de un concierto: «general» no entra al camerino aunque nadie dude de quién eres. Se rompe en que la pulsera la revisa un guardia; en un sistema, cada puerta (cada ruta del servidor) tiene que revisarla sola.

Ejemplo. Ana, con sesión válida, pide editar la publicación 8812, que es de Beto. Está autenticada, pero la revisión del dueño falla: 403.

Autoscaler de nodos (Karpenter y Cluster Autoscaler)

node autoscaler

El programa que ve pods que no caben en ninguna máquina (Pending) y pide máquinas nuevas a la nube; también apaga las que sobran.

Es el lazo lento del autoscaling: tarda minutos, sobre todo con GPU. El Cluster Autoscaler agranda grupos de máquinas ya definidos; Karpenter lee lo que pide el pod pendiente (GPU, zona, etiquetas, taints) y lanza la máquina que le sirve, dentro de los topes de sus NodePools. No puede arreglar un pod que no cabría en ninguna máquina (una etiqueta mal escrita) ni pasar la cuota de la nube.

Ejemplo. Alba usa Karpenter con dos NodePools: gpu-t4 (solo g4dn.xlarge on-demand, tope de 6 GPU, apaga solo nodos vacíos) y general (c6i.xlarge; con 12 gateways, 4 nodos).

Se presenta en 55 · Kubernetes

Autoscaling

autoscaling

Ajustar solo cuánta capacidad corre según la carga. En Kubernetes hay dos niveles: copias de un programa, que se agregan en segundos, y máquinas, que tardan minutos.

Un lazo agrega o quita réplicas según una métrica (uso de GPU, requests por segundo, mensajes en cola): en Kubernetes, HPA o KEDA. El otro pide o devuelve nodos a la nube cuando las réplicas no caben o sobran: Karpenter o el Cluster Autoscaler. Los pods no escalan más allá de los nodos que existen. Sirve para cambios que duran horas; los picos de segundos se cubren con capacidad de sobra ya prendida. La mecánica fina está en la lección «Kubernetes».

Ejemplo. Un servicio de láminas de microscopio escala sus workers con KEDA de 0 a 4, a 15 mensajes por worker: con 45 en la cola, corren ⌈45 ÷ 15⌉ = 3.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 6 lecciones

Aviso de interrupción

spot interruption notice

El aviso que da la nube antes de quitarte una máquina spot: 2 minutos en AWS (la nube de Amazon) y 30 segundos en Google Cloud y Azure. Es lo que tienes para guardar y salir en orden.

El aviso es best effort: el proveedor intenta darlo, no lo promete. Tu programa lo lee (en AWS, preguntándole a una dirección especial que la máquina tiene para consultar datos de sí misma, o escuchando un evento que publica la nube) y en ese tiempo deja de tomar trabajo nuevo, guarda un checkpoint si puede y sale. Lo que no termine vuelve a la cola cuando vence su visibility timeout. Con 30 segundos no alcanza a guardar un checkpoint grande: por eso se guardan seguido, no solo al recibir el aviso.

Ejemplo. Un worker de segmentación de imágenes médicas recibe el aviso de 2 minutos a la mitad de una imagen: deja de pedir mensajes, no borra el actual y se apaga. A los minutos, el mensaje reaparece y otro worker lo hace desde el principio.

Se presenta en 40 · Máquinas, GPUs y cómo se cobranAparece en 2 lecciones

Aviso de privacidad

privacy notice

El documento que, según la ley mexicana, la empresa pone a disposición de la persona a más tardar cuando junta sus datos: quién es, qué datos junta, para qué finalidades y cómo ejercer los derechos ARCO (acceso, rectificación, cancelación y oposición).

Es la página «Aviso de privacidad» que aceptas al crear una cuenta. También dice cuáles de los datos son sensibles, cómo limitar su uso y, si la empresa piensa transferirlos a otra, si la persona lo acepta. Para quien hace machine learning funciona como un contrato con el sistema: si el aviso no dice que los datos se usan para entrenar modelos, eso no está cubierto aunque el código funcione: en México, una finalidad nueva pide el consentimiento otra vez. Por eso se lee antes de armar un dataset con datos de usuarios. Lo pide la LFPDPPP; el GDPR pide una información parecida.

Ejemplo. Si Alba quiere entrenar su clasificador con las fotos de las publicaciones, su aviso tiene que decir esa finalidad; si no la dice, en México tendría que pedirle el consentimiento a Ana otra vez.

Avro

Apache Avro

Un formato binario por filas para eventos, con el esquema escrito en JSON aparte de los datos. Los registros llevan solo los valores, sin nombres ni marcas, así que son muy compactos; para leerlos hace falta el esquema con que se escribieron.

Nació en 2009 en el proyecto Apache Hadoop. Un archivo Avro lleva su esquema una vez, en el encabezado; los eventos sueltos, como los que viajan por un stream de Kafka, llevan solo un número que lo identifica, y los esquemas viven en un registro de esquemas que rechaza los cambios incompatibles. Al leer, Avro empareja el esquema del que escribió con el del que lee por nombre de campo y usa los valores por omisión: así hace la evolución del esquema. Comparado con protobuf, no pone un número de campo delante de cada valor. Comparado con Parquet, va por filas: Avro para escribir eventos uno por uno, Parquet para analizarlos.

Ejemplo. La predicción ("r-001", 0.83, "busqueda") ocupa 19 bytes en Avro y 60 en JSON. Un sistema de detección de fraude que recibe 10 M pagos al día, cada uno como un evento Avro de ≈ 1 KB, escribe 10 M × 1 KB ≈ 10 GB al día.

Se presenta en 27 · Archivos y formatos: JSON, CSV, Parquet y YAMLAparece en 2 lecciones

B

Backbone

backbone · feature extractor · encoder

La parte de la red que «ve»: recibe la foto y la convierte en una lista de números (features) que describen lo que hay en ella. Después va la cabeza, que decide.

Es la parte grande y cara (en la ResNet-50, el 99.97 % de las multiplicaciones-sumas), y casi siempre viene preentrenada (transfer learning). La cabeza es chica y es la que sabe de la tarea: el mismo backbone sirve para clasificar, detectar o segmentar cambiando solo la cabeza. Sus features también sirven solas, como embedding.

Ejemplo. En la ResNet-50 de Alba, el marketplace del curso, el backbone entrega 2,048 números por foto y la cabeza los convierte en 500 logits.

Backfill

backfill

Recalcular el pasado: correr un cálculo nuevo sobre datos viejos, como una feature nueva sobre los últimos 90 días o un modelo sobre todo el catálogo que ya existía.

Con los datos en particiones por fecha, un backfill es la corrida diaria repetida una vez por cada día viejo, varias a la vez. Para que se pueda reanudar, cada corrida escribe solo su partición (o su pedazo) en una llave fija, de modo que repetirla da lo mismo (idempotencia). Debe usar el mismo código que la corrida diaria, o la historia y el presente vuelven a ser números distintos, y escribir en el almacén offline, no en el online. Es un trabajo de throughput, no de latencia: va por el camino offline, en tandas y sin tocar el servicio.

Ejemplo. Una feature nueva con 90 particiones de ≈ 20 minutos son 90 × 20 min = 30 h en serie y 30 h ÷ 10 ≈ 3 h con 10 a la vez. El backfill de Alba, clasificar 200 millones de fotos viejas en ≈ 2,000 pedazos, tarda 200 M ÷ (4 × 1,000 fotos/s) = 50,000 s ≈ 14 h con 4 GPUs y paga 200 M ÷ 1,000 × US$0.0004 ≈ US$80 de GET a S3.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 6 lecciones

Backoff exponencial

exponential backoff

Esperar cada vez más entre reintentos: la espera se duplica en cada uno (200, 400, 800 ms…), hasta un tope.

Un reintento inmediato le llega al servidor justo cuando sigue en apuros. Duplicar la espera resuelve rápido los tropiezos cortos y espacia los intentos cuando el problema es largo, en vez de martillar. Con base b, la espera antes del reintento n es b × 2ⁿ, recortada por un tope. Solo, no basta: clientes que fallaron juntos vuelven juntos. Por eso va siempre con jitter. Kubernetes usa la misma idea para reiniciar contenedores que se caen al arrancar (CrashLoopBackOff).

Ejemplo. Con base de 100 ms y tope de 1 s, 5 reintentos esperan como máximo 200, 400, 800, 1,000 y 1,000 ms: 3,400 ms en total. Con full jitter, en promedio la mitad: 1,700 ms.

Se presenta en 25 · Timeouts, reintentos e idempotenciaAparece en 3 lecciones

Backpressure

backpressure

La señal (contrapresión) que viaja hacia atrás y le dice a quien manda trabajo «no puedo más, frénate». Así el que produce va al ritmo del que consume, en vez de llenarle una fila sin fondo.

Puede ser un error rápido como un 503 con el header Retry-After, una fila que no deja meter nada hasta que haya lugar (cola acotada) o una conexión que deja de aceptar bytes. Sin ella, la sobrecarga no se ve: todo se acepta, la fila crece y todas las respuestas llegan tarde. Rechazar a propósito lo que no cabe es load shedding.

Ejemplo. Cuando un pod del gateway de Alba tiene 16 requests en vuelo, la 17.ª recibe un 503 en microsegundos y el backend le muestra a Ana el selector de categorías.

Se presenta en 26 · Qué tan rápido y cuánto: latencia y throughputAparece en 3 lecciones

Backpropagation

backpropagation · backprop · retropropagación

La forma de calcular el gradiente de todas las perillas a la vez: se recorre el modelo de la salida hacia la entrada, repartiendo la culpa del error paso por paso.

Cada paso del modelo sabe qué tanto cambia su salida cuando cambia su entrada; backpropagation multiplica esas sensibilidades a lo largo de la cadena (es la regla de la cadena del cálculo). Usa los valores que guardó el forward pass y cuesta más o menos el doble que él. Nadie la programa a mano: en PyTorch es loss.backward().

Ejemplo. En y = w2 × ReLU(w1 × x) con x = 2, w1 = 0.5, w2 = 2 y respuesta 6 (∂L/∂y se lee «cuánto cambia la pérdida L por cada pedacito que cambia y»): ∂L/∂y = −8, ∂L/∂w2 = −8 × 1 = −8, ∂L/∂w1 = −8 × 2 × 1 × 2 = −32.

Se presenta en 04 · Cómo aprende un modeloAparece en 6 lecciones

Bake time

bake time

El tiempo que la versión anterior sigue prendida después de que la nueva llega al 100 %. Convierte el rollback en un cambio de ruteo.

Algunos problemas solo aparecen con todo el tráfico o con el tiempo: una categoría chica que el canary vio poco, una fuga de memoria que tarda un día. Mientras dura el bake, volver es mandar el tráfico a algo prendido y caliente: el switch tarda segundos, y en Alba el camino completo (el PR del revert y Argo CD) unos minutos; después, hay que levantarlo otra vez (en Alba, ≈ 5–20 min para Triton). Con Argo Rollouts hay que pedirlo: el ReplicaSet viejo se apaga 30 s después de llegar al 100 % si no se cambia scaleDownDelaySeconds, y volver a él corre otra vez todos los pasos si no se configura rollbackWindow. Cuesta lo que cuesten las máquinas de la versión anterior durante esas horas. Es, en el fondo, un blue/green que se deja vivo después del canary.

Analogía. Como guardar la receta vieja en el refrigerador una semana después de cambiar el menú. Se rompe en que una receta guardada no cuesta nada; una T4 prendida cuesta cada hora.

Ejemplo. En Alba, la release 14 (su gateway y triton-v14) sigue viva 24–48 h: una T4 de más, ≈ US$13 por 24 h y ≈ US$25 por 48 h. Al terminar, un PR la quita.

Se presenta en 56 · Rollout seguroAparece en 2 lecciones

Balanceador de carga

load balancer · LB

Un programa, o un servicio de la nube, que recibe las requests en una dirección fija y las reparte entre varias copias de un servicio, solo entre las que están sanas.

Hace tres trabajos. Reparte: lleva una lista de destinos y elige uno para cada conexión o para cada request, según su algoritmo. Esconde: quien llama ve una sola dirección, y detrás puede haber 3 copias o 12, o una versión nueva. Vigila: con health checks deja de mandarle tráfico a la copia que no contesta. Un balanceador L4 ve direcciones y puertos y decide una vez por conexión; uno L7 lee cada request HTTP y decide en cada una, y para eso termina el cifrado. Está en serie con todo lo que tiene detrás, así que uno serio nunca es una sola máquina. En AWS, el ALB es L7 y el NLB es L4.

Analogía. La recepcionista de una clínica con varios doctores: los pacientes llegan a una sola ventanilla y ella los manda con uno que esté libre y trabajando. Se rompe en que la recepcionista ve a cada paciente y sabe a qué viene; un balanceador L4 ni siquiera abre el sobre.

Ejemplo. En Alba, el marketplace del curso, el ALB recibe las 500 requests por segundo del pico de diseño y las reparte entre 5 pods del gateway, ≈ 100 a cada uno. Le suma de 1 a 3 ms a la request típica (el p50), con las conexiones ya abiertas.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 11 lecciones

Base de datos

database

Un programa que guarda datos de forma ordenada, sin perderlos aunque se apague la máquina, y que deja que muchos programas los lean, los cambien y los consulten a la vez.

Contra un archivo suelto, una base de datos resuelve cuatro cosas: guarda cada dato en su lugar y con su tipo; no pierde lo que ya confirmó como guardado (lo escribió en el disco); deja que muchos programas escriban al mismo tiempo sin pisarse; y responde consultas («las publicaciones de Ana de menos de 1,000 pesos») sin que tú recorras los datos. Casi siempre corre como un servidor aparte, al que el backend se conecta con un pool de conexiones. Las hay relacionales, con tablas y SQL, y NoSQL, como las base llave-valor. No guardan bien archivos grandes: las fotos van al object storage y la base guarda dónde quedó cada una.

Ejemplo. La base operacional de Alba, el marketplace que sigue el curso, en PostgreSQL, guarda los usuarios, las publicaciones y la dirección de cada foto. Las ≈ 2.5 M publicaciones de cada día entran ahí como filas nuevas.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 5 lecciones

Base llave-valor

key-value store · KV store

Una base de datos que guarda cada valor bajo una llave y casi solo sabe dos cosas: guardar (SET llave valor) y leer (GET llave). Con la llave responde en milisegundos; sin ella, no puede buscar.

Es como un diccionario de Python compartido entre programas. No tiene índices por valor ni JOIN: «todas las tarjetas con más de 3 compras» obligaría a leerlo todo. Por eso la llave es la consulta y se diseña primero, con un prefijo y un id (f:card:<token>, user:123). Es justo lo que pide el camino online de un modelo: las features de una entidad, por su llave, en milisegundos. Por eso la parte online de un feature store es un llave-valor (Redis, DynamoDB, Bigtable) con el valor más reciente de cada entidad. Pedir muchas llaves en un solo viaje (MGET, pipelining) ahorra casi todo el tiempo, porque lo caro es la red.

Analogía. Un guardarropa: entregas tu ficha y te regresan tu chamarra en segundos, haya 10 o 1,000. Se rompe en que al encargado le puedes preguntar cuántas chamarras azules hay; a la base, no: no ve dentro de los valores.

Ejemplo. En un sistema de recomendación, un job nocturno deja las recomendaciones de 50 M de usuarios en un llave-valor y el servicio online solo hace GET user:123. En DynamoDB, escribir esos 50 M cada noche cuesta 1,500 millones de escrituras al mes × ≈ US$0.625 por millón ≈ US$940 al mes.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 3 lecciones

Base relacional

relational database · RDBMS

Una base de datos que guarda todo en tablas relacionadas por sus llaves y que se consulta con SQL, su idioma de preguntas. PostgreSQL, MySQL y SQLite son las más conocidas.

La idea la publicó Edgar F. Codd, de IBM, en 1970. Sus fuerzas: responde casi cualquier pregunta, aunque nadie la haya previsto, porque se puede filtrar, contar y unir como se quiera; y protege los datos con transacciones ACID y reglas como la llave primaria o NOT NULL. Su costo: una consulta nueva puede recorrer millones de filas si no hay un índice, y repartirla entre muchas máquinas es difícil. Por eso es la base operacional de casi toda app (la que guarda la verdad del negocio) y se combina con bases base llave-valor para el camino online. PostgreSQL y MySQL son servidores; SQLite es una biblioteca que vive dentro del programa, en un solo archivo.

Ejemplo. Alba guarda sus publicaciones en PostgreSQL, un agente de atención a clientes guarda su bitácora (≈ 90 GB en 30 días) en PostgreSQL, y Python trae SQLite en el módulo sqlite3.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 2 lecciones

base64

base64

Una forma de escribir cualquier serie de bytes con solo 64 letras seguras (A–Z, a–z, 0–9, + y /), para meterlos en un texto como JSON. Cada 3 bytes se vuelven 4 letras: crece un 33 %.

Los 24 bits de cada 3 bytes se cortan en 4 pedazos de 6 bits, y cada pedazo (del 0 al 63) se cambia por su letra. Si los bytes no son múltiplo de 3, el final se rellena con =. Además del 33 % de bytes, cuesta convertir de ida y de vuelta. Para lo grande hay dos salidas mejores: mandar los bytes crudos en el body, con su Content-Type, o mandar una URL o una key de object storage. base64 no cifra nada: cualquiera lo convierte de vuelta. La variante base64url cambia + y / por - y _ para usarse dentro de URLs.

Ejemplo. Todo JPEG empieza con los bytes FF D8 FF, que en base64 son «/9j/». La foto de Ana, de ≈ 200 KB, se vuelve 266,668 letras; el tensor de esa foto, de 602,112 bytes, 802,816: 4 × 602,112 ÷ 3.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 4 lecciones

Baseline (línea base)

baseline

La solución más simple con la que comparas un modelo: lo que se hace hoy, una regla sencilla o el modelo más tonto (siempre la clase más común). Si tu modelo no le gana, no sirve.

Sirve para tres cosas: saber si el modelo aprendió algo, decidir si vale la pena lo que cuesta y tener un plan B cuando el modelo falla o no contesta a tiempo. En monitoreo, «línea base» también se usa para el nivel normal de una métrica, como la tasa de baja confianza de los últimos 7 días en Alba, el marketplace del curso.

Ejemplo. En un ejemplo típico de detección de fraude, el fraude es ≈ 0.08 % de los pagos: «aprobar todo» saca 99.92 % de accuracy y no atrapa ni un fraude. En el pronóstico de demanda de una cadena de supermercados, el baseline es «lo que se vendió el mismo día de la semana pasada», con un WAPE (error absoluto porcentual ponderado: la suma de los errores entre la suma de lo vendido) ≈ 45 % en los productos que más se venden.

Se presenta en 01 · Qué es un modeloAparece en 2 lecciones

Batch

batch · mini-batch · lote

Un grupo de ejemplos que el modelo procesa junto. Al entrenar, la pérdida y el gradiente se calculan promediando el batch, y con eso se da un paso.

Es un punto medio: el dataset completo no cabe de una vez en la GPU, y un ejemplo solo da un gradiente demasiado ruidoso y desperdicia la GPU. En inferencia la palabra también se usa: el servidor junta varias peticiones para calcularlas juntas, pero ahí no hay gradientes.

Ejemplo. Alba, el marketplace que sigue el curso, entrena su modelo con batches de 64 fotos.

Se presenta en 04 · Cómo aprende un modeloAparece en 21 lecciones

Batching dinámico

dynamic batching

Juntar en el servidor las requests que llegan casi al mismo tiempo para correrlas en un solo batch, un grupo que la GPU procesa de una vez. El batch sale cuando se llena o cuando vence una espera máxima, lo que pase primero.

Una GPU corre un batch de 8 en mucho menos que 8 veces lo que tarda uno, porque parte del costo es fijo por ejecución. El batching dinámico cambia throughput por latencia: cada request espera la ventana y el batch tarda más. El tamaño real depende de lo que llega: con poco tráfico casi no junta nada. Solo baja la latencia si el sistema estaba saturado y el batching, al subir la capacidad, vació la fila. En los LLMs, la versión es el batching continuo.

Ejemplo. Triton en Alba espera como máximo 2 ms y junta hasta 32. A 250 requests por segundo por GPU llegan 250 × 0.002 = 0.5 en la ventana: batches de 1 a 3. Llenar uno de 32 tardaría 32 ÷ 250 = 0.128 s.

Se presenta en 26 · Qué tan rápido y cuánto: latencia y throughputAparece en 5 lecciones

BatchNorm

batch normalization

Una capa que acomoda los números de cada canal para que queden alrededor de 0 y con dispersión parecida a 1. Se porta distinto al entrenar y al responder.

Al entrenar usa el promedio y la desviación del batch actual y va guardando un promedio acumulado (running stats). Al responder, en modo eval, usa esos valores acumulados. Si el modelo se queda en modo entrenamiento en producción, la respuesta de una foto depende de las otras fotos de su batch. Cada bloque de la ResNet lleva varias.

Ejemplo. Un canal da 2, 4, 6 y 8 en un batch: promedio 5, desviación ≈ 2.24. La foto que dio 4 queda en ≈ −0.45. Con las estadísticas acumuladas da eso siempre; con las de otro batch, otra cosa.

Se presenta en 06 · Redes neuronales y CNNsAparece en 6 lecciones

BF16

bfloat16 · brain floating point

Un número de punto flotante de 16 bits con los mismos 8 bits de exponente que FP32 y solo 7 de mantisa: el rango de FP32 con ≈ 2 o 3 cifras. Es el formato normal de los modelos de lenguaje grandes (LLMs).

Se inventó en Google Brain. Un BF16 son los primeros 16 bits de un FP32, así que convertir es redondear y tirar la otra mitad. Se equivoca más que FP16 en cada número, pero prácticamente no se desborda donde FP32 no lo haría, y las redes toleran bien la imprecisión pero no el overflow: por eso los LLMs se entrenan y se sirven en BF16, y con él la precisión mixta no necesita escala de la pérdida. Existe en las GPUs de NVIDIA desde la generación Ampere (A100, A10G) en adelante; la T4 no lo tiene.

Ejemplo. Llama 3 70B pesa ≈ 141 GB en BF16. En BF16, 1000.3 se guarda como 1000 y 70,000 como 70,144, sin volverse infinito; en FP16 serían 1000.5 e infinito.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 4 lecciones

BGR

BGR (blue, green, red)

Los mismos tres números de color que RGB, pero en orden inverso: azul, verde y rojo. Es como entrega los píxeles OpenCV, una librería muy usada para leer y procesar imágenes.

Los bytes son iguales; lo que cambia es qué canal es cuál. Si un modelo aprendió con RGB (Pillow, PyTorch) y le llega BGR, lee el azul como rojo y el rojo como azul, sin ningún error. Se evita convirtiendo explícitamente en un solo lugar, justo después de leer, y con una prueba de paridad. Es una de las causas más clásicas de training-serving skew.

Ejemplo. El naranja (236, 106, 63) leído con OpenCV llega como (63, 106, 236): para el modelo, un azul. Su canal R normalizado pasa de 1.92 a −1.04.

Se presenta en 02 · Una foto, vista por un modeloAparece en 3 lecciones

Biblioteca estándar

standard library

Los ≈ 200 módulos que llegan con cualquier instalación de Python, sin instalar nada: json, math, hashlib, sqlite3, asyncio y muchos más. Por eso se dice que Python viene «con pilas incluidas».

Python 3.13 enumera 192 nombres públicos, sin contar los internos que empiezan con guion bajo. Vive en una carpeta del Python de base, como /usr/local/lib/python3.13, con su subcarpeta lib-dynload de piezas compiladas (math es un .so), y algunos módulos, como sys, vienen dentro del intérprete mismo (built-in). En sys.path va después de la carpeta del script y antes de site-packages. Todo lo demás (NumPy, Pillow, FastAPI, PyTorch) son paquetes de terceros que se instalan con pip: no los escribió el equipo de Python y cada uno tiene su propio ritmo de versiones. Un entorno virtual no copia la biblioteca estándar: usa la del Python de base.

Ejemplo. python -m json.tool datos.json imprime un JSON con sangría, fácil de leer usando solo la biblioteca estándar; tomllib, desde la 3.11, lee un pyproject.toml.

Se presenta en 33 · Python, paquetes y entornosAparece en 2 lecciones

Binario

binary · base 2

La forma de escribir números con solo dos dígitos, 0 y 1, donde cada posición vale el doble que la de su derecha: 1, 2, 4, 8, 16… Es como cuenta una computadora, porque cada bit solo tiene dos estados.

En decimal, cada posición vale 10 veces la de su derecha; en binario, 2 veces. Con n bits hay 2ⁿ combinaciones: 256 con 8 bits, un byte. Para escribir un número en binario se recorren las posiciones de la más grande a la más chica y se pone un 1 donde su valor cabe en lo que queda. Después del punto, las posiciones valen 1/2, 1/4, 1/8…: por eso algunos decimales, como 0.1, no tienen una escritura finita en binario. Agrupando los bits de 4 en 4 sale el hexadecimal (0xFF = 255).

Analogía. Un tablero de focos donde cada foco vale el doble que el de su derecha: 128, 64, 32, 16, 8, 4, 2 y 1. El número es la suma de los focos prendidos. Se rompe con los negativos: en un int8, el primer foco no suma 128, resta 128.

Ejemplo. 236 = 1110 1100, porque 128 + 64 + 32 + 8 + 4 = 236. Es la cantidad de rojo (de 0 a 255) de un naranja como el de unos tenis en una foto.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 4 lecciones

Binario ejecutable

executable binary

Un archivo con instrucciones de máquina, las órdenes simples que entiende la CPU, ya traducidas y listas para arrancar directo. Sirve para un solo tipo de CPU (x86-64 o arm64) y un solo sistema operativo.

Sale de compilar código fuente (C, C++, Go, Rust). Se le dice binario porque no es texto para personas, sino los bits que lee la CPU. Un binario de Linux para x86-64 no corre, sin un emulador, en arm64 (una Mac con chip M, un Graviton de AWS) ni en otro sistema operativo; en un contenedor, ese error se ve como exec format error. El propio intérprete de Python es un binario, python, compilado desde C.

Ejemplo. tritonserver es el binario de Triton, compilado desde C++. Cuando corre Triton, el proceso que aparece en ps es ese binario.

Se presenta en 16 · Programa, proceso e hiloAparece en 4 lecciones

Bit

bit · binary digit

La unidad más chica de información: un 0 o un 1. Se escribe con b minúscula.

Con n bits caben 2ⁿ combinaciones: con 8, 256. Ocho bits forman un byte. Las velocidades de red se miden en bits por segundo (Mb/s, Gb/s), mientras que los archivos y las memorias se miden en bytes: confundirlos cambia la cuenta por 8. Cómo se escriben los números con bits es el sistema binario.

Ejemplo. Un plan de internet de 100 megas son 100 Mb/s: 12.5 MB por segundo. Un archivo de 1 GB tarda ≈ 80 s en bajar, no 10.

Se presenta en 09 · Números grandes, unidades y estimacionesAparece en 7 lecciones

Bloque de capacidad para ML

Capacity Blocks for ML

Un producto de AWS (la nube de Amazon) para apartar GPUs grandes por días o semanas con fecha fija, por ejemplo para un entrenamiento. Se aparta con hasta 8 semanas de anticipación y se paga por adelantado.

Las GPUs grandes (H100, H200, B200) son escasas y on-demand puede no haber. Un bloque de capacidad aparta un número de instancias en fechas exactas: tienes las máquinas esas fechas, y solo esas. Se paga por adelantado y no se cancela. Es la respuesta a «necesito 8 H100 la semana que viene durante 7 días».

Ejemplo. Un equipo aparta una p5.48xlarge (8 H100) del 3 al 10 de diciembre para un fine-tune; paga antes de empezar, aunque termine en 5 días.

Bloqueo (llamada bloqueante)

blocking · blocking call

Cuando un programa, o uno de sus hilos, se queda detenido esperando algo (bytes de la red, el disco, la respuesta de otro servicio) y no puede hacer nada más mientras tanto. Una llamada bloqueante no regresa hasta que lo que pidió llegó.

Bloquear no gasta CPU: el sistema operativo duerme al hilo y le presta el núcleo a otro. Lo que gasta es el hilo. Un servidor con un solo hilo que bloquea atiende de una en una y da, como máximo, 1 ÷ latencia requests por segundo. Las salidas son más hilos, async (programación asíncrona) (un hilo que se turna en los puntos de espera) o más procesos. Dentro de una corrutina, una llamada bloqueante (time.sleep, requests.get, decodificar un JPEG) es peor: detiene al event loop y, con él, a todas las requests del proceso.

Ejemplo. Un proceso que bloquea, con 50 ms por request, da 1 ÷ 0.05 = 20 requests por segundo. Un pod (una copia) del gateway de Alba, el marketplace del curso, recibe 100 en el pico de diseño (500 por segundo entre 5 pods): necesita tener 100 ÷ 20 = 5 en curso a la vez.

Blue/green

blue/green deployment

Tener dos entornos completos, el viejo (blue) y el nuevo (green), y un switch que manda todo el tráfico a uno o al otro de golpe.

Volver es mover el switch: tan rápido como cambiar un ruteo. El costo es tener dos entornos prendidos mientras se decide. No da un porcentaje intermedio: el salto es de 0 a 100 %, así que no limita a cuántos les toca un error como lo hace un canary. Muchos sistemas combinan los dos: suben con canary y dejan el viejo vivo como blue durante el bake time. En Argo Rollouts, la estrategia blue/green apaga el viejo 30 s después del switch si no se cambia scaleDownDelaySeconds.

Ejemplo. Unas predicciones en lote que se recalculan cada noche: se escribe predicciones_v2 al lado de la tabla vieja, se comparan, y el cambio es mover el puntero que leen los demás.

Se presenta en 56 · Rollout seguroAparece en 2 lecciones

BM25

BM25 · Okapi BM25

La fórmula clásica para ordenar documentos por las palabras de la búsqueda: premia las palabras que coinciden, más si son raras, sin premiar de más la repetición ni los textos largos.

Funciona sobre un índice invertido: para cada palabra, la lista de documentos que la contienen. El peso de una palabra (su IDF, inverse document frequency) crece mientras más rara es: en 1,000,000 de documentos, una palabra que está en 500 pesa ≈ ln 2,000 ≈ 7.6 y una que está en 100,000, ≈ ln 10 ≈ 2.3. Repetir una palabra se satura: con k1 = 1.2, diez repeticiones valen menos del doble que una. Es la búsqueda por defecto de los motores de búsqueda Lucene, Elasticsearch y OpenSearch. Es muy buena con marcas, modelos, tallas y códigos, y mala con sinónimos y descripciones vagas; por eso se combina con embeddings en la búsqueda híbrida.

Ejemplo. En Alba, el marketplace del curso, BM25 en OpenSearch es la búsqueda de hoy: falla con «chamarra» contra «chaqueta» (≈ 8 % de las búsquedas no dan resultados), pero encuentra «iPhone 13 Pro 128» exacto. Se queda como parte del híbrido y como respaldo.

Body

body · payload

El contenido (el cuerpo) de una petición o una respuesta de HTTP: la foto, el JSON o lo que sea que se manda. Va después de los encabezados (headers) y una línea en blanco; el header Content-Type dice su formato y Content-Length, cuántos bytes mide.

Puede estar vacío, como en un GET. Una foto se puede mandar de tres formas: en bytes crudos (lo que hace Alba, con Content-Type: image/jpeg), dentro de un JSON en base64 (un tercio más grande, y con CPU para codificar y decodificar), o en multipart/form-data, la forma de los formularios web, que separa la foto de otros campos con una frontera. Un body sin tope es una invitación al abuso: por eso cada pieza del camino tiene un tamaño máximo y responde 413 si se pasa. Si el cliente no sabe el tamaño de antemano, lo manda en pedazos (Transfer-Encoding: chunked), y el servidor tiene que contar mientras lee.

Ejemplo. Una foto de celular de 200,000 bytes en crudo (la de Ana, 214,836, redondeada) ocupa 266,668 en base64. Al pico de 500 por segundo son 0.8 Gb/s contra ≈ 1.07 Gb/s.

Se presenta en 22 · HTTP: requests, respuestas y códigosAparece en 8 lecciones

Bomba de descompresión

decompression bomb

Un archivo chiquito hecho para que, al decodificarse, ocupe una cantidad enorme de memoria y tumbe al servidor que lo abre.

Funciona porque una imagen de un solo color se comprime muchísimo: unos KB pueden describir cientos de millones de píxeles. Se evita sin abrir la foto: el encabezado de cada PNG o JPEG dice su ancho y su alto, así que se calcula cuánto ocuparía (ancho × alto × canales × bytes) y se rechaza si pasa de un límite. Alba rechaza más de 40 MP y las proporciones de más de 1 a 8, y decodifica pocas fotos a la vez.

Ejemplo. Un PNG de 12 KB que dice medir 10,000 × 10,000 pediría 300 MB abierto en RGB: ≈ 25,000 veces su tamaño.

Se presenta en 02 · Una foto, vista por un modeloAparece en 4 lecciones

BPE (codificación por pares de bytes)

byte-pair encoding

El método con el que se arma el vocabulario de casi todos los tokenizers: empezar con letras (o bytes) y unir, una y otra vez, el par de vecinos que más se repite en un texto de muestra.

Cada unión crea un token nuevo y queda guardada como regla, en orden. Para partir un texto nuevo se aplican las reglas en ese mismo orden. Las palabras comunes terminan en un solo token y las raras se arman con pedazos. En su versión por bytes (la de GPT-2 y Llama 3) se empieza con los 256 valores de un byte, así que cualquier texto se puede escribir, hasta un emoji. Nació en 1994 para comprimir archivos y en 2016 se adaptó a la traducción automática.

Ejemplo. Con «tenis» (3 veces), «tengo» (2), «tela» y «pista», las primeras uniones son t + e → te, te + n → ten, i + s → is y ten + is → tenis. Una palabra que no estaba, «tenista», queda como tenis · t · a.

Brecha de datos

data breach · personal data breach

Un incidente en que datos personales se pierden, se destruyen, se cambian o los ve alguien que no debía: un bucket (una carpeta de archivos en la nube) abierto al público, una laptop robada con una tabla de datos, una llave filtrada. Obliga a avisar y a poder decir qué se escapó.

En Europa se avisa a la autoridad en 72 horas desde que la empresa se entera (salvo que sea improbable que cause riesgo), y a las personas si el riesgo es alto. En México se avisa de inmediato a las personas cuando la brecha afecta de forma significativa sus derechos patrimoniales o morales; la ley no pide avisar a la autoridad. Para decir qué se escapó hace falta el mapa de datos: qué campos, de cuántos registros, de qué fechas. La minimización y la retención corta deciden de antemano qué tan grave es una brecha; el registro de auditoría dice quién accedió.

Ejemplo. Si el log de Alba quedara expuesto, saldrían ≈ 900 millones de líneas (10 M al día × 90 días) con request_id, categorías y prefijos de hash, pero sin fotos, sin GPS y sin nombres.

Brecha offline–online

offline–online gap

La diferencia entre lo bien que le va a un modelo en el examen fijo (offline) y lo bien que le va con el tráfico real (online).

El examen fijo, como un golden set, no cambia; el mundo sí. Si la medida online cae y la offline no, el mundo ya no se parece al examen: hace falta actualizar el examen o reentrenar. La medida online tiene que estar libre del sesgo de la sugerencia, como el holdout.

Ejemplo. En Alba, el golden set da ≈ 85 % de top-1 y el holdout ≈ 85 % ± 0.1 punto: la brecha hoy es casi cero. Si un mes el holdout cae a 82 %, se abre la investigación.

Broker

message broker

El servicio que guarda los mensajes entre productores y consumidores. Los recibe, los guarda en disco con copias y los entrega. Ejemplos: SQS (de Amazon), RabbitMQ, Pub/Sub (de Google) y Kafka.

Es lo que hace confiable a una cola: antes de decirle al productor «lo tengo», guarda el mensaje en disco, casi siempre en varias máquinas. Lleva la cuenta de qué mensajes están en vuelo, cuántas veces entregó cada uno y, en un stream, el offset confirmado de cada grupo. Algunos son servicios administrados que no operas (SQS, Pub/Sub, Kinesis); otros los instalas y mantienes tú, o pagas a alguien que lo haga (RabbitMQ, Kafka). Como vive aparte, sobrevive a que se reinicie cualquier productor o consumidor.

Ejemplo. En un sistema de detección de fraude con tarjetas, Kafka guarda cada evento en 3 copias: 6 MB/s de eventos se vuelven 6 × 3 = 18 MB/s escritos en los brokers.

Bucket

bucket · bin

Cada intervalo de un histograma, como «de 150 a 200 ms». En monitoreo, un contador que suma 1 cada vez que una request cae en ese intervalo.

Con buckets fijos no hace falta guardar cada latencia: basta un contador por intervalo, que se suma entre copias y entre ventanas. Un percentil se estima buscando el bucket donde cae su posición e interpolando adentro, como si sus requests estuvieran repartidas parejo. Por eso los bordes se ponen apretados alrededor del SLO (la meta de latencia), y uno justo en él: con buckets gruesos, el estimado puede salir muy lejos del valor de verdad.

Ejemplo. De N = 10,000 requests, C = 9,820 caen hasta 150 ms y n = 110 entre L = 150 y U = 200 ms. El p99 es la request r = 0.99 × 10,000 = 9,900, y queda (r−C)/n = 80 ÷ 110 del camino dentro de ese bucket: p≈L+(U−L)×(r−C)/n = 150 + 50 × 80 ÷ 110 ≈ 186 ms.

Se presenta en 10 · Promedios, medianas y percentilesAparece en 4 lecciones

Bucket (de objetos)

bucket · object storage bucket

El contenedor donde se guardan los objetos de un object storage, con un nombre propio y sus reglas: quién entra, cuánto dura cada cosa y si guarda versiones viejas. No es el bucket de un histograma, que es un intervalo.

En S3, el nombre de cada bucket es, por omisión, único en el mundo (desde marzo de 2026 también se puede crear con un sufijo de tu cuenta y la región, solo tuyo), y el bucket vive en una región. La dirección de un objeto junta el bucket y la llave: en s3://ml-datos/logs/dt=2026-11-06/part-0001.parquet, el bucket es ml-datos. Cada bucket lleva su bucket policy (los permisos), sus reglas de ciclo de vida, su versionado y, si se quiere, Object Lock (versiones que nadie puede borrar antes de una fecha). Lo normal es separar los datos por bucket según quién debe verlos: en Alba, el marketplace que sigue el curso, las fotos para etiquetar van a un bucket restringido, sin EXIF (los datos de cámara, fecha y lugar que trae la foto). Ojo con la palabra: en un histograma, un bucket es un intervalo.

Ejemplo. Alba tiene un bucket de lake (alba-lake) para los logs y los snapshots, y otro restringido para el golden set y las fotos que van a etiquetar. Nadie con permiso solo de leer el lake puede ver esas fotos.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 10 lecciones

Bucket restringido

restricted bucket

Un bucket (un contenedor de archivos en la nube) con las puertas cerradas: acceso público bloqueado, cifrado, pocos permisos y una regla que borra todo después de un plazo. Ahí van las fotos que salen a etiquetar.

Aplica la minimización a las fotos que salen hacia un proveedor: solo las de la cola, sin EXIF, con un ciclo de vida que las borra y URLs prefirmadas que vencen. Antes de quitar el EXIF se gira la imagen según su orientación, o quien etiqueta la ve de lado.

Ejemplo. En Alba es s3://ml-datos/labeled/: las ≈ 5,000 fotos del mes, sin EXIF, borradas a los 90 días; el proveedor las ve por URLs de 15 minutos y tiene a la vez ≈ 15,000. Es solo una copia de trabajo: el label apunta a la foto original del almacén del producto, por su llave y su SHA-256.

Bucle de retroalimentación

feedback loop

Cuando las predicciones de un modelo influyen en los datos con que después se entrena y se mide. El número medido sale mejor que la realidad, y el modelo aprende a repetir sus propios errores.

Pasa cuando la gente ve la predicción antes de dar su respuesta. Si el modelo se equivoca y la persona acepta, el label queda igual a la predicción equivocada: el examen la cuenta como acierto, y el entrenamiento la refuerza. Con q la exactitud real y c la fracción de errores que la gente corrige, la exactitud medida contra esas elecciones es q+(1−q)×(1−c). Se rompe midiendo con fuentes que el modelo no influyó: un holdout, el golden set y una muestra al azar etiquetada por personas.

Analogía. Es como calificar tu examen con las respuestas que tú mismo le soplaste al compañero de al lado: coincidir con él no prueba que sepas. Se rompe en que la gente sí corrige una parte de los errores, así que el número no es inventado del todo, solo inflado.

Ejemplo. En Alba, con q = 0.85 y c ≈ 1/3, el modelo parece de 0.85 + 0.15 × 0.67 = 0.95 medido contra lo que eligió quien vende: 10 puntos de más.

Se presenta en 47 · Datos y etiquetasAparece en 2 lecciones

Build en varias etapas

multi-stage build

Un Dockerfile con varios FROM: las primeras etapas construyen y la última copia solo lo que hace falta para correr. Lo que se instaló para construir no llega a la imagen final.

Cada FROM … AS nombre empieza una etapa nueva, y COPY --from=nombre copia archivos de una anterior. Solo se publica la última. La ganancia es grande cuando construir necesita compiladores, headers (archivos que se usan solo para compilar) o una base de CUDA para desarrollo de varios GB; es chica cuando todo llega ya compilado.

Ejemplo. La etapa builder del gateway de Alba crea /opt/venv e instala las 37 dependencias; la etapa runtime parte de otra python:3.13-slim y hace COPY --from=builder /opt/venv /opt/venv. La caché de pip y lo que se haya instalado fuera del entorno se quedan atrás (pip sí llega: viene en la base y en el entorno).

Se presenta en 53 · Empaquetado con DockerAparece en 2 lecciones

Burn rate

burn rate

Qué tan rápido se gasta el presupuesto de error (lo que el SLO, la meta del servicio, deja fallar), comparado con el ritmo que lo agotaría justo al final de la ventana del SLO. 1× lo gasta exacto en el mes; 14.4×, en 50 horas.

Se calcula como β=p÷(1−S): la fracción de errores de una ventana entre la fracción que permite el SLO. En una ventana de t horas se gasta β×t÷V del presupuesto, con V = 720 h. Alertar con el burn rate en vez de un umbral fijo mide el daño: un pico corto gasta poco aunque sea alto, y un goteo de toda la semana gasta mucho aunque sea bajo.

Ejemplo. Con el SLO de 99.9 % de Alba, un 1.44 % de errores es 14.4×: en una hora se van ≈ 6,000 requests, 2 % de las 300,000 del mes. Un deploy malo con 5 % de errores es 50×: el mes duraría 14.4 horas.

Búsqueda híbrida

hybrid search

Correr una búsqueda por palabras (BM25) y una por significado (embeddings) en paralelo sobre el mismo catálogo y juntar sus listas. Cada una tapa los huecos de la otra.

Las listas se juntan casi siempre con RRF (Reciprocal Rank Fusion, Cormack y otros, 2009): cada lista le da a cada documento 1 ÷ (k + su posición), con k = 60, y se suman. Usa solo posiciones, así que no hay que comparar puntajes de escalas distintas. Si la parte semántica falla, la de palabras sigue respondiendo sola.

Ejemplo. Con RRF (k = 60), una publicación 1.ª en la lista semántica y 3.ª en la de BM25 suma 1/61 + 1/63 ≈ 0.0323; una 1.ª solo en BM25, 1/61 ≈ 0.0164. La búsqueda de Alba y su asistente interno con documentos la usan.

Búsqueda semántica

semantic search

Buscar por significado y no por palabras: se compara el embedding de la consulta (el vector que la representa) con los de los documentos y se devuelven los más cercanos.

Encuentra sinónimos («chamarra» y «chaqueta»), descripciones vagas («algo para ir a la playa») y, con un modelo multimodal, fotos a partir de un texto. Falla con lo exacto: un modelo, una talla o un código quedan cerca de otros parecidos. Por eso casi siempre va junto con BM25 en una búsqueda híbrida. Por debajo es una búsqueda de vecinos más cercanos sobre un índice vectorial.

Ejemplo. En la búsqueda de Alba, el marketplace del curso, «tenis blancos» se convierte en un vector de 512 números y el índice devuelve las publicaciones más cercanas de entre ≈ 100 millones de publicaciones activas, en milisegundos.

Byte

byte

Un grupo de 8 bits: la unidad en la que se miden los archivos y las memorias. Se escribe con B mayúscula y guarda un número del 0 al 255.

Un canal de un píxel en uint8 ocupa 1 byte; un número en float32, 4. Los múltiplos (KB, MB, GB…) van de mil en mil en el sistema decimal y de 1,024 en 1,024 con los prefijos binarios (KiB, MiB, GiB…).

Ejemplo. Una foto de Alba como tensor: 3 × 224 × 224 = 150,528 números × 4 bytes = 602,112 bytes ≈ 602 KB, que son ≈ 4.8 millones de bits.

Se presenta en 09 · Números grandes, unidades y estimacionesAparece en 7 lecciones

C

Cabeza

head

La parte final de una red, chica, que convierte lo que entrega el backbone en la respuesta de la tarea: un logit por categoría, cajas o una máscara.

Es lo que se cambia al reutilizar un backbone para otra tarea (transfer learning). En clasificación es un pooling más una capa densa; en detección, una capa que propone una caja y un puntaje por clase en cada posición; en segmentación, un decoder que agranda los mapas hasta dar una respuesta por píxel. No confundir con las «cabezas de atención» de un transformer, que son otra cosa.

Ejemplo. La cabeza de la ResNet-50 de Alba, que elige entre 500 categorías, es una capa densa de 2,048 → 500: entradas × salidas + salidas = 2,048 × 500 + 500 = 1,024,500 parámetros. La original de ImageNet, de 1,000 categorías, tiene 2,049,000.

Se presenta en 06 · Redes neuronales y CNNsAparece en 6 lecciones

Caché

cache · hit · miss · hit rate

Una copia de un resultado guardada en un lugar rápido y cercano, para no repetir el trabajo de calcularlo o traerlo. Si la copia está, es un acierto (hit); si no, un fallo (miss).

La tasa de aciertos (hit rate) dice qué fracción de pedidos encontró la copia, y con ella se calcula la latencia promedio: aciertos × lo que tarda un acierto + fallos × (revisar el caché + el trabajo completo): T=h×a+(1−h)×(a+w), con h la tasa de aciertos, a lo que tarda un acierto y w el trabajo completo. La forma más común es cache-aside: buscar en el caché, y si no está, hacer el trabajo y guardar la copia con un TTL. Las copias envejecen: se invalidan borrando la llave al escribir, y el TTL es la red de seguridad. La llave debe incluir todo lo que cambia la respuesta (en Alba, el hash de la foto más la versión del modelo). Cuando se llena, sale lo que lleva más sin usarse (LRU). Es la misma idea de la caché de la CPU, la page cache y el TTL del DNS, en otro piso. Lo que importa al final no es la tasa, sino cuánta capacidad te deja quitar.

Ejemplo. Con 20 % de aciertos, un acierto de 1 ms y un paso del modelo de ≈ 30 ms (los 27 ms de las requests lentas, redondeados), la latencia promedio de Alba baja de 30 a 0.2 × 1 + 0.8 × 31 = 25 ms y se evitan 10 M × 0.2 = 2 M inferencias al día; pero las dos GPUs siguen haciendo falta.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 5 lecciones

Caché de Actions para capas

GitHub Actions cache (type=gha)

Un almacén de caché de GitHub que sobrevive entre corridas. Con cache-from y cache-to: type=gha, el build de Docker guarda ahí sus capas y las reusa aunque la máquina nazca vacía.

La caché de build vive en el disco de la máquina que construye, y un runner de GitHub nace vacío en cada job. cache-to: type=gha,mode=max sube las capas a la caché de Actions al terminar (con mode=max, también las de etapas intermedias, como la que instala paquetes), y cache-from: type=gha las baja en la siguiente corrida. GitHub da, por omisión, 10 GB por repositorio (más se paga aparte) y borra lo que no se usa en 7 días: sobra para imágenes chicas y se queda corto para una de varios GB.

Ejemplo. El job imagen del gateway de Alba usa type=gha: un cambio de código reconstruye solo la capa de ≈ 48 KB. La imagen de Triton (≈ 9.2 GB) casi llenaría ella sola esos 10 GB.

Caché de build

build cache

Las capas que Docker guarda de builds anteriores, para reusarlas si el paso que las hizo no cambió. Si un paso cambia, se rehacen él y todos los que le siguen en el Dockerfile.

La llave de cada paso depende de la del paso anterior, del texto de la instrucción y, en un COPY, de los bytes de los archivos. Docker compara bytes, no significado: un comentario nuevo en requirements.txt rehace la instalación. En un RUN solo mira el texto, así que RUN apt-get update se reusa mientras su texto y lo de arriba no cambien, aunque pasen meses. La regla: lo que cambia poco arriba, lo que cambia en cada commit abajo.

Ejemplo. En el gateway de Alba, cambiar una línea de main.py cuesta ≈ 2–5 s y una capa de ≈ 48 KB, porque el código se copia después del pip install. Con COPY . . antes de instalar, cada cambio cuesta ≈ 30–60 s y ≈ 160 MB.

Se presenta en 53 · Empaquetado con DockerAparece en 2 lecciones

Caché de la CPU

CPU cache · L1, L2, L3

Memorias pequeñitas y muy rápidas dentro del chip de la CPU que guardan copia de lo que se usó hace poco. Si el dato está ahí (un acierto), llega en unos pocos nanosegundos; si no (un fallo), hay que ir a la RAM, la memoria principal, ≈ 100 ns.

Hay varios niveles (los números son de CPUs de 2022 a 2025). La L1, de 32 a 128 KiB por núcleo, responde en ≈ 1 ns; la L2, de ≈ 1 a 16 MiB, en ≈ 3 a 5 ns; la L3, de decenas de MiB o más y compartida por todos los núcleos o por un grupo de ellos, en ≈ 10 a 30 ns. El hardware la llena solo, sin que el programa lo pida, y nunca trae un byte suelto: trae una línea de 64 bytes seguidos (128 en los chips de Apple). Por eso importa la localidad: recorrer los datos en el orden en que están guardados aprovecha cada línea. Unos pocos fallos mandan sobre el promedio: 95 % de aciertos a 1 ns y 5 % de fallos a 100 ns dan ≈ 6 ns por lectura. La GPU tiene sus propias cachés junto a sus núcleos.

Analogía. La mesa junto a la estufa: lo que está ahí se usa sin esperar. Se rompe en que la mesa la acomodas tú; la caché la llena el hardware solo, y cuando pides un jitomate te sube la caja entera.

Ejemplo. Una línea de 64 bytes trae 16 números float32. Recorrer por filas una matriz de 1,024 × 1,024 float32 da 65,536 fallos; por columnas, si no cabe en la caché, 1,048,576: 16 veces más.

Se presenta en 17 · Memoria, caché y discoAparece en 5 lecciones

Caché de pasos de un pipeline

step cache

Guardar la salida de cada paso y reusarla si el paso vuelve a correr con las mismas entradas. Si una entrada llega como una ruta (el nombre de una carpeta), la llave usa el nombre y no lo que hay dentro: por eso una carpeta «latest», que cambia de contenido cada mes, la engaña.

La llave es H(código + parámetros + entradas). Si coincide con una guardada, el paso no corre y se usa la salida vieja: ahorra horas de GPU. Pero cuando una entrada llega como una ruta de texto, el orquestador calcula el hash de la ruta, no de lo que hay en ella. Si una se llama datasets/latest y su contenido cambió, la llave no cambia y se reusa un resultado viejo, con el pipeline en verde. La regla: toda entrada que cambia el resultado va como parámetro o artefacto con nombre fijo.

Ejemplo. Con datasets/latest, la corrida del 1 de noviembre de Alba «entrena» en segundos y registra el modelo de octubre otra vez. Con ds-2026-10-01 como parámetro, la llave cambia y el fine-tune corre.

Se presenta en 48 · Versionado y linajeAparece en 2 lecciones

Caching allocator

caching allocator

El repartidor de memoria de GPU de PyTorch: cuando un tensor se borra, no le devuelve su memoria al driver (el programa que maneja la GPU), sino que la aparta para el siguiente tensor. Por eso nvidia-smi, la herramienta de NVIDIA que muestra la memoria, ve la GPU más llena de lo que está.

Pedirle memoria al driver es lento, así que PyTorch se queda con la que ya pidió. Dos números lo describen: torch.cuda.memory_allocated(), lo que ocupan los tensores vivos, y torch.cuda.memory_reserved(), lo que PyTorch ya pidió, ocupado o apartado. nvidia-smi ve lo reservado más el contexto de CUDA (de 0.3 a 0.8 GB en las T4 de Alba). Si un tensor no cabe ni en lo apartado ni en lo libre, sale un OOM de CUDA (torch.cuda.OutOfMemoryError), que el programa puede atrapar. torch.cuda.empty_cache() devuelve lo apartado que nadie usa, para que otro proceso lo use, pero no libera tensores vivos ni arregla un OOM propio; llamarlo en cada request solo hace que cada request pida memoria otra vez. Una fuga se ve en memory_allocated creciendo request tras request.

Ejemplo. nvidia-smi marca 9.5 GB en una T4; memory_allocated da 1.2 GB y memory_reserved 8.8 GB. Hay 7.6 GB apartados que el siguiente batch puede reusar y 0.7 GB de contexto de CUDA: no es una fuga.

Cadena de suministro (de software)

software supply chain

Todo lo que entra a producción sin pasar por la revisión de tu equipo: bibliotecas, imágenes base, modelos preentrenados, las herramientas que arman y despliegan el código (el CI).

Casi todo lo que corre en un sistema lo escribió alguien más. Eso no es malo, pero cambia la pregunta: no basta con «¿mi código es seguro?», hay que poder contestar «¿lo que corre es exactamente lo que revisé?». En machine learning se suma un riesgo propio: un archivo de pesos puede ejecutar código al abrirse. Los controles van en cadena: dependencias fijadas con hash, SBOM y escaneo, procedencia (de un artefacto), firma del digest, política de admisión, credenciales de vida corta para el CI y pesos en formatos que no ejecutan, con su huella.

Ejemplo. El gateway de Alba trae 37 dependencias (contando las transitivas, las que traen las otras) dentro de una imagen que parte de python:3.13-slim. Si cada una tuviera una probabilidad de 0.001 de llegar comprometida en un año (supuesto), la de que llegue al menos una sería 1 − 0.999³⁷ ≈ 3.6 %.

Se presenta en 46 · Ataques y cadena de suministroAparece en 2 lecciones

Calibración

calibration

Que la seguridad del modelo sea honesta: de todas las veces que dice 90 %, que acierte 90 de cada 100.

Se revisa agrupando las predicciones por confianza y comparando con lo que acertó en cada grupo; el ECE lo resume en un número. Las redes modernas suelen ser demasiado confiadas; el temperature scaling (dividir los logits entre un número antes del softmax) lo corrige sin cambiar cuál clase queda primero. Importa cuando el número se usa para decidir: ordenar sugerencias, aplicar un umbral o calcular un costo.

Ejemplo. En 300 fotos el modelo dijo ≈ 90 % y acertó 246: 82 %. Exagera. El gate de Alba (el examen que decide si un modelo nuevo reemplaza al actual) pide ECE ≤ 0.05.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 6 lecciones

Cambio de contexto

context switch

Lo que hace el sistema operativo para pasar un núcleo de la CPU de un hilo (una línea de ejecución) a otro: guarda por dónde iba el que sale y carga el estado del que entra. Toma del orden de microsegundos.

El planificador del kernel lo hace cuando se acaba el turno de un hilo, cuando el hilo se bloquea (espera la red, el disco o un candado) o cuando despierta uno más urgente. Guarda los registros de la CPU, entre ellos en qué instrucción iba y dónde está su pila, y carga los del siguiente; entre hilos de procesos distintos, cambia también el mapa de memoria. Cada cambio es barato, pero miles por segundo se notan, y el hilo que entra encuentra fría la caché. Gracias a él, una máquina de 10 núcleos corre miles de hilos «a la vez».

Ejemplo. Si un cambio cuesta ≈ 3 µs, 1,000 cambios por segundo se llevan 3 ms de cada segundo de un núcleo (0.3 %); 20,000, 60 ms (6 %).

Se presenta en 16 · Programa, proceso e hiloAparece en 4 lecciones

Camino del log

log pipeline

El recorrido de cada línea de log desde que el programa la escribe hasta donde alguien la lee: la salida estándar (stdout), el archivo del nodo, un recolector como Fluent Bit y el almacén. Nunca debe frenar la request.

El programa escribe a la salida estándar y sigue; el runtime del contenedor guarda la línea con su hora en un archivo del nodo; un recolector (Fluent Bit, como DaemonSet) la lee, la junta y la sube con un buffer en disco. Si el almacén falla, se pierden líneas y se avisa, pero el servicio sigue: se degrada el monitoreo, no la respuesta. Después, un job la reescribe en Parquet para consultarla barato.

Ejemplo. En Alba: stdout → archivo del nodo → Fluent Bit → s3://ml-datos/logs/crudo/… (gzip cada ≈ 5 min) → monitoreo-diario a la 01:00 UTC → Parquet en logs/predicciones/dt=…/model_version=…/; LogsStale avisa si en 30 min no llega nada.

Se presenta en 57 · La request en vivoAparece en 2 lecciones

Camino offline

offline path · training path

Todo lo que prepara la siguiente versión del modelo sin que nadie esté esperando: juntar y etiquetar datos, entrenar, examinar y aprobar. Su reloj son las horas, los días y las semanas.

Corre por calendario o cuando algo lo dispara, como el drift o una categoría nueva. Si falla, nadie lo nota ese día: el modelo actual sigue respondiendo, solo que envejece. Se une al camino online por dos puentes: el registro de cada predicción (de online a offline) y el deploy (de offline a online).

Ejemplo. En Alba, cada mes: se guarda una muestra de las fotos, se juntan sus categorías (unas 5 mil revisadas a mano), se reentrena en unas horas de GPU, se examina contra el modelo actual y, si no es peor, se despliega.

Se presenta en 00 · El camino completoAparece en 2 lecciones

Camino online

online path · serving path

Todo lo que pasa mientras alguien espera una respuesta: llega la petición (request), se prepara la entrada, el modelo calcula y sale la respuesta. Su reloj son los milisegundos.

Corre por cada request, a cualquier hora, y si falla se nota al instante. Por eso vive con un presupuesto de latencia, un tiempo máximo de espera y un fallback. Crece con el tráfico: más requests por segundo piden más copias encendidas. La pregunta que lo define: ¿alguien está esperando la respuesta?

Ejemplo. En Alba: la foto de Ana entra a la API, se prepara, el modelo hace la inferencia y regresa las 5 categorías más probables. 99 de cada 100 veces, en menos de 200 ms.

Campo receptivo

receptive field

El pedazo de la foto original que puede influir en una neurona. Crece con cada capa, y más rápido con stride.

Se calcula capa por capa con dos números, el campo r y el salto j (píxeles de la foto entre dos neuronas vecinas): r nuevo = r + (k − 1) × j y j nuevo = j × s, empezando con r = 1 y j = 1. Es un máximo teórico: los píxeles del centro pesan mucho más que los de la orilla. Decide si una red alcanza a ver un objeto grande y si un detalle chico sobrevive.

Ejemplo. Tres capas de 3 × 3 con stride 1 ven 3, 5 y 7 píxeles. Un número del último mapa de la ResNet-50 puede depender de 427 × 427 píxeles.

Canal

channel

Una de las cuadrículas de números que forman una imagen. Una foto RGB tiene tres canales: la cuadrícula de los rojos, la de los verdes y la de los azules.

Una foto en blanco y negro tiene un canal; un PNG con transparencia tiene cuatro (RGBA: el cuarto dice qué tan opaco es cada píxel). Un modelo como el de Alba, el marketplace que sigue el curso, espera exactamente tres, así que todo se convierte a RGB antes de entrar.

Ejemplo. La foto de Ana, ya preparada, son 3 canales de 224 × 224: 50,176 números rojos, 50,176 verdes y 50,176 azules.

Se presenta en 02 · Una foto, vista por un modeloAparece en 3 lecciones

Canary

canary release

Mandar una parte chica del tráfico real a la versión nueva, por etapas, y avanzar solo si en cada etapa se ve tan bien como la estable, comparando las dos en el mismo periodo de tiempo.

El porcentaje lo pone un proxy con pesos (en Alba, el ALB), no el número de pods: con 2 pods estables y 1 nuevo, el reparto por pods da ≈ 33 %. El canary reparte por request, así que mide salud (errores, latencia, confianza) pero no el comportamiento de cada usuario, que pide una prueba A/B por usuario. Cada etapa dura lo suficiente para juntar su n mínimo y cubrir el pico del día, y sus criterios se escriben antes. El nombre viene de los canarios que los mineros bajaban para detectar gas.

Ejemplo. El de Alba para un modelo: 5 % por 4 h (17.5 requests por segundo en el pico), 25 % por 4 h (87.5), 100 %, sin pausa manual; lo ejecuta Argo Rollouts.

Se presenta en 56 · Rollout seguroAparece en 10 lecciones

Capa

layer

Un grupo de neuronas que reciben las mismas entradas, cada una con sus propios pesos. Lo que sale de una capa entra a la siguiente.

En una capa densa (dense, fully connected o linear) cada neurona ve todas las entradas: tiene entradas × salidas pesos más un sesgo por salida, y hace entradas × salidas multiplicaciones-sumas por ejemplo. En una capa convolucional cada filtro ve solo un pedacito (convolución). Una red de capas densas es un MLP.

Ejemplo. Una capa densa de 2,048 entradas y 500 salidas tiene 2,048 × 500 + 500 = 1,024,500 parámetros: es la cabeza de la ResNet-50 de Alba, el marketplace del curso, que elige entre 500 categorías.

Se presenta en 06 · Redes neuronales y CNNsAparece en 6 lecciones

Capa de la imagen

image layer

Uno de los pedazos apilados de una imagen de contenedor: un archivo comprimido con los archivos que un paso de la receta agregó, cambió o borró. Se identifica por la huella SHA-256 de sus bytes, un número que cambia si cambia un solo byte.

Cada RUN, COPY o ADD del Dockerfile agrega una. Al arrancar el contenedor se montan una encima de otra y el proceso ve un solo árbol. Como se identifican por su huella, se comparten: diez imágenes sobre la misma base guardan esa base una vez, y un nodo no baja una capa que ya tiene. Borrar un archivo en una capa posterior solo lo tapa: la imagen pesa igual y el archivo sigue en la capa de abajo.

Analogía. Una hoja de acetato con solo lo nuevo, puesta sobre las otras en un proyector. Se rompe al borrar: el parche tapa, pero la hoja de abajo sigue en la pila.

Ejemplo. El gateway de Alba tiene tres capas que pesan: la base python:3.13-slim (≈ 43 MB), el entorno con 37 paquetes (≈ 44 MB comprimido, ≈ 160 MB en disco) y el código (≈ 48 KB). Cambiar una línea de código solo cambia la última.

Se presenta en 53 · Empaquetado con DockerAparece en 4 lecciones

Capacidad

capacity

El throughput más alto (requests terminadas por segundo) que un servidor sostiene cumpliendo su presupuesto de latencia. No es lo más que alcanza a procesar: pasado ese punto todavía procesa más, pero tarde.

No se adivina: se mide con una prueba de carga en rampa, con el mismo hardware, la misma configuración y datos reales, y es el último escalón cuyo p99 cabe en el presupuesto del tramo. Con ella se cuentan máquinas: m=⌈λpico÷(K×ρobj)⌉+R, el pico entre la capacidad K por la utilización objetivo, redondeado hacia arriba, más el repuesto. Lo que se deja libre a propósito es el headroom.

Ejemplo. Una T4 de Alba con la ResNet-50 en TensorRT: ≈ 1,200 fotos por segundo, el último escalón de la prueba de carga con un p99 chico, ≈ 28 ms. A 1,300 todavía procesa ≈ 1,210, pero con un p99 de ≈ 130 ms.

Capas de red

network layers · L2, L3, L4, L7

La manera de repartir el trabajo de la red en pisos, donde cada protocolo responde una sola pregunta: el enlace llega al siguiente aparato (L2), IP a la máquina (L3), TCP o UDP al programa (L4) y HTTP dice qué se pide (L7).

Cada capa usa la de abajo sin saber cómo funciona, y envuelve lo que le da la de arriba en su propio encabezado, como sobres dentro de sobres: HTTP dentro de TCP, dentro de IP, dentro de Ethernet o Wi-Fi. Los números vienen de un modelo de siete capas, el OSI (internet se diseñó con uno de cuatro, el de TCP/IP, con las mismas capas de arriba); en el trabajo se usan sobre todo L3, L4 y L7. Importan porque lo que ve un aparato depende de su capa: un router lee IPs; un balanceador de capa 4 ve IPs y puertos y reparte conexiones; uno de capa 7 abre HTTP y reparte requests.

Ejemplo. Un paquete de 1,500 bytes del gateway a Triton lleva 20 bytes de IP, 20 de TCP y 1,460 de datos; el primero, además, el encabezado de HTTP con POST /v2/models/classifier/infer. El Service de Kubernetes reparte en L4: ve conexiones, no requests.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 2 lecciones

CapEx contra OpEx

capex vs opex

CapEx es una compra grande que se usa varios años y se reparte (amortiza) en ellos, como un servidor. OpEx es el gasto que se paga mes con mes, como la luz o la renta de la nube.

La nube convierte CapEx en OpEx: no pones el dinero por adelantado ni apuestas a cuánta capacidad necesitarás en tres años. A cambio, pagas el margen del proveedor y el gasto sigue mientras uses. La comparación honesta pone las dos cosas en la misma unidad, US$ al mes: compra ÷ meses de vida + operación, contra precio por hora × horas de uso. El punto donde se igualan dice cuántas horas al mes necesitas usar lo propio para que convenga.

Ejemplo. Un servidor de ≈ US$24,400 que dura 36 meses es CapEx de 24,400 ÷ 36 ≈ US$678 al mes en los libros. Las dos T4 de Alba, el marketplace que sigue el curso, son OpEx: 2 × 0.526 × 730 ≈ US$768 cada mes que estén prendidas.

Se presenta en 38 · Qué es la nube

Cardinalidad (de las métricas)

cardinality

Cuántas series crea una métrica: el producto de los valores posibles de sus etiquetas, por las series de cada combinación. Una etiqueta con un valor por request la hace crecer sin techo.

Con etiquetas de v1,v2,… valores hay K=v1×v2×… combinaciones; un contador da 2×K series y un histograma de b bordes, (b+4)×K. Todo se multiplica por los pods. Cada serie cuesta memoria, índice y muestras, y Prometheus se cae si crecen sin límite. No es la cardinalidad de un join (cuántas filas salen al unir dos tablas), aunque se llame igual.

Ejemplo. El gateway de Alba tiene 239 series por pod (≈ 2,900 con 12 pods). Con el request_id como etiqueta de la latencia serían 15 × 10 M = 150 millones de series nuevas al día.

Carga abierta

open-loop load · open model

Una manera de generar tráfico en una prueba: las requests llegan a una tasa fija, pase lo que pase con las respuestas. Se parece a los usuarios reales.

Su contrario es la carga cerrada (closed-loop): N usuarios virtuales que mandan su siguiente request cuando reciben la respuesta de la anterior. La cerrada se frena junto con el servidor y mide menos requests justo en los peores momentos, así que su p99 sale mejor que la realidad: es la coordinated omission. Para medir latencia a una tasa dada se usa carga abierta (k6 con tasa fija, wrk2, perf_analyzer por tasa); para encontrar el máximo, sirve la cerrada.

Ejemplo. Un servidor de 10 ms con una pausa de 1 s, en una prueba de 10 s a 1,000 requests por segundo: la carga cerrada reporta un p99 de 10 ms; la abierta, de ≈ 0.9 s.

Se presenta en 26 · Qué tan rápido y cuánto: latencia y throughputAparece en 2 lecciones

Cargo por datos procesados

data processing charge

Lo que cobra un servicio de la nube por cada GB que pasa por él, aparte de sus horas, salga o no el dato de la nube. Lo cobran el NAT gateway, los endpoints privados de pago (interface endpoints) y SageMaker AI (la plataforma de modelos de Amazon), entre otros.

No es egress (transferencia de salida): se cobra aunque los datos no salgan de la nube y en cualquier dirección. Tarifas en us-east-1: NAT gateway ≈ US$0.045 por GB; interface endpoint ≈ US$0.01; SageMaker AI hosting ≈ US$0.016 de entrada y de salida. El ALB cobra algo parecido por sus LCU (≈ US$0.008 por GB cuando ganan los bytes). Se encuentra multiplicando bytes por request × requests al mes en cada flecha.

Ejemplo. Bajar una imagen de 9.2 GB por el NAT: 9.2 × 0.045 ≈ US$0.41 por arranque; 60 arranques al mes ≈ US$25.

Se presenta en 41 · Redes en la nube: VPC, subredes y egressAparece en 2 lecciones

Casi duplicado

near-duplicate

Dos ejemplos que no son el mismo archivo pero muestran lo mismo: la misma foto recortada, vuelta a comprimir o más clara. Una huella exacta del archivo (hash) no los detecta; hace falta comparar lo que se ve, con una huella perceptual o con embeddings.

Si un casi duplicado queda en train y su gemelo en test, el modelo acierta de memoria: es leakage. Para copias exactas basta un hash del archivo, como sha256, que cambia por completo si cambia un solo byte. Para casi copias se usa una huella perceptual (el average hash, pHash y parientes): se calcula sobre una versión diminuta de la imagen, en gris, y cambia poco si la imagen cambia poco. Dos fotos son casi duplicadas si sus huellas difieren en pocos bits. También se pueden comparar sus embeddings con similitud coseno.

Ejemplo. Barz y Denzler (2020) encontraron que el 3.3 % de las imágenes de test de CIFAR-10 y el 10 % de las de CIFAR-100 (dos datasets públicos de fotos chiquitas) tenían un casi duplicado en train. En Alba, el marketplace del curso, la misma foto en tres publicaciones.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 3 lecciones

Categoría nueva

new class

Una clase que el negocio agrega y que el modelo actual no puede predecir, porque no tiene una salida para ella ni ejemplos. Se siembra con etiquetas a mano y obliga a reentrenar.

Las sugerencias nunca la dicen, así que casi no hay labels débiles buenos para ella. Se buscan ejemplos (por ejemplo, por título) y se mandan a la cola hasta juntar unos cientos. El modelo necesita una salida más en su última capa y entrenar con esos ejemplos. También cambia la validación: el rango de ids válidos crece en uno.

Ejemplo. El 1 de octubre de 2026 Alba agregó «bolsas», la categoría 501: el label_id válido pasó de 0–499 a 0–500, y la cola reserva 10 % (500 fotos) para llegar a ≈ 200–500 bolsas etiquetadas.

Se presenta en 47 · Datos y etiquetasAparece en 2 lecciones

CD: entrega y despliegue continuos

continuous delivery · continuous deployment

Llevar lo que pasó el CI (las pruebas automáticas de cada cambio) hasta producción sin pasos a mano. En la entrega continua todo queda listo y una persona aprieta el botón; en el despliegue continuo sale solo.

Las dos comparten lo importante: el artefacto se construye una sola vez en el CI y ese mismo pasa por cada ambiente (staging, luego producción), con una prueba de humo en cada paso y una forma probada de volver (rollback). En producción se entra poco a poco, con un canary o un blue-green. El despliegue continuo exige más confianza en las pruebas y en ese freno, pero no es más arriesgado si están: los cambios llegan chicos y de uno en uno. Con GitOps, el último paso es un PR que cambia la imagen (su tag y su digest) en un repositorio; en Alba lo abre y lo junta un programa, una GitHub App, y la aprobación humana está antes, en el pipeline.

Analogía. Una línea de producción de pasteles: cada pastel pasa por las mismas revisiones y sale empacado y listo. En la entrega continua, alguien decide cuándo abre la tienda; en el despliegue continuo, el pastel llega solo al aparador. Se rompe en que un pastel malo vendido no se puede «revertir», y un despliegue sí.

Ejemplo. El gateway de Alba, del merge al clúster en ≈ 17.5 minutos más la aprobación humana (con tiempos supuestos para varias etapas): pruebas, imagen y su push, paridad de punta a punta en una T4 que se prende para eso, staging con humo y producción de pod en pod. Un modelo nuevo además pasa por shadow de 1 a 2 días y un canary 5 % → 25 % → 100 %.

Se presenta en 36 · Pruebas y CI/CDAparece en 2 lecciones

CDC (change data capture)

change data capture

Leer cada inserción, cambio y borrado de una base de datos desde su registro interno y publicarlo como un evento, sin tocar el código de la aplicación. Ejemplo: Debezium hacia Kafka.

Toda base de datos seria anota cada cambio en su propio registro antes de aplicarlo. Una herramienta de CDC lee ese registro y publica los cambios en un stream, así otros sistemas (el data lake, un índice de búsqueda) se enteran sin consultar la base cada rato. Resuelve la escritura doble (guardar en la base y publicar en Kafka, donde una puede fallar sin la otra). Su pariente es el patrón outbox: el servicio escribe el evento en una tabla de la misma base, dentro de la misma transacción, y un proceso aparte lo publica.

Ejemplo. Cada cambio de precio en la tabla de publicaciones de un marketplace sale por CDC como un evento a Kafka, y el índice de búsqueda lo aplica en segundos.

CDN

content delivery network

Una red de servidores repartidos por el mundo que guardan copias de contenido y lo entregan desde el más cercano al usuario. Es un proxy inverso con caché, en el borde de internet.

Acorta el viaje: en vez de cruzar miles de kilómetros hasta el servidor de origen, la respuesta sale de una ciudad cercana. Sirve para lo público y repetido: imágenes, el código de una página, videos, el archivo de un modelo que se descarga una app. De paso aguanta picos y ataques de tráfico lejos de tus servidores. No sirve para lo que es nuevo o privado en cada request, como una inferencia.

Ejemplo. Las fotos de las publicaciones de Alba, el marketplace del curso, que ve mucha gente, se sirven desde una CDN. La request que clasifica cada foto, no: cada foto es nueva y privada, y su respuesta depende de ella.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 3 lecciones

Centro de datos

data center

Un edificio lleno de servidores acomodados en racks (estantes metálicos), con electricidad de respaldo, enfriamiento y varias conexiones de fibra. La nube vive ahí: son las computadoras de alguien más.

Resuelve lo que una oficina no resuelve: electricidad que llega por más de una línea, baterías y generadores para cuando se va, enfriamiento para miles de servidores que se calientan, y fibra por caminos distintos. Un proveedor agrupa sus centros de datos en zonas (uno o más edificios con luz y red propias) y las zonas en regiones. También se renta espacio dentro de uno para poner servidores propios (colocation).

Ejemplo. Cuando el equipo de Alba, el marketplace que sigue el curso, dice «us-east-1a», habla de uno o más centros de datos reales en el norte de Virginia, donde están sus máquinas.

Se presenta en 38 · Qué es la nubeAparece en 3 lecciones

Certificado

certificate · X.509

Un documento digital que une un nombre (como api.alba.example) con una llave pública, con fechas de validez, firmado por una autoridad certificadora que comprobó que quien lo pidió controla ese nombre.

Es lo que resuelve el ataque del intermediario: el cliente no acepta cualquier llave pública, solo una que venga en un certificado de una cadena que termina en una raíz de su almacén de confianza, con el nombre que pidió y sin vencer. El nombre que cuenta es el del campo Subject Alternative Name. Los certificados públicos duran cada vez menos: 200 días como máximo desde marzo de 2026, 100 desde marzo de 2027 y 47 desde marzo de 2029; por eso se renuevan solos (con ACME, el protocolo de renovación automática, o con ACM, el servicio de certificados de AWS). En mTLS, también el cliente presenta uno.

Analogía. Una credencial de elector: tu nombre, tu foto y un sello del organismo que la emitió. Dónde se rompe: una credencial se revisa a ojo; un certificado lo revisa una cuenta de firmas, y se puede copiar sin problema, porque sin la llave privada no sirve de nada.

Ejemplo. El certificado de api.alba.example, válido del 1 de octubre de 2026 al 16 de abril de 2027 (198 días, lo que emite ACM; el máximo es 200), firmado por una CA intermedia, que a su vez está firmada por una raíz que ya trae el sistema operativo.

Se presenta en 43 · Cifrado, llaves y certificadosAparece en 3 lecciones

cgroup

control group · cgroup

Una función de Linux que junta procesos (programas corriendo) en un grupo y le pone límites: cuánta memoria, cuánta CPU, cuántos procesos. Es lo que hace cumplir los limits de Kubernetes y el --memory de Docker.

Se ve como una carpeta en /sys/fs/cgroup, con archivos como memory.max (bytes) y cpu.max (cuota y ventana). La memoria es un tope duro: si el grupo se pasa, el OOM killer del kernel mata con SIGKILL a un proceso del grupo (en Kubernetes, a todo el contenedor), y sale con código 137 (oom). La CPU es una cuota: con un límite de 1 CPU, el grupo puede usar 100 ms de CPU en cada ventana de 100 ms, sumando todos sus hilos; si se la acaba, se congela hasta la siguiente ventana (throttling): no muere, se vuelve lento a ráfagas. Ojo: os.cpu_count() de Python cuenta los núcleos del nodo, no la cuota del cgroup.

Ejemplo. El gateway de Alba tiene un límite de memoria de 1 GiB y ninguno de CPU. Con 4 fotos de 40 ms de CPU a la vez y un límite de 1 CPU, la cuota de 100 ms se acaba a los 25 ms y cada foto tardaría 100+(160−100)/4 = 115 ms en vez de 40.

Se presenta en 19 · El sistema operativo: Linux, archivos y permisosAparece en 5 lecciones

Champion y challenger

champion / challenger

Los dos papeles de los modelos en producción: el champion (campeón) es el que atiende a la gente; el challenger (retador) es el nuevo que se está probando para reemplazarlo.

Todo el camino de un modelo nuevo es un challenger tratando de quitarle el lugar al champion: el gate lo compara contra él en el mismo examen, el canary le da una parte del tráfico y, si gana, se vuelve el champion. En un registro de modelos los dos papeles son alias: nombres que señalan a una versión y se mueven. El champion anterior no se borra: es a donde se vuelve si algo sale mal.

Ejemplo. En noviembre de 2026, en Alba, champion señala a la versión 14 (resnet50-2026-10-01) y, cuando el candidato termine de exportarse, challenger señalará a la 15 (resnet50-2026-11-01).

Se presenta en 50 · Gate de evaluación y registryAparece en 4 lecciones

Check obligatorio

required status check

Una regla de la rama principal: un pull request (PR) no se puede juntar (merge) si cierto job no terminó en verde. Convierte el rojo de CI de consejo en regla.

Se configura en las reglas de la rama (branch protection o rulesets en GitHub) con el nombre del check. Tiene una trampa: si el workflow no corre en un PR (por ejemplo, porque filtra con paths: y el PR no toca esa carpeta), el check nunca reporta y el PR se queda esperando. Un job saltado con if sí cuenta como aprobado. Por eso la condición va en el if del job, no en el disparador del workflow.

Ejemplo. En alba/classifier, pruebas es obligatorio. Un PR que solo cambia config.pbtxt igual corre gateway.yml, porque el workflow no filtra por carpetas.

Checkpoint

checkpoint

Un archivo con el estado del entrenamiento en un momento: los parámetros, el estado del optimizador y en qué paso iba. Sirve para seguir si algo falla y para quedarse con la mejor versión.

Uno completo lleva las perillas, el estado del optimizador (en Adam, m y v), la época y el paso, el estado del scheduler, el del GradScaler (la pieza que ajusta la escala de los gradientes) si se entrena en precisión mixta (con números de 16 y de 32 bits) y el de los generadores de azar. Con solo las perillas se puede responder, pero no seguir el mismo entrenamiento. Guardarlo seguido permite usar máquinas spot, que el proveedor puede reclamar con poco aviso.

Ejemplo. Alba, el marketplace que sigue el curso, guarda uno cada 15 minutos: 24.5 M parámetros × 4 bytes ≈ 98 MB, más el estado de Adam (2 × 98 MB), ≈ 294 MB en total.

Se presenta en 04 · Cómo aprende un modeloAparece en 12 lecciones

Checksum

checksum

Una huella corta y rapidísima (una suma de verificación) para detectar datos dañados por accidente, como un bit que se volteó en un disco o en un cable. No protege contra alguien que quiera engañarte.

El más común es CRC32, de 32 bits, que va en cada archivo ZIP y PNG y en los paquetes de Ethernet; en Python, zlib.crc32. Detecta con seguridad un bit volteado y cualquier ráfaga de hasta 32 bits dañados seguidos. Pero con 32 bits, por la paradoja del cumpleaños, dos archivos distintos chocan tras ≈ 77,000 intentos, y la cuenta permite incluso ajustar un archivo para que dé el CRC que uno quiera. Para identificar contenido o para seguridad se usa un hash criptográfico.

Ejemplo. En una prueba, voltear un solo bit de una «foto» de 204,800 bytes cambia su CRC32 de fa8191cc a 13143f88; pero dos archivos de 16 bytes al azar con el mismo CRC32 aparecen en una fracción de segundo.

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 2 lecciones

Chequeo que bloquea y chequeo que avisa

blocking vs warning check

Un chequeo que bloquea detiene el pipeline cuando falla; uno que avisa deja seguir y alerta a una persona. Bloquea lo que invalidaría al modelo; avisa lo que solo es raro.

Bloquear no apaga el servicio: detiene el modelo nuevo y sigue el actual. Avisar sirve para lo discutible, como una categoría que creció mucho por una campaña real. Todo chequeo nuevo empieza avisando, para ver con datos reales si su umbral está bien puesto antes de dejarlo detener el entrenamiento.

Ejemplo. En Alba bloquean: esquema roto, label_id fuera de rango, una foto en dos splits (en train y en validación a la vez), volumen fuera de 0.8–1.5 veces, datos de hace más de 48 h y labels débiles por encima de 80 %. Avisan: una categoría que creció > 30 % y un slice (un grupo de fotos que se mide aparte) debajo de su piso.

CHW

channels, height, width

El orden en que se acomodan las dimensiones de una imagen: primero el canal, luego el alto y luego el ancho. Es el que esperan PyTorch (la librería más usada para entrenar redes) y el modelo de Alba.

Las librerías de imágenes (Pillow, OpenCV) suelen dar HWC: alto, ancho y los 3 números de cada píxel juntos. Pasar de uno a otro es reacomodar los mismos números. Con un grupo de imágenes adelante se escribe NCHW: cuántas, canales, alto, ancho.

Ejemplo. HWC: (224, 224, 3). CHW: (3, 224, 224). Mismos 150,528 números, otro orden.

Se presenta en 02 · Una foto, vista por un modeloAparece en 2 lecciones

Cifrado

encryption

Convertir datos legibles en bytes que parecen ruido, con una llave secreta, de forma que solo quien tiene la llave los regrese a como estaban.

Lo que se protege es el texto en claro; lo que sale, el texto cifrado. El método (el algoritmo, como AES) es público: la seguridad está solo en la llave (principio de Kerckhoffs). Un cifrado básico da confidencialidad; para detectar cambios hace falta un modo autenticado (AES-GCM) o una firma, y para saber con quién hablas, un certificado. Se aplica a lo que viaja (en tránsito, con TLS) y a lo que se guarda (en reposo, con KMS).

Analogía. Un candado de combinación: el modelo del candado lo conoce todo el mundo; la combinación, solo tú. Dónde se rompe: un candado se puede cortar; un buen cifrado no tiene un atajo así, solo probar llaves.

Ejemplo. La foto de Ana, cifrada con AES-128 y una llave de 16 bytes, se ve como bytes al azar. Con la llave, vuelve a ser la misma foto, byte por byte.

Cifrado de sobre

envelope encryption

Cifrar cada archivo con su propia llave de datos y guardar esa llave, cifrada con la llave maestra de KMS (el servicio de la nube que guarda llaves y nunca las entrega), junto al archivo. Como meter la llave del candado en un sobre que solo KMS abre.

Existe porque KMS solo cifra hasta 4,096 bytes y cada llamada viaja por la red. Tres pasos: pedir una llave de datos (GenerateDataKey), cifrar localmente con AES y borrar la copia en claro, y para leer, mandar a KMS solo la llave cifrada (Decrypt). Cada Decrypt pasa por la política de la llave y queda en el registro. Rotar la llave maestra no obliga a recifrar los archivos.

Ejemplo. Un archivo de 1 GB serían ≈ 244,141 llamadas a Encrypt de 4,096 bytes. Con sobre, una llamada para guardarlo y una para leerlo.

Cifrado en reposo

encryption at rest

Cifrar lo guardado: archivos en S3 (el almacén de archivos de AWS), discos, bases de datos y respaldos. Protege contra quien se lleve el disco o un respaldo; no contra quien entra con los permisos de tu programa.

En la nube casi siempre está prendido (S3 cifra todo objeto nuevo desde enero de 2023). Su valor real no es el disco robado, sino separar dos permisos: leer los bytes y usar la llave. Con las llaves en KMS y su política, quien tenga permiso sobre el bucket todavía necesita permiso sobre la llave, y cada uso queda en un registro de auditoría.

Ejemplo. Todo bucket de Alba usa SSE-KMS con una llave de Alba para fotos y logs. Un rol que puede leer el bucket pero no tiene kms:Decrypt recibe Access Denied.

Se presenta en 43 · Cifrado, llaves y certificadosAparece en 3 lecciones

Cifrado en tránsito

encryption in transit

Cifrar lo que viaja por una red, para que nadie en el camino lo lea ni lo cambie. En la práctica es TLS, el protocolo que cifra conexiones (o mTLS entre servicios).

La pregunta de diseño no es si se cifra, sino dónde empieza y dónde termina cada tramo cifrado, y qué protege los que no lo están (una red privada, reglas de red). Lo que sale a internet o a otra organización debe ir siempre cifrado. Dentro de una red privada es una decisión de riesgo y costo. Se complementa con el cifrado en reposo: uno cuida lo que se mueve; el otro, lo guardado.

Ejemplo. En Alba van por TLS el tramo del caller (el programa que llama a la API) al ALB (el balanceador de entrada) y todo lo que sale de un pod (a S3, a proveedores). Del ALB al gateway y del gateway a Triton, sin cifrar dentro de la red privada.

Circuit breaker

circuit breaker

Un contador dentro del cliente que, si un servicio del que depende falla demasiado, deja de llamarlo un rato y contesta de inmediato con el plan B. Tiene tres estados: cerrado, abierto y semiabierto.

Cerrado: deja pasar las llamadas y cuenta fallas y timeouts. Abierto: no llama; cada request recibe el fallback al instante. Semiabierto: deja pasar unas pocas llamadas de prueba; si salen bien se cierra, si no vuelve a abrirse. No salva requests, pero libera los recursos del cliente, da el plan B mucho más rápido y deja que la dependencia se recupere sin carga, lo que corta una tormenta de reintentos. Lleva un mínimo de llamadas para no abrirse por dos fallas de madrugada. La idea la popularizó Michael Nygard en su libro Release It! (2007).

Analogía. La pastilla del tablero eléctrico, que corta la corriente si pasa demasiada. Se rompe en que la pastilla salta con un solo pico y espera a que alguien la suba; el breaker de software cuenta una tasa y se prueba solo (semiabierto).

Ejemplo. Unos números de ejemplo típicos: se abre con más de 50 % de fallas en los últimos 10 s y al menos 20 llamadas; se queda abierto 30 s; semiabierto, prueba con 5. Con el Triton de Alba caído entero y sin contestar, a 500 requests por segundo, baja de 500 × 0.15 s = 75 requests esperando a Triton a 500 × 0.001 s = 0.5 en vuelo, y el plan B llega en ≈ 1 ms en vez de ≈ 150.

Se presenta en 25 · Timeouts, reintentos e idempotenciaAparece en 2 lecciones

Claims

claims

Lo que afirma un token: quién es (sub), quién lo emitió (iss), para quién es (aud), cuándo caduca (exp) y qué permite (scope), entre otros. En un JWT van en un JSON firmado.

Los nombres cortos vienen del estándar: iss (issuer), sub (subject), aud (audience), exp (expiration) e iat (issued at), en segundos desde 1970, y jti, un id único del token que sirve para revocarlo. Se pueden agregar otros, como scope. Revisar la aud evita aceptar un token que el emisor dio para otro servicio. Cualquiera que tenga el token los lee, así que no llevan secretos ni datos personales que no hagan falta.

Ejemplo. Un token con "aud": "busqueda" llega al clasificador: la firma es buena y exp está en el futuro, pero no es para él. Lo rechaza con 401.

Clase de almacenamiento

storage class

Cada manera de guardar un objeto en el mismo object storage, más cara o más barata según qué tan seguido y qué tan rápido lo vas a leer. En S3, el de Amazon, van de Standard (US$0.023 por GB al mes, precio de lista del norte de Virginia en 2026) a Glacier Deep Archive (≈ US$0.001), con la misma durabilidad.

Lo que cambia es el trato: cuánto cuesta guardar, cuánto cuesta leer y cuánto hay que esperar. Standard se lee al instante, sin cargo por GB. Standard-IA (Infrequent Access) cuesta casi la mitad, pero cobra US$0.01 por GB leído, un mínimo de 30 días y un mínimo de 128 KB por objeto. Glacier Instant Retrieval cuesta ≈ US$0.004 y cobra US$0.03 por GB leído, con mínimos de 90 días y 128 KB por objeto. Glacier Flexible Retrieval y Deep Archive son para archivo: leerlos tarda de minutos a horas. Mover un objeto de clase es una request que se cobra por objeto, así que con millones de objetos chicos mover puede costar más de lo que ahorra. Intelligent-Tiering mueve cada objeto solo, según su uso, por una cuota pequeña. Las mueven las reglas de ciclo de vida. Google tiene la misma escalera: Standard, Nearline, Coldline y Archive.

Ejemplo. La copia de los vectores de un servicio de búsqueda por foto pesa ≈ 205 GB por versión: 205 × US$0.023 ≈ US$4.7 al mes en Standard y 205 × US$0.004 ≈ US$0.82 en Glacier Instant Retrieval. Leer una versión entera desde Glacier IR para reconstruir el índice cuesta 205 GB × US$0.03 ≈ US$6.15.

Clasificación

classification

La tarea de elegir de una lista fija de clases. Puede ser binaria (sí o no), multiclase (una de muchas) o multietiqueta (varias a la vez).

El modelo da un puntaje (logit) por clase. En la multiclase, softmax los vuelve probabilidades que suman 1 y gana la más alta (argmax); en la clasificación binaria y la multietiqueta, cada logit pasa por una sigmoide y un umbral decide. Las clases se fijan al entrenar: el modelo no puede elegir una que no estaba en su lista.

Ejemplo. Un filtro de spam (2 clases), la categoría de una foto en Alba, el marketplace del curso (500 clases), o las 7 políticas de un sistema de moderación de contenido (multietiqueta).

Se presenta en 01 · Qué es un modeloAparece en 5 lecciones

Clasificación binaria

binary classification

Clasificación con solo dos clases: sí o no. ¿Este pago es fraude? ¿Este correo es spam?

Casi siempre el modelo da un solo logit, la sigmoide lo vuelve la probabilidad del «sí» y un umbral decide. A la clase que buscas (fraude, spam) se le dice positiva; a la otra, negativa. Suele haber desbalance de clases: en un ejemplo típico de detección de fraude, el fraude es ≈ 0.08 % de los pagos, así que decir siempre «no» ya acierta 99.92 %.

Ejemplo. Logit 2 → sigmoide 0.881 → con umbral 0.5, «sí, es spam».

Client credentials

client credentials grant

El flujo de OAuth para máquinas: un programa se presenta ante el proveedor de identidad con su client_id y su secreto (o un certificado) y recibe un token de acceso, sin ninguna persona de por medio.

Es la manera estándar de autenticar llamadas de servicio a servicio. El programa hace un POST al endpoint de tokens con grant_type=client_credentials y el scope que pide; la respuesta trae el access_token, su tipo (Bearer) y expires_in. El secreto vive en un gestor de secretos y se usa solo al renovar, no en cada request: lo que viaja es el token corto.

Ejemplo. El servicio de moderación de Alba pide su token con grant_type=client_credentials&scope=classify y recibe uno con expires_in: 900, 15 minutos. Lo usa en todas sus requests al clasificador y pide otro a los 12.

Cliente

client

En una conexión por la red, el programa que la abre y pide algo. El otro lado, el que estaba esperando, es el servidor.

El cliente hace connect a la IP y al puerto de un servidor; el kernel le presta un puerto efímero para que la respuesta tenga a dónde volver. Ser cliente o servidor es un papel en cada conexión, no un tipo de máquina: el mismo programa puede ser las dos cosas en conexiones distintas. Como el cliente abre la conexión, es él quien paga el handshake, y por eso le conviene reusar conexiones.

Ejemplo. En Alba, la app de Ana es cliente del backend; el backend, cliente del ALB; el gateway es servidor para el ALB y cliente de Triton.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 3 lecciones

Cliente de Triton (tritonclient)

Triton client

La biblioteca de Python con que un programa le habla a Triton: arma los tensores de entrada, los manda por HTTP o gRPC y lee los de salida. Se crea uno por proceso, con su pool de conexiones.

tritonclient trae clientes para HTTP y gRPC, normales y asíncronos. Un InferInput describe cada tensor (nombre, forma y tipo, como "input", [1, 3, 224, 224], "FP32"), y con binary_data=True lo manda con la extensión binaria. Se crea uno al arrancar, en el lifespan (arranque y cierre), y se reusa: adentro tiene un pool de conexiones con keep-alive. Trampa: el parámetro timeout de infer() no es un plazo del cliente; son microsegundos que se le mandan a Triton para su fila. El plazo real se pone con asyncio.wait_for.

Ejemplo. El gateway de Alba crea un InferenceServerClient asíncrono con conn_limit=64 y lo llama con asyncio.wait_for(..., min(0.15, lo que queda)). Con Triton trabado, 500 llamadas por segundo × 0.15 s = 75 llamadas abiertas a la vez, ≈ 15 por copia: caben en 64.

CloudWatch

Amazon CloudWatch

El servicio de AWS que guarda métricas y logs de sus propios productos, como el balanceador, y deja poner alarmas sobre ellas. Ve lo que pasa antes de que una request llegue a tu código.

Cada producto de AWS publica ahí sus métricas sin que hagas nada. Para un ALB: RequestCount, TargetResponseTime, HTTPCode_Target_4XX_Count y _5XX_Count (lo que contestaron los pods) y HTTPCode_ELB_5XX_Count (lo que contestó el propio ALB). Cubre los puntos ciegos del servicio: lo que nunca llegó a sus métricas.

Ejemplo. Si todos los pods del gateway de Alba fallan su probe de readiness, el ALB contesta 503 él mismo; el gateway no cuenta nada, pero la alarma ALB5xx de CloudWatch despierta a la guardia al pasar de 0.5 % en 5 minutos.

Se presenta en 57 · La request en vivoAparece en 2 lecciones

CNN

convolutional neural network

Una red neuronal hecha sobre todo de convoluciones, activaciones y pooling. Es la familia clásica para imágenes.

Le va bien a las fotos por tres razones: cada filtro mira cerca (el significado está en los píxeles vecinos), usa el mismo filtro en todas partes (reconoce un tenis esté donde esté, con pocos parámetros) y arma lo complicado con lo simple, capa tras capa, porque su campo receptivo crece. La ResNet-50 con la que Alba, el marketplace del curso, sugiere la categoría de cada foto es una CNN.

Ejemplo. Una capa convolucional de 64 filtros de 3 × 3 sobre la foto de color tiene 1,792 parámetros; una capa densa de 1,000 neuronas sobre los mismos 150,528 números tendría ≈ 150 millones.

Se presenta en 06 · Redes neuronales y CNNsAparece en 3 lecciones

Cobertura

code coverage

La parte del código que corrió mientras corrían las pruebas, casi siempre en porcentaje de líneas. Dice qué no se probó; nunca dice que lo probado esté bien.

La de líneas cuenta qué líneas se ejecutaron; la de ramas (branch coverage), más exigente, pide que en cada if se haya recorrido el camino del sí y el del no. En Python se mide con coverage.py o con pytest --cov (del complemento pytest-cov); las ramas se cuentan con coverage run --branch o --cov-branch. Sirve como alarma: encuentra un except o una rama que ninguna prueba toca. No sirve como meta: una línea puede correr sin que nadie revise su resultado, y un equipo al que le exigen 100 % termina escribiendo pruebas que corren líneas sin revisar nada.

Ejemplo. Una función de resize con un error, max en vez de min, llega a 100 % de cobertura con una prueba de foto cuadrada (donde min y max coinciden) y otra de foto chiquita. El error sigue ahí: nadie la probó con una foto vertical.

Se presenta en 36 · Pruebas y CI/CD

Codificación

encoding

Convertir un dato que no es un número (una categoría, un texto) en números que el modelo pueda usar, sin inventarle relaciones que no tiene.

Un modelo solo multiplica y suma, así que todo le tiene que llegar como número. Para una categoría hay varias formas: one-hot (una columna de 0 y 1 por valor), números en orden (solo si el orden existe de verdad, como las tallas chica, mediana y grande), hashing (una fórmula fija manda cada valor a una de un número fijo de casillas, útil cuando hay millones de valores) y embeddings (una lista de números aprendida para cada valor). La codificación se decide con los datos de entrenamiento (train) y se usa idéntica al servir.

Ejemplo. El giro del comercio en un modelo de fraude: supermercado = [1, 0, 0], gasolinera = [0, 1, 0], videojuegos = [0, 0, 1]. En uno de clics en anuncios, el id de cada anuncio cae por hashing en una de 2²⁴ = 16,777,216 casillas.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 2 lecciones

Código de estado

status code

El número de tres cifras de la primera línea de una respuesta de HTTP. Dice qué pasó: 2xx salió bien, 3xx está en otro lado, 4xx tu request está mal y 5xx el servidor falló.

La primera cifra es la familia, y con ella se sabe de quién es la culpa. Un 4xx (400, 401, 403, 404, 405, 413, 415, 422) va a fallar igual si se repite, así que no se reintenta y no cuenta contra el SLO; la excepción es el 429 (te pasaste de tu cuota), que se reintenta después de Retry-After. Un 5xx dice que el servidor falló: el 503 (estoy lleno o me falta algo) se reintenta después de Retry-After; el 502 y el 504 los responde un intermediario cuando quien está detrás contesta mal o no contesta a tiempo; el 500 suele ser un bug. El 202 dice «lo recibí, el resultado después». Hay convenciones fuera del estándar, como el 499 de nginx: el cliente se fue antes de la respuesta.

Ejemplo. Alba: 413 si la foto pasa de 10 MB, 415 si no es JPEG, PNG ni WebP, 422 si top_k vale 0, 503 si Triton no está disponible y 504 si no contesta en 150 ms. Con un 503 o un 504, el backend muestra el selector manual.

Se presenta en 22 · HTTP: requests, respuestas y códigosAparece en 16 lecciones

Código de salida

exit code · exit status

El número de 0 a 255 que deja un programa al terminar. 0 quiere decir que todo salió bien, y cualquier otro, que algo falló. Si lo mató una señal del sistema operativo, vale 128 más el número de la señal: 137 = 128 + 9, la de SIGKILL.

Lo lee el padre: la terminal (echo $?), Docker o el kubelet. Del 1 al 125 los define cada programa (1 es el error de siempre; Python sale con 1 si una excepción no se atrapa). El 126 y el 127 los pone la shell de la terminal (no se pudo ejecutar, no existe). De 128 en adelante, 128 + n quiere decir «lo mató la señal n»: 130 es Ctrl+C, 137 es SIGKILL, 139 es SIGSEGV y 143 es SIGTERM. Cabe en un byte, así que da la vuelta: sys.exit(256) sale con 0. El subprocess de Python lo da en negativo (−9 en vez de 137). Kubernetes lo muestra en kubectl describe pod como Exit Code, junto con la razón, por ejemplo OOMKilled.

Ejemplo. Exit Code 137 con Reason OOMKilled: el contenedor pasó su límite de memoria y el kernel lo mató. 137 es 128 + 9, la señal SIGKILL.

Se presenta en 16 · Programa, proceso e hiloAparece en 9 lecciones

Cola acotada

bounded queue

Una fila con un límite, por cuántas caben o por cuánto pueden esperar. Si está llena, la request nueva se rechaza en el momento, en vez de esperar para nada.

Una fila sin tope nunca falla: solo se atrasa en silencio cuando llega más de lo que el servidor procesa, hasta que todo vence su timeout y el goodput cae a cero. El tope va donde se rompe el presupuesto de latencia, no donde se acaba la memoria. Un tope por número también acota el tiempo, por la Ley de Little: lugares ÷ throughput. Es la forma más simple de backpressure.

Ejemplo. Alba pone topes en cada salto: 16 requests en vuelo por pod del gateway, 2 decodes a la vez con 50 ms de espera máxima, y la fila de Triton que rechaza lo que ya esperó 100 ms.

Se presenta en 26 · Qué tan rápido y cuánto: latencia y throughputAparece en 3 lecciones

Cola de etiquetado

labeling queue

La lista de fotos que se paga a personas para etiquetar en un periodo, con su tamaño, su mezcla y su presupuesto.

Se arma con active learning: una parte al azar (muestra aleatoria, sorteada primero), las dudosas, los desacuerdos y las categorías nuevas. Una parte va con doble anotación y otra son preguntas de control. Se entrena con todo lo etiquetado, pero se evalúa solo con lo que no se eligió a propósito.

Ejemplo. En Alba son ≈ 5,000 fotos al mes: 1,250 al azar, 2,000 dudas (confianza del top-1 < 0.3, o menos de 0.1 entre el top-1 y el top-2), 1,250 desacuerdos y 500 de categorías nuevas. Con 10 % dobles, ≈ US$275–550 y ≈ 31–46 horas al mes; las ≈ 250 preguntas de control van encima, con ≈ US$13–25 aparte.

Se presenta en 47 · Datos y etiquetasAparece en 3 lecciones

Cola de mensajes

message queue

Un servicio que guarda mensajes en fila hasta que un consumidor los toma, hace el trabajo y confirma que terminó. Cada mensaje lo procesa un solo consumidor, y al confirmarlo se borra. Ejemplos: SQS (de Amazon), RabbitMQ y Pub/Sub (de Google).

Separa a quien pide un trabajo (el productor) de quien lo hace (el consumidor): el productor deja el mensaje y sigue, y los consumidores lo toman a su ritmo. El broker guarda cada mensaje en disco, con copias, hasta que alguien lo confirma con un ack. Al entregarlo no lo borra: lo esconde durante el visibility timeout, y si no llega el ack, vuelve a la fila. Por eso la entrega normal es at-least-once. Los mensajes llevan una referencia (un job_id y la llave del archivo), no el archivo. No es lo mismo que una fila en la memoria de un proceso, como la del batcher de Triton o queue.Queue de Python, que se pierde si el proceso se reinicia.

Analogía. Las comandas colgadas en la ventanilla de una cocina: el mesero no espera al cocinero, varios cocineros toman comandas y una comanda que nadie terminó sigue ahí. Se rompe en que un cocinero que se desmaya no devuelve la comanda; en una cola, el mensaje vuelve solo cuando vence su plazo.

Ejemplo. La API recibe un PDF de 200 páginas, mete 200 mensajes (uno por página) y responde 202. Con 20 workers, a ≈ 1 s por página, el documento sale en ≈ 10 s en vez de ≈ 200 s.

Se presenta en 30 · Colas y streams: mensajes que esperanAparece en 9 lecciones

Cola de una distribución

tail · tail latency

La parte larga y delgada de una distribución, donde quedan los pocos valores más extremos. En latencia, las requests más lentas: las que quedan arriba de los percentiles altos (p95, p99, p99.9).

La latencia tiene la cola a la derecha porque siempre se puede tardar más: una pausa del programa, un reintento, una fila de espera. La cola jala al promedio y decide el p99. A escala importa todavía más: con fan-out, la cola de cada pieza se vuelve la latencia típica del conjunto. No es lo mismo que la cola larga de categorías, que son muchas categorías con pocas fotos cada una.

Ejemplo. En 1,000 requests de juguete, la mediana es 38 ms, pero 29 requests pasan de 150 ms y la más lenta tarda 693: esa es la cola, y ahí está el p99, en 488 ms.

Se presenta en 10 · Promedios, medianas y percentilesAparece en 3 lecciones

Cola larga

long tail

Cuando hay muchas categorías y la mayoría tiene pocos ejemplos: unas cuantas tienen decenas de miles y muchas, apenas cientos o decenas. Ordenadas de mayor a menor, forman una gráfica con una «cola» baja y larga.

El nombre viene de la gráfica: si ordenas las categorías de la más grande a la más chica, la curva cae rápido y luego sigue, baja y larga. Las grandes son la cabeza (head). Conviene medir la cabeza y la cola por separado, porque un modelo nuevo suele ganar en una y perder en la otra.

Ejemplo. Alba, el marketplace del curso, tiene 500 categorías y ≈ 1.84 M fotos de entrenamiento: 3,680 por categoría si se repartieran parejo, pero casi ninguna está cerca de ese promedio.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 6 lecciones

Comando

command

Lo que escribes en una línea de la terminal para pedir algo: una primera palabra, que es un programa o algo que la shell (el programa que lee lo que escribes) sabe hacer, seguida de sus argumentos.

La primera palabra puede ser un programa en el disco (ls es el archivo /usr/bin/ls, kubectl, python3) o un builtin, que la shell hace sin lanzar ningún proceso (cd, export, echo). cd tiene que ser builtin porque cambia la carpeta de la propia shell. type ls dice cómo va a entender la shell una palabra; which ls dice la ruta del programa. Lo demás de la línea son sus argumentos.

Ejemplo. type cd responde cd is a shell builtin; type ls responde ls is /usr/bin/ls. Si la palabra no es ninguna de las dos, la shell dice «command not found» y deja el código 127.

Se presenta en 32 · La terminal y la shellAparece en 3 lecciones

Commit

commit

Una foto guardada del proyecto: la lista de sus archivos (el árbol), el id del commit anterior (su padre), el autor, la fecha y un mensaje. Su id es el hash (SHA-1, por omisión) de todo eso, así que cambiar cualquier cosa del pasado cambia todos los ids siguientes.

Git calcula el id con un hash criptográfico (SHA-1 por omisión, que se escribe con 40 caracteres hexadecimales) del texto del commit. Como ese texto incluye el id del padre, cada commit amarra toda la historia anterior: nadie puede cambiar el código de un commit y conservar su id. Se suele usar el hash corto, los primeros 7 caracteres (más si otro objeto empieza igual). El mismo contenido con el mismo autor, fecha, mensaje y padre da el mismo id en cualquier máquina. No es el COMMIT de una transacción de base de datos ni el commit de un offset en una cola: los tres dicen «esto queda firme», pero son cosas distintas.

Ejemplo. El commit «Sube el timeout a 0.20 s» son 213 bytes de texto; Git calcula el SHA-1 de commit 213, un byte en cero y esos bytes, y le salen los 40 caracteres que empiezan con 139f652. Con un carácter menos en el mensaje, el id es otro: c27a81e.

Se presenta en 35 · Git: versiones del códigoAparece en 12 lecciones

Comodín

wildcard · glob · globbing

Un carácter que la shell reemplaza por los nombres de archivo que coinciden con un patrón: * es cualquier texto, ? un carácter y [12] uno de la lista. El reemplazo pasa antes de lanzar el programa.

El programa nunca ve el patrón: recibe la lista de nombres ya hecha. Por eso ls *.log y ls "*.log" no son lo mismo: entre comillas, el patrón llega tal cual. Si no coincide con nada, bash pasa el patrón literal y zsh se niega a correr el comando (no matches found). Los patrones que son para otro programa van entre comillas: find . -name "*.log". Y un rm * en la carpeta equivocada borra todo lo que ahí coincida.

Ejemplo. Con gateway-1.log, gateway-2.log y triton.log en la carpeta, echo *.log imprime los tres y echo gateway-?.log, solo los dos primeros.

Se presenta en 32 · La terminal y la shellAparece en 2 lecciones

Comparaciones múltiples

multiple comparisons

Hacer muchas pruebas a la vez (métricas, slices, categorías) y fijarse en las que salen. Cada una trae su 5 % de falsa alarma: con 20 pruebas sin efecto, esperas una.

La probabilidad de al menos una falsa alarma en k pruebas independientes es 1 − (1 − α)^k, el complemento de que ninguna falle: con 20 a 0.05, ≈ 64 %. Defensas: una métrica primaria fijada antes, leer las demás como pistas y corregir el corte. Bonferroni usa α ÷ k en cada prueba; Holm es una versión menos estricta, la que usa Alba, el marketplace que sigue el curso, en su gate (el examen que decide si un modelo nuevo sale) sobre sus 100 categorías.

Ejemplo. Un A/B con 10 métricas, ninguna con efecto real: 1 − 0.95¹⁰ ≈ 40 % de probabilidad de que alguna salga «significativa».

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 3 lecciones

Comparar corridas

comparing runs

Leer la diferencia entre dos entrenamientos (dos corridas) contra lo que ya se sabe que varía sin que nada cambie, para no confundir ruido con una regresión.

Dos corridas varían por dos ruidos distintos: el del entrenamiento (otra semilla da otro modelo) y el de la evaluación (el examen es una muestra). Comparar es poner la diferencia Δ=xB−xA junto a la tolerancia: si cabe, es ruido; si no, algo de los cinco ingredientes cambió y se comparan los punteros de las dos corridas (commit, snapshot de datos, imagen). Decidir si un modelo nuevo es mejor es otra cosa: lo hace el gate con las predicciones foto por foto y una prueba pareada.

Ejemplo. Dos corridas de Alba con la misma receta dan 85.3 % y 85.1 % en el golden set. Δ = −0.2 puntos y la tolerancia es τ ≈ 0.26: no es regresión, es la misma receta con distinto azar.

Compilar

compile

Traducir un programa completo, antes de correrlo y una sola vez, a instrucciones de máquina: las órdenes simples que entiende la CPU. Lo hace otro programa, el compilador, y el resultado es un binario ejecutable, un archivo que se arranca directo.

Los lenguajes compilados (C, C++, Go, Rust) pagan la traducción una vez y después corren a toda velocidad, porque la CPU ejecuta el resultado directo. El precio: un binario por cada arquitectura y sistema operativo, y volver a compilar con cada cambio. Python hace otra cosa: lo corre un intérprete. La palabra también se usa con modelos: TensorRT compila un modelo en un engine hecho para un modelo de GPU y una versión de TensorRT, y torch.compile compila partes de un modelo de PyTorch mientras el programa corre.

Ejemplo. Triton se compila desde C++ al binario tritonserver. El modelo de Alba se compila con TensorRT a un engine FP16 para la T4: si la versión no coincide, Triton no arranca y el pod queda en CrashLoopBackOff (arranca, falla y se reinicia una y otra vez).

Se presenta en 16 · Programa, proceso e hiloAparece en 6 lecciones

Complemento

complement

La probabilidad de que algo no pase: 1 − p. Su gran uso es «al menos uno»: P(al menos uno) = 1 − P(ninguno).

Sale de que «pasa» y «no pasa» cubren todos los casos y suman 1. Contar todas las formas en que «al menos uno falla» es engorroso; su contrario, «todos funcionan», es una sola cuenta con la regla del producto. Así salen el fan-out, 1 − 0.99^N, y la redundancia, 1 − (1 − a)^k. También es el paso entre una disponibilidad y su tiempo caído: 99.9 % disponible es 0.1 % caído.

Ejemplo. Dos servicios, cada uno lento 1 de cada 10 veces: al menos uno lento es 1 − 0.9 × 0.9 = 0.19. Sumar 0.1 + 0.1 = 0.2 cuenta dos veces el caso en que los dos son lentos.

Se presenta en 11 · Probabilidad para sistemas que fallanAparece en 2 lecciones

Compresión

compression

Escribir los mismos datos con menos bytes, cambiando lo repetido por referencias cortas y lo frecuente por códigos chicos. Sin pérdida, al descomprimir salen los mismos bytes exactos; con pérdida, como en las fotos JPEG, se tira lo que casi no se nota.

Los compresores sin pérdida (gzip y zlib, que vienen con Python, zstd, snappy, lz4) son los únicos aceptables para logs, datasets y pesos: un byte distinto es un dato equivocado. Los de pérdida, como el de JPEG, son para fotos, audio y video. Comprimir tiene un límite: la entropía de los datos. Lo repetido casi desaparece; lo que parece al azar, como un hash o un archivo ya comprimido, no se achica y hasta crece un poco. Cada compresor elige un punto entre tamaño y velocidad: comprimir más cuesta más CPU. En un formato columnar, cada columna se comprime aparte y gana mucho más.

Ejemplo. 10,000 líneas de log de mentiras (1,149,280 bytes) quedan en 83,178 con zlib nivel 9, 13.8 veces menos; la misma cantidad de bytes al azar crece a 1,149,641.

Se presenta en 27 · Archivos y formatos: JSON, CSV, Parquet y YAMLAparece en 2 lecciones

Compute capability

compute capability

El número con que NVIDIA identifica la arquitectura de cada generación de GPUs: 7.5 para la T4 (sm_75), 8.9 para la L4. Un engine de TensorRT construido para una no carga en otra.

Cada generación de GPUs de NVIDIA entiende su propio juego de instrucciones, y se identifica con un número: 7.5 la T4, 8.0 la A100, 8.6 la A10G, 8.9 la L4, 9.0 la H100. Se escribe también sm_75, sm_89… Los kernels se compilan para una o varias de esas arquitecturas. Un engine es más estricto todavía: sus kernels se eligieron cronometrando en esa GPU. Por eso un engine se construye para cada tipo de GPU donde se va a servir.

Ejemplo. El engine de Alba es para sm_75, la T4. Si Alba agregara L4 (sm_89), haría falta un segundo engine, otra imagen y una regla para mandar cada imagen a su tipo de máquina.

Compute-bound

compute-bound

Cuando lo que frena un cálculo es la velocidad de los núcleos y no la memoria: los datos llegan a tiempo y el chip calcula a su máximo. Se acelera con menos operaciones (FLOPs) o con un chip más rápido (más FLOPS).

En español, «limitado por el cálculo». Pasa cuando la intensidad aritmética del cálculo es mayor que el punto de quiebre de la GPU: cada byte que llega se usa en tantas operaciones que la memoria alcanza a alimentar a los núcleos. Lo son las multiplicaciones de matrices grandes, el prefill de un LLM, que procesa todo el prompt de una vez, y, en buena parte de sus capas, una CNN con batches moderados. Palancas: menos FLOPs (menos resolución, un modelo más chico), tensor cores de menor precisión (FP16, INT8, FP8) o una GPU con más TFLOPS. Una GPU con más ancho de banda no lo acelera.

Ejemplo. Dos matrices de 4,096 × 4,096 en FP16 en una T4: calcular toma al menos ≈ 2.1 ms (137 GFLOPs ÷ 65 TFLOPS) y mover sus ≈ 101 MB, ≈ 0.3 ms (a 320 GB/s). Manda el cálculo.

Concept drift

concept drift · deriva de concepto

Cuando cambia la regla que une la entrada con la respuesta correcta: la misma foto o el mismo pago ahora merecen otra respuesta, aunque los datos de entrada se vean idénticos.

En notación, cambia p(y | x): la probabilidad de cada respuesta y dada una entrada x. En un concept drift puro las entradas no se mueven, así que el PSI de las entradas puede quedarse en cero mientras el modelo empeora. Solo se ve con etiquetas nuevas (la métrica cae) o con señales indirectas, como más correcciones de personas. Las etiquetas viejas quedan mal: se reetiqueta con la regla nueva y se reentrena. No es lo mismo que el drift de datos (cambian las entradas) ni que el label shift (cambia cuánto hay de cada clase).

Ejemplo. En Alba, el equipo de moderación decide que las fundas de celular ya no van en «Celulares», sino en «Accesorios para celular»: la misma foto, otra respuesta correcta. En la detección de fraude en pagos, los defraudadores aprenden los cortes y compran a US$95–99, justo debajo del corte de US$100: la misma compra ahora es fraude más seguido.

Se presenta en 13 · Comparar distribuciones: cómo se mide el driftAparece en 2 lecciones

Concurrencia

concurrency

Tener varias tareas en curso al mismo tiempo, aunque en cada instante avance solo una. Ayuda cuando las tareas esperan: mientras una espera, otra usa la CPU.

Es una forma de organizar el trabajo, no de hacerlo más rápido. Con trabajo de pura CPU en un núcleo, turnarse no baja el tiempo total y empeora el promedio. Con esperas (la red, el disco, otro servicio), sí ayuda: el gateway de Alba atiende otras requests mientras espera a Triton, el servidor del modelo. Se logra con hilos, con procesos o con un event loop. No es lo mismo que el paralelismo, que necesita varios núcleos: todo paralelismo es concurrencia, pero no al revés.

Analogía. Un mesero que atiende cinco mesas: toma una orden, la lleva a la cocina y, mientras se prepara, atiende otra mesa. Se rompe en que el mesero decide cuándo cambiar de mesa; con hilos, lo decide el planificador del sistema operativo.

Ejemplo. Cuatro requests del gateway con 6 ms de CPU y 10 ms de espera cada una: una tras otra, la cuarta sale a los 64 ms; concurrentes, en el mismo núcleo, a los 34 ms.

Se presenta en 16 · Programa, proceso e hiloAparece en 2 lecciones

Concurrency (un despliegue a la vez)

concurrency group

Una opción de un job o workflow que agrupa corridas por nombre: dentro de un grupo, solo una corre a la vez. Con cancel-in-progress se decide si la nueva cancela a la vieja o espera.

Dos despliegues al mismo ambiente a la vez se pisan: copias de dos versiones mezcladas y un estado que nadie pidió. concurrency: { group: <nombre> } hace que las corridas del mismo grupo no se encimen: por omisión, una corre y una espera; si llega otra, la que esperaba se cancela (con queue: max esperan en orden, hasta 100). Con cancel-in-progress: true, la nueva cancela a la que va a la mitad, que sirve para las pruebas de un PR al que llegó otro push; para un despliegue se usa false, porque cortar un despliegue a medias es peor que esperar.

Ejemplo. El job produccion de Alba usa el grupo deploy-gateway-produccion con cancel-in-progress: false: si dos merges llegan seguidos, el segundo despliegue espera al primero.

conda

conda

Un gestor de paquetes y entornos nacido en el mundo científico cuyos paquetes no son solo de Python: también instala compiladores, librerías de C, el toolkit de CUDA (para programar GPUs de NVIDIA), el lenguaje R y el propio Python.

Cada entorno de conda es una carpeta con todo eso adentro. Los paquetes salen de canales: el de Anaconda, la empresa que lo creó, que desde 2020 pide licencia de pago a las organizaciones de más de 200 personas, contando contratistas (sus términos vigentes son de julio de 2025), y conda-forge, comunitario y libre. mamba y micromamba son versiones más rápidas del mismo programa. Conviene cuando necesitas piezas que no son Python y pip no da, o en un clúster donde no eres root; casi nunca en la imagen de un servicio, porque las wheels ya traen su código compilado y la imagen slim con pip o uv es más chica. Una trampa clásica: mezclar conda install y pip install en el mismo entorno, porque conda no sabe lo que pip cambió.

Ejemplo. El gateway de Alba no usa conda: su imagen es python:3.13-slim con un entorno de pip en /opt/venv, ≈ 87 MB comprimida.

Confianza

confidence score

La probabilidad que un modelo le da a su opción favorita, la del primer lugar. Es lo seguro que dice estar, no una garantía de que acierte.

También se le dice score o score top-1. Un modelo puede estar muy seguro y equivocado, sobre todo ante fotos distintas a las de su entrenamiento: softmax siempre reparte el 100 % entre las clases que conoce. Si está bien calibrado, de cada 100 respuestas con 94 % acierta unas 94. Ojo: en estadística, «intervalo de confianza» es otra cosa.

Ejemplo. «Tenis, 94 %»: la confianza es 0.94. En Alba, el marketplace del curso, se llama baja confianza a un top-1 menor que 0.3.

Se presenta en 01 · Qué es un modeloAparece en 9 lecciones

config.pbtxt

model configuration

El archivo de configuración de un modelo en Triton, en el formato de texto de protobuf: el motor, las entradas y salidas, el batch máximo, el batching, la fila, las copias y el warmup (las corridas de calentamiento).

Cada campo es una decisión. platform dice qué motor corre el archivo; max_batch_size, el batch más grande, que no puede pasar del perfil del engine; input y output, nombres, tipos y dims sin el eje del batch (Triton antepone -1); dynamic_batching, cuánto esperar para juntar requests y qué hacer con las que esperan demasiado (política de la fila); instance_group, cuántas copias y dónde (grupo de instancias); model_warmup, qué correr antes de decir «listo».

Ejemplo. El de Alba: tensorrt_plan, max_batch_size: 32, input FP32 [3, 224, 224], logits FP32 [500], batching de 2 ms con tamaños preferidos 16 y 32, fila con REJECT a 100 ms, 2 copias en la GPU y warmup de 3 corridas con un batch de 32 en ceros.

Se presenta en 52 · Código de servingAparece en 3 lecciones

ConfigMap

ConfigMap

Un objeto de Kubernetes (el sistema que reparte programas entre máquinas) que guarda configuración como pares nombre-valor dentro del clúster, para dársela a los programas que corren ahí (sus pods) como variables de entorno o como archivos montados.

Se declara en YAML con un campo data, donde todos los valores son texto. Un pod lo usa con envFrom (cada llave se vuelve una variable de entorno) o montándolo como carpeta (cada llave, un archivo). La diferencia importa al cambiarlo: una variable de entorno se copia al arrancar y el proceso que ya corre no se entera (hay que reiniciar, por ejemplo con kubectl rollout restart); un archivo montado lo actualiza el kubelet con un retraso de alrededor de un minuto, salvo si se montó con subPath. Guarda a lo mucho 1 MiB. No es para secretos: para eso está el Secret.

Ejemplo. gateway-config, en el namespace classifier, con TRITON_URL: "triton.classifier:8000", INFER_TIMEOUT_S: "0.15" y PREPROCESS_CONCURRENCY: "2".

Configuración

configuration · config

Los valores que un programa lee para decidir cómo portarse y que pueden cambiar sin tocar el código: una dirección, un timeout, un umbral, una contraseña. El código dice qué hacer; la configuración, con qué valores.

Lo que cambia entre ambientes (laptop, staging, producción) o entre días se saca del código para que la misma imagen corra en todos lados, byte por byte. Llega por variables de entorno, archivos (casi siempre en YAML) o flags, con una precedencia clara, y se revisa completa al arrancar (validación). No es configuración lo que obliga a cambiar otra cosa al mismo tiempo: el preprocesamiento o el orden de las categorías son parte del código o del modelo. La parte que da acceso es un secreto y se trata aparte.

Ejemplo. El gateway de Alba lee TRITON_URL (triton.classifier:8000; en producción el nombre lleva la versión del modelo, como triton-v14), INFER_TIMEOUT_S=0.15 y PREPROCESS_CONCURRENCY=2. En la laptop, el mismo código habla con otro Triton y espera más.

Conflicto de merge

merge conflict

Lo que pasa cuando dos ramas cambiaron las mismas líneas del mismo archivo (o líneas pegadas) de manera distinta: Git no adivina cuál quieres, marca el pedazo en el archivo y se detiene para que decidas.

El pedazo en disputa queda entre marcadores: de <<<<<<< HEAD a ======= está tu versión, y de ahí a >>>>>>> otra-rama, la de la rama que estás uniendo. git status --short muestra el archivo con UU. Se resuelve editando el archivo (tu versión, la otra o una tercera), borrando los marcadores, con git add y con git commit; git merge --abort deshace el intento. Lo difícil suele ser la decisión, no Git. Se evitan con ramas cortas, cambios chicos y trayendo seguido lo nuevo de main.

Ejemplo. Luis sube INFER_TIMEOUT_S a 0.25 en su rama y Ana lo baja a 0.10 en main: al unir, config.py queda con las dos líneas entre marcadores, y lo resuelven dejando 0.15.

Confusión de dependencias

dependency confusion

Subir a un índice público de paquetes (como PyPI) un paquete con el mismo nombre que uno interno de una empresa, y una versión más alta, para que el instalador elija el público.

Pasa cuando el instalador busca en varios índices (el privado y el público) y se queda con la versión más alta que encuentre en cualquiera. Se defiende con un solo origen para los paquetes (un índice privado o un proxy que la empresa controla), nombres internos reservados y dependencias fijadas con hash.

Ejemplo. Una empresa tiene alba-preprocess 1.4 en su índice privado. Alguien sube a PyPI un alba-preprocess 99.0. Un pip install que mire los dos índices instalaría el de PyPI.

Consentimiento

consent

El permiso de una persona para que uses sus datos personales. Vale si es libre (sin obligarla), informado (sabe qué pasará) y específico (para una finalidad concreta). Para datos sensibles, tiene que ser expreso; en México, además, por escrito.

No es la única base para tratar datos: también lo son cumplir un contrato con la persona, una obligación legal o, en Europa, un interés legítimo bien pesado. En Europa es una de seis bases al mismo nivel; en México es la regla general y la ley enumera las excepciones, y para datos no sensibles basta el consentimiento tácito (te mostraron el aviso y no te opusiste). Tiene un costo de diseño: se puede retirar en cualquier momento, y entonces hay que dejar de usar el dato y poder encontrar dónde está (el mapa de datos). «Expreso» quiere decir una acción clara, como marcar una casilla, no el silencio.

Ejemplo. Un sistema de transcripción de llamadas solo guarda la transcripción si quien organiza la llamada lo activa, y no entrena con el audio sin un consentimiento explícito.

Consistencia eventual

eventual consistency

La promesa de que, si dejan de llegar cambios, todas las copias de un dato terminan diciendo lo mismo; pero en un momento dado, dos copias pueden decir cosas distintas.

Lo contrario es la consistencia fuerte: cualquier lectura ve la última escritura confirmada. La fuerte es más cómoda y más cara, porque las copias tienen que ponerse de acuerdo antes de responder. Por eso las réplicas de lectura, muchas bases NoSQL y todo caché con TTL son eventualmente consistentes. DynamoDB lee así por omisión, y una lectura fuerte cuesta el doble. Funciona cuando un poco de atraso no daña (el precio que ve un comprador) y no cuando sí (un saldo). Borrar en un sistema así pide tombstones, para que el borrado también llegue a todas las copias. No es la C de ACID: esa habla de cumplir las reglas de la base.

Ejemplo. El carrito de Amazon, según el artículo de Dynamo de 2007, prefería aceptar siempre cambios y juntar las copias después; el precio era que a veces reaparecía un artículo que habías quitado.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 2 lecciones

Consola, CLI y API de la nube

console / CLI / API

Las tres maneras de pedirle cosas a la nube. Por debajo, todo es una API: cada acción es una request HTTP firmada a un endpoint del proveedor; la consola web y la CLI solo lo arman por ti.

La consola es una página con botones, buena para explorar y mala para repetir. La CLI es un comando de la terminal (aws, gcloud, az). El SDK es una biblioteca para tu programa (boto3 en Python). Cada request pasa por permisos (IAM) y cuota antes de crear algo, y la de EC2 es por región (ec2.us-east-1.amazonaws.com); algunas, como la de IAM, son globales. Como todo es API, la infraestructura se puede escribir en archivos y crear con una herramienta (infraestructura como código, como Terraform).

Ejemplo. aws ec2 run-instances --instance-type g4dn.xlarge … crea una de las VMs con GPU de Alba, el marketplace que sigue el curso; aws ec2 terminate-instances --instance-ids i-0123… la apaga y detiene el cobro.

Se presenta en 38 · Qué es la nubeAparece en 4 lecciones

Consumidor

consumer

El programa que saca mensajes de una cola o lee eventos de un stream y hace el trabajo. Casi siempre son varias copias iguales, que se reparten los mensajes.

En una cola, los consumidores compiten: cada mensaje se lo lleva uno solo, y al terminar lo confirma con un ack. En un stream, los consumidores se organizan en grupos: cada partición la lee un solo consumidor del grupo, que avanza su offset. Como la entrega normal es at-least-once, un buen consumidor es idempotente: procesar un mensaje dos veces deja el mismo resultado. Un worker (trabajador) que lee de una cola es un consumidor.

Ejemplo. Los workers de OCR de un servicio de documentos: cada uno recibe un mensaje, baja el PDF, escribe results/8f3a.json y solo entonces manda el ack.

Contador (counter)

counter

Una métrica que empieza en 0 y solo sube; vuelve a 0 si el proceso se reinicia. Su valor solo no dice mucho: lo útil es cuánto subió en un rato, con rate(), la función que da cuánto sube por segundo.

Cuenta eventos: requests, errores, bytes. Como nunca baja, una bajada se lee como reinicio: rate() e increase() suman los aumentos y, si el valor cae, cuentan el nuevo valor desde 0. Lo que el proceso viejo contó entre la última lectura y su caída se pierde. En el texto de /metrics va con _total, y el cliente de Python agrega _created, la hora en que nació la serie. Se saca primero la tasa de cada serie y después se suma: sum(rate(…)), nunca rate(sum(…)).

Ejemplo. Muestras cada 15 s de 1,000,000, 1,000,540, 1,001,080, 120 y 660: los aumentos son 540, 540, 120 y 540; en 60 s, 1,740 ÷ 60 = 29 requests por segundo.

Se presenta en 57 · La request en vivoAparece en 2 lecciones

Contenedor

container

Un paquete con tu programa y todo lo que necesita para correr (la versión de Python, las librerías, los archivos), para que corra igual en cualquier máquina.

Resuelve el clásico «en mi máquina sí funciona». La herramienta más usada para crearlos es Docker. Ojo: si el modelo usa una GPU, la máquina también necesita sus drivers (el programa que le permite al sistema operativo usar la tarjeta).

Analogía. Un contenedor de barco: no importa qué lleve adentro, tiene un tamaño estándar y cualquier puerto, grúa o barco lo puede mover. Se rompe en que un contenedor de software no es del todo independiente: usa partes del sistema operativo de la máquina donde corre, como los drivers de la GPU.

Ejemplo. El contenedor de la API de Alba lleva la versión exacta de Python, las librerías y el código. El mismo contenedor que se probó es el que corre en cada servidor.

Se presenta en 00 · El camino completoA fondo en 53 · Empaquetado con DockerAparece en 20 lecciones

Contenedor contra máquina virtual

container vs. virtual machine · VM · hypervisor

Un contenedor es un programa corriendo (proceso) al que el kernel le enseña solo su pedazo del sistema y le pone límites: todos los de una máquina comparten un kernel. Una máquina virtual simula una computadora completa, con su propio kernel, encima de un hipervisor, que reparte una máquina física en varias.

Los namespaces deciden qué ve el proceso: su propia lista de procesos (adentro es el PID 1), su red, su árbol de archivos, su nombre de máquina. Los cgroups deciden cuánto usa. Como el kernel es compartido, la imagen no trae kernel ni driver, arranca en menos de un segundo, más lo que tarde el proceso, y casi no gasta memoria de más; pero un error del kernel afecta a todos los contenedores del nodo. Una VM (máquina virtual) paga su propio kernel y su sistema completo (más memoria y un arranque de segundos a minutos) a cambio de aislar más: un atacante tendría que romper también el hipervisor. En la nube se usan las dos: una instancia de EC2 (las máquinas que renta AWS) es una VM, y adentro corren los contenedores.

Analogía. Departamentos en un mismo edificio contra casas separadas: los departamentos comparten cimientos, tubería y luz (el kernel); cada casa tiene los suyos. Se rompe en que un contenedor ni siquiera tiene paredes propias: es un proceso al que el kernel le oculta a los vecinos.

Ejemplo. En Alba, una g4dn.xlarge (una VM sobre el hipervisor Nitro de AWS) corre el contenedor de Triton, con Ubuntu 22.04, sobre el kernel de Amazon Linux 2023 de esa VM, junto al device plugin de NVIDIA.

Se presenta en 19 · El sistema operativo: Linux, archivos y permisosAparece en 2 lecciones

Contenedor serverless

serverless container (Cloud Run / Container Apps)

Un servicio que corre tu imagen de contenedor completa, con su servidor web, y la escala según las requests, hasta cero. Cloud Run y Azure Container Apps, además, ofrecen GPU.

A diferencia de una función, corre lo que quieras dentro de tu imagen. Cloud Run ofrece L4 y RTX PRO 6000, una por instancia, en regiones limitadas; Container Apps, T4 y A100. Cobra más por hora que una GPU dedicada, pero solo las horas que la instancia está prendida (con GPU, incluidos hasta ≈ 10 minutos de espera después de la última request). Las instancias mínimas quitan el arranque en frío y se pagan siempre.

Ejemplo. Herramienta interna de moderación con ≈ 2 h de GPU al día, con el trabajo junto en lotes: ≈ US$64 al mes en Cloud Run contra ≈ US$588 de una L4 dedicada.

Contexto de build

build context

La carpeta que se le manda a Docker para construir una imagen: los únicos archivos que un COPY del Dockerfile puede ver. Todo lo que no se excluye viaja, aunque no se use.

Es el último argumento de docker build (docker build … gateway/). Un contexto con basura hace lento el build, puede romper la caché y, con un COPY . ., mete esa basura en la imagen. Lo que no debe viajar se lista en el .dockerignore.

Ejemplo. El contexto del gateway de Alba es la carpeta gateway/; su .dockerignore deja fuera las pruebas, .git/, el .env, las fotos y cualquier modelo.

Contrato de datos

data contract

El acuerdo escrito y ejecutable de cómo deben venir unos datos: columnas, tipos, rangos, frescura y quién es su dueño. Corre como código sobre cada partición (cada pedazo de la tabla, casi siempre un día) y dice si la cumple.

Junta pruebas de datos y les agrega quién responde y qué pasa cuando fallan: unos chequeos bloquean y otros avisan (chequeo que bloquea). El esquema tiene versión y un cambio que rompe se avisa antes. Lo ideal es que corra también del lado de quien produce los datos, en sus pruebas automáticas.

Ejemplo. El backend de publicaciones de Alba es dueño de los eventos suggestion_shown y category_selected, con esquema versionado; un cambio que rompe se avisa con 2 semanas. El chequeo de volumen bloquea si las filas del snapshot nuevo, divididas entre las del anterior, salen de 0.8–1.5.

Se presenta en 47 · Datos y etiquetasAparece en 2 lecciones

Convergencia

convergence

Cuando el entrenamiento ya casi no mejora: la pérdida dejó de bajar y los pasos apenas cambian las perillas.

En un modelo de juguete, la perilla se acerca cada vez más al fondo y el gradiente, a 0. En uno real, con batches al azar, la pérdida nunca se queda quieta: tiembla alrededor de un nivel, y se dice que convergió cuando ese nivel deja de bajar. Bajar el learning rate al final ayuda a asentarse. Que la pérdida de entrenamiento converja no dice que el modelo sea bueno con datos nuevos: eso lo dice la validación.

Ejemplo. En una pérdida de juguete con una sola perilla, (2w − 6)², que empieza en w = 0, con lr = 0.05 la perilla queda a menos de 0.01 del fondo en 12 pasos; con lr = 0.005 tarda 140.

Convolución

convolution

Pasar un filtro chico (por ejemplo de 3 × 3) por toda la foto: en cada posición multiplica los píxeles que cubre por sus pesos, suma y escribe un número.

El mismo filtro se usa en todas las posiciones, así que una capa convolucional tiene muy pocos parámetros, encuentra un patrón esté donde esté y reutiliza cada peso miles de veces por foto. Cada filtro produce un mapa de activaciones, cuyo tamaño depende del stride y del padding. (En matemáticas, una convolución voltea el filtro antes de aplicarlo; las redes no lo voltean, pero se le sigue llamando así.)

Ejemplo. Un filtro con columnas 1, 0 y −1 sobre una ventana con filas 9 · 9 · 1, 8 · 9 · 0 y 9 · 8 · 1 da 8 + 8 + 8 = 24: hay un borde de claro a oscuro.

Se presenta en 06 · Redes neuronales y CNNsAparece en 2 lecciones

Copia de tráfico

traffic mirroring

El mecanismo que manda una copia de cada request (o de una muestra) a un segundo destino, cuya respuesta se descarta. Es lo que hace posible un shadow (despliegue en sombra).

La copia se puede hacer en tres lugares: en el propio programa (el gateway decide y copia), en una malla de servicios (una capa de red que pone un programita, el sidecar, junto a cada servicio) o en la plataforma (un balanceador que la soporte). Donde sea, la regla es la misma: la copia no debe frenar ni cambiar la respuesta original. Por eso va en una tarea aparte, con su propio plazo y una cola acotada que tira copias si se llena. La muestra se elige con una asignación por hash para que sea repetible.

Ejemplo. El gateway de Alba calcula el SHA-256 del request_id, lee los primeros 8 caracteres de esa huella como un número y copia si ese número, módulo 10,000 (el residuo de dividir entre 10,000), da menos de 1,000: de 100,000 ids copia 9,955, casi el 10 %.

Se presenta en 56 · Rollout seguro

Corrida

run

Un entrenamiento anotado: lo que se decidió antes (parámetros), lo que se midió (métricas), etiquetas para encontrarlo (tags) y los archivos que produjo (artefactos).

La corrida es la unidad del seguimiento de experimentos. Tiene cuatro tipos de cosa: parámetros, que no cambian (el learning rate o lr, las épocas, la semilla, el id del snapshot de datos); métricas, que pueden tener un valor por paso o por época (curva de métricas por época); tags, textos para buscar y explicar (commit, digest de la imagen); y artefactos, archivos (el checkpoint final, labels.json). Las corridas se agrupan en experimentos. Un reintento debe reanudar la misma corrida, no abrir otra.

Ejemplo. La corrida resnet50-2026-10-01 de Alba guarda lr 3e-4, 8 épocas, batch 64, semilla 17 y ds-2026-09-01 como parámetros; la pérdida y val_top1 de cada época; el commit c3f2fc2 y el preproceso 1.4.0 como tags; y el checkpoint final de ≈ 294 MB como artefacto. Las de prueba llevan el sufijo -prueba-N.

Se presenta en 49 · Entrenamiento y experimentosAparece en 2 lecciones

Corrutina

coroutine

Una función que se puede pausar a la mitad y continuar después, donde se quedó y con sus variables intactas. En Python se define con async def, y cada await es un punto donde se pausa para que corra otra.

Llamar a una función async def no la corre: crea una corrutina, que alguien tiene que esperar con await o entregarle al event loop como tarea (asyncio.create_task, asyncio.gather). Solo dentro de otra corrutina se puede usar await. Pausarse y volver es mucho más barato que cambiar de hilo, y por eso un proceso puede tener miles de corrutinas esperando a la vez. Una corrutina suelta el turno solo en sus await: entre uno y otro, nadie más corre en ese loop.

Ejemplo. async def atender(): datos = await leer(); return await triton(datos) se pausa dos veces: mientras llegan los bytes y mientras responde Triton, el servidor del modelo. En esas pausas, el loop atiende a otras requests.

Costo por predicción

cost per prediction (per 1,000 predictions)

Lo que cuesta cada predicción, normalmente por cada 1,000: el precio por hora entre las predicciones que de verdad se hacen en esa hora. Manda la utilización: qué parte de lo que la GPU podría hacer le llega de verdad.

US$ por 1,000 = US$ por hora ÷ (predicciones por hora ÷ 1,000). Las predicciones por hora son las que llegan, no las que la GPU podría hacer. Por eso una GPU que trabaja al 5 % cuesta 20 veces más por predicción que a tope, con la misma factura. Es la manera correcta de comparar GPUs: una que cuesta el doble y atiende el triple sale más barata. Se mide con una prueba de carga con el modelo real.

Ejemplo. Alba, el marketplace del curso: 2 T4 cuestan ≈ US$768 al mes y, con ≈ 116 fotos por segundo, hacen ≈ 304.8 M predicciones, o 304,848 grupos de 1,000: 768 ÷ 304,848 ≈ US$0.0025 por 1,000, solo de GPUs (con toda la infraestructura, ≈ US$0.006). Una T4 a tope (≈ 1,200 por segundo) daría ≈ US$0.00012.

CPU

CPU · central processing unit · procesador

El procesador de una computadora: pocos núcleos muy capaces, de 8 a 16 en una laptop y decenas en un servidor, que hacen cualquier tipo de trabajo, uno tras otro, muy rápido.

Corre el sistema operativo, el código de Python, la lectura de archivos y la red. Al entrenar, la CPU prepara los batches (leer las fotos, decodificarlas, la data augmentation) y la GPU hace las cuentas. Si la CPU no alcanza a preparar los datos, la GPU se queda esperando. Algunos modelos, como los árboles de un pronóstico de demanda, se entrenan solo en CPU.

Ejemplo. Un pronóstico de demanda de supermercado, con ≈ 490 millones de filas, se entrena en una máquina de 96 vCPU (núcleos virtuales), unas 2 a 3 horas cada domingo.

Se presenta en 04 · Cómo aprende un modeloAparece en 9 lecciones

CPU-bound

CPU-bound · limitado por la CPU

Un trabajo que tarda porque tiene muchas cuentas que hacer: mientras corre, un núcleo de la CPU está al 100 %. Se acelera con una CPU más rápida, repartiéndolo entre núcleos o calculando menos; aprovechar mejor las esperas no lo cambia, porque casi no espera.

Decodificar y redimensionar una foto, tokenizar texto en Python, armar un JSON enorme o correr un modelo en CPU son CPU-bound. Se reconoce porque el núcleo está al 100 % mientras tarda. En Python, varios hilos no aceleran un trabajo CPU-bound escrito en Python puro, por el GIL; sí lo aceleran varios procesos (multiproceso) o librerías escritas en C que sueltan el GIL, como Pillow, NumPy o PyTorch. Dentro de async (programación asíncrona), un trabajo CPU-bound congela al event loop: por eso va a un threadpool (grupo de hilos). No lo confundas con compute-bound, que dice si un chip, como la GPU, está limitado por calcular o por leer su memoria.

Ejemplo. El decode de una foto en el gateway de Alba, el marketplace del curso, cuesta ≈ 6 ms de CPU en promedio, y el de una foto web de 12 megapíxeles sin draft mode (el atajo que la decodifica ya reducida), de 40 a 80 ms. A 500 requests por segundo, son 500 × 0.006 s ≈ 3 vCPU ocupados todo el tiempo.

Credenciales temporales

temporary credentials

Credenciales que la nube entrega al asumir un rol y que caducan solas, normalmente en una hora. El programa pide unas nuevas antes de que venzan.

Lo contrario de una credencial estática (una llave de acceso que vale hasta que alguien la borre). Si se filtran, sirven minutos y no meses, y solo para lo que permite el rol. En AWS las da STS (Security Token Service), el servicio que cambia una prueba de identidad por credenciales. Son el último escalón de la escalera de secretos: «la mejor forma de manejar un secreto es no tenerlo».

Ejemplo. Una llave de AWS en un repositorio sirve hasta que alguien la rote; unas credenciales temporales copiadas de un log vencen en ≈ 1 hora.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 4 lecciones

Criterio de promoción

promotion criteria

La regla, escrita antes de empezar, que dice qué tiene que cumplir una versión en un peldaño para subir al siguiente.

Se escribe antes por la misma razón que los umbrales de un gate: si se elige después de ver los números, siempre se puede justificar lo que uno quería. Un buen criterio compara contra el estable en la misma ventana, dice su ventana y su n mínimo, y exige que las señales estén verdes durante todo el paso, no solo al final. Su espejo es el rollback automático.

Ejemplo. En el shadow de Alba: acuerdo top-1 ≥ 90 %, p99 ≤ 1.1 × el del champion, cero crashes y ninguna de las 20 categorías más grandes con acuerdo < 85 %. En el canary: los cuatro criterios relativos verdes durante las 4 h de cada paso.

Se presenta en 56 · Rollout seguro

Crop

crop

Recortar una imagen para quedarte con un pedazo. El center crop toma un cuadro del centro.

Muchos modelos de visión esperan una entrada cuadrada de tamaño fijo. Recortar del centro asume que lo importante está en medio: si el tenis estaba en una orilla, se puede quedar fuera.

Ejemplo. De 256 × 341, el center crop de 224 × 224 quita 16 píxeles de cada lado a lo ancho, y 58 arriba y 59 abajo.

Se presenta en 02 · Una foto, vista por un modeloAparece en 3 lecciones

CSV

comma-separated values

Un formato de texto para tablas: una fila por línea, los campos separados por comas y, casi siempre, los nombres de las columnas en la primera línea. Simple, universal y frágil.

Lo abre cualquier programa, desde Excel hasta una base de datos. Se rompe con lo que el dato comparte con el formato: una coma o un salto de línea dentro de un campo (la regla es encerrarlo entre comillas y duplicar las comillas de adentro), un separador distinto (punto y coma en los países con coma decimal) o una codificación distinta de UTF-8. Y no trae tipos: todo es texto, y quien lee adivina. Un código 007 se vuelve 7, una fecha se voltea. Nunca se parte con split(","): se lee con un lector que entienda las comillas, como el módulo csv de Python. Sirve para tablas chicas y para personas; para millones de filas, Parquet.

Ejemplo. La fila 007,"Tenis naranjas, talla 26",899.50 tiene 3 campos; partida con split(",") salen 4, y convertida a números el código queda en 7.

Se presenta en 27 · Archivos y formatos: JSON, CSV, Parquet y YAMLAparece en 3 lecciones

Cuantización

quantization

Guardar los números de un modelo con menos bits, como enteros más una escala compartida: valor ≈ escala × entero. Baja la memoria y puede acelerar, a cambio de cambiar un poco las respuestas.

En la versión simétrica, escala = máximo ÷ 127 (en INT8) y entero = redondear(valor ÷ escala); el error es, a lo mucho, media escala. La asimétrica agrega un punto cero: valor ≈ escala × (entero − punto cero). Un valor atípico agranda la escala para todo el grupo, así que se usan escalas por canal o por grupo y rangos que recortan extremos. Para las activaciones se calibra con unos cientos de ejemplos reales (calibrar aquí es medir rangos, no la calibración de probabilidades). PTQ (post-training quantization) cuantiza un modelo ya entrenado; QAT (quantization-aware training) entrena simulando el redondeo. Ningún modelo cuantizado sale sin prueba de paridad y sin medir la calidad por categoría y por slice.

Analogía. Medir con una regla: la escala es la separación entre sus rayitas. Con rayitas de un milímetro mides fino; si la regla tiene que llegar a un kilómetro con las mismas rayitas, cada una mide metros y lo chico se pierde. Se rompe en que una regla de verdad tiene las rayitas fijas; en la cuantización se eligen para cada grupo de números, según su rango.

Ejemplo. Con pesos de −2.5 a 2.5, la escala es 2.5 ÷ 127 ≈ 0.0197: el 0.1 se guarda como 5 y vuelve como 0.0984. Así, la ResNet-50 de Alba, el marketplace del curso, pasa de 98 MB a 25.1 MB.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 5 lecciones

Cuarentena de una partición

data quarantine

Apartar una partición de datos (un pedazo de la tabla, casi siempre un día) que falló sus chequeos, sin borrarla, en un lugar donde nada la lee, y avisar a su dueño.

Es mejor que borrarla, porque queda para investigar y, si el dueño la corrige, se vuelve a revisar y entra. Y es mejor que dejarla pasar, porque nadie entrena con un día roto sin saberlo. Las demás particiones siguen su camino.

Ejemplo. Si el lote de correcciones de un día llega con hora local sin zona, la revisión de entrada de Alba lo manda a cuarentena y avisa a su dueño; los otros días siguen al data lake.

CUDA

Compute Unified Device Architecture

La plataforma de NVIDIA para programar sus GPUs: un lenguaje, un compilador y bibliotecas con el trabajo ya hecho, como cuBLAS para multiplicar matrices. PyTorch la usa por debajo. Solo funciona en GPUs de NVIDIA.

Existe desde 2007. Con CUDA se escriben kernels, las funciones que corren en la GPU, y sus bibliotecas traen los más comunes ya hechos: cuBLAS multiplica matrices (viene con CUDA); cuDNN hace convoluciones, NCCL (se dice «nickel») pasa datos entre GPUs y TensorRT convierte un modelo en un engine para una GPU concreta (esas tres, NVIDIA las publica aparte). Su versión importa: el runtime de CUDA va dentro de tu imagen, y el driver de la máquina tiene que ser lo bastante nuevo para él (cualquier 12.x corre con un driver 525 o más nuevo; 13.x, con uno 580 o más). AMD tiene su propia plataforma (ROCm) y las TPUs, los chips propios de Google, otra (XLA). Ese ecosistema es buena parte de por qué casi todo el ML corre en NVIDIA. Los «CUDA cores» son carriles de cálculo, no núcleos completos.

Ejemplo. La imagen de Triton de Alba, la empresa de ejemplo del curso, tritonserver:24.08, trae CUDA 12.6, cuDNN 9.3 y TensorRT 10.3. Esas bibliotecas son la mayor parte de sus ≈ 9.2 GB.

Se presenta en 18 · CPU y GPUAparece en 11 lecciones

Cuello de botella

bottleneck

El recurso que se satura primero en una cadena. Fija el throughput máximo (lo que se termina por segundo) de todo el sistema, y su fila es la que domina la latencia.

Una request pasa por varios recursos en fila (red, CPU, GPU), y el throughput de la cadena es el del más angosto. Mejorar los demás no cambia nada. Se encuentra comparando la utilización de cada recurso o, en producción, mirando qué fila crece: el histograma del preproceso, el tiempo en la fila de Triton, la red. A menudo no es la pieza más cara.

Analogía. Una cadena de tubos: el agua que sale por segundo la decide el más angosto. Se rompe en que un sistema real tiene filas antes de cada tubo, y el más angosto también es donde más se espera.

Ejemplo. Alba en el pico de diseño: la red de cada nodo del gateway va al ≈ 77 %, la CPU de cada pod al 60 % y cada T4 al ≈ 21 %. El cuello de botella es la red, no la GPU: por eso la mejora anotada es mandar el tensor en uint8.

Cuenta de la nube

cloud account

El contenedor donde viven tus recursos, tu factura y tus permisos en un proveedor. En AWS (la nube de Amazon) es una cuenta (un número de 12 dígitos); en Google Cloud, un proyecto; en Azure, una suscripción.

Todo lo que creas cae en una cuenta, y todo lo que se cobra va a su factura. Las empresas usan varias (desarrollo, producción, datos sensibles) para que un error en una no toque las otras y para separar costos. El usuario dueño, que puede hacerlo todo, se guarda bajo llave; el trabajo diario se hace con identidades de permisos acotados (IAM). Las cuotas se cuentan por cuenta y por región.

Ejemplo. El clasificador de fotos de Alba, el marketplace que sigue el curso, vive en la cuenta de producción de Alba, en us-east-1; sus pruebas, en otra cuenta, para que una máquina olvidada no se mezcle con la factura de producción.

Se presenta en 38 · Qué es la nubeAparece en 3 lecciones

Cuenta de servicio

service account

La identidad de un programa, no de una persona. En Kubernetes es un objeto con nombre, como classifier/triton; cada pod corre con una y recibe un token firmado que prueba quién es.

Un programa no debe usar el usuario de una persona: si ella se va, el servicio se cae, y si el programa se compromete, el atacante actúa como ella. En Google Cloud también se llaman cuentas de servicio; en AWS ese papel lo hace un rol. Con la identidad del workload, la cuenta de servicio de Kubernetes se conecta con un rol de la nube.

Ejemplo. El pod de Triton corre con la cuenta triton del namespace classifier; solo esa cuenta puede asumir el rol alba-triton.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 2 lecciones

Cuota de servicio

service quota

Un límite administrativo de cuántos recursos de un tipo puede tener tu cuenta en una región. Si te pasas, la nube te dice que no al instante; se arregla pidiendo más, con anticipación.

Cada nube cuenta distinto: AWS cuenta vCPUs por grupo de familias (una cuota para instancias G y VT on-demand, otra para P, otra para spot), Google cuenta GPUs por modelo y región más una cuota global (GPUS_ALL_REGIONS), y Azure cuenta vCPUs por familia. Se pide para el máximo (autoscaler, despliegues, staging, CI) y antes de lanzar, porque aumentarla puede tardar. Tener cuota no garantiza que haya máquinas: eso es la capacidad.

Ejemplo. Alba, el marketplace del curso: (4 del autoscaler + 1 al desplegar + 1 staging + 1 CI) × 4 vCPU = 28 vCPU de instancias G en us-east-1.

Se presenta en 40 · Máquinas, GPUs y cómo se cobranAparece en 5 lecciones

Cuota por cliente

per-caller quota

Un presupuesto de requests (o de tokens de un modelo de lenguaje) para cada identidad verificada, normalmente con un token bucket (un balde de fichas que se rellena a ritmo fijo) por cada client_id, el nombre del cliente. Quien se pasa recibe 429 él solo, sin afectar a los demás.

La identidad decide la cuota: sale del client_id del token verificado, nunca de un header que el cliente escribe ni de la IP (detrás de una red compartida hay muchos clientes, y uno solo puede usar muchas). Se implementa con un token bucket y responde 429 con Retry-After. Si el balde vive en la memoria de cada pod, cada uno da la parte que le toca (la cuota entre el número de pods), y es aproximado; uno compartido en Redis es exacto pero agrega una pieza que se puede caer. La cuota no reemplaza un tope de requests en vuelo: varios clientes dentro de su cuota pueden, juntos, saturar el servicio, y eso es un 503 (servicio no disponible).

Ejemplo. El servicio de moderación tiene 50 requests por segundo con ráfagas de 100 en el clasificador de Alba. Con el gateway en 5 pods y el balde en memoria, cada pod le da 10 por segundo y ráfagas de 20.

Se presenta en 44 · Autenticación y permisosAparece en 2 lecciones

Curva de aprendizaje

learning curve · training curve

La gráfica de la pérdida (loss, el número que mide qué tan equivocado está el modelo) o de una métrica, en entrenamiento y en validación al final de cada época. Muestra si el modelo aprende, si memoriza o si no aprende nada.

Si las dos líneas bajan juntas, aprende. Si la de entrenamiento baja y la de validación sube, hay overfitting. Si las dos se quedan altas, underfitting. Se guarda con cada entrenamiento porque un número final solo no muestra nada de eso.

Ejemplo. Loss de validación: 2.15 en la época 1, 0.80 en la 8 (su punto más bajo) y 1.15 en la 20. El mejor checkpoint es el de la época 8.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 2 lecciones

Curva de métricas por época

per-epoch metric curve

La pérdida y la exactitud de validación anotadas al final de cada época (cada pasada completa por las fotos de entrenamiento) de una corrida. Muestra cómo se llegó al número final y distingue una corrida sana de una con overfitting o con el learning rate roto.

Un número final no dice cómo se llegó a él. La curva por época sí: en una corrida sana, la exactitud de validación sube rápido y se aplana; con overfitting, sube hasta una época y luego baja mientras la pérdida de entrenamiento sigue bajando; con el learning rate roto, la pérdida no baja de ≈ ln(número de clases), sube o da NaN. Es la curva de aprendizaje anotada en cada corrida, para ponerla junto a la del mes anterior.

Ejemplo. En Alba, val_top1 (el top-1 en validación) por época de una corrida sana va de ≈ 78.9 % a ≈ 85.4 % y se aplana (números ilustrativos). Si en otra el máximo es 84.8 % en la época 5 y termina en 82.9 %, el número final esconde su mejor época: es overfitting.

Curva PR

precision–recall curve · PR curve · average precision

La gráfica de la precision contra el recall de un modelo, para todos los umbrales posibles. Con clases muy desbalanceadas, como el fraude, dice la verdad cuando la curva ROC se ve demasiado bien.

Cada umbral es un punto: a lo ancho, el recall; a lo alto, la precision. Un modelo al azar queda en una línea horizontal a la altura de la prevalencia (la fracción de positivos), no en la diagonal. El área bajo la curva se llama average precision (AP) o PR-AUC, y su promedio entre clases es el mAP de la detección de objetos. A diferencia de la curva ROC, no usa los verdaderos negativos, así que una clase negativa gigantesca no la infla.

Ejemplo. Un detector de fraude, con 0.08 % de fraude, atrapa 70 % del fraude marcando 1 % de las compras buenas. En la ROC es el punto (1 %, 70 %), casi perfecto. En la PR es una precision de 5.3 %: de cada 100 compras marcadas, ≈ 95 son de clientes honestos.

Curva ROC

ROC curve · receiver operating characteristic

La gráfica de qué fracción de los «sí» encuentra el modelo (recall) contra qué fracción de los «no» marca por error, para todos los umbrales posibles.

Cada umbral es un punto: a lo ancho, la tasa de falsos positivos, FP / (FP + TN): los falsos positivos (FP) entre todos los negativos, que son los FP más los verdaderos negativos (TN); a lo alto, el recall. Un modelo al azar va por la diagonal; uno perfecto sube pegado a la izquierda. Como divide entre todos los negativos, con clases muy desbalanceadas se ve demasiado bien: ahí conviene la curva PR. El nombre viene de los radares de la Segunda Guerra Mundial.

Ejemplo. Con 10 fotos (4 de tenis): umbral 0.80 → 0 % de falsos positivos y 50 % de recall; 0.50 → 17 % y 75 %; 0.30 → 33 % y 100 %.

CVE

CVE (Common Vulnerabilities and Exposures)

El identificador público de un fallo de seguridad conocido, como CVE-2023-43654, con su descripción, las versiones afectadas, la que lo corrige y su gravedad.

Cada CVE trae una calificación CVSS (Common Vulnerability Scoring System) de 0 a 10; de 9.0 a 10 se llama crítica. Gracias a los CVE no tienes que leer el código de cada biblioteca: te basta saber qué versiones traes (SBOM) y cruzarlas con la lista pública (escaneo). Un fallo que nadie conoce todavía no tiene CVE, y ningún escaneo lo ve.

Ejemplo. CVE-2023-43654, el fallo principal de ShellTorch, en TorchServe (un servidor de modelos de PyTorch): su API de administración podía cargar un modelo de cualquier dirección, y eso terminaba en correr código del atacante. La NVD (la base pública de vulnerabilidades del gobierno de Estados Unidos) le dio 9.8 (crítica) y el aviso de GitHub, 10; se corrigió en la versión 0.8.2.

Se presenta en 46 · Ataques y cadena de suministroAparece en 2 lecciones

D

DaemonSet

DaemonSet

Un objeto de Kubernetes que pone una copia de un pod en cada nodo que cumple una condición, y una más en cada nodo nuevo. Se usa para lo que tiene que estar en todas las máquinas.

Un Deployment pide N réplicas y Kubernetes elige dónde ponerlas; un DaemonSet pide «una en cada nodo». Sirve para agentes que trabajan con algo local del nodo: el recolector de logs (Fluent Bit), el agente de métricas del nodo o el plugin que hace visible la GPU. Cuando el autoscaler agrega un nodo, el DaemonSet le pone su pod.

Ejemplo. Alba corre Fluent Bit como DaemonSet: cada nodo del gateway tiene el suyo leyendo los logs de ese nodo. Otro es el plugin de NVIDIA en los nodos con GPU.

DAG

DAG (directed acyclic graph)

Un grafo dirigido acíclico: pasos unidos por flechas que dicen «este va después de aquel», sin ciclos. Es como se describe un pipeline.

Dirigido, porque cada flecha tiene sentido (de una dependencia a quien la necesita); acíclico, porque un paso no puede esperar, aunque sea de rebote, a uno que lo espera a él: nadie empezaría. Con el DAG, el orquestador sabe qué pasos pueden correr a la vez (los que no dependen entre sí) y cuál es el camino más largo, que fija cuánto tarda todo.

Ejemplo. El pipeline mensual de Alba: validar datos → armar snapshot → fine-tune → evaluar → gate (el examen que decide si el modelo nuevo entra) → construir el engine (el modelo compilado para la GPU) en una T4 → paridad (comparar el engine con el original) → registrar. 8 pasos en fila, 4 con GPU (dos en una A10G y dos en una T4).

Dashboard

dashboard

Una página de gráficas en vivo que muestra las métricas de un sistema. En Alba se arman en Grafana, un programa de gráficas que consulta a Prometheus.

Un dashboard sirve si contesta rápido la pregunta de quien lo mira, así que se hace uno por audiencia: la guardia necesita ver en segundos si el SLO está en peligro; el equipo de ML, cómo se comporta el modelo por versión; producto, el negocio día a día. Uno que sirve a los tres no le sirve a ninguno. Un dashboard no avisa: para eso están las alertas.

Ejemplo. Los cuatro de Alba: servicio (el SLO y el presupuesto arriba, con marcas de deploy), Triton y GPU, modelo (todo por model_version) y negocio (diario).

Se presenta en 58 · Monitoreo, drift y reentrenamientoAparece en 2 lecciones

Data augmentation

data augmentation · aumento de datos

Hacer variaciones de las fotos de entrenamiento que no cambian su etiqueta (voltearla como espejo, recortar un poco distinto, cambiar el brillo) para que el modelo aprenda que esos cambios no importan.

Se aplica solo en train y al azar en cada pasada, así que el modelo casi nunca ve dos veces la misma imagen exacta. Validación y test van sin cambios. No inventa información: 40 fotos de las mismas 3 monedas siguen siendo 3 monedas.

Ejemplo. Unos tenis volteados como espejo siguen siendo tenis. Un 6 de cabeza es un 9: para leer texto, esa variación cambia la respuesta.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 5 lecciones

Data lake

data lake

Un object storage donde llegan todos los datos de una empresa como archivos, crudos y procesados, para que cualquier herramienta los lea. Es la fuente de verdad de lo que se prepara sin que nadie espere: de ahí salen los datasets de entrenamiento y los recálculos del pasado.

Suele tener zonas, cada una con su prefijo: crudo (tal como llegó, por ejemplo JSON lines), procesado (limpio, en Parquet) y curado (tablas listas, como un dataset o los agregados diarios). Los datos se organizan en particiones por fecha para leer solo lo necesario. Lo leen Spark, DuckDB, Athena o un script de Python. Es barato y no obliga a nada: cualquiera escribe cualquier archivo, y el esquema lo descubre quien lee. Sin reglas se vuelve un pantano. Le faltan las transacciones de un warehouse; un lakehouse se las agrega encima.

Ejemplo. El log de predicciones del clasificador de Alba llega al lake cada pocos minutos, en Parquet particionado por dt=: ≈ 0.3 a 0.6 GB al día. De ahí salen el monitoreo de drift y el dataset de cada reentrenamiento.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 4 lecciones

Data warehouse

data warehouse

Una base de datos hecha para analizar: guarda las tablas por columnas y responde consultas en SQL (el lenguaje para pedirle datos a una tabla) sobre millones de filas repartiendo la consulta entre muchas máquinas. Los más usados son BigQuery, Snowflake y Redshift.

Es la respuesta al lado OLAP: consultas que tocan muchísimas filas pero pocas columnas. Guarda cada columna junta y comprimida, así que leer tres columnas de treinta cuesta una fracción. Separa el almacenamiento del cálculo: guardas mucho barato y rentas máquinas solo mientras corre la consulta. Algunos cobran por bytes leídos (BigQuery, en su modo por consulta, US$6.25 por TiB en 2026), y ahí las particiones y elegir columnas se vuelven dinero. Frente a un data lake da tablas con transacciones, esquema revisado al escribir y SQL rápido, a cambio de costar más y de que hay que cargarle los datos. Muchas empresas tienen los dos.

Ejemplo. Un analista de Alba pregunta cuántas predicciones hubo por categoría en octubre y cuántas aceptó la gente. Con particiones por día y tres columnas, la consulta lee unos pocos GB en vez del año entero.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 2 lecciones

DataLoader

DataLoader

La pieza de PyTorch que le pide ejemplos a un Dataset (la clase que sabe leer cada ejemplo) y los junta en batches (grupos), con procesos aparte (workers) que los preparan mientras la GPU trabaja.

Un Dataset dice cuántos ejemplos hay (__len__) y entrega el número i ya listo (__getitem__), cargándolo solo cuando se lo piden. El DataLoader arma los batches. Sus opciones importantes: batch_size; shuffle=True, que revuelve el orden en cada época (con un generator con semilla, igual en cada corrida); num_workers, cuántos procesos preparan batches, procesos y no hilos por el GIL; y pin_memory=True, que deja cada batch en RAM fijada para copiarlo más rápido a la GPU. Los workers pasan los batches por memoria compartida (/dev/shm), y Docker da solo 64 MiB ahí: con varios workers, el entrenamiento truena con un bus error y se arregla con --shm-size=1g. Con workers, el script necesita su if __name__ == "__main__": en macOS, en Windows y, desde Python 3.14, también en Linux, porque cada worker arranca un Python nuevo que vuelve a leer el archivo.

Ejemplo. El entrenamiento de Alba usa batches de 64 y 8 workers: si la GPU consume ≈ 700 fotos por segundo y un worker prepara ≈ 100, hacen falta 7, y con margen 8.

Se presenta en 34 · PyTorch en lo que toca a producciónAparece en 2 lecciones

Dataset

dataset · conjunto de datos

Una colección de ejemplos, guardada y ordenada, con la que se entrena o se evalúa un modelo.

Cada ejemplo trae la entrada (la foto) y, casi siempre, su etiqueta (la categoría correcta). En producción no basta con tenerlo: hay que poder decir exactamente con cuál dataset se entrenó cada modelo.

Ejemplo. El dataset de septiembre de Alba son ≈ 1.93 millones de fotos con su categoría: 72 % la que eligió quien vende (filtrada), 7 % correcciones de moderación y 21 % etiquetadas a mano.

Se presenta en 00 · El camino completoA fondo en 03 · Datos, ejemplos, features y etiquetasAparece en 7 lecciones

Dato personal

personal data

Cualquier información de una persona identificada o identificable: que dice quién es, o que junto con otros datos permite saberlo. Una cara, las coordenadas GPS de una foto, un correo o un id interno que se puede unir con otra tabla.

Es el concepto que usan las leyes de México (LFPDPPP) y de Europa (GDPR), y es más amplio que PII. «Identificable» es la parte que importa en machine learning: casi nunca hay nombres en un dataset, pero sí hay cosas que llevan a la persona, como el EXIF de una foto, una placa, una dirección IP o un request_id que el backend une con una cuenta. Un dato seudónimo sigue siendo dato personal; uno anónimo de verdad deja de serlo. Algunos son sensibles y piden más protección.

Ejemplo. En Alba, la foto de los tenis de Ana es dato personal porque está ligada a su publicación y a su cuenta. «El 4 % de las fotos de hoy fueron de bicicletas» no lo es: es un conteo de millones de fotos.

Se presenta en 45 · Datos personales y la leyAparece en 2 lecciones

Dato personal sensible

sensitive data · special categories

Un dato personal que puede causar discriminación o un riesgo grave si se escapa o se usa mal: salud, origen étnico o racial, creencias, opiniones políticas, preferencia sexual, genética. Las leyes piden más seguridad y un permiso más fuerte: en México, consentimiento expreso y por escrito.

En Europa se llaman «categorías especiales» y suman la vida sexual, la afiliación sindical y la biometría para identificar. Una cara en una foto es dato personal, pero se vuelve dato biométrico sensible cuando se procesa para reconocer a la persona (sacar un vector de su cara y compararlo). Un dato de salud puede colarse sin que nadie lo busque: una receta en la foto de un medicamento, la etiqueta de una muestra médica. Para estos datos el consentimiento tiene que ser expreso (en México, además, por escrito: con firma o un mecanismo de autenticación), y conviene minimizarlos todavía más. En Europa, el consentimiento explícito es una de las excepciones que enumera el GDPR para poder tratarlos; hay otras.

Ejemplo. La foto de un medicamento con la receta a nombre de la vendedora trae su nombre y un dato de salud: es dato sensible. La de unos tenis no.

Dead-letter queue (DLQ)

dead-letter queue

La cola a donde van los mensajes que fallaron demasiadas veces, para que dejen de tumbar a los workers (los programas que hacen el trabajo). Alguien los revisa, arregla el problema y los reenvía, o los da por fallidos.

Un mensaje venenoso (un archivo corrupto, un dato imposible) falla siempre: sin límite, vuelve y vuelve para siempre. La cola cuenta las entregas de cada mensaje y, al llegar a un máximo (maxReceiveCount en SQS, por ejemplo 5), lo mueve a la DLQ. La DLQ lleva su propia alerta (más de 0 mensajes) y más retención que la cola original. Reenviar los mensajes a la cola original, ya corregido el bug, se llama redrive. En un stream, el consumidor manda el evento malo a una DLQ y sigue con el siguiente offset, para no bloquear la partición.

Ejemplo. Con un visibility timeout de 15 minutos y maxReceiveCount de 5, un mensaje venenoso que cuelga al worker tarda 75 minutos en llegar a la DLQ. En un servicio que segmenta imágenes médicas, una imagen va a la DLQ después de 3 intentos.

Se presenta en 30 · Colas y streams: mensajes que esperanAparece en 3 lecciones

Deadline

deadline

El momento en que una request entera deja de importar. Cada programa por el que pasa (cada salto) calcula cuánto le queda y espera como máximo eso: min(su propio tope, lo que queda del deadline).

Un timeout es una duración por llamada; un deadline es una fecha límite para toda la request, que viaja con ella. Así ningún salto espera más de lo que le queda a quien lo llamó, y no hay trabajo zombi: servidores calculando respuestas que nadie va a leer. Con gRPC, el deadline viaja solo en el header grpc-timeout; con HTTP lo calcula cada programa. Entre máquinas se manda lo que queda (una duración), no la hora límite, porque sus relojes no coinciden exactamente.

Ejemplo. La cadena de Alba: el caller se rinde a los 300 ms; el gateway, a los 250 (para alcanzar a contestar un 504); la llamada a Triton tiene como tope 150 ms, y la fila de Triton rechaza a los 100. Si preparar la foto tomó 140 ms, quedan 250 − 140 = 110 ms, y a la llamada le toca min(150, 110) = 110 ms.

Se presenta en 25 · Timeouts, reintentos e idempotenciaAparece en 2 lecciones

Decisión automatizada

automated decision-making

Una decisión tomada solo por un sistema, sin que una persona la revise, que afecta a alguien de forma legal o igual de seria: negar un crédito, rechazar un empleo, suspender una cuenta. Las leyes dan derechos frente a ella: en Europa, a no quedar sujeto; en México, a oponerse.

En Europa, el GDPR da el derecho a no quedar sujeto a una decisión así, salvo excepciones (un contrato, una ley o el consentimiento explícito), y aun entonces a pedir que una persona la revise. La LFPDPPP de 2025 reconoce el derecho a oponerse a un tratamiento automatizado, sin intervención humana, que produzca efectos jurídicos no deseados o afecte de forma significativa los intereses, derechos o libertades de la persona. Lo que la vuelve «solo automatizada» es que nadie la revise; lo que la vuelve seria es el efecto. La defensa de diseño: una persona en los casos graves y poder explicar por qué se decidió.

Ejemplo. La sugerencia de categoría de Alba no lo es: Ana la ve y la cambia si quiere. Un modelo de fraude que cerrara cuentas sin que nadie revise, sí.

Decode

decode

La segunda fase de cada request (petición) a un modelo de lenguaje (LLM): escribir la respuesta de un token por paso. Cada paso lee todos los pesos del modelo y su memoria de lo ya leído (KV cache), y agrega un token.

Es la generación autorregresiva vista como trabajo de la GPU. Como cada paso produce un solo token por conversación, casi no hay cálculo por cada byte leído: manda la velocidad de la memoria (memory-bound). Lo que tarda un paso es el TPOT. Por eso los servidores juntan muchas conversaciones en cada paso: una sola lectura de los pesos les sirve a todas.

Ejemplo. Llama 3 8B (una familia de LLMs públicos de Meta) en BF16 (2 bytes por número) pesa ≈ 16.1 GB y una GPU L4 lee ≈ 300 GB por segundo: cada paso tarda al menos ≈ 54 ms, así que una conversación sola no pasa de ≈ 19 tokens por segundo.

Se presenta en 08 · Transformers y LLMsAparece en 3 lecciones

Decodificar

decode

Convertir un archivo de imagen comprimido (JPEG, PNG) en la cuadrícula de píxeles que representa. Antes de decodificar, la foto son bytes que no se pueden usar directamente.

Cuesta tiempo del procesador (CPU) y memoria: una foto de 12 MP pasa de ≈ 3 MB comprimida a ≈ 36.6 MB de píxeles. Distintas librerías, o distintas versiones de la misma, pueden dar píxeles ligeramente diferentes para el mismo JPEG. Como un archivo chiquito puede pedir muchísima memoria al decodificarse (una bomba de descompresión), primero se lee el tamaño del encabezado.

Ejemplo. En Alba, decodificar y preparar una foto toma ≈ 6 ms de CPU en promedio: tanto o más que la propia inferencia en la GPU (≈ 3 a 6 ms).

Se presenta en 02 · Una foto, vista por un modeloAparece en 6 lecciones

Deduplicación

deduplication · dedup

Encontrar las copias y casi copias de un mismo contenido para quedarse con una o tratarlas como grupo. Con embeddings (vectores en los que lo parecido queda cerca): si el coseno entre dos cosas pasa un umbral, se marcan como duplicadas.

Las copias exactas se detectan antes y más barato con un hash de los bytes (una huella que cambia si cambia un solo byte); los recortes, recompresiones y filtros, con un hash perceptual o con embeddings y un umbral elegido con pares revisados por personas. El umbral depende de qué cuesta cada error: antes de repartir un dataset conviene recall alto, para que la misma foto no quede en train y en test (leakage); en moderación, donde una decisión se aplica a todo el grupo, conviene precision alta. En un catálogo grande no se compara todo contra todo: para cada elemento nuevo se buscan sus vecinos más cercanos y solo a ellos se les aplica el umbral.

Ejemplo. Con 8 pares revisados (4 duplicados de verdad), un umbral de 0.95 marca 4 pares y acierta 3: precision 0.75 y recall 0.75. Uno de 0.90 encuentra los 4 duplicados (recall 1.0), con precision 0.67.

Deep learning

deep learning · aprendizaje profundo

Usar redes neuronales con muchas capas. «Profundo» se refiere a la cantidad de capas, no a nada filosófico.

Cada capa trabaja sobre lo que encontró la anterior, así que con muchas capas la red combina cosas simples (bordes) en cosas complicadas (un tenis). No hay un número oficial de capas a partir del cual algo es «deep». Despegó en 2012, cuando se juntaron muchos datos (ImageNet), GPUs y trucos para entrenar redes profundas.

Ejemplo. La ResNet-50 tiene 50 capas con pesos; una red de juguete, 2. Las dos son redes neuronales, pero solo la primera se llamaría profunda.

Defensa en profundidad

defense in depth

Poner varias capas de defensa, cada una pensada para frenar lo que se le escape a la anterior, en vez de confiar en una sola barrera.

Ninguna defensa es perfecta: un filtro tiene casos que no previó, una biblioteca tiene fallos sin descubrir, alguien configura mal un permiso. Si cada capa deja pasar un ataque con probabilidad pi y las capas fallan por causas distintas, la probabilidad de cruzarlas todas es el producto R=p1×p2×…×pnc. El supuesto clave es que fallen por causas distintas: por eso las buenas capas son de naturaleza distinta (código, red, permisos, proceso).

Analogía. Varias rebanadas de queso con hoyos: un ataque solo pasa si los hoyos de todas quedan alineados. Dónde se rompe: un mismo error (una plantilla mal hecha) puede abrir los hoyos de varias rebanadas a la vez.

Ejemplo. Una foto hostil contra el gateway de Alba cruza cuatro capas: la guarda de entrada (0.5), Pillow, la librería que abre las fotos, sin el fallo corregido (0.1), un pod sin root, es decir, sin permisos de administrador (0.2) y un permiso de S3 mal puesto (0.05), todos supuestos. R = 0.5 × 0.1 × 0.2 × 0.05 = 0.0005: una de cada 2,000.

Degradación

graceful degradation

Responder con algo más simple cuando la pieza buena falla, en vez de un error: el producto sigue funcionando, aunque peor.

Es la decisión de producto detrás del fallback: qué se da cuando el modelo no está. Un buen plan B es más barato que el camino normal y no depende de lo que falló. Se mide (cada fallback por motivo, con alerta), porque uno que se usa en silencio esconde una caída, y se ejercita a propósito, porque uno que nunca se usó puede fallar justo cuando hace falta. Muchos casos tienen una escalera de degradación: varios escalones, cada uno un poco peor y más barato que el anterior.

Ejemplo. En Alba, si no hay sugerencia, Ana elige la categoría a mano en el selector: publicar sigue funcionando, con un paso más. En un servicio que sirve su propio LLM, cuando la flota de GPUs no alcanza, primero se pausa el trabajo batch, después se recorta lo que hace cada request y, más abajo en la escalera, una parte se manda a un proveedor externo.

Denegación de servicio

denial of service (DoS)

Un ataque que no roba nada: busca que el servicio deje de contestar a los demás, con muchas requests (peticiones) o con pocas muy caras.

La forma clásica es saturar con volumen. En machine learning es común la otra: entradas que cuestan mucho procesar, como una bomba de descompresión, que pesa poco y ocupa cientos de MB al abrirse. Las defensas acotan tres cosas: el costo de cada entrada (topes de bytes y píxeles, tiempo límite), cuántas se procesan a la vez (un semáforo) y cuánto puede mandar cada identidad (rate limit y cuotas).

Ejemplo. El gateway de Alba acepta fotos de hasta 10 MB y 40 MP y decodifica 2 a la vez por pod. El peor momento de un pod es U = 240 + 2 × 320 = 880 MB (240 MB de base más 2 fotos de 320 MB ya abiertas), el 82 % de su límite de 1 GiB. Sin el semáforo, 40 fotos caras a la vez pedirían ≈ 13 GB.

Dependencia

dependency

Un paquete que tu código necesita para correr. Si tu servidor importa FastAPI, FastAPI es su dependencia.

Las que tú pides por su nombre son las directas, y van en el pyproject.toml con un rango de versiones que aceptas. Pero cada una pide otras, las transitivas, y todas juntas forman un árbol. En un site-packages cabe una versión de cada paquete: si una dependencia pide colores>=2.0 y otra colores<2, hay un conflicto de dependencias y pip se rinde. Algunas llevan una condición (marker) después de un ;, como colorama>=0.4; sys_platform == "win32": pytest la pide solo en Windows, así que el árbol cambia según la plataforma. La biblioteca estándar lee las de cada paquete con importlib.metadata.requires().

Ejemplo. El gateway de Alba pide 9 directas: fastapi, uvicorn, uvloop, httptools, pillow, numpy, tritonclient, aiohttp y prometheus-client.

Se presenta en 33 · Python, paquetes y entornosAparece en 5 lecciones

Dependencia del proveedor (lock-in)

vendor lock-in

Lo que te cuesta irte de un proveedor de nube: reescribir lo que usa sus APIs propias, rehacer procesos y pagar por sacar tus datos.

Te atan las APIs propias (un servicio que no existe en otra nube), los formatos y procesos (permisos, alarmas, despliegues), el egress (transferencia de salida) de los datos y los compromisos de gasto. Desde 2024, los tres grandes perdonan el egress si te vas por completo y lo pides; si solo copias datos afuera y te quedas, se cobra. Se acota con piezas estándar donde importa: contenedores, Kubernetes, MLflow, Parquet, la API de S3. Pero ser 100 % portable también cuesta, porque renuncias a servicios gestionados; la pregunta es cuánto costaría salir y si lo vas a necesitar.

Ejemplo. Copiar un dataset de 50 TB de S3 a otro proveedor cuesta ≈ 10,000 × 0.09 + 40,000 × 0.085 ≈ US$4.3k de egress, cada vez.

Se presenta en 38 · Qué es la nubeAparece en 4 lecciones

Dependencia transitiva

transitive dependency

Un paquete que llega porque lo pide algo que tú pediste, en cualquier nivel del árbol. Nadie lo pidió por su nombre, pero igual corre en producción.

FastAPI necesita Starlette (la parte que habla HTTP) y Pydantic (la que valida datos), y Pydantic necesita pydantic_core: Starlette, Pydantic y pydantic_core son transitivas del gateway. Un mismo paquete puede colgar de dos ramas, como idna, que piden anyio y yarl, pero se instala una sola vez. Como pueden cambiar de versión sin que nadie las toque, se fijan todas en el lock file, no solo las directas.

Analogía. Invitas a cuatro amigos y cada uno trae a sus amigos: en la fiesta hay gente que no conoces, y también rompe cosas. Se rompe en que aquí sí puedes saber quién llegó: el lock file trae la lista completa de invitados.

Ejemplo. El gateway pide 9 y le llegan 37: 28 son transitivas, ≈ 3.1 por cada directa. Tres de cada cuatro paquetes del gateway (28 de 37, ≈ 76 %) nadie los pidió por su nombre.

Se presenta en 33 · Python, paquetes y entornosAparece en 2 lecciones

Deploy

deployment · desplegar

Poner a responder a la gente de verdad una versión nueva de un modelo o de un programa, en lugar de la anterior.

Es el puente del camino offline al camino online: la única forma en que lo que se entrenó le llega a alguien. Casi nunca se hace de golpe: primero la versión nueva atiende una fracción chica del tráfico, se vigila y, si todo va bien, recibe más. Si algo empeora, se regresa a la versión anterior (rollback).

Ejemplo. En Alba, un modelo aprobado responde primero 5 de cada 100 fotos, luego 25 y luego todas. Si suben la latencia o los errores, se regresa solo a la versión anterior.

Se presenta en 00 · El camino completoA fondo en 56 · Rollout seguroAparece en 8 lecciones

Deployment

Deployment

Un objeto de Kubernetes que mantiene corriendo varias copias de un pod y las cambia de versión poco a poco cuando cambias su plantilla.

El Deployment no maneja pods directamente: maneja ReplicaSets. Cada vez que cambia la plantilla del pod (la imagen, los recursos, una probe), crea un ReplicaSet nuevo y pasa las copias del viejo al nuevo con un rolling update. Guarda los ReplicaSets anteriores (revisionHistoryLimit) para poder regresar. Cambiar solo el número de réplicas no crea versión nueva.

Ejemplo. Alba tiene un Deployment por versión del modelo: triton-v14 sirve resnet50-2026-10-01, con maxSurge: 1, maxUnavailable: 0, progressDeadlineSeconds: 900 y revisionHistoryLimit: 5. El gateway usa un Rollout de Argo Rollouts, con la misma plantilla de pod.

Se presenta en 55 · KubernetesAparece en 3 lecciones

Derecho al borrado

right to erasure · right to be forgotten

El derecho de una persona a que se borren sus datos personales cuando ya no deben estar. En un sistema de machine learning obliga a encontrar cada copia: registros (logs), carpetas de archivos en la nube (buckets), datasets, sus copias fechadas (snapshots) y, a la larga, el modelo.

Se hace en cuatro pasos: (1) encontrar todo por id (con el request_id y el hash de cada foto); (2) borrar de los buckets y sacar de los manifests (la lista de qué fotos forman cada snapshot), para que el siguiente snapshot ya no lo incluya; (3) el modelo ya entrenado no se desentrena (machine unlearning): el siguiente reentrenamiento se hace sin esos datos; (4) dejar constancia en el registro de auditoría, con ids y sin los datos. Un log con retención corta puede reescribirse o dejarse caducar; lo decide legal. En México es la «C» de los derechos ARCO.

Ejemplo. Cuando Ana pide borrar sus datos, Alba busca por request_id y hash, borra las copias del bucket de etiquetado y del golden set, si estaban, saca sus fotos del siguiente snapshot y su foto ya no está en el modelo del mes siguiente.

Se presenta en 45 · Datos personales y la leyAparece en 2 lecciones

Derechos ARCO

ARCO rights

Los cuatro derechos que la ley mexicana da a cada persona sobre sus datos: Acceso (saber qué tienes), Rectificación (corregirlo), Cancelación (que lo borres) y Oposición (que dejes de usarlo para algo).

Se ejercen ante la empresa responsable, por el medio que diga el aviso de privacidad, y la ley fija plazos para responder. En Europa, el GDPR da derechos parecidos, más la portabilidad (recibir tus datos en un formato que otro servicio pueda leer). Para machine learning, el de cancelación es el que pide más ingeniería: es el derecho al borrado y exige saber dónde está cada copia (mapa de datos). El de oposición incluye oponerse a decisiones automatizadas.

Ejemplo. Ana pide a Alba ver qué datos suyos tiene (acceso), corregir su ciudad (rectificación), borrar una publicación vieja con sus fotos (cancelación) y que no usen sus fotos para entrenar (oposición).

Desarrollo trunk-based

trunk-based development

Una forma de trabajar en equipo donde todos integran seguido a main, la rama principal, con ramas que viven horas o uno o dos días y pull requests (PRs) chicos, para que main siempre esté lista para publicarse.

Lo que no está terminado entra apagado detrás de una feature flag. Su alternativa clásica es gitflow (Vincent Driessen, 2010), con ramas largas: main, develop, feature/, release/ y hotfix/. Gitflow sirve para software que se publica por versiones numeradas; para un servicio que se despliega varias veces al día pesa, porque las ramas largas se separan y los merges grandes traen conflictos grandes. Trunk-based va de la mano de integración continua y del pull request con revisión.

Ejemplo. En Alba, un cambio al timeout vive en su rama unas horas, pasa la revisión y los tests en el PR y entra a main el mismo día.

Desbalance de clases

class imbalance

Cuando unas clases tienen muchísimos más ejemplos que otras. El modelo tiende a favorecer a las grandes, y el promedio esconde que falla en las chicas.

La accuracy engaña: un modelo que siempre dice la clase grande acierta mucho sin aprender nada. Se mide cada clase por separado (recall por clase, macro-promedio), se estratifica el split y se etiqueta más donde hay poco.

Ejemplo. 950 fotos de tenis y 50 de botas: un modelo que siempre dice «tenis» acierta 95 % y nunca reconoce unas botas. En fraude en pagos, 1 pago de cada 1,250 es fraude: decir siempre «no» acierta 99.92 %.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 2 lecciones

Descarga de una imagen (pull)

image pull

Bajar una imagen del registro (el servidor donde se guardan las imágenes) al disco de una máquina: cada capa que falta se baja, se descomprime y se deja lista. Solo cuenta lo que la máquina no tiene ya.

Su tiempo es lo que falta dividido entre el ritmo efectivo de bajar y descomprimir: P=(S−Sc)/v, con S el tamaño de la imagen, Sc lo que la máquina ya tiene y v ese ritmo. Es parte del arranque en frío de un contenedor nuevo y por eso pesa en las imágenes grandes. Poner lo que cambia en la última capa hace que una versión nueva baje solo esa capa.

Ejemplo. A ≈ 0.03–0.09 GB/s, la imagen del gateway de Alba (≈ 87 MB) baja en ≈ 1–3 s y la de Triton (≈ 9.2 GB) en ≈ 2–5 min. Un nodo que ya tiene la versión anterior de Triton baja solo el engine: unos segundos.

Se presenta en 53 · Empaquetado con DockerAparece en 2 lecciones

Descenso de gradiente

gradient descent

La regla para mejorar los parámetros (las perillas) de un modelo: mover cada uno un pasito en contra de su gradiente. Parámetro nuevo = parámetro − learning rate (el tamaño del paso) × gradiente.

Se repite paso tras paso: cerca del fondo el gradiente se achica y los pasos también, sin que nadie cambie el learning rate. Si el learning rate es demasiado grande, cada paso se pasa del fondo al otro lado y la pérdida explota. Con el gradiente de un batch al azar se llama descenso de gradiente estocástico (SGD); los optimizadores como momentum y Adam son variaciones de la misma idea.

Ejemplo. w = 0, gradiente −24, learning rate 0.05: w nueva = 0 − 0.05 × (−24) = 1.2, y la pérdida baja de 36 a 12.96.

Deserialización insegura

insecure deserialization

Convertir bytes ajenos en objetos vivos con un formato que, al hacerlo, puede correr lo que los bytes pidan. El ejemplo típico en machine learning es abrir un pickle (el formato de Python que guarda objetos) de una fuente desconocida.

Deserializar es reconstruir objetos a partir de bytes. Formatos como JSON o safetensors solo traen datos. Un pickle trae instrucciones, y una de ellas es «llama a esta función con estos argumentos», cualquiera. Los .pt, .pth y .bin de PyTorch y muchos modelos de scikit-learn son pickles. Defensas: usar safetensors u ONNX; si hace falta abrir un pickle de PyTorch, weights_only=True (por omisión desde PyTorch 2.6) en una versión al día; y saber de dónde viene el archivo y verificar su sha256.

Ejemplo. Si el pod de Triton abriera un .pt hostil, el código del atacante correría con los permisos de ese pod: sus credenciales temporales, su red y la memoria donde pasan las fotos. Por eso Alba carga un engine (el modelo ya compilado para su GPU) que sale de ONNX, un formato que solo trae datos, con su sha256 verificado.

Desfase de relojes

clock skew

La diferencia entre lo que marcan los relojes de dos máquinas. Nunca es cero: por eso no se ordenan eventos de dos máquinas por su hora ni se mide una latencia restando sus horas.

El reloj de una computadora es un cristal de cuarzo que se adelanta o se atrasa unas partes por millón: con 20, ≈ 1.7 segundos al día. Para corregirlo, cada máquina consulta un servidor de hora con NTP (Network Time Protocol), pero la red tarda en traer la respuesta, y queda un desfase: decenas de milisegundos por internet, menos de un milisegundo en una red local en buenas condiciones (y microsegundos con el reloj de hardware del Amazon Time Sync Service, en las instancias de AWS que lo tienen). Consecuencias: un log puede mostrar que una request llegó antes de salir; una latencia medida entre dos máquinas puede salir negativa; un reloj corrido días rompe las conexiones cifradas. Defensas: cada máquina mide sus duraciones con su reloj monotónico, entre máquinas viajan duraciones y no horas límite, los logs se unen por request ID y el desfase se vigila.

Ejemplo. El backend manda una request a las 14:03:05.100 y el gateway la recibe 30 ms después, pero su reloj va 80 ms atrás y anota 14:03:05.050: ordenados por hora, la request llegó antes de salir. Un sistema de video con cajas de cómputo en varios centros de distribución registra el desfase de cada caja si pasa de 2 segundos.

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 2 lecciones

Despliegue progresivo

progressive delivery

Poner una versión nueva frente al tráfico en peldaños (sombra, una parte chica, todo), midiendo algo distinto en cada uno y regresando al anterior si un criterio falla.

Desplegar un modelo tiene tres riesgos distintos: que no funcione con datos reales, que empeore la experiencia de quien lo usa y que no mejore el producto. El despliegue progresivo separa esas preguntas y le da a cada una su peldaño: el shadow (despliegue en sombra) responde «¿funciona?», el canary «¿es seguro?», una prueba A/B «¿mejora?» y el bake time «¿podemos volver?». No todo cambio sube todos los peldaños: cada uno cuesta tiempo y se paga donde el riesgo lo pide. Un rolling update no es un despliegue progresivo de un modelo: mide salud, no calidad, y no controla el porcentaje.

Analogía. Como una receta nueva en un restaurante: la prueba la cocina, luego una mesa de confianza, luego una de cada veinte mesas, y la receta vieja se queda en el refrigerador una semana. Se rompe en que los comensales eligen platillo; las requests no eligen versión.

Ejemplo. El reentrenamiento mensual de Alba sube gate → shadow de 1–2 días → canary 5 % → 25 % → 100 % → bake de 24–48 h; un cambio de código del gateway solo hace el canary, con pasos de 1 h.

Se presenta en 56 · Rollout seguro

Desviación estándar

standard deviation · SD · σ

La raíz de la varianza: qué tan lejos del promedio suele caer un dato, en las mismas unidades que los datos. Se escribe σ (sigma).

Es la medida de dispersión más usada. Si los datos tienen forma de campana (distribución normal), ≈ 68 % caen a menos de una desviación del promedio, ≈ 95 % a menos de dos y ≈ 99.7 % a menos de tres. La desviación estándar del resultado de un examen (no de cada foto) tiene nombre propio: el error estándar.

Ejemplo. Con 81, 89, 85, 82 y 88, la varianza es 10 y la desviación estándar √10 ≈ 3.2 puntos (3.5 con n − 1): los resultados suelen caer a unos 3 puntos del 85.

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 6 lecciones

Detección de objetos

object detection

La tarea de encontrar cada objeto en una imagen: por cada uno, una caja (dónde está), una clase (qué es) y una confianza.

Una caja son cuatro números: por ejemplo, las dos coordenadas de la esquina de arriba a la izquierda, el ancho y el alto, en píxeles. A diferencia de la clasificación, una foto puede dar cero, una o muchas cajas.

Ejemplo. Marcar cada casco y cada chaleco de seguridad en el video de una planta.

Se presenta en 01 · Qué es un modeloAparece en 3 lecciones

Determinismo

determinism

Que la misma entrada dé siempre exactamente la misma salida. En PyTorch no está garantizado: el azar, el orden de las sumas en la GPU y el algoritmo elegido pueden mover el último decimal.

Tres razones lo rompen. El azar (pesos iniciales, el orden del DataLoader, Dropout, aumentaciones): se fija con torch.manual_seed, y el entrenamiento de Alba fija también la semilla de Python, la de NumPy y una por worker. El orden de las sumas: en punto flotante, (x + y) + z no siempre es x + (y + z) por el redondeo, y las GPUs suman en paralelo; torch.use_deterministic_algorithms(True) obliga a usar versiones de orden fijo (en GPU, con CUBLAS_WORKSPACE_CONFIG=":4096:8"). El algoritmo elegido: con cudnn.benchmark = True, cuDNN prueba varios y el ganador puede cambiar de corrida a corrida. PyTorch no garantiza resultados idénticos entre versiones, plataformas, ni entre CPU y GPU: reproducible quiere decir igual dentro del ruido. Por eso la paridad nunca exige ==.

Ejemplo. En float32, (1e8 + 1) − 1e8 da 0 y (1e8 − 1e8) + 1 da 1. Los mismos 10,000 números sumados en dos órdenes dan 118.51544 y 118.51550.

Se presenta en 34 · PyTorch en lo que toca a producciónAparece en 2 lecciones

Device

device

El chip en cuya memoria viven los números de un tensor: cpu (la memoria RAM), cuda (la memoria de una GPU de NVIDIA, su VRAM) o mps (la GPU de una Mac). Una operación necesita todos sus tensores en el mismo device.

Todo tensor nace en cpu. cuda:0 es la primera GPU y cuda:1, la segunda. Para cambiar de device se usa .to(device): en un tensor regresa una copia (o el mismo, si ya estaba ahí); en un modelo mueve todos sus pesos. PyTorch no copia nada por su cuenta: si el modelo está en la GPU y la foto en la CPU, truena con Expected all tensors to be on the same device. En un servidor, el device vive en una variable: los pesos suben a la VRAM una vez al arrancar y cada foto sube en cada request. La trampa: con "cuda" if torch.cuda.is_available() else "cpu", un contenedor sin GPU arranca feliz en la CPU, decenas de veces más lento.

Ejemplo. DEVICE = "cuda" if torch.cuda.is_available() else "cpu" es la línea típica de un servidor. En producción, si esperas una GPU, comprueba al arrancar que torch.cuda.is_available() dé True y termina el proceso si no.

Device plugin de GPU

GPU device plugin

El programa que le avisa a Kubernetes que un nodo tiene GPUs: las cuenta con el driver y las anuncia como un recurso, nvidia.com/gpu, que los pods pueden pedir.

Se instala como un DaemonSet (una copia en cada nodo con GPU). Sin él, el nodo «no tiene GPUs» y todo pod que pida una queda Pending. Las GPUs anunciadas así se piden en enteros, en limits (si se escribe el request, debe ser igual), y no se comparten entre pods, salvo que se configure el reparto por turnos del plugin (time-slicing, sin aislar la memoria) o, en GPUs grandes que lo permiten, MIG. Ante ciertos errores graves de la GPU, el plugin la marca como no sana y deja de ofrecerla a pods nuevos.

Ejemplo. Cada g4dn.xlarge de Alba anuncia nvidia.com/gpu: 1, y cada pod de Triton pide exactamente esa una.

Se presenta en 55 · Kubernetes

Diferencia máxima de logits

max logit difference

La diferencia más grande, sin signo, entre un logit (la puntuación cruda de cada categoría) del modelo convertido y el del original, buscando en todas las fotos y todas las categorías. Delata un bug antes de que cambie una respuesta.

Se calcula como d=max|uik−vik| sobre todas las fotos i y categorías k. Tiene escalas conocidas: FP32 contra FP32 da del orden de 0.0001; un engine FP16 sano, del orden de 0.01. Un salto de varios órdenes de magnitud no es redondeo: es un export o un build roto, aunque el top-1 todavía coincida.

Ejemplo. En Alba, el chequeo del export (FP32 contra FP32) espera ≈ 0.0001, y la paridad del engine FP16 ve ≈ 0.01 con un tope de 0.5 para no dar falsas alarmas y atrapar un engine roto.

Digest de una imagen

image digest

El nombre exacto de una imagen, calculado de su contenido: la huella SHA-256 (un número de 64 caracteres que cambia si cambia un solo byte) del documento que lista su configuración y sus capas. Otro byte, otro digest.

Se escribe sha256: seguido de 64 caracteres hexadecimales, y se pide con @: classifier-gateway@sha256:…. Nadie lo elige: se calcula del contenido, así que no se puede mover a otra imagen, a diferencia del tag. docker push lo imprime al terminar y docker image inspect lo muestra. Por eso se despliega y se fija por digest. En una imagen para varias plataformas, el digest del índice no es el de cada imagen que lista.

Ejemplo. Alba despliega classifier-gateway:3f9c2ab@sha256:…: Kubernetes baja por el digest y el tag queda para que lo lea una persona. Volver atrás es desplegar el digest anterior.

Se presenta en 53 · Empaquetado con DockerAparece en 10 lecciones

Dimensionalidad (dimensión)

dimensionality · embedding dimension

Cuántos números tiene un vector. En un embedding es una decisión de diseño: más números dan lugar a más detalle, pero la memoria y el trabajo de cada búsqueda crecen en proporción.

Un embedding de 1,024 números ocupa el doble de memoria y cuesta el doble por comparación que uno de 512. Cada duplicación suele ayudar menos que la anterior, así que se busca la dimensión más chica que cumpla con la calidad. En muchas dimensiones pasan cosas raras: dos vectores al azar salen casi perpendiculares (en 512 dimensiones, su coseno típico es ≈ 0.04), así que la escala de los cosenos depende de cada modelo.

Ejemplo. Con Mem=N×d×bytes, en Alba, el marketplace del curso: la recomendación usa 128 (100 M × 128 × 1 byte = 12.8 GB en int8), la búsqueda usa 512 (100 M × 512 × 1 = 51.2 GB en int8) y el asistente interno que responde con documentos usa 1,024 (12 M pedazos × 1,024 × 4 ≈ 49.2 GB en float32).

Dirección IP

IP address

El número que identifica a un aparato en la red, para que los paquetes lleguen a él. En IPv4, la versión más usada, son 32 bits escritos como cuatro números del 0 al 255 (192.168.1.20); en IPv6, su sucesora, 128 bits.

IP (Internet Protocol) es el protocolo que lleva cada paquete de máquina en máquina. IPv4 tiene 2³² ≈ 4.3 mil millones de direcciones, y se acabaron; IPv6 tiene 2¹²⁸ ≈ 3.4 × 10³⁸ y se escribe en hexadecimal (2001:db8::1). Una dirección tiene una parte que dice en qué red está y otra que dice qué máquina es: 10.0.0.0/8 son todas las que empiezan con el byte 10. Hay direcciones públicas, únicas en internet, y privadas, que valen solo dentro de una red. La IP dice a qué máquina va un paquete; el puerto, a qué programa.

Ejemplo. Un pod del gateway de Alba tiene una IP privada como 10.0.3.15 = 00001010.00000000.00000011.00001111 en binario. Si el pod se reinicia, el nuevo nace con otra: por eso se le habla por nombre, con el DNS.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 6 lecciones

Directorio de trabajo

working directory · current directory

La carpeta donde está parado un proceso: desde ahí se leen las rutas relativas, las que no empiezan con /. En la terminal, pwd la muestra y cd la cambia.

Cada proceso tiene el suyo y lo hereda de quien lo lanzó, así que un programa arranca en la carpeta donde estaba la shell. Una ruta relativa como datos/train.csv se busca ahí, no junto al archivo del programa. cd .. sube una carpeta, cd solo va a la carpeta personal (~) y cd - regresa a la anterior. Como cada proceso tiene su copia, un cd dentro de un hijo o de una subshell ( … ) no mueve al padre. En una imagen de contenedor, lo fija la línea WORKDIR. También se le dice «carpeta de trabajo».

Ejemplo. Parada en /home/ana/trabajo, python3 entrenar.py abre datos/train.csv como /home/ana/trabajo/datos/train.csv. (cd /tmp && pwd) imprime /tmp, y el pwd siguiente vuelve a dar /home/ana/trabajo.

Se presenta en 32 · La terminal y la shellAparece en 2 lecciones

Disco

disk · drive · storage

Donde se guardan los archivos aunque se apague la computadora: programas, fotos, datasets y los pesos de un modelo. Cabe mucho más que en la RAM y cuesta menos por GB, pero encontrar un dato tarda de ≈ 0.1 ms (un SSD) a ≈ 10 ms (un disco duro).

Hay dos tipos: el disco duro (HDD, hard disk drive), con platos que giran y un brazo que se mueve, y el SSD, sin partes móviles. Un disco se lee por bloques (de 512 bytes o de 4 KiB, y el sistema operativo casi siempre pide 4 KiB o más a la vez): pedir un byte cuesta un bloque entero. Tiene tres números distintos: cuánto tarda cada lectura (su latencia), cuántas lecturas al azar aguanta por segundo (sus IOPS, input/output operations per second) y cuántos bytes por segundo da leyendo de corrido (su throughput). En la nube hay discos locales, pegados a la máquina, rápidos y que se borran al detenerla, y discos de red, como los gp3 de EBS, el servicio de discos de AWS, que sobreviven a la máquina pero cruzan la red en cada lectura. Lo que está en el disco se usa copiándolo antes a la RAM.

Analogía. El mercado al que vas por lo que no cabe en tu cocina: hay de todo y no se echa a perder, pero cada vuelta te toma horas. Se rompe en que, una vez que llegas, un disco te puede dar muchísimos bytes seguidos muy rápido: lo lento es empezar.

Ejemplo. Leer los 16.06 GB de Llama 3 8B en BF16 de un disco gp3 de base (125 MiB/s) tarda ≈ 2 minutos; de un NVMe local a 2 GB/s, ≈ 8 s.

Se presenta en 17 · Memoria, caché y discoAparece en 7 lecciones

Disparador de reentrenamiento

retraining trigger

Una condición que propone reentrenar el modelo antes del calendario. Abre un ticket para que una persona diagnostique y decida; no despliega nada solo.

Antes de adelantar se descarta lo que no es del mundo: un deploy propio, datos rotos de quien llama y el training-serving skew. Solo si cambió el mundo y los labels lo confirman, se adelanta la corrida, con una tanda extra de etiquetado del slice si hace falta, y el modelo nuevo sube los mismos peldaños: gate, shadow (despliegue en sombra) y canary.

Ejemplo. En Alba: el calendario (día 1, 03:00 UTC), el PSI > 0.2 tres días seguidos, la aceptación −3 puntos semana contra semana y una categoría nueva planeada. Una persona lanza argo submit --from cronwf/reentreno-mensual.

Disponibilidad

availability · uptime

La fracción del tiempo, o de las requests, en que un servicio responde bien. 99.9 % quiere decir que puede fallar el 0.1 %: ≈ 43 minutos en un mes de 30 días.

Se mide por tiempo (minutos arriba ÷ minutos totales) o por requests (buenas ÷ válidas), y esa medida es un SLI; la meta, un SLO. Piezas en serie multiplican sus disponibilidades, así que el conjunto es peor que su peor pieza. Réplicas en paralelo multiplican sus indisponibilidades: 1 − (1 − a)^k, si fallan de forma independiente. El tiempo caído es cuántas veces se falla por cuánto se tarda en volver, y por eso volver rápido (un rollback en minutos) sube la disponibilidad tanto como fallar menos.

Ejemplo. El SLI de Alba, el marketplace que sigue el curso, cuenta como buena una request que no termina en error del servidor y responde en 300 ms o menos, y su SLO es 99.9 % en 30 días. Tres piezas en serie al 99.99 %, 99.95 % y 99.9 % dan ≈ 99.84 %: ≈ 69 minutos al mes.

Se presenta en 11 · Probabilidad para sistemas que fallanAparece en 5 lecciones

Distancia euclidiana

Euclidean distance · L2 distance

La distancia «en línea recta» entre dos puntos, la de la regla: la raíz de la suma de las diferencias al cuadrado, coordenada por coordenada.

Es el teorema de Pitágoras extendido a cualquier número de dimensiones. A diferencia de la similitud coseno, sí cambia si un vector es más largo que otro. Con vectores normalizados, las dos medidas ordenan a los vecinos igual, porque la distancia al cuadrado es 2 − 2 × coseno.

Ejemplo. Entre (4, 3) y (3, 4): diferencias 1 y −1; al cuadrado 1 y 1; suman 2; la raíz de 2 ≈ 1.41.

Distribución

distribution

Cómo se reparten los valores de algo: qué valores aparecen y qué tan seguido. Dos listas con el mismo promedio pueden tener distribuciones muy distintas.

Se ve con un histograma. Las latencias casi siempre tienen una distribución con cola a la derecha: un montículo de requests rápidas y unas pocas muy lentas, porque hay un piso (el trabajo mínimo) pero no un techo. Comparar la distribución de los datos de hoy contra la del entrenamiento es como se detecta el drift.

Ejemplo. Cien requests de 50 ms, y la mezcla de 90 de 30 ms con 10 de 230 ms, tienen el mismo promedio, 50 ms; pero en la segunda, 10 de cada 100 pasan de 200 ms.

Se presenta en 10 · Promedios, medianas y percentilesAparece en 3 lecciones

Distribución normal

normal distribution · campana de Gauss

La forma de campana: muchos valores cerca del centro y cada vez menos hacia los lados, igual de los dos lados. Queda definida por su promedio y su desviación estándar.

Aparece cada vez que un número es la suma o el promedio de muchas piezas pequeñas e independientes: los altos y los bajos se compensan y el resultado se amontona al centro. Ese hecho se llama teorema del límite central, y es la razón de que una accuracy medida, una tasa de aceptación o la diferencia entre los dos grupos de una prueba A/B tengan forma de campana. Regla 68–95–99.7: lo que cae a una, dos y tres desviaciones del centro. Los datos sueltos no tienen por qué ser normales (la latencia tiene una cola larga); lo que se vuelve normal es el promedio de muchos.

Analogía. Una tabla de Galton: canicas que caen rebotando en clavos, cada rebote a la izquierda o a la derecha al azar. Abajo se juntan en campana, porque llegar a una orilla pide que casi todos los rebotes vayan al mismo lado. Se rompe en que ahí todos los rebotes son iguales y de 50 %; en datos reales las piezas son distintas, y el resultado sigue siendo una campana mientras ninguna pieza sola domine.

Ejemplo. Mil exámenes de 1,000 fotos con un modelo que acierta 85 % forman una campana centrada en 85, con desviación de 1.1 puntos: ≈ 95 % de los resultados cae entre 82.7 y 87.3 (a dos desviaciones).

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 4 lecciones

Divergencia KL

Kullback–Leibler divergence · KL divergence · relative entropy

Cuánta sorpresa de más te llevas, en promedio, si te preparaste para la distribución Q y la realidad es P: la suma de pi×ln(pi/qi), con pi y qi la probabilidad de cada resultado en P y en Q. Vale 0 solo si son iguales, y no es simétrica.

Se escribe KL(P ‖ Q) y el orden importa: pesa con las probabilidades de P, así que lo que más cuenta es lo que en la realidad pasa seguido y la referencia creía raro. Si Q le da 0 a algo que en P pasa, es infinita. Es la entropía cruzada menos la entropía de P, así que entrenar un clasificador con entropía cruzada es bajar una KL. Sumada en las dos direcciones es el PSI. Su prima simétrica es la divergencia de Jensen–Shannon: compara las dos contra su promedio M = (P + Q) ÷ 2, nunca es infinita y no pasa de ln 2 ≈ 0.693 (1 bit). Algunas librerías reportan su raíz cuadrada, la distancia de Jensen–Shannon.

Ejemplo. Categorías de las fotos de Alba en octubre Q = (60 % ropa, 39 % calzado, 1 % juguetes) y en diciembre P = (55 %, 35 %, 10 %), números de ejemplo: KL(P ‖ Q) ≈ 0.145 y KL(Q ‖ P) ≈ 0.071. La suma, 0.216, es el PSI.

DNS

Domain Name System

El directorio de internet que traduce nombres en direcciones IP: le preguntas por api.example.com y te contesta 203.0.113.10. Cada respuesta trae su TTL, el tiempo que se puede guardar.

La información está repartida en un árbol: los servidores raíz saben quién lleva cada terminación (.com, .mx), los de cada terminación saben quién manda en cada nombre, y el servidor autoritativo tiene la respuesta oficial. Tu programa le pregunta a un resolver, que hace el recorrido y guarda las respuestas en caché lo que diga su TTL. Las preguntas suelen ir por UDP al puerto 53. Kubernetes tiene su propio DNS, que da nombres fijos a los Services: el de Triton en Alba es triton.classifier.svc.cluster.local (en producción, cada versión del modelo tiene el suyo, como triton-v14.classifier.svc.cluster.local). Si el DNS falla, nadie encuentra a nadie, aunque las máquinas estén encendidas.

Analogía. Los contactos de tu celular: buscas «Mamá» y el teléfono marca el número. Se rompe en que tus contactos los cambias tú al instante; en el DNS, quien guardó el número viejo lo sigue usando hasta que venza su TTL.

Ejemplo. El gateway de Alba tiene en su configuración TRITON_URL=triton.classifier.svc.cluster.local:8000: un nombre y un puerto, nunca la IP de un pod, que cambia con cada reinicio.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 5 lecciones

Doble anotación

double annotation / overlap

Que dos personas etiqueten la misma foto sin saber que otra también lo hace. Es la única forma de ver si la guía se entiende igual.

Con una sola persona por foto, un desacuerdo nunca se ve. Con una parte doble se mide el acuerdo con kappa de cohen y kappa por clase, y los desacuerdos van a adjudicación. Cuesta: cada foto doble es una anotación más.

Ejemplo. En Alba es el 10 % de la cola de etiquetado: 500 de ≈ 5,000 fotos al mes, ≈ 1 por categoría. Por eso la kappa por clase se mide acumulando meses.

Docker Compose

Docker Compose

Una herramienta que levanta varios contenedores juntos en una sola máquina, descritos en un archivo YAML, con un comando: docker compose up.

Cada servicio dice su imagen o su carpeta de build, sus puertos publicados, sus variables, sus volúmenes y su chequeo. Los servicios se encuentran por su nombre, que funciona como dirección. Con depends_on … condition: service_healthy, uno espera a que el chequeo de otro pase. Es para desarrollo y pruebas: corre en una sola máquina, sin repartir copias ni cambiar de versión poco a poco.

Ejemplo. El docker-compose.yml de Alba levanta Triton (1 GPU, 1 GB de memoria compartida, chequeo cada 5 s con 60 s de gracia) y el gateway, que llama a triton:8000 y no arranca hasta que Triton está sano.

Dockerfile

Dockerfile

La receta de una imagen de contenedor: un archivo de texto con una instrucción por línea (FROM, COPY, RUN, USER, CMD…) que docker build lee de arriba abajo.

FROM elige la imagen base; RUN, COPY y ADD agregan capas; ENV, USER, EXPOSE, HEALTHCHECK y CMD cambian la configuración (WORKDIR además crea la carpeta). El orden importa por la caché: lo que cambia poco va arriba. Un # después de una instrucción no es comentario.

Ejemplo. El del gateway de Alba tiene dos etapas: la primera instala las 37 dependencias en /opt/venv; la segunda copia ese entorno y el código sobre una python:3.13-slim limpia, crea el usuario 10001 y arranca uvicorn en forma exec.

Se presenta en 53 · Empaquetado con DockerAparece en 5 lecciones

Dominio de falla

failure domain · fault domain

Todo lo que se cae junto cuando falla una sola cosa: un pod, una máquina, una zona, una región. Dos réplicas en el mismo dominio de falla se caen juntas.

Los dominios van uno dentro de otro: el pod dentro del nodo, el nodo dentro de la zona, la zona dentro de la región. Los chicos fallan seguido y se llevan poco; los grandes fallan rara vez y se llevan todo lo que contienen. Cada uno tiene su defensa: reiniciar el pod, una réplica de más en otra máquina, réplicas en otra zona, otra región. Diseñar es decidir hasta qué dominio se cubre, porque cada escalón cuesta más. Compartir un dominio es la forma más común de falla correlacionada.

Analogía. Muñecas rusas: la región guarda zonas, la zona guarda máquinas y la máquina corre pods. Se rompe en la falla: una muñeca rota deja sanas a las de adentro, pero un dominio que falla se lleva todo lo que contiene.

Ejemplo. Del más chico al más grande: el pod falla de forma común y Kubernetes lo reinicia; el nodo, de forma ocasional; la zona, «rara, pero pasa»; la región, muy rara. Dos T4 en la misma zona no sobreviven a esa zona.

Dos torres (two-tower)

two-tower model · dual encoder · bi-encoder

Un modelo con dos redes que convierten por separado dos tipos de cosas (consultas y productos, o usuarios y publicaciones) en vectores del mismo espacio. El parecido es el producto punto entre ellos.

Como cada lado se calcula por separado, los vectores del catálogo se calculan antes, en lote, y en cada consulta solo se calcula uno: eso permite buscar entre millones con un ANN. Es más rápido y menos preciso que un cross-encoder, que lee la consulta y el candidato juntos; por eso se combinan: dos torres para el retrieval (recuperación) y cross-encoder para el re-ranking (reordenar). Se entrena con aprendizaje contrastivo. Las dos torres se publican juntas, con la misma versión.

Ejemplo. En la recomendación de Alba, el marketplace del curso, la torre de usuario calcula un vector de 128 números en cada visita al inicio de la app, y el índice que llenó la torre de publicaciones devuelve ≈ 500 candidatos de entre 100 M. En la búsqueda de Alba, el encoder tipo CLIP tiene una torre de imagen y una de texto.

Drift

data drift · deriva

Cuando los datos que llegan en producción dejan de parecerse a los del entrenamiento. Por eso el modelo puede empezar a fallar más aunque nadie lo haya tocado.

El modelo no se descompone: el mundo cambia a su alrededor. Llegan productos nuevos, cambian las modas, las cámaras de los celulares toman fotos distintas. Ojo: drift no siempre quiere decir que el modelo empeoró (con fotos mejor iluminadas hasta puede acertar más). Por eso el drift abre una investigación, y lo que decide si hay que reentrenar son las etiquetas nuevas.

Ejemplo. Salen modelos nuevos de tenis y los celulares toman fotos con otra luz: las fotos que llegan se parecen cada vez menos a las del entrenamiento, y el modelo acierta un poco menos cada mes. Una categoría nueva (como «bolsas», que Alba agrega el 1 de octubre) es otra cosa: ahí el modelo ni siquiera tiene esa respuesta.

Se presenta en 00 · El camino completoA fondo en 58 · Monitoreo, drift y reentrenamientoAparece en 13 lecciones

Driver

driver · NVIDIA driver

El programa que le permite al sistema operativo manejar un aparato, como la GPU. El de NVIDIA vive en la máquina, no en la imagen de tu contenedor, y su versión decide qué versiones de CUDA pueden correr.

El de NVIDIA tiene un módulo dentro del kernel de Linux (nvidia.ko) y bibliotecas para los programas (libcuda.so, y NVML, la que usa nvidia-smi). Un contenedor lo recibe montado desde la máquina (lo hace el NVIDIA Container Toolkit), y en Kubernetes el device plugin anuncia las GPUs del nodo. La regla: el driver tiene que ser al menos el que pide el CUDA de tu imagen; cualquier CUDA 12.x corre con un driver 525 o más nuevo, y 13.x con uno 580 o más. Ojo: el «CUDA Version» de la cabecera de nvidia-smi es el CUDA más nuevo que soporta el driver, no el de tu imagen.

Ejemplo. Un nodo con el driver 535 corre una imagen con CUDA 12.6, y su nvidia-smi dice «CUDA Version: 12.2». Una imagen de PyTorch para CUDA 13.0 falla en ese nodo con «driver too old».

Se presenta en 18 · CPU y GPUAparece en 10 lecciones

Dropout

dropout

Una traba contra el overfitting (que el modelo memorice su entrenamiento): al entrenar, apaga al azar una fracción de las neuronas en cada paso. Al responder no apaga nada.

Obliga a la red a repartir lo que sabe en lugar de depender de unas pocas neuronas. Las que quedan se multiplican para compensar (con la mitad apagada, por 2). Si el modelo se queda en modo entrenamiento en producción, la misma foto da respuestas distintas cada vez. La ResNet-50 estándar no tiene Dropout; muchos otros modelos sí.

Ejemplo. Con dropout de 0.5, una capa de 4 neuronas que saca 1, 2, 3 y 4 podría sacar al entrenar 2, 0, 6 y 0: la mitad apagada y el resto multiplicado por 2. Al responder saca 1, 2, 3 y 4.

Se presenta en 06 · Redes neuronales y CNNsAparece en 4 lecciones

dtype

data type · tipo de dato

El tipo de dato de un tensor: el formato en que están guardados todos sus números y, por lo tanto, cuántos bytes ocupa cada uno. Por ejemplo, torch.float32 (4 bytes) o torch.uint8 (1 byte).

Todos los números de un tensor comparten su dtype, y los bits se leen según él. PyTorch crea los tensores con decimales en float32 y los de enteros en int64; NumPy y Python usan FP64 para los decimales. La memoria de un tensor es su cantidad de números por los bytes de su dtype. Los errores típicos: mezclar dtypes (un float64 de NumPy contra un modelo en float32), etiquetas que no son int64 y cuentas con píxeles en uint8 que dan la vuelta.

Ejemplo. El tensor de la foto de Ana, [1, 3, 224, 224], ocupa 150,528 bytes en uint8, 301,056 en float16 y 602,112 en float32: los mismos números con otro dtype.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 7 lecciones

Durabilidad

durability

La probabilidad de que un dato que guardaste siga ahí, intacto, después de un año. S3, el object storage de Amazon, está diseñado para once nueves (99.999999999 %): con 10 millones de objetos, perderías uno cada 10,000 años.

En S3 Standard se logra guardando cada objeto repartido en muchos discos de al menos tres zonas de disponibilidad (centros de datos separados), con huellas que detectan si un bit se dañó y reparando rápido cuando un disco muere. No es lo mismo que la disponibilidad: esa mide si el servicio contesta ahora (S3 Standard está diseñado para 99.99 %, ≈ 53 minutos al año de fallas, aunque su contrato promete 99.9 % al mes). Un bucket puede no contestar un rato sin perder nada, y al revés: con disponibilidad perfecta, un DELETE tuyo borra el objeto para siempre. La durabilidad protege del hardware, no de los errores humanos; para eso están el versionado del bucket, Object Lock y las copias en otra cuenta o región. Las copias tienen que fallar por separado: tres discos con la misma fuente de luz no valen como tres.

Ejemplo. Las fotos de un año del marketplace son 3,650 millones. Con 10⁻¹¹ de probabilidad de perder cada una al año, esperarías perder 0.0365 al año: una cada ≈ 27 años.

DVC

DVC (Data Version Control)

Una herramienta de código abierto que versiona datos junto con Git: guarda en Git un archivo chiquito con la huella de cada dataset, y los datos de verdad en un almacén aparte, como S3 (el almacén de archivos de AWS).

DVC calcula la huella de cada archivo o carpeta de datos y la escribe en un archivo .dvc de texto, que sí entra a Git. Los datos suben a un remote (un bucket, por ejemplo). Hacer checkout de un commit viejo y luego dvc checkout trae los datos de ese commit. Es la idea de Git LFS, pensada para datasets, y además describe pasos de pipeline. Va bien con equipos chicos y miles o cientos de miles de archivos; con millones de archivos chicos, calcular y comparar huellas se vuelve lento.

Ejemplo. Un proyecto de escuela con 30,000 fotos: dvc add fotos/ crea fotos.dvc con la huella, ese archivo va al commit, y dvc push sube las fotos al bucket. Alba no lo usa: prefiere prefijos inmutables con manifest.

E

Early stopping

early stopping · parada temprana

Dejar de entrenar cuando la pérdida o la métrica en validación deja de mejorar, y quedarse con el checkpoint de la mejor época.

Se mide la validación al final de cada época. Si no mejora en N épocas seguidas (la paciencia), se para y se recupera el mejor checkpoint. Evita seguir hacia el overfitting y ahorra GPU. Es una forma de regularización. Se decide con validación, nunca con el test.

Ejemplo. Validación 0.95, 0.88, 0.86, 0.87 y 0.89 en las épocas 3 a 7. Con paciencia 2, se para al final de la 7 y se usa la 5.

Se presenta en 04 · Cómo aprende un modeloAparece en 2 lecciones

ECE

expected calibration error

Un número que resume qué tan honesta es la seguridad de un modelo: agrupa las predicciones por confianza y promedia la distancia entre lo que dijo y lo que acertó, pesada por cuántas hay en cada grupo. 0 es perfecto.

Se calcula con datos que el modelo no vio: se parten las predicciones en grupos por confianza (por ejemplo, de 0.0 a 0.1, de 0.1 a 0.2…), en cada grupo se compara la confianza promedio con la fracción de aciertos y se suman las distancias, cada una multiplicada por la fracción de ejemplos del grupo. Un promedio que pasa puede esconder un grupo que no, por eso conviene mirar también la tabla. El gate de Alba, el marketplace del curso (el examen que decide si un modelo nuevo reemplaza al actual), pide ECE ≤ 0.05 después de temperature scaling.

Ejemplo. 1,000 fotos en cuatro grupos: dijo 50 % y acertó 45 % (100 fotos), 70 % y 64 % (100), 90 % y 82 % (300), 99 % y 99 % (500). ECE = 0.10 × 0.05 + 0.10 × 0.06 + 0.30 × 0.08 + 0.50 × 0 = 0.035.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 4 lecciones

Efecto mínimo detectable

minimum detectable effect · MDE

El efecto más chico que quieres que el experimento pueda ver con la potencia elegida (la probabilidad de detectarlo si existe). Se decide antes y por negocio: cuánto tiene que mejorar algo para que valga la pena.

Fija el tamaño de muestra: n crece con 1 ÷ MDE². Pedir la mitad de MDE cuesta 4 veces la muestra. Puede haber efectos más chicos que el MDE, pero el experimento los ve con menos potencia: uno de la mitad del MDE se detecta ≈ 3 de cada 10 veces.

Ejemplo. En Alba, el marketplace que sigue el curso, el MDE es 1 punto sobre una aceptación de 70 %: ≈ 33,000 publicaciones por brazo. Con 0.5 puntos serían ≈ 131,000.

Egress (transferencia de salida)

egress

Los datos que salen de la nube hacia internet; se cobran por GB. Meter datos (ingress) no se cobra. En AWS (la nube de Amazon), en us-east-1: ≈ US$0.09 por GB los primeros 10 TB del mes, con 100 GB gratis.

La tarifa va por escalones mensuales (≈ 0.09, 0.085, 0.07 y 0.05 por GB) y cada GB paga el de su tramo. La asimetría hace que sacar tus datos tenga precio: parte del lock-in. En sistemas que reciben fotos o video y responden poco, el egress casi no importa; duele cuando lo grande va hacia fuera (servir video, entregar datasets, cambiar de nube). Antes de decir «egress», mira en qué dirección van los bytes. Se suele confundir con el cargo por datos procesados y con la transferencia entre zonas.

Ejemplo. Las respuestas de Alba, ≈ 1 KB × 304 M al mes ≈ 304 GB: ≈ US$18. Copiar 50 TB a otra nube: ≈ US$4.3k por copia.

Se presenta en 41 · Redes en la nube: VPC, subredes y egressAparece en 3 lecciones

Eje de batch dinámico

dynamic batch axis

Declarar, al exportar un modelo, que la primera dimensión de la entrada y de la salida (cuántas fotos van juntas) puede cambiar. Sin eso, el archivo solo acepta un tamaño de batch.

Al exportar, el modelo se corre una vez con un ejemplo, y las formas de ese ejemplo pueden quedar fijas. El eje de batch dinámico le pone nombre a la dimensión 0 (batch) en vez de un número, en la entrada y en la salida. Es una propiedad del archivo; no es el batching dinámico, que es lo que hace el servidor al juntar peticiones. Entre qué valores puede ir el batch lo fija después el perfil de optimización del engine.

Ejemplo. Alba exporta con un ejemplo de batch 2 y dynamic_axes={"input": {0: "batch"}, "logits": {0: "batch"}}, y el chequeo del script corre batch 1 y batch 32 para comprobar que la dimensión de verdad cambia.

Ejecución remota de código

remote code execution (RCE)

Lograr que una máquina ajena corra un programa del atacante. Es de los peores daños posibles: con eso usa sus permisos, lee lo que ella lee y puede moverse a otras.

Se llega a ella por un fallo en un programa que procesa datos ajenos (un decodificador, un parser), por una API que acepta cargar código o modelos, o abriendo un archivo que ejecuta instrucciones, como un pickle (el formato de Python que guarda objetos). Las defensas reducen las puertas y el daño: no exponer APIs de administración, no abrir formatos que ejecutan, bibliotecas al día, procesos sin privilegios en imágenes mínimas y permisos mínimos.

Ejemplo. El gateway de Alba decodifica fotos de cualquiera; si un fallo de Pillow permitiera correr código, el atacante quedaría dentro de un pod con usuario sin privilegios (UID 10001), sin compiladores y sin permiso de leer el bucket de fotos.

Ejemplo

example · sample · instance

Un caso del que ya sabes la respuesta: la entrada (lo que ve el modelo) junto con su etiqueta (la respuesta correcta).

Un modelo aprende de muchos ejemplos. En un dataset cada ejemplo es una fila: sus features y su etiqueta. A aprender de ejemplos que ya traen su respuesta se le llama aprendizaje supervisado.

Ejemplo. La foto de los tenis de Ana junto con «Calzado › Tenis» es un ejemplo. El dataset de septiembre de Alba, el marketplace que sigue el curso, trae casi 2 millones: 1,840,211 para entrenar + 92,417 para validar = 1,932,628. En un sistema de fraude, un ejemplo es un pago con su respuesta: fue fraude o no.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 2 lecciones

Ejemplo adversario

adversarial example

Una entrada cambiada a propósito, a veces de forma invisible para una persona, para que el modelo se equivoque.

Funciona porque una entrada tiene muchísimos números: si cada uno se mueve un poquito en la dirección que más baja el puntaje correcto, todos los cambios suman. En un modelo lineal, el logit baja Δz=ε×Σ|wi|. Las redes no son lineales, pero se comportan parecido por pedazos, y el atacante usa los gradientes para encontrar la dirección. Entrenar con ejemplos adversarios ayuda contra los ataques parecidos a los que se usaron, pero cuesta exactitud y no da garantías; la defensa práctica es de sistema: ningún modelo como única barrera.

Ejemplo. Con 150,528 números (una foto de 3 × 224 × 224), un cambio de 1/255 en cada uno y pesos de 0.005 en promedio, el logit baja ≈ (1/255) × 150,528 × 0.005 ≈ 2.95: un +2 que decía «Tenis» queda en ≈ −0.95.

Elasticidad

elasticity

Poder subir y bajar la capacidad según la demanda, en minutos, y pagar solo por lo que tuviste prendido.

Es lo que hace que la nube ahorre con picos: en vez de comprar para el día más ocupado, prendes máquinas cuando sube la carga y las apagas cuando baja. Es una posibilidad, no algo automático: alguien tiene que decidir cuándo (el autoscaling), una VM con GPU tarda minutos en servir, tu cuota pone un tope y una zona se puede quedar sin capacidad. Un pico de segundos se cubre con máquinas ya prendidas.

Ejemplo. 2 máquinas de base y 10 durante 96 horas de ofertas (cuatro días), a ≈ US$0.526 por hora: fijas para el pico cuestan 10 × 730 × 0.526 ≈ US$3,840 al mes; elásticas, (2 × 730 + 8 × 96) × 0.526 ≈ US$1,172.

Se presenta en 38 · Qué es la nube

Embedding

embedding · vector embedding

El vector que produce un modelo para representar algo (una foto, una frase, un producto) de forma que las cosas parecidas queden cerca.

Lo produce una red ya entrenada: entra la foto o el texto y sale una lista de, por ejemplo, 512 números. Cada número por separado no significa nada que se pueda nombrar; lo que importa es la distancia entre vectores. Dos embeddings solo se pueden comparar si los produjo el mismo modelo, en la misma versión.

Analogía. Como las coordenadas de una ciudad en un mapa: ciudades cercanas tienen coordenadas parecidas. Se rompe en que un mapa tiene 2 ejes con nombre (latitud y longitud) y un embedding tiene cientos de ejes sin nombre.

Ejemplo. CLIP ViT-B/32 (un modelo público de OpenAI para fotos y textos) convierte una foto o un texto en 512 números; BERT-base (un modelo público de texto, de Google) convierte un texto en vectores de 768; la ResNet-50 con la que Alba, el marketplace del curso, clasifica sus fotos produce 2,048 justo antes de su última capa.

Se presenta en 07 · Embeddings: el significado como coordenadasAparece en 15 lecciones

Embedding posicional

positional embedding · positional encoding

La información de en qué lugar del texto está cada token. Hace falta porque la atención, por sí sola, mezcla un conjunto y no sabe el orden.

Una suma da lo mismo en cualquier orden: sin posiciones, «el perro muerde al cartero» y «el cartero muerde al perro» se mezclarían igual. El transformer original sumaba a cada embedding un vector fijo hecho con ondas (senos y cosenos); GPT-2 y el ViT aprenden un vector por posición; Llama usa RoPE (rotary position embedding), que gira la Q y la K de cada token un ángulo que crece con su posición, para que la calificación dependa de la distancia entre los dos tokens.

Ejemplo. En un ViT-B/16, a cada uno de los 197 tokens se le suma un vector aprendido que dice «soy el parche 37». En Llama 3, el giro de RoPE va dentro de cada cabeza de atención.

Se presenta en 08 · Transformers y LLMsAparece en 2 lecciones

Encargado del tratamiento

processor · data processor

Quien trata datos personales por cuenta de otra empresa, la responsable, y solo para lo que ella le pide: la nube que guarda los archivos, el proveedor que etiqueta las fotos.

La responsable (controller) decide para qué y cómo; el encargado (processor) ejecuta. Se firma un contrato que dice qué datos recibe, para qué, cómo los protege, cuánto los guarda, que los borra al terminar, que no los usa para lo suyo y desde qué país trabaja. Se le manda lo mínimo (minimización). Si el encargado está en otro país, para el GDPR es una transferencia internacional. En la ley mexicana, mandarle datos a un encargado, aunque esté en otro país, se llama «remisión» (así lo nombra su reglamento): no pide el consentimiento de la persona ni avisarle, pero sí un contrato. Si el encargado usa los datos para fines propios, el reglamento lo trata como responsable.

Ejemplo. Al proveedor de etiquetado de Alba le llegan ≈ 5,000 fotos al mes, sin EXIF, sin nombre de la vendedora y sin su publicación; las guarda 90 días.

Se presenta en 45 · Datos personales y la leyAparece en 2 lecciones

Endpoint

endpoint

Una puerta concreta de una API (lo que un programa ofrece para que otros le pidan cosas): un método HTTP más una ruta, como POST /v1/classify. Cada endpoint hace una sola cosa y tiene su propio contrato.

La misma ruta con otro método es otro endpoint: GET /v1/jobs/8f3a consulta un trabajo y DELETE /v1/jobs/8f3a lo cancela. Lo que va después del signo ? (los query parameters, como top_k=5) afina la petición sin cambiar de puerta. Cada endpoint tiene su contrato: qué recibe, qué regresa, qué errores puede dar y cuánto tarda como máximo. En un servidor de modelos hay endpoints para inferir, para saber si el servidor está listo y para leer el esquema del modelo.

Ejemplo. El gateway de Alba expone POST /v1/classify?top_k=5 para clasificar, GET /readyz para avisar si puede atender y GET /metrics para sus métricas. Triton, detrás, tiene POST /v2/models/classifier/infer.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 3 lecciones

Endpoint de VPC

VPC endpoint

Un camino privado de tu VPC a un servicio del proveedor (como S3, su almacén de objetos, o ECR, su registro de imágenes de contenedor) que no pasa por internet ni por el NAT. El de tipo gateway (S3 y DynamoDB) es gratis.

Hay dos tipos. El gateway endpoint, solo para S3 y DynamoDB, es una regla en tus tablas de rutas: no vive en una zona y no cobra por hora ni por GB. El interface endpoint (PrivateLink) pone una tarjeta de red con IP privada en tu subred y cobra ≈ US$0.01 por hora por zona y ≈ US$0.01 por GB. Para bajar imágenes de ECR sin NAT hacen falta ecr.api, ecr.dkr y el gateway de S3, porque las capas viven en S3. En Google Cloud: Private Google Access; en Azure: Private Endpoint.

Ejemplo. Alba baja pesos, engine y logs por el gateway endpoint de S3: US$0 de red. Por el NAT, cada GB pagaría US$0.045.

Se presenta en 41 · Redes en la nube: VPC, subredes y egressAparece en 2 lecciones

Endpoint gestionado

managed endpoint

Una dirección de una plataforma de ML (aprendizaje automático) que recibe requests y contesta predicciones, con las máquinas operadas por el proveedor: las prende, las cambia si se caen y agrega copias.

A cambio de no operar nodos, aceptas tres cosas: un sobreprecio por hora (≈ 40 % en GPU en SageMaker AI), un cobro por cada GB que entra y sale, y un contrato para tu contenedor (en SageMaker AI: puerto 8080, POST /invocations, GET /ping, cuerpo de hasta 6 MiB y respuesta en 60 s). Con payloads grandes y mucho tráfico, los cobros por GB pesan más que el sobreprecio.

Ejemplo. Alba en SageMaker AI: máquinas ≈ US$1,075 + datos procesados ≈ US$737 + endpoint de interfaz ≈ US$475 ≈ US$2,287 al mes, contra ≈ US$768 de dos T4 propias, con el tensor en UINT8. Alba hoy lo manda en FP32: solo los datos procesados de entrada subirían a ≈ US$2,929.

Endpoints de salud (/healthz y /readyz)

health endpoints

Dos rutas que contestan las preguntas de Kubernetes: /healthz, «¿sigues vivo?», sin preguntarle a nadie más; /readyz, «¿te mando tráfico?», que sí revisa las dependencias.

Son el lado del código de los health checks. /healthz responde 200 (el código de «todo bien») si el proceso y su event loop responden: si falla varias veces, Kubernetes reinicia la copia. /readyz responde 200 solo si la copia puede atender de verdad, lo que incluye a sus dependencias: si falla, la copia sale del reparto sin reiniciarse. Poner una dependencia en /healthz es un error clásico: cuando la dependencia cae, se reinician todas las copias sanas y reiniciarlas no arregla nada.

Ejemplo. En el gateway de Alba, /healthz devuelve {"status": "ok"} sin preguntar a nadie; /readyz le pregunta a Triton si classifier está listo, con tope de 0.5 s, y devuelve 200 o 503.

Se presenta en 52 · Código de servingAparece en 2 lecciones

Engine de TensorRT

TensorRT engine (.plan)

El modelo compilado por TensorRT para una GPU y una versión concretas, guardado en un archivo .plan. Corre mucho más rápido que el modelo original, pero no carga en otra GPU ni con otra versión de TensorRT.

Un engine es el resultado del builder de TensorRT: el grafo ya fusionado, la precisión de cada capa, los kernels elegidos cronometrando en la GPU y los pesos (en FP16 si se pidió). Acepta las formas de su perfil. Por omisión no es portable: depende de la compute capability de la GPU y del formato de esa versión de TensorRT (release). Por eso se construye en CI, en la GPU de destino, y se verifica con su huella antes de servirlo. Como sus números cambian un poco, pasa una paridad contra el modelo original.

Ejemplo. El model.plan de Alba se construye en una T4 con TensorRT 10.3, en FP16, con perfil 1/16/32; pesa de ≈ 50 a 150 MB y vive en classifier/1/model.plan, horneado en la imagen de Triton. En una L4 no carga.

Se presenta en 51 · Export, engine y paridadAparece en 12 lecciones

Entero

integer · int

Un número sin decimales. En la computadora cada entero tiene un tamaño fijo en bits, y el tamaño le da un rango: un int8 va de −128 a 127; un int32, de −2,147,483,648 a 2,147,483,647.

Los enteros sin signo (uint) usan todos los bits para sumar: de 0 a 2ⁿ − 1. Los con signo (int) usan el complemento a dos: el primer bit vale negativo (−128 en un int8), y van de −2ⁿ⁻¹ a 2ⁿ⁻¹ − 1. Los mismos bits significan cosas distintas según el tipo: 1110 1100 es 236 como uint8 y −20 como int8. Si un resultado no cabe, hay overflow. En ML: uint8 para píxeles, int64 para etiquetas e ids de tokens (el entero por omisión de PyTorch), y int8 o int4 para pesos cuantizados.

Ejemplo. Un contador int32 de las fotos de Alba, el marketplace del curso, que clasifica ≈ 10 millones al día (≈ 116 por segundo), llega a su tope en ≈ 214 días. Un int64 tardaría ≈ 2,500 millones de años.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 3 lecciones

Entorno virtual

virtual environment · venv

Una carpeta con su propia carpeta de paquetes instalados (site-packages) y un python que es un enlace al Python de base. Cada proyecto instala ahí sus paquetes sin tocar los de otros ni los del sistema.

Se crea con python -m venv .venv; el módulo venv está en la biblioteca estándar desde Python 3.3. Adentro quedan .venv/bin/python (en Linux y macOS, un enlace simbólico, no otra copia de Python), .venv/lib/python3.13/site-packages (vacío salvo por pip) y .venv/pyvenv.cfg, que le dice a Python dónde está su base. La biblioteca estándar sigue siendo la del Python de base, y con include-system-site-packages = false el entorno no ve lo instalado afuera. source .venv/bin/activate solo pone .venv/bin al principio del PATH; deactivate lo quita, y correr .venv/bin/python directo es lo mismo. Un entorno no se mueve de carpeta: los scripts de .venv/bin llevan en su shebang la ruta completa donde se creó. Se vuelve a crear desde el lock.

Analogía. Una mochila por proyecto: cada una con sus útiles, y el estante del salón (el Python del sistema) no se toca. Se rompe en que la mochila no trae su propio Python ni su biblioteca estándar: usa los del Python de base, y si ese se borra, el entorno deja de servir.

Ejemplo. La imagen del gateway de Alba crea el entorno en /opt/venv en la etapa builder, instala ahí las 37 del lock y la etapa final copia solo esa carpeta, a la misma ruta, con PATH="/opt/venv/bin:$PATH".

Se presenta en 33 · Python, paquetes y entornosAparece en 4 lecciones

Entrenamiento

training

Mostrarle al modelo muchos ejemplos con su respuesta correcta y ajustar sus parámetros, poco a poco, para que se equivoque menos.

El modelo adivina, se compara con la etiqueta correcta y mueve sus parámetros un poquito en la dirección que reduce el error. Eso se repite millones de veces. Es lento y caro, y se hace de vez en cuando, no con cada uso.

Ejemplo. En Alba el modelo se reentrena una vez al mes: parte otra vez de los pesos que la ResNet-50 aprendió con ImageNet (un dataset público de ≈ 1.28 millones de fotos) y aprende con el dataset del mes, que junta las fotos etiquetadas de meses anteriores con las que se agregaron ese mes.

Se presenta en 00 · El camino completoA fondo en 04 · Cómo aprende un modeloAparece en 5 lecciones

Entrenar en spot con checkpoints

spot training with checkpoints

Correr un entrenamiento en máquinas spot (más baratas, pero que la nube puede quitar con un aviso de 2 minutos en AWS) guardando checkpoints seguido, para que cada interrupción cueste minutos y no la corrida.

Un entrenamiento con checkpoints frecuentes es justo lo que cabe en instancia spot: si te quitan la máquina, otro intento reanuda del último. El costo es Cspot=C×(1−d)×r: el costo on-demand por uno menos el descuento, por lo que se repite. Antes de adoptarlo hay que hacer la cuenta con el descuento medido y compararla con lo que cuesta manejar interrupciones y máquinas que a veces no hay.

Ejemplo. Para Alba: C ≈ US$4.3, d ≈ 0.49 y r ≈ 1.03 dan Cspot ≈ US$2.3: ≈ US$2 de ahorro por corrida. No vale la complejidad, y Alba entrena on-demand; sí usa spot en el backfill de 200 M fotos.

Entropía

entropy · Shannon entropy

La sorpresa promedio de algo incierto, medida en bits: la suma de pi×log2(1/pi) sobre todos los resultados, con pi la probabilidad de cada uno. Una moneda justa tiene 1 bit; un dado, 2.585.

Un resultado con probabilidad p trae log2(1 ÷ p) bits de sorpresa: lo seguro trae 0 y lo raro trae mucho. La entropía promedia esa sorpresa con el peso de cada resultado. Es máxima cuando todo es igual de probable (log2 de cuántos resultados hay) y vale 0 cuando uno es seguro. 2 elevado a la entropía dice «es como elegir al azar entre tantas opciones parejas». En ML aparece como la indecisión de una predicción (la entropía del softmax), dentro de la entropía cruzada con la que se entrena y en la divergencia kl. Con ln en vez de log2 se mide en nats (1 nat ≈ 1.44 bits).

Ejemplo. Una moneda 90/10: 0.9 × 0.152 + 0.1 × 3.322 ≈ 0.469 bits. Una foto de Alba con softmax (0.94, 0.03, 0.02, 0.01) en sus cuatro primeras categorías: 0.41 bits; una dudosa (0.40, 0.35, 0.15, 0.10): 1.80 bits, como dudar entre 3.5 opciones.

Se presenta en 13 · Comparar distribuciones: cómo se mide el driftAparece en 2 lecciones

Entropía cruzada

cross-entropy · log loss (con dos clases)

La pérdida más usada para clasificar: menos el logaritmo de la probabilidad que el modelo le dio a la respuesta correcta. Casi 0 si acierta con seguridad; muy alta si está seguro de otra cosa.

Para un ejemplo es −ln(p), donde p es la probabilidad de la respuesta correcta; para un batch, el promedio. Con dos respuestas (clic o no clic) se escribe −ln(p) si pasó y −ln(1 − p) si no, y se llama log loss. Castiga sin tope la seguridad equivocada, y por eso empuja al modelo a dar probabilidades honestas. Un modelo que reparte parejo entre K categorías tiene pérdida ln(K). Bajarla es lo mismo que hacer más probable lo que de verdad pasó.

Ejemplo. 94 % a la correcta: −ln(0.94) ≈ 0.062. 10 %: −ln(0.10) ≈ 2.30. Al azar entre 500 categorías: ln(500) ≈ 6.21. Al predecir clics en anuncios, decir 0.35 % de clic para todo da una log loss de 0.02329.

Se presenta en 04 · Cómo aprende un modeloAparece en 7 lecciones

Envenenamiento de datos

data poisoning

Meter datos o etiquetas manipuladas en el entrenamiento para que el modelo aprenda mal. No ataca una predicción: ataca todas las que vengan después.

Es un riesgo real donde las etiquetas vienen de usuarios o los datos y pesos vienen de terceros. Al atacante no le hace falta mover el total del dataset, solo una categoría: la fracción envenenada de una categoría es f=a×u÷(Nc+a×u), con a cuentas, u etiquetas por cuenta y Nc etiquetas legítimas. Por eso las categorías chicas y nuevas son las más frágiles. Defensas: linaje de cada etiqueta, tope por cuenta, copias fechadas del dataset que no cambian (snapshots), un gate (el examen que decide si un modelo nuevo reemplaza al actual) contra un golden set curado y auditorías al azar.

Ejemplo. En Alba el 72 % de las etiquetas viene de vendedores. 20 cuentas con 10 etiquetas falsas cada una son 200: el 0.011 % del dataset de 1,840,211 fotos, pero ≈ 29 % de una categoría nueva con 500 etiquetas legítimas.

Se presenta en 46 · Ataques y cadena de suministroAparece en 2 lecciones

Environment de GitHub

GitHub environment

Un ambiente con reglas en GitHub, como produccion: un job que lo usa espera a que una persona autorizada apruebe antes de correr.

Un job con environment: produccion no arranca hasta que se cumplan las reglas de ese ambiente: revisores obligatorios (con la opción de impedir que apruebe quien disparó la corrida), ramas permitidas o un tiempo de espera. La aprobación queda registrada con nombre y hora. En un repositorio privado, los revisores obligatorios solo existen en el plan Enterprise de GitHub. El ambiente también puede tener sus propios secretos y variables, y cambia el sub (el campo que dice de dónde viene el job) del token de OIDC, así que un rol de AWS puede exigir que solo un job aprobado lo asuma. Un job que espera aprobación falla solo a los 30 días.

Ejemplo. En Alba, el job produccion usa el environment produccion, que exige que apruebe una persona del equipo de ML (de 5) que no hizo el cambio.

Época

epoch

Una pasada completa por el conjunto de entrenamiento: cada ejemplo se vio una vez.

Al empezar cada época se revuelven los ejemplos, para que los batches no sean siempre los mismos grupos. Al final de cada una se suele medir la validación: es lo que usa el early stopping para decidir si sigue.

Ejemplo. 50,000 fotos en batches de 64: 50,000 ÷ 64 = 781.25, así que son 782 pasos por época (el último batch trae solo 16 fotos). Alba, el marketplace que sigue el curso, entrena su modelo 8 épocas.

Se presenta en 04 · Cómo aprende un modeloAparece en 8 lecciones

Equidad

fairness

Que un modelo no le falle mucho más a un grupo de personas que a otro. Se revisa midiendo las mismas métricas por grupo, porque el promedio general puede esconder a un grupo donde el modelo falla.

Es obligatoria cuando el modelo decide sobre personas (crédito, contratación, identidad). Primero se elige qué error importa igualar: el recall (que a nadie se le escapen más los casos reales), los falsos positivos (que a nadie se le acuse más en falso) o la precision. Cuando los grupos tienen proporciones distintas de casos reales, no se pueden igualar todas a la vez (salvo en casos extremos, como un modelo que nunca se equivoca), así que elegir es una decisión de personas. Se mide con slices por grupo y, si el grupo es sensible, con cuidado de privacidad.

Ejemplo. En 2018, un estudio («Gender Shades») encontró que tres sistemas comerciales que adivinaban el género en fotos de caras se equivocaban en no más de 0.8 % de los hombres de piel clara y hasta en 34.7 % de las mujeres de piel oscura.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 2 lecciones

Equipo de plataforma

platform team

El equipo que opera la infraestructura común de una empresa (clusters de Kubernetes, redes, registro de imágenes, monitoreo) para que los equipos de producto, como el de aprendizaje automático (ML), la usen sin operarla.

Su existencia decide muchas elecciones de nube: la pregunta que casi siempre gana entre algo gestionado y algo propio es «¿quién lo va a operar?». Si ya hay un equipo que opera Kubernetes, agregar máquinas con GPU cuesta poco; si no lo hay y el equipo es chico, un servicio gestionado sale más barato aunque cueste más por hora, porque las personas no aparecen en la factura. Ver gestionado contra propio.

Ejemplo. Alba, el marketplace que sigue el curso, usa EKS porque ya tiene un equipo que lo opera. Sin plataforma y con un equipo chico, SageMaker AI sería la respuesta pragmática.

Se presenta en 38 · Qué es la nube

Erosión de calidad

slow regression

La pérdida lenta de calidad que se acumula cuando cada modelo nuevo es apenas un poco peor que el anterior: cada comparación pasa, pero la suma no.

La no inferioridad compara cada mes contra el mes anterior, así que una pérdida chica y constante nunca cruza el margen. La defensa es comparar también contra un modelo más viejo con la misma regla: contra él, las pérdidas de varios meses se ven juntas. Lo que todavía se cuela (pérdidas más chicas que el ruido de la comparación) lo vigila el monitoreo.

Ejemplo. En Alba, 0.2 puntos al mes son 2.4 puntos en un año. Contra el modelo de hace 3 meses se ven 0.6 juntos, que no caben en el margen de 0.3: el gate se pone en rojo. Con esa segunda comparación se cuelan, como mucho, ≈ 0.07 puntos al mes.

Se presenta en 50 · Gate de evaluación y registryAparece en 2 lecciones

Error cuadrático medio

mean squared error · MSE

La pérdida más usada para predecir números: el promedio de los errores al cuadrado. Un error de 6 pesa 36; uno de 1, solo 1.

Para cada ejemplo, (predicción − respuesta)²; para el grupo, el promedio. Elevar al cuadrado quita el signo y castiga mucho más los errores grandes. El número que hace más chico el MSE es el promedio de las respuestas: un modelo entrenado con MSE aprende a predecir la media. Su raíz, el RMSE, vuelve a las unidades originales. Si el negocio necesita otra cosa, como un número que alcance 9 de cada 10 días, se usan otras pérdidas (las de cuantiles, como en un pronóstico de demanda).

Ejemplo. Errores de +2, −1, −6 y +3 kg: (4 + 1 + 36 + 9) ÷ 4 = 12.5 kg²; la raíz, ≈ 3.5 kg. El error de 6 aporta el 72 % del total.

Error de capacidad insuficiente

insufficient capacity error (InsufficientInstanceCapacity, ICE)

Cuando la zona no tiene máquinas libres del tipo que pediste, aunque tengas cuota y dinero. En AWS (la nube de Amazon) se llama InsufficientInstanceCapacity.

Las GPUs son físicas y cada zona tiene un número fijo. Si otros clientes las están usando, no hay. No es tu cuota (eso sería otro error) y no se arregla pagando más. Se arregla pidiendo en otra zona, otro tipo de instancia con una GPU equivalente (si el modelo está compilado para una GPU exacta, hay que compilarlo también para la otra) o con una reserva de capacidad hecha antes. Una plataforma gestionada no te salva: saca sus máquinas de la misma capacidad física.

Ejemplo. En un pico, el autoscaler de Alba pide una tercera g4dn.xlarge en us-east-1a y recibe ICE; prueba en us-east-1b o pide una g4dn.2xlarge, que trae la misma T4.

Se presenta en 40 · Máquinas, GPUs y cómo se cobranAparece en 5 lecciones

Error estándar

standard error · SE

Cuánto se movería un número medido con una muestra si repitieras la medición con otra muestra al azar. Es la desviación estándar del resultado, no de los datos.

Para una proporción (una accuracy, una tasa de aceptación) vale √(p × (1 − p) ÷ n), donde p es la proporción y n cuántos datos tiene la muestra. Baja con la raíz de n: para la mitad del error hacen falta 4 veces los datos. Para la diferencia entre dos muestras independientes, las varianzas se suman: √(p₁(1 − p₁) ÷ n₁ + p₂(1 − p₂) ÷ n₂). Con él se arman los intervalos de confianza (≈ ±2 errores estándar) y las pruebas de hipótesis (p-value).

Ejemplo. Un modelo que saca 85 % en 1,000 fotos: √(0.85 × 0.15 ÷ 1,000) ≈ 0.0113, o 1.1 puntos. En el golden set de 50,000 fotos: 0.16 puntos.

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 4 lecciones

Escalamiento

feature scaling · standardization

Llevar features con rangos muy distintos (un monto en miles, una hora de 0 a 23) a una escala parecida. Lo más común es estandarizar: restar el promedio y dividir entre la desviación estándar.

z = (x − promedio) ÷ desviación estándar. Una feature estandarizada queda con promedio 0 y desviación 1, y z dice a cuántas desviaciones del promedio está cada valor. Ayuda a los modelos que suman features con pesos y aprenden con descenso de gradiente, y a los que miden distancias; a los árboles de decisión les da igual. El promedio y la desviación se calculan solo con train y se guardan con el modelo: al servir se usan los mismos, o hay leakage al entrenar y diferencias silenciosas al servir. En imágenes, esta misma cuenta por canal se llama normalización.

Ejemplo. Cinco montos de train: 20, 30, 35, 40 y 50 dólares. Promedio 35 y desviación 10. El de 50 queda en z = (50 − 35) ÷ 10 = 1.5; un pago nuevo de 90, en 5.5: muy lejos de lo normal.

Escalar a cero

scale to zero

Dejar que las copias de un servicio bajen hasta 0 cuando no hay trabajo. Ahorra la máquina entera en las horas sin tráfico; la siguiente request paga un arranque en frío completo.

Conviene donde nadie espera la respuesta en segundos: workers de una cola, backfills, herramientas internas, inferencia asíncrona. No conviene en un servicio online con latencia estricta. Ojo con los valores por omisión: KEDA tiene minReplicaCount en 0.

Ejemplo. Los workers del backfill de Alba y la capa de GPU de un servicio de láminas de microscopio bajan a cero; el Triton online de Alba nunca.

Escaneo de secretos

secret scanning

Revisar el código y su historia en busca de cosas que parecen secretos, antes de que salgan: en tu máquina antes de cada commit, en el CI (el sistema que corre las revisiones en cada cambio) y en el servidor de Git.

Muchos secretos tienen forma fija y se reconocen con expresiones regulares: una llave de acceso de AWS empieza con AKIA y lleva 16 letras mayúsculas o dígitos más; un token clásico de GitHub empieza con ghp_. Herramientas como gitleaks traen cientos de reglas y además miden qué tan al azar se ve un texto; se usan como pre-commit hook y en el CI. GitHub, con su protección de push, rechaza un push que trae un token conocido (gratis y prendida por omisión en los repositorios públicos desde 2024; de pago en los privados). Hay falsos positivos, que se anotan en una lista de excepciones. Cuando aparece uno de verdad, primero se rota (rotación) y luego se limpia.

Ejemplo. La regla \bAKIA[0-9A-Z]{16}\b encuentra la llave de ejemplo de la documentación de AWS, AKIAIOSFODNN7EXAMPLE. El reporte muestra solo su principio: un reporte con los secretos completos es otra fuga.

Escaneo de vulnerabilidades

vulnerability scanning

Cruzar la lista de lo que trae una imagen (su SBOM) con las bases públicas de fallos conocidos (CVEs) y reportar cuáles la afectan.

Herramientas como Grype o Trivy lo hacen en segundos. En un pipeline serio es un paso que falla la release si encuentra un CVE crítico, y se repite sobre las imágenes que ya corren, porque un fallo nuevo puede salir mañana. No encuentra fallos que nadie conoce todavía.

Ejemplo. En Alba, el escaneo corre en el CI de cada release del gateway y la detiene si encuentra un CVE crítico (CVSS de 9.0 o más), hasta que alguien actualiza el paquete o documenta por qué ese fallo no aplica.

Se presenta en 46 · Ataques y cadena de suministroAparece en 3 lecciones

Escribir, auditar, publicar

write-audit-publish

Un patrón para publicar datos sin que nadie vea algo a medias o sin revisar: se escribe aparte, se corren los chequeos y solo si pasan se publica, de golpe.

Si un job escribe directo donde los demás leen y se cae a la mitad, o escribe datos malos, quien lea en ese momento usa basura. Con este patrón, el job escribe en un lugar aislado (un prefijo temporal o una rama de lakeFS), corren los chequeos del contrato de datos y, si pasan, un último paso publica todo de una vez (subir los archivos al prefijo final y escribir la tarjeta al final, o hacer merge de la rama, que la junta con la principal). Si fallan, no se publica nada y el resto del sistema sigue con la versión anterior.

Ejemplo. Alba escribe el manifest en staging/ds-2026-09-01/, corre los chequeos del manifest ya armado (que ninguna foto esté en train y en validación, que no haya fotos del golden set, volumen entre 0.8 y 1.5 veces el snapshot anterior, labels débiles en 80 % o menos; el esquema y el rango de labels se revisaron antes de armar) y solo entonces sube los archivos a datasets/ con PUT condicional (no los copia dentro de S3) y escribe snapshot.json al final. Un snapshot sin tarjeta no existe.

Escritura condicional (If-None-Match)

conditional write

Una escritura (un PUT, la petición que guarda un archivo) que solo se cumple si se cumple una condición. Con el header If-None-Match: *, S3, el almacén de archivos de AWS, guarda el objeto solo si no existe nada con ese nombre; si existe, responde con el error 412 y no toca nada.

Sin condición, en un object storage gana el último PUT y el anterior se pierde sin aviso. La escritura condicional cambia eso: If-None-Match: * quiere decir «solo si la llave está vacía». S3 la acepta desde agosto de 2024. Como el header lo pone quien escribe, para que sea obligatoria se exige en la política del bucket (bucket policy): se niega cualquier PUT bajo el prefijo que no lo traiga. Es lo que vuelve real la inmutabilidad (de un snapshot) de un prefijo; el versionado del bucket y Object Lock no la dan.

Ejemplo. Un job de Alba que por error intenta escribir otra vez datasets/ds-2026-09-01/rows.parquet recibe 412 Precondition Failed; el snapshot de septiembre sigue igual.

Esquema de datos

schema · data schema

La descripción de cómo son unos datos guardados: qué columnas o campos tienen, de qué tipo es cada uno y cuáles pueden faltar. Es el contrato entre quien escribe y quien lee, a veces con años de diferencia.

Es la misma idea del esquema de una API, pero para datos que se quedan: un archivo lo pueden leer programas que todavía no existen. Cada formato trae más o menos de él: CSV solo los nombres; JSON Lines, nombres y tipos a medias; Parquet, el esquema completo en el pie de cada archivo; Avro, escrito en JSON aparte; protobuf, en el .proto. Validarlo al escribir y al leer atrapa columnas que faltan o cambian de tipo. Pero revisa la forma, no el significado: un cambio de centímetros a milímetros pasa cualquier esquema. Cómo cambia sin romper a nadie es la evolución del esquema.

Ejemplo. El log de Alba: request_id texto, model_version texto, top1 texto, score float32 de 0 a 1, todos obligatorios, y caller texto opcional.

Se presenta en 27 · Archivos y formatos: JSON, CSV, Parquet y YAMLAparece en 5 lecciones

Esquema de una API

API schema · contract

El contrato de una API escrito: qué campos lleva cada request y cada respuesta, de qué tipo es cada uno, cuáles son obligatorios y qué valores se permiten.

Con el esquema escrito, el servidor valida cada request antes de gastar CPU o GPU, y rechaza la que no cumple con un 422 (Unprocessable Content) que dice qué campo falló. En Python se escribe con Pydantic, y FastAPI lo usa para validar y para publicar la descripción completa de la API en formato OpenAPI (en /openapi.json, con una página de prueba en /docs). Por dentro, OpenAPI usa JSON Schema, el mismo lenguaje con que se le pide a un LLM una salida con forma fija. En gRPC, el esquema es el archivo .proto.

Ejemplo. En Alba, top_k es un entero entre 1 y 20 que vale 5 si no viene. Una request con top_k=0 recibe 422 sin llegar a Triton. La respuesta trae model_version (texto), predictions (lista de label y score) y latency_ms.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 3 lecciones

Estimación (cuenta de servilleta)

back-of-the-envelope estimate

Una cuenta rápida con números redondos para saber el orden de magnitud de algo (requests por segundo, máquinas, bytes, dólares) antes de construirlo.

Se parte de pocos datos y de supuestos dichos en voz alta, se encadenan multiplicaciones y divisiones con las unidades a la vista y se redondea. No busca exactitud: busca no equivocarse por 10 y llevar a una decisión. Lo que depende del hardware o del negocio se marca como «a medir» y se mide con una prueba de carga.

Ejemplo. La de Alba: 10 M fotos al día → 116 req/s → 350 en el pico → 500 de diseño → 2 GPUs T4, una de ellas de repuesto (N+1) → ≈ US$768 al mes de GPUs, y 3 GB de logs al día.

Estrategias de DR

backup and restore · pilot light · warm standby · active/active

Cuatro planes de recuperación, del más barato y lento al más caro y rápido: copia y restauración (solo copias), pilot light (datos listos, máquinas apagadas), warm standby (una versión chica encendida) y activo/activo (todo encendido en las dos regiones).

Copia y restauración: solo hay copias en la otra región; volver toma horas. Pilot light (llama piloto): datos replicados y lo mínimo creado pero apagado; decenas de minutos, y no atiende sin encender. Warm standby (espera tibia): una versión chica encendida, que ya atiende a capacidad reducida; minutos. Activo/activo: todo en las dos regiones, atendiendo; casi cero, pero cuesta el doble y complica todo lo que guarda estado. Se elige la más barata que cumpla el RPO y el RTO.

Ejemplo. Para Alba, el marketplace que sigue el curso (≈ US$1.8k al mes de infraestructura): copia y restauración, decenas de dólares; pilot light, ≈ US$200; warm standby, 384 + 124 + 73 + 16 ≈ US$600 (33 % más); activo/activo, ≈ US$1.8k más. Alba se queda con la primera.

Etiqueta

label

La respuesta correcta de un ejemplo: la que el modelo debería dar. En Alba, la categoría real de una foto.

Muchas veces la pone una persona a mano, y por eso cuesta tiempo y dinero. Con etiquetas malas, el modelo aprende mal, aunque todo lo demás esté perfecto.

Ejemplo. Una foto de unos tenis con la etiqueta «Calzado › Tenis». En Alba las etiquetas salen de tres lugares: la categoría que eligió quien vende, las correcciones de moderadores y unas 5 mil fotos al mes revisadas a mano.

Se presenta en 00 · El camino completoA fondo en 03 · Datos, ejemplos, features y etiquetasAparece en 9 lecciones

Etiqueta de asignación de costos

cost allocation tag

Un par llave-valor que se le pega a cada recurso de la nube (como equipo=catalogo) para poder partir la factura por equipo, modelo o ambiente.

La factura de la nube agrupa por servicio («EC2: US$40,000»). Con etiquetas, cada recurso lleva datos como equipo, modelo y ambiente, y al activarlas en la consola de facturación se puede ver cuánto gastó cada uno. Sirven para encontrar lo que nadie apagó, cobrarle a cada equipo lo suyo y medir el costo de un modelo. Solo cuentan desde que se activan, y los recursos sin etiqueta quedan en una bolsa sin dueño.

Ejemplo. Con ambiente=staging, Alba, el marketplace del curso, ve que su staging cuesta ≈ US$384 al mes con una T4 24/7, y que encendiéndola solo en horario de oficina baja a ≈ US$137.

Se presenta en 40 · Máquinas, GPUs y cómo se cobranAparece en 3 lecciones

Etiqueta de una métrica

metric label

Un par nombre = valor que parte una métrica, como status="200" o model_version="resnet50-2026-10-01". Cada combinación de valores es una serie aparte, así que solo puede tomar pocos valores.

Las etiquetas permiten preguntar por partes: los 5xx de una versión, la latencia de mobile. El costo es que cada combinación crea una serie y la cardinalidad (de las métricas) se multiplica. Regla: valores de una lista corta y cerrada. Lo que identifica a una request (su id, el hash de la foto) va al log. No confundir con la «etiqueta» de un ejemplo de entrenamiento ni con las etiquetas de un pod de Kubernetes.

Ejemplo. El header X-Client-Source puede traer cualquier texto; el gateway de Alba lo reduce a cuatro valores (mobile, web, internal, other) antes de usarlo como etiqueta.

Etiquetado

labeling · annotation

El proceso de ponerle a cada ejemplo su respuesta correcta: quién etiqueta, con qué guía, cómo se revisa la calidad y cuánto cuesta. La etiqueta es el dato más caro por unidad.

Lo hacen proveedores, un equipo propio, expertos para los casos difíciles, o la gente dentro de su trabajo (moderadores, inspectores). Se apoya en una guía escrita y versionada, con ejemplos y contraejemplos de cada clase, los casos límite decididos por escrito y una salida para «no sé». La calidad se mide con doble anotación: una parte la etiquetan dos personas, se mide su acuerdo (kappa de cohen) y un experto decide los desacuerdos. Qué ejemplos etiquetar lo decide el active learning.

Ejemplo. Alba, el marketplace del curso: ≈ 5,000 fotos al mes a US$0.05–0.10 cada una, con 10 % de doble anotación: ≈ US$250–500 al mes, más ≈ US$25–50 por la doble. El golden set, 50,000 fotos con doble anotación, cuesta ≈ US$5–10 mil una sola vez.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 3 lecciones

Event loop (ciclo de eventos)

event loop

El ciclo que, en un solo hilo, reparte turnos entre muchas tareas (corrutinas): corre una hasta que llega a un punto de espera (un await), la anota entre las que esperan y pasa a la siguiente lista. El sistema operativo le avisa cuándo llegó lo que cada una esperaba.

Es el corazón de async (programación asíncrona). Lleva dos listas, las tareas listas y las que esperan (bytes de la red, un temporizador, la respuesta de otro servicio), y le pide al sistema operativo que le avise cuando algo llegue: en Linux, con epoll; en macOS, con kqueue. Como corre en un solo hilo, todo lo que pasa entre dos await ocupa al loop. Un trabajo CPU-bound o una llamada bloqueante dentro de una corrutina lo congela, y ninguna otra request avanza, ni los health checks. Con FastAPI y uvicorn hay un event loop por proceso.

Ejemplo. En el gateway de Alba, el marketplace del curso, decodificar un JPEG dentro de una ruta async def (≈ 6 ms en promedio, de 40 a 80 ms con una foto web de 12 megapíxeles sin draft mode, el atajo que la decodifica ya reducida) detiene al loop todo ese tiempo. A 100 requests por segundo, lo que le toca a un pod, en 60 ms llegan 100 × 0.06 = 6 requests que esperan sin avanzar.

Event time

event time

La hora en que algo pasó en el mundo, no la hora en que el sistema se enteró. Su pareja es el processing time, la hora en que se procesó.

Casi siempre van juntas, pero un evento puede llegar tarde: un celular sin señal, una cola atrasada, un reintento. Las preguntas sobre el mundo (¿cuántos pagos hizo la tarjeta entre las 10:00 y las 10:05?) se responden con el event time; contar por processing time hace que un retraso de la red cambie las features. Por eso cada evento lleva su event time, las ventanas se arman con él, y un watermark decide cuánto esperar a los que llegan tarde. Las etiquetas también tienen dos fechas: cuándo pasó lo que etiquetan y cuándo llegaron.

Ejemplo. Un celular en el metro registra un pago a las 10:00:05 (event time) y el evento llega al sistema a las 10:07 (processing time): siete minutos tarde.

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 2 lecciones

Evolución del esquema

schema evolution

Cambiar el esquema de unos datos que ya están guardados y que otros leen, sin romperlos. Agregar un campo opcional con valor por omisión no rompe a nadie; renombrar un campo o cambiarle el tipo, sí.

Hay dos preguntas. Compatible hacia atrás: ¿el lector nuevo lee los datos viejos? Compatible hacia adelante: ¿el lector viejo lee los datos nuevos? Un campo opcional con valor por omisión cumple las dos: el nuevo lo rellena en lo viejo y el viejo lo ignora. Un campo obligatorio nuevo rompe hacia atrás. Renombrar o cambiar el tipo rompe las dos. Para renombrar se escribe el campo nuevo junto al viejo un tiempo y se quita el viejo cuando nadie lo lee, como el expand and contract del versionado de una API. Formatos como Avro y Parquet guardan el esquema con los datos, y un registro de esquemas puede rechazar un cambio incompatible antes de publicarlo.

Ejemplo. La v2 del log de Alba agrega caller con «desconocido» por omisión: el job de drift nuevo lee los logs de hace seis meses, y el dashboard viejo sigue funcionando. Renombrar score a confianza los rompería a los dos.

Se presenta en 27 · Archivos y formatos: JSON, CSV, Parquet y YAMLAparece en 2 lecciones

Exactly-once

exactly-once

Que cada mensaje tenga su efecto una sola vez: ni perdidos ni repetidos. De punta a punta no se puede garantizar en general; en la práctica es at-least-once (nada se pierde, algo se repite) más un consumidor idempotente, al que procesar dos veces lo mismo no le cambia el resultado.

El último ack siempre puede perderse (el problema de los dos generales), así que ningún broker puede prometer entregar cada mensaje una sola vez a un sistema de afuera. Lo que sí se logra es el efecto de una vez: at-least-once con un consumidor idempotente. Hay ayudas dentro de cada sistema: SQS FIFO descarta envíos repetidos durante 5 minutos, y Kafka tiene productores idempotentes y transacciones (desde la versión 0.11, de 2017) que dan exactly-once mientras todo se lea y se escriba dentro de Kafka. En cuanto el efecto sale (un correo, una base), vuelve la regla de la idempotencia.

Ejemplo. El sink de un sistema de detección de fraude cuenta pagos por tarjeta en ventanas de 1 hora. En vez de sumar 1 por evento, escribe el conteo de la ventana con un upsert por (tarjeta, ventana): si Flink reprocesa, el valor queda igual.

Exemplar

exemplar

El id de una traza pegado a una observación de un histograma. Permite saltar de una métrica (el p99 subió) a una request concreta que cayó en ese bucket.

Cuando una request que tiene traza suma su latencia a un bucket del histograma, el servicio anota junto a ese bucket el id de su traza. Grafana los dibuja como puntos sobre la curva; tocar uno abre la traza. Solo las requests trazadas pueden ser exemplars, así que con un muestreo del 1 % hay pocos de los casos lentos.

Ejemplo. Marta, de guardia en Alba, ve el p99 subir a las 14:05, toca un punto alto y abre una traza de 240 ms: dentro de Triton, el span del modelo dura ≈ 200 ms y el del cálculo solo 4; casi todo fue fila.

EXIF

EXIF metadata

Datos escondidos dentro de una foto: el modelo de la cámara, la fecha, cómo se sostenía el teléfono y, a veces, las coordenadas GPS de dónde se tomó.

Importa por dos razones. La orientación: muchos teléfonos guardan los píxeles «acostados» y anotan en EXIF que hay que girarlos; si no lo aplicas, el modelo ve la foto de lado. Y la privacidad: el GPS puede revelar dónde vive alguien, así que no se guarda en logs y se quita de las copias.

Ejemplo. Orientación 6 significa «gira 90° a la derecha para verla bien».

Se presenta en 02 · Una foto, vista por un modeloAparece en 9 lecciones

Expand and contract

expand and contract

Cambiar un contrato entre sistemas en tres pasos para no romper a nadie: primero los consumidores aprenden lo nuevo, después el productor lo produce, al final se borra lo viejo.

Hace falta cuando dos versiones conviven (en un canary, en un bake) y sus consumidores no se actualizan al mismo tiempo. El orden es lo importante: nadie produce algo que su consumidor todavía no entiende. Se usa igual en bases de datos (agregar una columna, escribirla, dejar de leer la vieja) y en APIs. En modelos, ayuda que la API devuelva el nombre de la categoría y nunca su posición en la salida.

Ejemplo. Para pasar de 500 a 501 categorías con «bolsas»: el backend y la app aceptan el nombre nuevo; luego la release con el modelo de 501 sube sus peldaños de despliegue (shadow, canary), con una prueba A/B; al final se borra lo que solo servía para el de 500.

Se presenta en 56 · Rollout seguro

Extensión binaria de tensores

binary tensor data extension

La forma de mandarle tensores a Triton por HTTP sin escribirlos como texto: un JSON corto con nombre, forma y tipo, y detrás los bytes crudos. El tensor de una foto de Alba pesa 602,112 B en vez de ≈ 3 MB.

El protocolo de inferencia v2 en JSON escribe cada número con sus cifras: lento de escribir, lento de leer y ≈ 5 veces más pesado. La extensión binaria, que definió Triton y no es parte del protocolo base, manda primero un JSON que describe los tensores y después sus bytes tal cual están en memoria. El header Inference-Header-Content-Length dice cuántos bytes ocupa el JSON, para saber dónde empiezan los datos.

Ejemplo. La foto de Ana va del gateway a Triton como 3 × 224 × 224 = 150,528 números FP32 × 4 B = 602,112 B. A 500 fotos por segundo son ≈ 2.4 Gb/s; en JSON serían ≈ 12 Gb/s.

Extensión nativa

native extension

Un módulo de Python escrito en C, C++, Rust o CUDA (para programar GPUs de NVIDIA) y ya compilado a instrucciones de una CPU: un archivo .so en Linux y macOS o .pyd en Windows. Se importa como cualquier módulo, pero adentro no hay Python.

Existen por velocidad: Python puro hace las cuentas de una en una, y NumPy, Pillow y PyTorch hacen el trabajo pesado en C y C++, y pueden soltar el GIL mientras tanto. Pillow trae además librerías de imágenes compiladas, como las de JPEG; pydantic_core está escrito en Rust; PyTorch trae C++ y kernels de CUDA. El precio: como el código está compilado para un sistema, un chip y una versión de Python, el paquete necesita una wheel por plataforma, y el mismo numpy==2.5.3 son archivos distintos en una Mac y en el contenedor. También quedan atadas a la interfaz binaria (ABI: las reglas de cómo el código compilado se conecta con lo que llama) de lo que usan: las extensiones compiladas contra NumPy 1.x dejaron de cargar con NumPy 2.

Ejemplo. En un contenedor de prueba, math es /usr/local/lib/python3.13/lib-dynload/math.cpython-313-aarch64-linux-gnu.so: el aarch64 dice que es para un chip ARM. De las 37 dependencias del gateway, 17 traen código compilado en su wheel de Linux, como numpy, pillow, pydantic_core y uvloop.

Extracción del modelo

model extraction

Copiar un modelo a fuerza de consultas: mandarle muchas entradas a su API, guardar las respuestas y entrenar un modelo propio que las imite.

Importa cuando el modelo es el producto o cuando la copia sirve para preparar otros ataques sin que te enteres (los ejemplos adversarios contra la copia suelen funcionar contra el original). El tiempo que tarda es T=Q÷(a×c): consultas necesarias entre cuentas por cuota. No se puede evitar del todo; se hace caro y visible: autenticación, cuentas que cuesten algo, cuotas por identidad verificada, devolver solo lo necesario (top-5, no las 500 probabilidades) y vigilar patrones de consulta.

Ejemplo. Si Alba abriera su clasificador al público con 10 consultas por segundo por cuenta, copiarlo con 1,840,211 consultas tardaría 184,021 s ≈ 2.1 días con una cuenta, y ≈ 31 minutos con 100 cuentas.

F

F1

F1 score

Un solo número que junta precision y recall con su media armónica. Sale bajo si cualquiera de las dos es mala.

F1 = 2 × precision × recall / (precision + recall), o directo de la tabla, con TP los verdaderos positivos, FP los falsos positivos y FN los falsos negativos: 2·TP / (2·TP + FP + FN). No usa los verdaderos negativos, así que la clase grande no lo infla. No sirve para elegir el umbral cuando los errores tienen costos muy distintos: ahí se decide con el costo de cada uno.

Ejemplo. Precision 66.7 % y recall 80 %: F1 = 2 × 0.667 × 0.80 / 1.467 ≈ 0.727. El promedio simple daría 73.3 %.

Factor de pico

peak factor · peak-to-average ratio

Cuántas veces el promedio llega en el momento de más tráfico. Con él se pasa del promedio al pico, que es para lo que se compran las máquinas.

Si la hora pico lleva una fracción f del tráfico del día, el factor es k=24×f: con 1/8, 3. Suele estar entre 2 y 5 en apps que usan personas en una zona horaria, y cerca de 1 en un proceso que trabaja parejo las 24 horas. Al pico se le suma un margen (× 1.3 a 1.5) para picos raros y crecimiento, y se redondea hacia arriba: el pico de diseño.

Ejemplo. Alba supone 3 (su hora pico lleva 1/8 del día: 24 × 1/8): 116 × 3 ≈ 350 req/s; con un margen de ≈ 1.4 diseña para 500. Una notificación del Hot Sale podría llevarlo a ≈ 1,670 durante un minuto.

Se presenta en 09 · Números grandes, unidades y estimacionesAparece en 2 lecciones

Factura de la nube

cloud bill

El cobro mensual de una cuenta, con un renglón por cada servicio y unidad: horas de cada máquina, GB guardados, requests, GB transferidos, GB de logs.

Lo que sorprende es que la de un sistema de ML rara vez es solo GPU: el balanceador, los logs, el tráfico entre zonas y el egress (transferencia de salida) pueden pesar tanto como las máquinas. Para que sirva para decidir, cada recurso lleva una etiqueta y la factura se agrupa por proyecto; se ponen alertas de presupuesto para no enterarse a fin de mes. En entrevista se reporta en US$ al mes con su supuesto, y por 1,000 predicciones.

Ejemplo. Alba, el marketplace que sigue el curso: GPUs ≈ US$768, gateway ≈ US$248, EKS ≈ US$73, ALB ≈ US$500, logs y S3 ≈ US$100, más NAT, IPv4, cruce de zona y endpoints ≈ US$140: 768 + 248 + 73 + 500 + 100 + 140 ≈ US$1.8k al mes. Entre ≈ 304 M predicciones al mes: 1,829 ÷ 304,000,000 × 1,000 ≈ US$0.006 por 1,000 predicciones. Las GPUs son 768 ÷ 1,829 ≈ 42 %.

Se presenta en 38 · Qué es la nube

Fail-open (fallar abierto)

fail-open · fail-closed

Cuando una revisión que da permiso falla, dejar pasar. Lo contrario, fail-closed (fallar cerrado), es bloquear. Se decide de antemano, según qué cuesta más.

Aplica a piezas que no dan una respuesta sino un permiso: un revisor de contenido, un limitador, un chequeo de fraude. Fallar abierto protege la disponibilidad del producto a cambio de dejar pasar algo malo un rato; fallar cerrado protege la seguridad a cambio de detener todo. Bien hecho, fallar abierto tiene tope, métrica y alerta, y lo que pasó sin revisar se revisa después. Ojo: en el circuit breaker, «abierto» quiere decir lo contrario, que no deja pasar.

Ejemplo. En un servicio de moderación de contenido, si los modelos no contestan a tiempo, el post se publica y se revisa después (abierto); la comparación contra imágenes prohibidas conocidas, que no depende de la red, falla cerrado. En un pago, si no se puede verificar, no pasa (cerrado).

Se presenta en 25 · Timeouts, reintentos e idempotenciaAparece en 4 lecciones

Failover (conmutación por falla)

failover

Pasar el tráfico de la copia que falló a la que sigue viva. Entre zonas lo hace el balanceador, en segundos o en un minuto según sus health checks; entre regiones hay que decidir cómo: por DNS (cambiar a dónde apunta el nombre), por IP anycast (la misma dirección anunciada desde varias regiones) o a mano.

Por DNS, un health check vigila la región y el nombre empieza a apuntar a la otra; el cambio tarda la detección más el TTL. Por IP anycast, la misma dirección se anuncia desde varias regiones y la red lleva cada paquete a la sana más cercana, en segundos. A mano, una persona decide: es lento, pero evita que una falsa alarma mande todo a una región que no estaba lista. El regreso a la región original se llama failback.

Ejemplo. Con un health check cada 30 segundos, 3 fallas para declarar la caída y un TTL de 60 segundos, el último cliente cambia hasta 150 segundos después.

Falla correlacionada

correlated failure · common-cause failure

Fallas que llegan juntas porque tienen la misma causa: el mismo deploy malo en todas las copias del servicio, una zona entera que se cae, una dependencia que todas comparten. Rompen la independencia, y con ella la cuenta de la redundancia.

Las causas típicas: el mismo error o la misma configuración aplicados a todas las réplicas a la vez; un dominio de falla compartido (la misma máquina, rack, zona o región); una dependencia común (la misma base de datos, caché o certificado); la sobrecarga que se contagia cuando una réplica cae y la otra no aguanta el doble, y los reintentos en manada. La defensa no es agregar réplicas iguales, sino que la causa no llegue a todas a la vez: cambios de a poco y una zona a la vez (canary), planes B que no compartan nada y ensayos de falla programados.

Analogía. Dos despertadores eléctricos en el mismo enchufe: cada uno falla poco, pero un apagón los apaga juntos. Se rompe en que, en un sistema, el «enchufe» casi nunca se ve.

Ejemplo. El servidor del modelo de Alba (Triton) en dos zonas al 99.5 % da 99.9975 % (≈ 1 minuto al mes). Si un deploy malo tumba las dos zonas el 0.1 % del tiempo, queda en ≈ 99.90 % (≈ 44 minutos): 43 de esos minutos son de la causa común.

Se presenta en 11 · Probabilidad para sistemas que fallanAparece en 3 lecciones

Falla silenciosa

silent failure

Cuando un modelo empeora sin que nada truene: el servicio sigue contestando 200 OK (el código de «todo bien»), igual de rápido y con la misma seguridad aparente, pero sus respuestas son peores.

Un servidor web roto se nota porque deja de contestar. Un modelo roto sigue contestando. Casi nunca cambió el modelo: cambió el mundo que lo alimenta (las fotos, la gente, lo que se vende), y eso es drift. Por eso no bastan las señales de servicio: hacen falta señales del modelo y del negocio, en las cinco capas del monitoreo.

Analogía. Como un termómetro que se descalibra: sigue marcando un número cada vez que lo miras, solo que ya no es la temperatura. Se rompe en que el termómetro sí cambió; en un modelo, casi siempre cambió lo que mide.

Ejemplo. Una versión nueva de la app manda las fotos más comprimidas. El p99 de un pod del gateway sigue en ≈ 69 ms o menos (el de su pico de diseño) y no hay errores de más; seis días después, la aceptación de source=mobile cae de 70.1 % a 66.2 %.

Se presenta en 58 · Monitoreo, drift y reentrenamientoAparece en 2 lecciones

Fallback

fallback · plan B

Lo que hace el sistema cuando el modelo no responde a tiempo o falla: una respuesta más simple que no depende de él, para que la persona pueda seguir.

Todo lo que está en el camino online falla alguna vez. El fallback convierte esa falla en una molestia chica en vez de una pantalla trabada: el sistema se degrada, pero no se cae. Va junto con un tiempo máximo de espera (timeout): pasado ese tiempo, se deja de esperar y se usa el plan B.

Ejemplo. En Alba, si la API no contesta en 300 ms, el marketplace le muestra a Ana el selector de categorías para elegirla a mano. En un sistema que detecta fraude en pagos con tarjeta, si el modelo no responde, deciden reglas fijas.

Se presenta en 00 · El camino completoA fondo en 25 · Timeouts, reintentos e idempotenciaAparece en 9 lecciones

Falso negativo

false negative · FN

Un «no» equivocado: sí era de la clase que buscas y el modelo no lo vio. Algo que se le escapó.

Bajar los falsos negativos sube el recall, normalmente a cambio de más falsos positivos. Qué error duele más se decide con el negocio, y eso fija el umbral.

Ejemplo. En Alba, el marketplace que sigue el curso: Ana sube unos tenis y «Tenis» no aparece entre las sugerencias; tiene que buscar la categoría a mano. En fraude, un falso negativo es una compra robada que pasó.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 3 lecciones

Falso positivo

false positive · FP

Un «sí» equivocado: el modelo dijo que era de la clase que buscas y no lo era. Una falsa alarma.

Cuánto cuesta depende del negocio. Bajar los falsos positivos sube la precision, normalmente a cambio de más falsos negativos.

Ejemplo. En Alba, el marketplace que sigue el curso: Ana sube unas botas y la app le sugiere «Tenis». Si lo acepta, la publicación queda mal clasificada y moderación la tiene que mover.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 4 lecciones

Familia de instancias

instance family

Un grupo de instancias con el mismo tipo de hardware, en varios tamaños. En AWS (la nube de Amazon) el nombre dice la familia, la generación, los extras y el tamaño: g4dn.xlarge.

AWS nombra sus instancias por partes. La letra es la familia: g (GPUs para inferencia: T4, A10G, L4, L40S), p (GPUs grandes: A100, H100, H200, B200), c (cómputo), m (uso general), r (mucha RAM). El número es la generación. Las letras siguientes son extras (en g4dn, d = disco NVMe local, n = red más rápida; en c6i, i = procesador Intel). Después del punto va el tamaño: large = 2 vCPU, xlarge = 4, 12xlarge = 48, 48xlarge = 192. En las familias de GPU, el tamaño decide también cuántas GPUs vienen.

Ejemplo. p5.48xlarge: familia p, generación 5, tamaño 48 × 4 = 192 vCPU, con 8 H100. g6.2xlarge: la misma L4 que la g6.xlarge, con el doble de vCPU y RAM.

Fan-out

fan-out

Cuando una request llama a N servicios a la vez y espera a todos. Basta con que uno tarde para que la request tarde: si cada uno es lento con probabilidad p, la request lo es con 1 − (1 − p)^N.

Pasa en buscadores con el índice repartido en pedazos, en páginas armadas con muchos bloques y en sistemas con muchos servicios chicos. Con N servicios que superan su p99 el 1 % de las veces, la request toca la cola con probabilidad 1 % si N = 1, ≈ 9.6 % si N = 10 y ≈ 63.4 % si N = 100: el p99 de cada pieza se vuelve la latencia típica del conjunto. Para que el 99 % de las requests sean rápidas, cada servicio tiene que cumplir su percentil 0.99^(1/N) ≈ 1 − 0.01 ÷ N: con 10, su p99.9. Las salidas: menos servicios, colas más cortas, responder con lo que llegó a tiempo o mandar una copia a otra réplica (hedging).

Analogía. Una mesa de restaurante donde nadie empieza a comer hasta que llegan todos los platos: basta con que uno se retrase para que la cena entera se retrase, y con muchos platos casi siempre hay uno que se retrasa. Se rompe en que los platos salen de la misma cocina y suelen atrasarse juntos; la cuenta del fan-out supone que cada servicio se atrasa por su cuenta.

Ejemplo. En el asistente interno de Alba, que responde a sus empleados con los documentos de la empresa, cada pregunta busca por palabras y por significado al mismo tiempo y espera a las dos búsquedas: un fan-out de dos. Con 10 servicios en paralelo, cada uno lento el 1 % de las veces, la request es lenta con probabilidad 1−0.9910 ≈ 9.6 %: casi 1 de cada 10 requests toca el p99 de alguno.

Se presenta en 11 · Probabilidad para sistemas que fallanAparece en 4 lecciones

FastAPI

FastAPI

Un framework de Python para escribir APIs: conecta cada ruta con su función, revisa los parámetros con pydantic (una biblioteca que revisa tipos y reglas) y arma las respuestas en JSON. Necesita un servidor aparte, como uvicorn, que abra el puerto.

Con FastAPI, una ruta se escribe como una función con un decorador (@app.post("/v1/classify")) y sus parámetros con su tipo y sus reglas (top_k: int = Query(5, ge=1, le=20)). FastAPI los revisa con pydantic antes de llamar a la función, y si no cumplen responde 422 (un código de estado de datos inválidos). Las funciones pueden ser async def, que corren en el event loop, o def, que corren en un hilo de su threadpool (grupo de hilos). No es un servidor: necesita uvicorn u otro servidor ASGI que abra el puerto.

Ejemplo. El gateway de Alba es una aplicación FastAPI con cuatro rutas: POST /v1/classify, GET /healthz, GET /readyz y GET /metrics.

Se presenta en 52 · Código de servingAparece en 3 lecciones

Fatiga de alertas

alert fatigue

Cuando suenan tantas alertas que no llevan a nada que la gente deja de hacerles caso, y la que importa también se ignora.

Nace de alertas sin for, sin volumen mínimo, por causas en vez de síntomas, o de pages que deberían ser tickets; y de muchas pruebas a la vez (comparaciones múltiples). Se mide con la fracción de pages que terminaron en una acción, y se cura borrando o bajando de severidad lo que nadie atendió.

Ejemplo. Con números de ejemplo: 12 pages en un mes y solo 9 con acción es 75 %; los otros 3 son candidatos a borrar o a pasar a warning.

Feature

feature · característica · variable

Cada dato de la entrada que el modelo usa para decidir. En una tabla, una columna; en una foto, cada píxel.

En datos tabulares las features las elige una persona (el monto, el giro del comercio, la hora); a eso se le llama feature engineering. Pueden ser números o categorías, y las categorías hay que convertirlas en números (codificación). En imágenes la entrada son los píxeles crudos y el modelo arma por dentro sus propias features útiles. Una feature solo sirve si existe en el momento de predecir; si no, es leakage.

Ejemplo. Un pago, en un sistema de detección de fraude: monto US$45, giro «videojuegos», hora 03:12 y 4 intentos de la tarjeta en el último minuto. Son cuatro features.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 10 lecciones

Feature flag

feature flag · feature toggle · kill switch

Una condición en el código que se consulta mientras el programa corre contra una configuración remota: prende o apaga un comportamiento para todos, para un porcentaje o para un grupo, sin desplegar nada.

Separa desplegar (poner el código en los servidores) de activar (que la gente lo use). Un flag que apaga una función entera es un kill switch, el rollback más rápido. Para un porcentaje estable se usa una función hash del id del usuario con una sal propia del flag: el mismo usuario cae siempre del mismo lado, y al subir del 10 % al 20 % los que estaban adentro se quedan. El valor del flag se registra con cada predicción. No es un canary: el canary reparte tráfico entre dos versiones desplegadas; el flag reparte usuarios dentro del mismo código. Cada flag es un camino más en el código: cuando llega al 100 %, se borra.

Ejemplo. En la primera versión de Alba, solo el 10 % de los vendedores ve las sugerencias: en el pico de 500 requests por segundo, 500 × 10 ÷ 100 ≈ 50 van por el camino nuevo.

Feature store

feature store

Un sistema que guarda las features de un modelo (los números que recibe, como «compras de esta tarjeta en 24 h») con una sola definición para entrenar y para servir: un almacén offline con toda la historia y uno online con el valor de ahora, que responde en milisegundos.

El offline store guarda todas las versiones de cada valor con su hora, en el lake o el warehouse: de ahí salen los datasets, tomando para cada ejemplo el valor de justo antes de su momento (point-in-time correctness), para no aprender del futuro (leakage). El online store guarda solo el último valor de cada usuario o tarjeta en una base base llave-valor como Redis. Un job copia los valores nuevos del uno al otro (materializar). Como los dos salen del mismo código, se evita el training-serving skew. Herramientas: Feast (de código abierto), Tecton (desde 2025, parte de Databricks) y los de Databricks, SageMaker y Gemini Enterprise Agent Platform (antes Vertex AI). En visión pura, como el clasificador de fotos de Alba, casi nunca hace falta: la feature es la imagen.

Ejemplo. Un modelo de detección de fraude en tiempo real usa «compras de la tarjeta en las últimas 24 h». Para entrenar, una transacción de las 10:05 toma el valor de las 10:00 del offline store; en producción, el servicio lee el valor actual del online store en ≈ 1 ms.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 5 lecciones

Few-shot (ejemplos en el prompt)

few-shot prompting · in-context learning

Poner unos cuantos ejemplos resueltos dentro del prompt para que el modelo copie el patrón, sin cambiar ni un peso. Sin ejemplos se llama zero-shot.

No es entrenamiento: los ejemplos solo cambian el texto que el modelo tiene que continuar, y lo más probable es seguir el formato que ve. Lo popularizó el artículo de GPT-3 (OpenAI, 2020), «Language Models are Few-Shot Learners». Cada ejemplo cuesta tokens en cada request; si son fijos y van al principio, el prefix caching evita recalcularlos.

Ejemplo. Para sacar marca, talla y color de una publicación, se ponen dos publicaciones con su respuesta ya resuelta en JSON (un formato de texto con campos y valores) y al final la nueva: el modelo responde con el mismo formato.

Ficha del dataset

datasheet / data card

El documento que acompaña a un dataset: qué contiene, de dónde salió, cómo se etiquetó y dividió, y para qué no sirve. Hay una versión para máquinas (la tarjeta) y otra para personas.

Un manifest dice qué filas hay, pero no por qué. La ficha lo cuenta. La parte para máquinas (en Alba, snapshot.json) guarda el id, el padre, la fecha, la huella del manifest, los conteos, la mezcla de fuentes, la regla del split, el commit del código que lo armó y el estado de la validación. La parte para personas, que viene de la propuesta de datasheets for datasets, explica los límites: qué sesgos tiene, qué no se debe medir con él.

Ejemplo. La tarjeta de ds-2026-09-01 dice: padre ds-2026-08-01, 72 % de labels de quien vende filtrados, 7 % de moderación, 21 % a mano; split por seller_id; código ml-catalogo en el commit 4be1d0a. La ficha para personas avisa que el 72 % no sirve para medir el modelo: lo influyó su propia sugerencia.

Ficha del modelo

model card

Un documento corto por versión, para personas: para qué sirve el modelo y para qué no, con qué datos se entrenó, cómo le va en general y por grupo, qué limitaciones tiene y quién es su dueño.

El registro guarda lo que necesitan las máquinas; la ficha, lo que necesita quien quiera usar el modelo para otra cosa. Su línea más importante es «para qué no»: evita que otro equipo use un modelo fuera de lo que se validó. La propuso un grupo de investigación en 2019 y hoy es una práctica común antes de publicar o reusar un modelo.

Ejemplo. La de Alba dice: «sugiere categorías; no está validado para moderar publicaciones sin revisión humana», con top-1 ≈ 85 %, top-5 ≈ 96 % y la limitación de las fotos con poca luz.

Fijar con hash

hash pinning

Anotar en el lock file (la lista exacta de paquetes a instalar) la huella sha256 (un resumen único de sus bytes) de cada archivo que se instala, e instalar solo si los bytes que bajan tienen esa huella.

Fijar con == solo fija nombre y versión: si un proxy o un índice comprometido sirve otro archivo con la misma versión, no se nota. Con hashes, pip (opción --require-hashes) calcula la huella de cada archivo y se niega a instalarlo si no coincide o si el paquete no está en la lista. Herramientas como pip-tools y uv generan el lock file con hashes.

Ejemplo. En un ejemplo de juguete, cambiar 6 bytes del paquete revisado hace que la huella no coincida y el instalador lo rechace.

Se presenta en 46 · Ataques y cadena de suministroAparece en 3 lecciones

Filtro

filter · kernel

La cuadrícula chica de pesos que recorre la foto en una convolución. Cada filtro busca un patrón: un borde, un cambio de color, una textura.

Sobre una entrada de varios canales, un filtro de 3 × 3 mira todos a la vez: sobre una foto de color es de 3 × 3 × 3, 27 pesos más 1 sesgo. Sus pesos los aprende el entrenamiento; nadie los escribe a mano.

Ejemplo. Una capa de 64 filtros de 3 × 3 sobre una foto de color: 64 × (27 + 1) = 1,792 parámetros.

Se presenta en 06 · Redes neuronales y CNNsAparece en 4 lecciones

Finalidad del tratamiento

purpose limitation

El «para qué» de un dato personal. Se dice antes de juntarlo, y después no se usa para otra cosa sin más. En México, una finalidad que no está en el aviso de privacidad de la empresa exige pedir el consentimiento de nuevo; en Europa, depende de si es compatible con la original.

En machine learning, el salto de finalidad pasa seguido: logs que se juntaron para depurar terminan siendo un dataset; conversaciones de soporte terminan entrenando un asistente; fotos de publicaciones terminan en un modelo de caras. Cada salto es una decisión que pasa por legal, y quien hace ML suele ser quien primero lo ve. El aviso de privacidad dice cuáles finalidades están cubiertas.

Ejemplo. Ana subió su foto para publicar sus tenis. Sugerirle la categoría encaja con eso; usar la foto para entrenar el modelo tiene que estar en el aviso de privacidad de Alba.

Fine-tuning

fine-tuning · ajuste fino

Seguir entrenando un modelo preentrenado con tus propios datos, con pasos de ajuste chicos (un learning rate bajo) para no borrar lo que ya sabía.

Se puede congelar el backbone y entrenar solo la cabeza (rápido, sirve con pocos datos) o entrenar todo con learning rate chico (más lento, suele dar mejor resultado con muchos datos). Es la forma más común de transfer learning.

Ejemplo. El fine-tuning de Alba, el marketplace del curso, usa learning rate 0.0003, 8 épocas y batches de 64, y cabe en una GPU A10G en unas 3–4 horas. Con el backbone congelado, solo se moverían 1,024,500 de los 24,532,532 parámetros.

Se presenta en 06 · Redes neuronales y CNNsAparece en 8 lecciones

Firma de imagen

image signing

Una firma digital sobre el digest (la huella sha256) de una imagen de contenedor, que prueba quién la publicó y que no ha cambiado.

Se firma el digest y no el nombre, porque un nombre o tag se puede apuntar a otra imagen y el digest no. La herramienta más usada es cosign, que puede firmar sin guardar una llave privada (keyless): el CI recibe un certificado de vida corta para su identidad. La trampa: así cualquiera firma con su propia identidad, de modo que la verificación tiene que nombrar la identidad exacta del pipeline y su emisor. La firma solo sirve si alguien la revisa al desplegar: eso hace la política de admisión.

Ejemplo. Cada release del gateway de Alba firma su digest con la identidad del pipeline. Una imagen firmada por otra identidad, aunque la firma sea válida, no pasa la verificación.

Se presenta en 46 · Ataques y cadena de suministroAparece en 3 lecciones

Firma digital

digital signature

Una prueba de quién escribió algo y de que no cambió: el autor calcula, con su llave privada, una firma sobre la huella (el hash) del documento, y cualquiera la comprueba con su llave pública.

Si la firma cuadra, el documento salió de quien tiene la llave privada y no cambió ni un byte (otro byte da otra huella). Da integridad y autenticidad, no confidencialidad: el documento viaja legible. Está en todas partes: un certificado es una firma de una CA (autoridad certificadora); en TLS el servidor firma el saludo; un JWT es un JSON firmado; las imágenes de contenedor se firman para que el cluster (el grupo de máquinas que las corre) solo corra lo que armó el CI propio, el sistema que prueba y construye el código. Si emisor y receptor comparten una llave, basta un HMAC.

Ejemplo. Con la RSA de juguete, la huella 123 se firma como 123²⁷⁵³ mod 3,233 = 2,746. Cualquiera comprueba: 2,746¹⁷ mod 3,233 = 123. La firma 2,747 no regresa a 123.

Se presenta en 43 · Cifrado, llaves y certificadosAparece en 3 lecciones

Fixture

fixture · test fixture

Una función que prepara lo que una prueba necesita (un archivo, una carpeta, un modelo de juguete, un doble) y lo limpia al terminar, aunque la prueba falle.

En pytest se marca con @pytest.fixture y una prueba lo pide con solo poner su nombre como argumento. La preparación va antes de yield y la limpieza después. Su alcance (scope) dice cuánto vive: function (por omisión, uno nuevo por prueba), class, module (uno por archivo), package o session (uno por corrida). Lo caro y que nadie cambia se comparte; lo que las pruebas modifican se hace nuevo cada vez, para que una prueba no dependa de lo que dejó otra. pytest trae algunos hechos, como tmp_path (una carpeta vacía y propia) y monkeypatch (cambiar algo solo durante la prueba). Los que usan varios archivos van en conftest.py.

Analogía. La utilería de una obra de teatro: alguien pone la mesa y las sillas antes de cada escena y las quita al terminar, para que la siguiente empiece limpia. Se rompe con el alcance: en el teatro no hay una mesa que se comparta entre todas las escenas «para ahorrar», y en las pruebas sí, con scope module o session.

Ejemplo. En Alba, el fixture predict carga el engine candidato y devuelve el top-5 de cada foto; sample_images son ≈ 2,000 fotos del golden set. Se arman una vez y los usan todas las pruebas de comportamiento del modelo.

Se presenta en 36 · Pruebas y CI/CD

float32

32-bit floating point

Un número con decimales que ocupa 32 bits (4 bytes). Es el tipo por defecto en PyTorch para entrenar y, muchas veces, para servir un modelo.

Guarda unas 7 cifras significativas y llega hasta ≈ 3.4 × 10³⁸. Ocupa 4 veces más que uint8: el tensor de la foto de Ana pesa 602 KB en float32 y 151 KB en uint8. Hay tipos más chicos, como float16 (2 bytes), que se ven en la lección sobre cómo guarda números una computadora.

Ejemplo. 150,528 números × 4 bytes = 602,112 bytes ≈ 602 KB (588 KiB).

Se presenta en 02 · Una foto, vista por un modeloAparece en 15 lecciones

FLOP

floating-point operation

Una operación con números decimales: una suma o una multiplicación en punto flotante. Contar FLOPs dice cuánto trabajo pide un cálculo, sin importar en qué máquina corra.

El plural se escribe FLOPs, con s minúscula, y es una cantidad. No lo confundas con FLOPS, con S mayúscula, que es una velocidad: FLOPs por segundo (ver TFLOPS). Una multiplicación con su suma, una MAC, son 2 FLOPs, así que multiplicar una matriz de n × k por una de k × m cuesta 2 × n × m × k FLOPs. Se usan los prefijos de siempre: MFLOPs (millones), GFLOPs (miles de millones), TFLOPs (billones, 10¹²). Ojo: muchos artículos y tablas llaman «FLOPs» a lo que en realidad son MACs; antes de comparar dos números, revisa cuál cuenta cada uno.

Ejemplo. La ResNet-50 con la que Alba clasifica fotos hace ≈ 4.1 mil millones de MACs por foto: ≈ 8.2 GFLOPs. Un LLM hace ≈ 2 FLOPs por parámetro por cada token: Llama 3 8B, con 8.03 mil millones de parámetros, ≈ 16 GFLOPs por token.

Fluent Bit

Fluent Bit

Un programa chico, de código abierto, que lee archivos de log mientras crecen, los junta y los manda a otro lado, como S3 (el almacén de archivos de AWS). Guarda en disco lo que no pudo mandar y lo reintenta.

Se configura con entradas (por ejemplo tail, que sigue archivos), filtros y salidas (por ejemplo s3). En Kubernetes corre como DaemonSet, un pod por nodo, y lee los archivos donde el runtime guarda el stdout de cada contenedor. Su buffer en disco tiene un tope: si se llena porque el destino no contesta, se pierden líneas. Como es otro proceso, sus problemas no frenan al programa que escribe el log.

Ejemplo. En Alba, cada Fluent Bit sube un archivo gzip cada ≈ 5 min a s3://ml-datos/logs/crudo/, con un rol que solo escribe en logs/ y un buffer de ≈ 1 GB por nodo, ≈ 16 h de tráfico parejo.

Flujos estándar

standard streams · stdin · stdout · stderr

Los tres canales de texto con que nace todo proceso, numerados 0, 1 y 2: stdin para leer, stdout para los resultados y stderr para los errores y avisos. En una terminal, el 0 es el teclado y los otros dos, la pantalla.

El kernel numera los archivos abiertos de cada proceso; esos números son los descriptores, y los tres primeros vienen abiertos y heredados del padre. El programa escribe en el 1 sin saber a dónde va: una terminal, un archivo con redirección o la entrada de otro programa con un tubo lo decide quien lo lanza. Separar stdout de stderr permite guardar los datos sin mezclar los errores. En un contenedor, el runtime guarda los dos en un archivo de log, y por eso docker logs y kubectl logs los muestran. Cuando stdout no es una terminal, Python lo guarda en un buffer: de ahí PYTHONUNBUFFERED=1.

Ejemplo. El gateway de Alba (el marketplace que sigue el curso) escribe una línea JSON por request a stdout; Fluent Bit la recoge y la manda a S3. Un print("aviso", file=sys.stderr) sale por el 2 y no se mezcla con esos datos.

Se presenta en 32 · La terminal y la shellAparece en 4 lecciones

Forma exec de CMD

exec form

Escribir el comando de arranque de una imagen como lista JSON (CMD ["uvicorn", "app.main:app"]), para que el programa sea el PID 1, el primer proceso del contenedor, y reciba directo las señales, como la de apagarse.

En forma shell (CMD uvicorn app.main:app, sin corchetes), Docker arranca /bin/sh -c. Algunos shells, como el sh de Debian, se reemplazan por el último comando cuando pueden; pero con un tubo (tubería), un script de bash sin exec u otro shell, el PID 1 es el shell, que no le pasa la señal SIGTERM al programa. El programa no se entera de que debe apagarse y, al vencer el plazo, se le mata con SIGKILL (código 137), con el trabajo a medias. Vale igual para ENTRYPOINT.

Ejemplo. El CMD del gateway de Alba es ["uvicorn", "app.main:app", "--host", "0.0.0.0", …, "--timeout-graceful-shutdown", "20"]: uvicorn recibe el SIGTERM y tiene 20 s para terminar lo pendiente.

Formato binario

binary format

Un formato de archivo que guarda los números como los guarda la memoria (un float32 en 4 bytes, un int32 en 4) en vez de escribirlos como letras. Es compacto y rápido, pero no se lee con un editor de texto.

En un formato de texto, el 1,234,567 son siete letras, 7 bytes; en uno binario, un int32 de 4 bytes, siempre. El binario tiene el tipo escrito, se copia sin convertir y no pierde cifras, pero hace falta un programa que conozca el formato, y un byte dañado puede arruinar el resto. Tiene que decir en qué orden escribe los bytes de cada número: casi todos usan little-endian, el más chico primero. No confundir con el sistema binario: todo archivo está hecho de bits, también uno de texto. Son binarios Parquet, Avro, protobuf, safetensors y JPEG.

Ejemplo. El tensor de la foto de Ana ocupa 602,112 bytes en float32 binario y ≈ 3.07 MB escrito como JSON: cinco veces más.

Formato columnar

columnar format · column-oriented

Un formato que guarda una tabla columna por columna (todos los valores de la primera, luego todos los de la segunda) en vez de fila por fila. Así una consulta lee solo las columnas que usa, y todo comprime mejor.

Por filas, como en CSV o JSON Lines, los campos de cada registro van intercalados, y para sacar dos hay que leer todos. Por columnas, cada columna es un tramo seguido del archivo: se salta a los que hacen falta. Además, los valores parecidos quedan juntos y del mismo tipo, así que comprimen mucho más (compresión), y se pueden guardar estadísticas por bloque para saltarse los que no sirven. El precio: escribir una fila suelta o cambiar una es caro. Por eso lo columnar es para analizar (muchas filas, pocas columnas) y lo de filas, para escribir registro por registro. El ejemplo principal es Parquet.

Ejemplo. Una tabla de 10 M filas y 30 columnas de 10 B: una consulta que lee 2 columnas lee 3 GB por filas y 200 MB por columnas, 40 MB si además comprime 5 veces.

Se presenta en 27 · Archivos y formatos: JSON, CSV, Parquet y YAMLAparece en 2 lecciones

Formato de archivo

file format

El acuerdo entre quien escribe y quien lee sobre qué significa cada byte de un archivo: qué va en cada posición, cómo se escriben los números y dónde empieza y termina cada cosa.

Sin el formato, los bytes de un archivo son ruido. Los hay de texto (CSV, JSON, YAML) y binarios (Parquet, Avro, safetensors, JPEG). La extensión del nombre (.jpg) es solo una pista: no cambia los bytes. Muchos formatos empiezan con una firma fija, los bytes mágicos: FF D8 FF en un JPEG, 89 50 4E 47 en un PNG, PK en un zip, PAR1 en un Parquet. Un programa cuidadoso revisa la firma en vez de creerle al nombre.

Analogía. Como el idioma de una carta: las mismas letras dicen otra cosa en español y en portugués, y quien lee tiene que saber en cuál está escrita. Se rompe en que una carta casi siempre se entiende a medias aunque te equivoques de idioma; un archivo binario leído con el formato equivocado da números que no tienen nada que ver, sin ningún aviso.

Ejemplo. Si renombras tenis.jpg como tenis.png, sigue empezando con FF D8 FF: es un JPEG con el nombre equivocado. El gateway de Alba revisa esa firma antes de decodificar.

Formato de tabla (Delta, Iceberg)

table format

Una capa sobre archivos de datos (como Parquet, un formato para tablas) que los convierte en una tabla con transacciones y versiones: un registro aparte dice qué archivos forman la tabla en cada versión. Los más usados son Delta Lake y Apache Iceberg.

Es la pieza que hace posible el lakehouse. Cada escritura sube archivos nuevos y, al final, agrega al registro una entrada con la lista de archivos de la versión nueva: quien lee nunca ve una tabla a medias. Como las versiones viejas siguen listadas mientras sus archivos existan, se puede leer el pasado: el time travel. Le conviene a datos tabulares que cambian fila por fila (transacciones, precios, features).

Ejemplo. Un sistema de pronóstico de demanda guarda sus ventas en una tabla Iceberg; cada entrenamiento nocturno lee la versión del momento en que arranca y registra su número con el modelo.

Forward pass

forward pass · pasada hacia adelante

Pasar una entrada por el modelo, de principio a fin, hasta obtener su respuesta. Es lo único que hace la inferencia; al entrenar es la primera mitad de cada paso.

Al entrenar, además de la respuesta, se guardan los resultados intermedios de cada capa (las activaciones), porque la backpropagation los necesita. Por eso entrenar ocupa mucha más memoria que hacer inferencia.

Ejemplo. En una red de juguete, y = w2 × ReLU(w1 × x), que debe dar 6, con x = 2, w1 = 0.5 y w2 = 2: z = 1, ReLU(1) = 1, y = 2 y la pérdida (2 − 6)² = 16. Esos valores intermedios se usan después para los gradientes.

Se presenta en 04 · Cómo aprende un modeloAparece en 5 lecciones

FP16

float16 · half precision

Un número de punto flotante de 16 bits (2 bytes): 5 de exponente y 10 de mantisa. Guarda ≈ 3 cifras y su máximo es 65,504: lo que pase de ahí se vuelve infinito.

Ocupa la mitad que FP32 y los tensor cores de las GPUs lo multiplican muchísimo más rápido: una T4 hace ≈ 65 × 10¹² operaciones por segundo en FP16 contra ≈ 8.1 × 10¹² en FP32. Es el formato normal para servir redes convolucionales (CNNs), como el engine de TensorRT con el que Alba, el marketplace del curso, sirve su ResNet-50. Su debilidad es el rango: por arriba se desborda en 65,504 (exponenciales, cuadrados, activaciones atípicas de un transformer) y por abajo, su número más chico es ≈ 6 × 10⁻⁸: lo que quede muy debajo, como 10⁻⁸, se vuelve 0. Para entrenar con él hace falta precisión mixta.

Ejemplo. La ResNet-50 de Alba, con ≈ 24.5 M de parámetros, pesa 24.5 M × 2 B ≈ 49 MB en FP16 contra 24.5 M × 4 B ≈ 98 MB en FP32. En FP16, 1 + 0.0001 da 1, 2,048 + 1 da 2,048 y e¹² da infinito.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 9 lecciones

FP8

8-bit floating point · E4M3 · E5M2

Números de punto flotante de 1 byte, en dos versiones: E4M3 (4 bits de exponente y 3 de mantisa, máximo 448) y E5M2 (5 y 2, máximo 57,344). Se usan con una escala por tensor, sobre todo en modelos de lenguaje grandes (LLMs).

Con tan pocos bits, cada tensor lleva una escala en FP32 que lo acomoda al rango antes de convertirlo. E4M3 sirve para pesos y activaciones; E5M2, con más rango, para gradientes. Como conserva un exponente, aguanta mejor los valores atípicos que INT8. Existe en las GPUs Ada (L4, L40S) y Hopper (H100), no en la A100, la A10G ni la T4. También se usa para el KV cache: de 320 a 160 KiB por token en un modelo de 70B.

Ejemplo. Un servicio que sirve su propio LLM, de 70,600 millones de parámetros, lo pone en FP8: 70.6 × 10⁹ × 1 B ≈ 70.6 GB de pesos repartidos entre 2 H100, contra 70.6 × 10⁹ × 2 B ≈ 141 GB en BF16.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 5 lecciones

fps

frames per second

Cuántos frames de video hay en cada segundo. El tiempo entre uno y el siguiente es 1,000 ÷ fps milisegundos.

Dice cuánto trabajo hay: fps × cámaras es lo que el sistema tiene que decodificar y analizar cada segundo. Y dice cada cuánto «mira» el modelo: a 5 fps pasan 200 ms entre frames. Es una perilla distinta de la resolución: los fps dicen cada cuánto miras; la resolución, cuánto detalle ves cada vez.

Ejemplo. En un sitio con 40 cámaras de seguridad, a 5 fps son 40 × 5 = 200 frames por segundo; a 15 fps serían 600.

Se presenta en 02 · Una foto, vista por un modeloAparece en 2 lecciones

Fracción de GPU

GPU fraction (time-slicing, MPS)

Compartir una GPU entre varios programas sin aislamiento de hardware: turnándose (time-slicing), corriendo a la vez (MPS, el Multi-Process Service de NVIDIA) o rentando una fracción que vende el proveedor.

Con time-slicing, varios programas se turnan la GPU y Kubernetes anuncia más GPUs de las que hay: multiplica el número anunciado, no la capacidad, y si uno se come la memoria, los otros fallan. Con MPS, varios procesos corren a la vez en la misma GPU, con mejor uso, pero un error en uno puede afectar a los demás. Algunos proveedores rentan fracciones directamente. Otra manera de compartir es servir varios modelos en el mismo model server.

Ejemplo. AWS renta la g6f.large con 1/8 de una L4 (≈ 3 GB) por ≈ US$0.20 la hora. Alba puede servir modelos chicos de otros equipos en sus T4, que trabajan al ≈ 5 % (58 de 1,200 fotos por segundo).

Frame

frame

Cada una de las fotos que forman un video. Para un modelo, cada frame es una imagen como cualquier otra: una cuadrícula de píxeles.

Un video es una sucesión de frames que pasan tan rápido que se ven como movimiento. Los códecs (los programas que comprimen y descomprimen video), como H.264, no guardan cada frame completo: guardan uno completo cada tanto (el I-frame) y, del resto, solo lo que cambió. Por eso el video se comprime mucho más que las fotos sueltas. Para analizarlo, cada frame se decodifica y se prepara como una foto, decenas de veces por segundo y por cámara.

Ejemplo. Un frame 1080p (1920 × 1080) decodificado en RGB ocupa 1920 × 1080 × 3 ≈ 6.2 MB.

Se presenta en 02 · Una foto, vista por un modeloAparece en 2 lecciones

Frescura de un job (y Pushgateway)

job freshness · Pushgateway

Cuánto tiempo hace que un job (un programa que corre y termina) publicó su último resultado. Se vigila porque un job muerto deja su último valor publicado y todo parece estable.

Prometheus lee métricas de quien está vivo; un job que corre y termina las empuja al Pushgateway, un programa que se queda prendido y que las guarda hasta que alguien las borre, junto con push_time_seconds, la hora del último envío. Si el job deja de correr, el último valor se queda para siempre. La defensa es una alerta sobre time() - push_time_seconds.

Ejemplo. El job monitoreo-diario de Alba corre a las 01:00 UTC y tarda ≈ 20 minutos; MonitoringJobStale abre un ticket si pasan más de 26 horas sin un envío nuevo.

Fuerza bruta

brute force

Probar todas las llaves (o contraseñas, o valores) posibles hasta dar con la buena. Siempre funciona en teoría; lo que decide es cuántas opciones hay: con una llave de L bits (2L llaves posibles) y v intentos por segundo, tarda en promedio 2L÷(2×v) segundos.

Cada bit de llave duplica el trabajo, por eso una llave de 128 bits es inalcanzable y una de 56 bits (DES, el estándar anterior a AES) cae en horas con hardware dedicado. El ataque reconoce la llave correcta porque casi siempre sabe algo del texto en claro (un JPEG empieza siempre con los mismos bytes). Donde sí funciona es en espacios chicos: un PIN de 4 dígitos (10⁴ opciones) o un teléfono de 10 dígitos (10¹⁰) hasheado sin llave. Contra eso se usan límites de intentos, hashes lentos para contraseñas y HMAC con una llave secreta.

Ejemplo. Un teléfono de México tiene 10¹⁰ valores posibles. Una GPU que calcula ≈ 2.2 × 10¹⁰ huellas SHA-256 por segundo los prueba todos en menos de un segundo (≈ 0.45 s): un hash sin llave no lo esconde.

Se presenta en 43 · Cifrado, llaves y certificadosAparece en 3 lecciones

Función

function

Una regla que a cada entrada le asigna exactamente una salida. Un modelo es una función: entran números (una foto, una tabla) y salen números.

La de la escuela, f(x) = 2x + 1, da 7 si entra 3, y lo vuelve a dar cada vez que entra 3. Un modelo es una función enorme: su forma la elige una persona (la arquitectura) y sus números internos, los parámetros, los ajusta el entrenamiento. Con los parámetros fijos, la misma entrada da la misma salida.

Ejemplo. precio = −300 × años + 1,500 es una función de una entrada: con 2 años da 900 pesos. La ResNet-50 de Alba, el marketplace del curso, es una función de 150,528 números (los 224 × 224 × 3 de una foto) a 500 (uno por categoría).

Función hash

hash function

Una cuenta que convierte cualquier entrada (un texto, una foto, un archivo) en un número de tamaño fijo, siempre el mismo para la misma entrada. Un cambio mínimo en la entrada da un número completamente distinto.

Tres propiedades: es determinista, da un tamaño fijo (SHA-256: 256 bits, 64 caracteres en hexadecimal) y revuelve todo (efecto avalancha), así que su salida se ve al azar y se reparte pareja. Por eso sirve de huella para reconocer contenido y de sorteo repetible para repartir (sharding, A/B, splits). Como hay infinitas entradas y finitas salidas, existen colisiones; por la paradoja del cumpleaños, con b bits se vuelven probables alrededor de √(2ᵇ) elementos. El hash() de Python cambia entre corridas para textos y bytes (PYTHONHASHSEED): para algo que se guarde o que calculen dos programas, se usa hashlib. Hay dos familias: criptográficos y checksums.

Analogía. Una huella digital: es pequeña, sale de la persona y la identifica sin cargar con la persona entera. Se rompe en que dos personas nunca comparten huella por diseño, y con un hash corto dos entradas sí pueden chocar.

Ejemplo. sha256(«vend-00024») empieza con a0034b65 y sha256(«vend-00025») con 7ca8198c: una letra de diferencia, huellas sin parecido. Con 32 bits, 10 millones de fotos al día darían ≈ 11,600 choques diarios.

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 7 lecciones

Función serverless

serverless function (AWS Lambda)

Un pedazo de código que el proveedor corre cada vez que llega un evento (una request, un archivo nuevo, un mensaje) y que te cobran por milisegundos de ejecución. La más conocida es AWS Lambda, de la nube de Amazon.

Sus límites deciden para qué sirve. Lambda: sin GPU, hasta 10,240 MB de memoria, 15 minutos por llamada, imagen de hasta 10 GB sin comprimir y 6 MB de payload síncrono. Es ideal para el pegamento (redimensionar una foto, validar un archivo, mandar una notificación) y mala para servir modelos grandes en GPU.

Ejemplo. Las fotos de Alba de hasta 10 MB no caben en los 6 MB de Lambda, y la ResNet-50 necesitaría GPU para su volumen.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 2 lecciones

Fusión de capas

layer fusion

Juntar varias operaciones seguidas de una red (una convolución, su BatchNorm, su ReLU) en un solo kernel: un solo programa que corre en la GPU. Se lanzan menos kernels y los resultados intermedios no van y vuelven de la memoria.

Sin fusionar, cada operación es al menos un kernel: la CPU lo lanza, la GPU lo corre y escribe su resultado en memoria para que el siguiente lo lea. Fusionar junta varias en una: un kernel que hace la convolución, aplica la BatchNorm y la ReLU y suma la conexión residual de un jalón. Lo hacen los compiladores como TensorRT y torch.compile. Ahorra lanzamientos y viajes a memoria; las cuentas son las mismas, aunque en otro orden.

Ejemplo. En PyTorch, sin fusionar, la ResNet-50 de Alba son 174 operaciones por batch; el engine de TensorRT las deja en ≈ 56 kernels.

G

Game day (ensayo de falla)

game day · disaster recovery drill

Un ensayo programado en el que se provoca una falla a propósito (apagar una zona, cortar una región) para ver si el plan funciona y medir cuánto tarda de verdad.

Se escribe antes qué se espera, se provoca la falla con un límite de tiempo y una forma de deshacerla, se mide cuánto tardó en notarse y en recuperarse, y se arregla lo que salió. Deja un RTO medido y descubre lo que nadie sabía: una cuota en cero en la otra región, un permiso que faltaba, una causa común escondida. La regla corta: un DR que no se ensayó no existe.

Ejemplo. Se apaga la zona 1b de Alba, el marketplace que sigue el curso, un martes a las 6 de la mañana. Se espera que los errores suban durante menos de un minuto y que la T4 de 1a llegue a 500 ÷ 1,200 ≈ 42 %, en el pico de diseño. Si en cambio el gateway de 1a se satura, eso se arregla antes de que pase de verdad.

Se presenta en 39 · Regiones, zonas y disponibilidadAparece en 2 lecciones

Gate de calidad

quality gate

El examen automático que decide si un modelo nuevo puede reemplazar al que está en producción: una lista de reglas con sus umbrales, escrita antes de ver los resultados. Si una regla falla, el camino se detiene y sigue el modelo actual.

Un gate compara el modelo nuevo contra el actual, no contra un número fijo: en el mismo examen, foto por foto, con un margen que tiene en cuenta el ruido (no inferioridad). Revisa también por pedazos: categorías importantes, la cola larga, slices y calibración. Sus umbrales viven en el repositorio y cambian solo antes de una corrida. Si falla, el paso sale con error y avisa; si pasa, el modelo sigue a las pruebas del artefacto y al despliegue. Es la primera mitad de la decisión: el gate offline dice si es seguro probar; el canary (dar el modelo a una parte chica del tráfico real), si se queda.

Analogía. Un examen final con la calificación mínima publicada desde el primer día de clases. Donde se rompe: aquí la calificación mínima no es un número fijo, sino «no sacar menos que el alumno del semestre pasado por más de un margen».

Ejemplo. En Alba, el candidato resnet50-2026-11-01 pasa si la diferencia pareada de top-1 y de top-5 contra el champion, el modelo en producción (y contra el modelo de hace 3 meses) tiene su extremo de abajo en −0.3 puntos o más, ninguna de las 100 categorías con más tráfico cae más de 5 puntos de forma significativa, los slices quedan dentro de su intervalo y el ECE (el error de calibración) es ≤ 0.05.

Se presenta en 50 · Gate de evaluación y registryAparece en 5 lecciones

Gate offline

offline gate

El gate que se corre con datos guardados, antes de que el modelo nuevo le responda a nadie. Decide si es seguro probarlo con gente real; si se queda, lo deciden después las pruebas con tráfico real (el canary y la prueba A/B).

Offline quiere decir que se mide con un examen fijo, como el golden set, en minutos y sin riesgo. Por eso no puede ver lo que pasó después de que se armó el examen (el drift), lo que hace la gente con las sugerencias, ni cómo se porta el servidor real. La segunda mitad de la decisión es online: shadow (despliegue en sombra), canary y, si el cambio es grande, una prueba A/B sobre la métrica del producto.

Ejemplo. En Alba, el gate offline aprueba el candidato resnet50-2026-11-01 (la futura versión 15) con golden-v3; después vienen shadow 1–2 días y el canary 5 % → 25 % → 100 %. «El gate decide si vale la pena probar; el canary, si se queda.»

Gauge

gauge

Una métrica que sube y baja y cuyo valor significa algo en cada momento: las requests en vuelo, las réplicas, la memoria usada. Se lee su valor, no cuánto subió.

Es lo contrario del contador: no tiene sentido sacarle rate(). Sirve para estados (cuántas requests hay en vuelo ahora, cuántos pods de Triton hay) y para resultados que alguien publica, como el PSI del día. Un promedio de latencia guardado en un gauge es una trampa: no se puede juntar entre pods ni dice nada del p99; para eso está el histograma.

Ejemplo. Las requests en vuelo de un pod del gateway de Alba: un gauge que va de 0 a 16; la 17 recibe 503.

Se presenta en 57 · La request en vivoAparece en 2 lecciones

GDPR

GDPR · General Data Protection Regulation

El Reglamento General de Protección de Datos de la Unión Europea, que aplica desde mayo de 2018. Alcanza a empresas de cualquier país que ofrezcan bienes o servicios a personas en la Unión Europea.

Pide una base legal para cada tratamiento (el consentimiento es una de varias), minimización y finalidad del tratamiento, derechos de acceso, borrado y portabilidad, el derecho frente a decisiones automatizadas, aviso de brechas a la autoridad en 72 horas (salvo que sea improbable que causen riesgo) y contratos con cada encargado. Los datos seudónimos siguen cubiertos para quien puede volver a la persona; los anónimos, no. Sus multas llegan a 20 millones de euros o al 4 % de la facturación mundial anual, lo que sea mayor. Limita las transferencias fuera de Europa. En noviembre de 2026 se discute una reforma (el Digital Omnibus) que aún no es ley.

Ejemplo. Si Alba deja vender a personas en España, el GDPR le aplica para ellas aunque Alba no tenga oficina en Europa.

Generación autorregresiva

autoregressive generation

Escribir de un token a la vez: el modelo predice el siguiente token, lo agrega al texto y vuelve a predecir con el texto ya alargado.

Por eso un modelo de lenguaje (LLM) lee rápido y escribe lento. Leer el prompt (el prefill) se hace de una sola pasada, con todos los tokens en paralelo. Escribir (el decode) son tantas pasadas como tokens tenga la respuesta, una detrás de otra, y en cada una se leen todos los pesos del modelo. Termina cuando el modelo elige un token especial de fin o se llega al límite de tokens.

Ejemplo. Una respuesta de 250 tokens son 250 pasadas del modelo. Si cada una tarda 40 ms, el decode dura ≈ 10 segundos.

Generalización

generalization

Que el modelo acierte en ejemplos nuevos que nunca vio, no solo en los de su entrenamiento. Es lo único que importa en producción.

Un modelo puede equivocarse muy poco en sus fotos de entrenamiento y mucho en las nuevas: memorizó en lugar de aprender (overfitting). La generalización solo se mide con fotos que el modelo no usó para aprender: el set de validación, el de prueba o el golden set.

Analogía. El estudiante que entendió el tema contesta bien un examen con preguntas nuevas; el que memorizó el examen de práctica, no. Se rompe en que el modelo no «entiende» como una persona: generalizar solo quiere decir que acierta en fotos nuevas.

Ejemplo. Un modelo saca 99 % en sus fotos de entrenamiento y 70 % en fotos nuevas: memorizó. Otro saca 88 % y 85 %: generaliza mucho mejor, aunque su número de entrenamiento sea más bajo.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 2 lecciones

Gestionado contra propio

managed vs self-hosted

La decisión de pagarle al proveedor para que opere una pieza o operarla tú. Se decide con cuatro preguntas, y la primera casi siempre gana: ¿quién lo va a operar?

Las cuatro preguntas: (1) ¿quién lo opera?; (2) ¿cuánto volumen y qué tamaño tiene cada request?; (3) ¿qué tan especial es lo que corre?; (4) ¿qué tan rápido hay que salir y qué piden los datos? Gestionado cobra más por unidad y ahorra gente; propio es más barato por unidad y necesita un equipo que lo opere. La cuenta honesta suma la factura y la gente de cada lado.

Ejemplo. OCR de un servicio de documentos con 186,000 páginas al mes: Textract ≈ US$279 al mes contra ≈ US$768 de dos GPUs propias. Por factura, lo propio gana arriba de ≈ 512,000 páginas; con ≈ US$2,500 de gente, arriba de ≈ 3.9 M.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 2 lecciones

Gestor de secretos

secret manager · secrets vault

Un servicio dedicado a guardar secretos: los guarda cifrados, decide quién puede leer cada uno, registra cada lectura y guarda versiones para rotarlos. Los más usados son HashiCorp Vault, AWS Secrets Manager, Google Cloud Secret Manager y Azure Key Vault.

Los cifra con una llave del KMS y decide quién lee con los permisos de la nube (IAM): el gateway de producción lee su contraseña y nada más. Su registro de lecturas dice quién tuvo un secreto que se filtró. Llega al pod por dos caminos: External Secrets Operator, que copia el valor a un Secret de Kubernetes cada cierto tiempo, o el Secrets Store CSI Driver, que lo monta directo como archivo. Es barato (AWS Secrets Manager, precios de lista de noviembre de 2026: US$0.40 por secreto al mes más US$0.05 por cada 10,000 lecturas); lo que crece es leer de más.

Ejemplo. 5 secretos leídos cada hora por External Secrets: 5 × 0.40 = US$2.00 al mes de guardar y 5 × 730 h = 3,650 lecturas, ≈ US$0.02. Si 12 pods leyeran cada 5 minutos, serían 525,600 lecturas, ≈ US$2.63.

GIL

GIL · Global Interpreter Lock

El candado global del intérprete de Python (CPython): dentro de un proceso, solo el hilo que lo tiene puede ejecutar código de Python. Por eso los hilos sirven para esperar varias cosas a la vez, pero no para calcular en paralelo con Python puro.

Un hilo suelta el GIL cuando espera I/O (la red, el disco, un sleep), cuando entra a código en C que lo suelta (Pillow al decodificar, NumPy en sus operaciones grandes, PyTorch dentro de cada operación) y, si calcula sin parar, a la fuerza cada 5 ms, para que otro tenga turno. Existe porque CPython lleva en cada objeto la cuenta de cuántos lo usan, y esa cuenta se corrompería si dos hilos la cambiaran a la vez. El síntoma típico es un proceso con la CPU clavada en el 100 % de un núcleo y los demás libres. Para calcular en paralelo con Python puro se usan varios procesos (multiproceso), cada uno con su GIL. Desde Python 3.13 existe, como experimento, una versión sin GIL (free-threaded), con soporte oficial desde la 3.14, pero la que se instala por omisión todavía lo tiene.

Analogía. Una reunión con un solo micrófono: muchos pueden estar leyendo, pensando o esperando un correo al mismo tiempo, pero solo habla quien tiene el micrófono. Se rompe en dos cosas: el moderador se lo quita cada 5 ms a quien no lo suelta, y algunos (las librerías en C) pueden trabajar sin hablar, sin necesitar el micrófono.

Ejemplo. Dos hilos que calculan en Python puro usan, juntos, un solo núcleo; dos procesos usan dos. Dos hilos que esperan 0.3 s cada uno terminan juntos, en 0.3 s.

Git

Git

Un programa que guarda la historia de un proyecto: cada versión es una foto completa de sus archivos, con autor, fecha, mensaje y un id que es el hash de todo su contenido. Es distribuido: cada copia trae la historia entera.

Lo escribió Linus Torvalds en abril de 2005 para el código de Linux, y hoy es el sistema de versiones más usado. Guarda fotos, no diferencias: si un archivo no cambió, la foto nueva apunta al mismo contenido de antes. Cada versión es un commit, cada línea de trabajo es una rama y la carpeta con su historia es un repositorio. Como cada persona tiene la historia completa, puede ver versiones viejas y guardar nuevas sin internet; el servidor (GitHub, GitLab) es una copia más, la que el equipo usa para juntar su trabajo.

Analogía. Un álbum donde cada foto es el proyecto entero y lleva escrita la foto anterior. Se rompe en que las fotos no se pueden retocar sin que cambie su nombre y el de todas las que vienen después.

Ejemplo. En Alba, la imagen del gateway se llama classifier-gateway:3f9c2ab: con git show 3f9c2ab se ve el código exacto que corre en producción.

Se presenta en 35 · Git: versiones del códigoAparece en 5 lecciones

Git LFS

Git Large File Storage

Una extensión de Git para archivos grandes: el repositorio guarda un puntero de texto con el hash SHA-256 y el tamaño del archivo, y el archivo de verdad vive en un servidor aparte.

Sin LFS, Git guarda cada versión completa de cada archivo y cada clone baja toda la historia: 24 versiones de unos pesos de 98 MB son ≈ 2.35 GB para siempre. Con LFS, el historial guarda 24 punteros de ≈ 130 bytes y cada clone baja solo la versión que pide; el servidor de LFS sí guarda las 24 versiones, y GitHub las cuenta contra una cuota (10 GiB de almacenamiento y 10 GiB de descargas al mes en el plan gratuito, con archivos de hasta 2 GB, en noviembre de 2026). Se activa con git lfs install y git lfs track "*.pt", que escribe la regla en .gitattributes. GitHub avisa con archivos de más de 50 MiB y rechaza los de más de 100 MiB sin LFS (según su documentación, en noviembre de 2026). En ML, los datos y los pesos suelen ir mejor en object storage, con su versión, y en Git solo la referencia: lo resuelven el versionado de datos y herramientas como DVC.

Ejemplo. El puntero de un archivo de 1 MiB son tres líneas: version, oid sha256:… y size 1048576, en total 132 bytes.

Se presenta en 35 · Git: versiones del códigoAparece en 2 lecciones

GitHub Actions

GitHub Actions

El servicio de GitHub que corre solo, en cada cambio, las pruebas de un repositorio y puede llevar lo aprobado a producción (CI/CD). Cada flujo (workflow) es un archivo YAML en la carpeta .github/workflows del repositorio, que dice cuándo correr (on), qué trabajos (jobs) y con qué pasos (steps).

Un workflow se dispara con on (un push, un pull request, un horario, un botón). Tiene jobs, que corren cada uno en su runner limpio y en paralelo salvo que needs diga que esperan a otro; cada job dice en qué máquina corre con runs-on y tiene steps en orden, que son run (un comando) o uses (una acción ya hecha, como actions/checkout para bajar el código o actions/setup-python). Lo que queda de cada corrida son el registro de cada paso, los artefactos que se suben a propósito (se borran solos, por omisión a los 90 días) y la caché de dependencias. Las credenciales van como secretos del repositorio, nunca en el YAML. Como el workflow vive en el repositorio, cambia en un PR y se revisa como el código.

Ejemplo. El CI del gateway de Alba: lint y pruebas en ubuntu-latest al mismo tiempo; imagen con needs: [lint, pruebas] solo en main, nombrada con github.sha; y paridad en un runner propio con T4, runs-on: [self-hosted, gpu-t4].

Se presenta en 36 · Pruebas y CI/CDAparece en 3 lecciones

GitHub App

GitHub App

Una identidad de máquina en GitHub, instalada solo en los repositorios que elijas y con permisos finos, que entrega tokens de una hora. Sirve para que un workflow escriba en otro repositorio.

El token normal de un workflow solo sirve para su propio repositorio. Para que un job abra un PR en otro (por ejemplo, el de despliegue), hace falta otra identidad. Una llave personal amarra la automatización a una persona y suele tener demasiados permisos; una GitHub App es de la organización, se instala solo donde hace falta, pide permisos concretos (abrir PR, nada más) y da tokens que vencen en una hora. Para pedirlos, el workflow usa la llave privada de la App, guardada como secreto: esa llave sí es larga, pero solo abre lo que la App puede hacer.

Ejemplo. Los jobs staging y produccion de Alba piden un token a la GitHub App instalada solo en alba/despliegue y con él cambian la línea image: del gateway.

Se presenta en 54 · CI/CD y registro de imágenesAparece en 2 lecciones

GitOps

GitOps

Manejar un clúster (el grupo de máquinas donde corren los programas) con un repositorio de Git: el estado deseado (qué imagen, cuántas copias) vive en Git, y un programa como Argo CD o Flux compara el clúster con el repositorio y aplica la diferencia. Desplegar es juntar un PR y volver atrás es un git revert.

Los archivos del repositorio son los manifests de Kubernetes, el sistema de orquestación que presenta la lección «Kubernetes». Como todo pasa por Git, la historia del repositorio es la historia de producción: quién desplegó qué, cuándo y quién lo aprobó. Un cambio hecho a mano en el clúster deja a Git describiendo otra cosa (configuration drift), y con la sincronización automática más la autorreparación (self-heal, apagada por omisión) Argo CD lo revierte solo. El nombre lo puso Weaveworks en 2017; Argo CD y Flux son proyectos de la CNCF. El rollback a la versión de ayer es un revert, y la imagen de ayer ya existe: no se reconstruye.

Ejemplo. El repositorio de despliegue de Alba dice image: classifier-gateway:8d41e07 (con su digest); la versión truena, un git revert lo regresa a 3f9c2ab y Argo CD vuelve el clúster a la imagen de ayer.

Se presenta en 35 · Git: versiones del códigoAparece en 5 lecciones

Golden set

golden set

Un conjunto de evaluación de la mejor calidad: etiquetado con cuidado por personas, congelado y que jamás se usa para entrenar. Es la regla fija con la que se comparan los modelos.

Congelado quiere decir que no cambia: dos modelos de meses distintos se examinan con exactamente las mismas fotos, así que la diferencia es del modelo y no del examen. Si hay que cambiarlo (porque llegaron categorías nuevas), se hace una versión nueva y se vuelve a examinar ahí al modelo que está en producción. Cada dataset nuevo se revisa por hash (una huella de cada foto) contra él, para que ninguna de sus fotos se cuele al entrenamiento.

Ejemplo. En Alba, el marketplace del curso: ≈ 50 mil imágenes, cada una etiquetada por dos personas, con al menos ≈ 50 por categoría y repartidas entre fotos de celular y de web. Cuesta ≈ US$5–10 mil, una sola vez.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 25 lecciones

Goodput

goodput

El throughput que sí cuenta: las requests por segundo que terminan bien y dentro de su promesa de latencia (el SLO). En una prueba de carga, la carga máxima a la que todavía se cumple esa promesa.

El throughput cuenta todo lo que el servidor termina, aunque llegue tarde o con error. El goodput separa un servidor ocupado de uno que sirve: con una fila sin tope, el throughput se queda en el máximo y el goodput cae a cero. En los LLMs es el número con el que se compra la flota; el artículo de DistServe (OSDI 2024) lo define por GPU: la tasa máxima de requests que cumple a la vez el TTFT y el TPOT, en la fracción pedida (por ejemplo, el 90 % de las requests), medida con tu mezcla real de largos.

Ejemplo. Una réplica de un LLM propio llega a ≈ 6.4 requests por segundo con 96 a la vez, pero su TTFT p95 es 2.4 s. Su goodput, la última carga que cumple TTFT ≤ 1 s y TPOT ≤ 50 ms, es ≈ 6 requests por segundo; se planea al 70 %, 6 × 0.7 ≈ 4.2.

GPU

GPU · graphics processing unit · tarjeta gráfica

Un chip con miles de núcleos sencillos que hacen la misma operación sobre muchos números a la vez. Nació para dibujar gráficos y hoy hace casi todo el entrenamiento de modelos y mucha de la inferencia.

Entrenar y responder es, casi todo, multiplicar y sumar tablas enormes de números: justo lo que una GPU hace en paralelo. Tiene su propia memoria, la VRAM, y solo calcula con lo que está ahí. Además de sus núcleos normales trae tensor cores, núcleos especiales para multiplicar tablas de números, sobre todo en formatos de 16 bits o menos.

Ejemplo. La T4 con la que Alba, el marketplace que sigue el curso, sirve su modelo tiene 2,560 núcleos CUDA (los núcleos normales de una GPU de NVIDIA), 320 tensor cores y 16 GB de VRAM. El fine-tune mensual de Alba tarda unas 3 a 4 horas en una GPU A10G (en la T4 tardaría ≈ 10 h); en CPU, de días a semanas.

Se presenta en 04 · Cómo aprende un modeloAparece en 25 lecciones

GPU-hora

GPU-hour

Una GPU encendida durante una hora. Es la unidad para comparar precios: el precio de la instancia dividido entre sus GPUs.

Las instancias traen distinto número de GPUs, así que su precio por hora no se puede comparar directo. Se divide entre las GPUs: una p5.48xlarge a ≈ US$55.04 la hora con 8 H100 da ≈ US$6.88 por GPU-hora. Así se ve que la misma GPU cuesta distinto según la instancia (la T4 cuesta ≈ US$0.53 en la g4dn.xlarge y ≈ US$0.98 en la g4dn.12xlarge) y según el proveedor. Ojo: en las T4 de Google la GPU se cobra aparte de la VM; ahí la GPU-hora sola no es el costo de la máquina.

Ejemplo. H100 SXM por GPU-hora en noviembre de 2026: ≈ US$12.29 en Azure, ≈ 11.06 en Google, ≈ 6.88 en AWS, ≈ 4.39 en RunPod (su Secure Cloud). Por 730 horas, una H100 de AWS cuesta ≈ US$5,022 al mes.

Se presenta en 40 · Máquinas, GPUs y cómo se cobranAparece en 2 lecciones

GQA (atención con consultas agrupadas)

grouped-query attention

Un truco para ahorrar memoria en la atención: varias cabezas de atención (sus copias en paralelo) comparten los mismos vectores K y V (los que se guardan de cada token ya leído), así que el KV cache guarda menos por token.

Con atención multi-cabeza completa, cada cabeza de Q tiene su K y su V. Con GQA (Ainslie y otros, 2023), las cabezas de Q se agrupan y cada grupo comparte una sola K y una sola V. Casi no cambia la calidad y divide el KV cache entre el tamaño del grupo.

Ejemplo. Llama 3 8B (una familia de LLMs públicos de Meta) tiene 32 cabezas de Q y 8 juegos de K y V (grupos de 4): 128 KiB de KV cache por token. Sin GQA serían 512 KiB.

Gradiente

gradient

Para cada parámetro (cada «perilla») del modelo, hacia dónde y qué tan rápido cambia la pérdida si lo mueves un poquito. Es una lista con un número por parámetro.

El signo dice la dirección: negativo quiere decir que subir esa perilla baja la pérdida. El tamaño dice qué tan empinado está. Se calcula con backpropagation y se usa en el descenso de gradiente: cada perilla se mueve en contra de su gradiente.

Ejemplo. Una sola perilla w, con pérdida 36 cuando w = 0 y 35.76 cuando w = 0.01: bajó 0.24 por cada 0.01, así que el gradiente es ≈ −24.

Se presenta en 04 · Cómo aprende un modeloAparece en 7 lecciones

Gradientes que se apagan o explotan

vanishing and exploding gradients

Cuando el gradiente, al viajar hacia atrás por muchas capas, se multiplica una y otra vez por números menores que 1 y casi desaparece, o por números mayores que 1 y se vuelve enorme.

La backpropagation multiplica una sensibilidad por capa. Si se apaga, las primeras capas casi no aprenden; si explota, los pasos son gigantes y aparece NaN (not a number: un resultado que ya no es un número). Se combate con la ReLU, buena inicialización de las perillas, BatchNorm, las conexiones residuales de la ResNet, el warmup y recortando el gradiente (gradient clipping).

Ejemplo. 20 capas que multiplican por 0.5: 0.5²⁰ ≈ 0.00000095. Por 1.5: 1.5²⁰ ≈ 3,325. Un gradiente (30, 40) mide 50; recortado a tamaño 1 queda (0.6, 0.8).

Grafo del modelo

model graph

La lista de operaciones de una red y cómo se conectan: qué salida entra a qué operación. Es lo que guarda un archivo ONNX en vez de código.

Una red neuronal, vista por dentro, es una cadena de operaciones: convolución, ReLU, suma, promedio, multiplicación de matrices. El grafo las nombra (cada una es un operador) y dice de dónde viene cada entrada. Con el grafo y los pesos, cualquier programa puede hacer las mismas cuentas sin el código de Python que las escribió. Un compilador como TensorRT lee el grafo, lo simplifica y junta operaciones (fusión).

Analogía. Una receta escrita como diagrama: cada caja es un paso (picar, freír, mezclar) y cada flecha dice qué ingrediente pasa al paso siguiente. Dónde se rompe: la receta no dice cuánto tarda cada paso en tu estufa; eso lo decide quien la compila para su cocina.

Ejemplo. En el grafo de la ResNet-50 de Alba, la salida de una convolución entra a una ReLU, y la de la ReLU a la siguiente convolución o a la suma de la conexión residual; al final, un promedio y una multiplicación de matrices dan los 500 logits.

gRPC

gRPC

Una forma de llamar funciones de otro programa por la red como si fueran tuyas, con el contrato escrito en un archivo .proto, los datos en binario (protobuf) y todo sobre HTTP/2, la versión de HTTP que lleva muchas llamadas por una sola conexión.

Google lo publicó como código abierto en 2015. Un compilador genera el cliente y el servidor en el lenguaje que quieras, así que nadie escribe ni lee JSON a mano. Sobre HTTP/2, una sola conexión larga lleva muchas llamadas a la vez (hasta el tope que ponga el servidor) y permite streams en los dos sentidos. A cambio, no se depura con curl (se usa grpcurl), los navegadores necesitan gRPC-Web o un proxy, y un balanceador que reparte conexiones, no requests, deja a cada cliente pegado a un solo servidor.

Ejemplo. Triton escucha gRPC en el puerto 8001 y HTTP en el 8000, con el mismo protocolo KServe v2. Alba eligió HTTP con la extensión binaria; gRPC queda como alternativa si una medición muestra que importa.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 8 lecciones

Grupo de consumidores

consumer group

Varias copias de un mismo consumidor que se reparten las particiones de un tópico. Cada partición la lee un solo consumidor del grupo; cada grupo recibe todos los eventos con sus propios offsets.

Dentro del grupo, un evento lo procesa una sola copia, y el orden de cada partición se conserva. Por eso más consumidores que particiones no ayuda: los de más se quedan sin nada que leer. Cuando un consumidor entra o se cae, el broker vuelve a repartir las particiones (rebalanceo) y el que hereda una sigue desde su último offset confirmado. Grupos distintos no se estorban: así el índice, el data lake y el monitoreo leen el mismo tópico.

Ejemplo. Un tópico de 12 particiones con 13 consumidores en el grupo: 12 leen y 1 espera. A 1,500 eventos por segundo cada uno, el grupo procesa 18,000, tenga 12 o 13.

Grupo de instancias

instance group

Cuántas copias del modelo carga Triton y en qué hardware. Con dos copias en una GPU, una puede recibir datos mientras la otra calcula.

Se escribe en el config.pbtxt (instance_group [ { count: 2 kind: KIND_GPU } ]). Cada copia atiende un batch a la vez; con varias, Triton reparte los batches entre ellas. En una sola GPU, dos copias dejan que se encimen la copia de datos de un batch y el cálculo de otro, y la GPU espera menos. Cada copia ocupa su memoria de GPU.

Ejemplo. Alba carga 2 copias del engine en cada T4: dos engines de ≈ 50 a 150 MB en 16 GB de memoria de la GPU.

Grupo de seguridad

security group

Un firewall (un filtro de conexiones) pegado a cada máquina de la nube, en su tarjeta de red, con una lista de las conexiones que acepta. Lo que no está en la lista no entra.

Solo tiene reglas de permitir: protocolo, puerto y origen. El origen puede ser un rango CIDR u otro grupo de seguridad («acepta a quien lleve el grupo gateway»), que sigue valiendo aunque cambien las IPs. Recuerda las conexiones (stateful): las respuestas pasan sin otra regla. Un grupo nuevo no acepta entrada y deja salir todo. En Kubernetes, la misma idea por pod es la NetworkPolicy. En Google Cloud se llaman reglas de firewall de la VPC; en Azure, network security groups.

Analogía. Como la lista de invitados en la puerta de cada salón: sin tu nombre (o sin el gafete del grupo correcto) no entras. Se rompe en que la lista no dice por qué pasillo llegar: eso es de la tabla de rutas.

Ejemplo. En Alba: alb acepta 443 de 0.0.0.0/0; gateway acepta 8080 solo del grupo alb; triton acepta 8000 y 8001 solo del grupo gateway.

Guardia

on-call

La persona del equipo que, por turno, recibe las alertas urgentes (los page) y responde a cualquier hora.

La guardia rota entre las personas del equipo para que nadie la cargue siempre. Recibe solo lo que no puede esperar; lo demás llega como warning o ticket en horario. Sigue los runbooks y, si el incidente afectó a los usuarios, al final se escribe un postmortem sin culpables.

Ejemplo. En Alba es una rotación semanal entre las 5 personas del equipo; en los ejemplos, Marta. Reconoce cada page en ≤ 5 minutos.

Se presenta en 58 · Monitoreo, drift y reentrenamientoAparece en 2 lecciones

Guía de etiquetado

labeling guidelines

El documento que dice qué es cada clase, con ejemplos, contraejemplos, los casos límite decididos por escrito y una salida «no sé». Tiene versión, y cada label guarda con qué versión se hizo.

Sin guía, cada persona entiende distinto cada categoría y el modelo aprende la mezcla. La guía crece con la adjudicación: cada desacuerdo resuelto puede volverse un ejemplo de la versión siguiente. Guardar la versión en cada label deja saber qué labels se hicieron con una regla que después cambió.

Ejemplo. En noviembre de 2026 la vigente en Alba es guia-v4. Casos límite: en una foto con varios productos manda el principal; un producto en su caja se etiqueta como el producto; tenis contra zapatos de vestir, con ejemplos de cada uno.

H

Handshake

three-way handshake

El saludo de tres mensajes con el que TCP, el protocolo de las conexiones confiables, abre una conexión: SYN, SYN-ACK y ACK, que equivalen a «¿hablamos?», «sí, ¿y tú?» y «sí». Cuesta una ida y vuelta completa (1 RTT) antes de que viaje el primer byte de datos.

El cliente manda SYN con su número inicial; el servidor contesta SYN-ACK con el suyo; el cliente acusa con ACK y, en ese momento, ya puede mandar la request. Por eso una request por una conexión nueva paga 2 RTT en vez de 1, y 3 si además lleva TLS 1.3, que tiene su propio saludo (4 con TLS 1.2, que saluda en 2). Si el primer SYN se pierde, el cliente espera ≈ 1 s antes de reenviarlo. Para no pagarlo en cada request, las conexiones se reusan (keep-alive, pool de conexiones).

Analogía. «¿Me oyes?» — «Sí, ¿y tú a mí?» — «Sí.» Hasta ahí no se ha dicho nada, pero los dos saben que el otro escucha. Se rompe en que dos personas pueden hablar encimadas desde el principio; TCP no manda datos hasta terminar el saludo.

Ejemplo. A 60 ms de RTT: por una conexión nueva, la respuesta llega a los 120 ms; con TLS 1.3, a los 180; por una ya abierta, a los 60.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 6 lecciones

Hash criptográfico

cryptographic hash

Una función hash con garantías de seguridad, como SHA-256: no se puede ir de la huella a la entrada ni fabricar dos entradas con la misma huella. Por eso sirve de identidad del contenido.

Promete tres cosas: no se puede revertir, no se puede imitar un archivo dado y no se pueden fabricar choques (con SHA-256 costaría ≈ 2¹²⁸ intentos). Cuando alguien rompe la última, el hash queda roto: le pasó a MD5 (primer choque en 2004) y a SHA-1 (2017), que hoy solo sirven contra accidentes. Usos: quitar copias exactas, verificar descargas de pesos, nombrar las cosas por su contenido (el digest de una imagen de contenedor, las versiones de Git), llaves de caché como sha256(bytes) + versión del modelo. Un hash sin llave no anonimiza: el mismo email da siempre el mismo hash. Para eso existe el HMAC, un hash con llave secreta. Para casi duplicados se usan huellas perceptuales (casi duplicado).

Ejemplo. Un servicio que sirve su propio LLM revisa el sha256 de cada archivo de pesos antes de cargarlo: si cambió un solo byte, la huella no coincide y el arranque se detiene.

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 18 lecciones

Hash de contraseña

password hash

Lo que un sistema guarda en vez de la contraseña: una sal (un valor al azar, distinto en cada cuenta) y el resultado de una función de hash lenta a propósito (Argon2id, scrypt, bcrypt o PBKDF2). Al entrar, repite la cuenta y compara.

Resuelve dos problemas de guardar un hash normal. Uno: SHA-256 es rápido, y quien roba la base prueba del orden de miles de millones de contraseñas por segundo con una GPU; una función lenta (muchas repeticiones, o mucha memoria) baja eso a miles. Dos: sin sal, la misma contraseña da el mismo hash en todas las cuentas, y una tabla precalculada sirve para cualquier base; con una sal distinta por cuenta, cada una es un problema aparte. La sal no es secreta: se guarda en claro junto al hash. El tiempo para probarlas todas es t=am÷v, con a símbolos posibles por carácter, m caracteres de largo y v intentos por segundo. Nada de esto salva una contraseña común: esas caen con listas de filtraciones, y por eso se pide un segundo factor.

Ejemplo. Ocho minúsculas son 26⁸ ≈ 2.09 × 10¹¹ contraseñas. A ≈ 2 × 10¹⁰ intentos por segundo (hash rápido en una GPU) se prueban en ≈ 10 s; a 10⁴ (hash lento), en ≈ 242 días.

HBM

high bandwidth memory

Memoria de alto ancho de banda: capas de memoria apiladas, pegadas al chip de la GPU y conectadas con muchísimos cables. Es la VRAM (la memoria propia de la GPU) de las GPUs grandes (A100, H100, H200) y les da terabytes por segundo.

Cada pila de HBM se conecta con 1,024 cables, más lentos que los de la GDDR (la memoria de las GPUs medianas) pero muchísimos más: la H100 SXM usa 5 pilas, 5,120 cables a ≈ 5.2 Gb/s, y llega a 3,350 GB/s. La GDDR6 de las GPUs medianas (T4, L4, A10G) va en chips aparte, alrededor de la GPU: la T4 tiene 256 cables a 10 Gb/s, 320 GB/s. El ancho de banda es cables × velocidad de cada cable ÷ 8. La HBM es cara y difícil de fabricar, así que se usa donde el ancho de banda vale el precio: en el decode de un LLM, que es memory-bound, los tokens por segundo crecen casi en proporción a los GB/s. Generaciones: HBM2 (A100 de 40 GB), HBM2e (A100 de 80 GB y H100 en tarjeta PCIe), HBM3 (H100 SXM) y HBM3e (H200).

Ejemplo. La A100 de 40 GB: 5 × 1,024 cables a ≈ 2.43 Gb/s ≈ 1,555 GB/s. Con Llama 3 8B en BF16 (≈ 16 GB), su techo es ≈ 97 tokens por segundo, contra ≈ 19 en la GDDR6 de una L4.

Se presenta en 18 · CPU y GPUAparece en 2 lecciones

Header

header

Una línea de datos (un encabezado) sobre un mensaje de HTTP, con la forma Nombre: valor, entre la primera línea y la línea en blanco de una petición o una respuesta. Dice a quién va, quién la manda, qué trae el body y cuánto mide.

El nombre no distingue mayúsculas, y en HTTP/2 siempre va en minúsculas. Los más comunes: Host (a qué nombre va dirigida), Content-Type (qué hay en el body, como tipo MIME: image/jpeg, application/json), Content-Length (cuántos bytes mide el body), Authorization (la credencial, como Bearer y un JWT), Accept, User-Agent, Retry-After (en un 429 o un 503: cuánto esperar) y Location. Se pueden inventar, como X-Request-ID. Los intermediarios los leen para decidir: un balanceador de carga puede rutear por un header. Pero un header que escribe el cliente sobre sí mismo puede mentir: solo una credencial verificada sirve para dar permisos. Las cookies también son headers.

Analogía. Lo que va escrito por fuera de un sobre: destinatario, remitente, contenido, peso. Se rompe en que, sin HTTPS, la carta de adentro viaja igual de legible que el sobre.

Ejemplo. Content-Length: 214836 deja que el gateway de Alba responda 413 a una foto de más de 10 MB antes de leer un solo byte del body.

Se presenta en 22 · HTTP: requests, respuestas y códigosAparece en 11 lecciones

Headroom

headroom

La distancia entre la capacidad medida de un servidor y la carga que planeas darle: el margen que dejas libre a propósito. Como regla práctica, un servicio online se planea a ≈ 50–70 % de su capacidad.

No es desperdicio: es protección. Paga cuatro cosas a la vez: que el p99 se quede en la parte plana de la curva, que la caída de una réplica o de una zona se reparta en las demás, los minutos que tarda el autoscaler en traer máquinas nuevas y el error de la medición. Un job offline, que nadie espera, puede trabajar cerca del 100 %. Su precio es pagar capacidad para el pico las 24 horas.

Ejemplo. Alba planea cada T4 al 50 %: 600 de sus ≈ 1,200 fotos por segundo. Con dos, en el pico cada una va al ≈ 21 %; si cae una, la otra va al ≈ 42 %.

Se presenta en 26 · Qué tan rápido y cuánto: latencia y throughputAparece en 3 lecciones

Health check

health check · readiness probe

La revisión con la que un balanceador decide si una copia puede recibir tráfico: preguntándole cada cierto tiempo (activo) o mirando sus respuestas reales (pasivo). La que no pasa sale del reparto.

El activo pregunta, por ejemplo GET /readyz cada 5 s, y saca al destino tras N fallas seguidas; lo regresa tras M éxitos. El pasivo mira las requests de verdad y saca un rato al que acumula errores o timeouts (en Envoy, outlier detection). Los umbrales equilibran dos riesgos: tardar en sacar a uno muerto o sacar por error a uno sano y provocar una cascada. En Kubernetes, la readiness pregunta «¿te mando tráfico?» y, si falla, saca al pod del Service sin reiniciarlo; la liveness pregunta «¿sigues vivo?» y lo reinicia; la startup da tiempo para arrancar. Las dependencias van en la readiness, nunca en la liveness. Los del ALB, si nadie los cambia, preguntan cada 30 s y sacan al destino tras 2 fallas (el controlador de AWS para Kubernetes pone 15 s). Si todos los destinos siguen registrados y fallan el chequeo del ALB a la vez, el ALB falla abierto y les manda tráfico de todos modos; pero si Kubernetes los saca a todos por su readiness, como en Alba, el ALB se queda sin destinos y contesta 503 él mismo. Un chequeo verde no dice que las predicciones sean buenas.

Ejemplo. Un pod del gateway de Alba, el marketplace del curso, se cuelga con 100 requests por segundo. Con una pregunta cada 5 s y 3 fallas para sacarlo, recibe ≈ 1,500 requests que no va a contestar, 0.5 % del presupuesto de fallas del mes. Con los valores por omisión de Kubernetes (cada 10 s, 3 fallas), ≈ 3,000.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 8 lecciones

HEALTHCHECK de la imagen

Docker HEALTHCHECK

Un comando que Docker corre dentro del contenedor cada cierto tiempo para saber si está sano: código 0 es sano; varias fallas seguidas, enfermo (unhealthy).

Tiene cuatro números: intervalo, espera de cada chequeo (timeout), fallas seguidas para darlo por enfermo (retries) y una gracia al arrancar (start period) en la que las fallas no cuentan. Lo usan docker run y compose (por ejemplo, para que un servicio espere a otro). Kubernetes lo ignora: usa los chequeos que define el pod. El comando tiene que existir en la imagen: un curl en una imagen que no lo trae nunca pasa.

Ejemplo. El del gateway de Alba pregunta con Python a su /healthz cada 10 s, espera 2 s, da 10 s de gracia y 3 fallas seguidas lo marcan enfermo: un gateway colgado se nota en a lo más 3 × (10 + 2) = 36 s.

Se presenta en 53 · Empaquetado con DockerAparece en 2 lecciones

Hedging

hedging · hedged requests

Si una request no respondió cuando ya pasó su p95 (lo que tardan 95 de cada 100), mandar una copia a otra réplica, quedarse con la primera respuesta y cancelar la otra. Recorta la cola (las requests más lentas) por ≈ 5 % más de carga.

Un reintento espera a que algo falle; el hedging apuesta a que la lentitud es mala suerte de una réplica. Solo funciona si la lentitud de las réplicas es independiente (una pausa al azar), si la operación es idempotente y si se puede cancelar la copia que pierde. No conviene en inferencia cara cerca de su límite, donde el 5 % extra cae en la pieza más cara, ni cuando la lentitud es compartida (la misma foto gigante). Encaja en lecturas baratas y replicadas. Lo describe el artículo The Tail at Scale, de Jeffrey Dean y Luiz André Barroso, de Google (2013).

Ejemplo. Si el 2 % de las requests cae en una pausa de ≈ 1 s, el p99 es ≈ 1 s. Con hedging a los 45 ms (el p95), siguen lentas 0.02 × 0.02 = 0.04 %, y el p99 baja a ≈ 85 ms o menos, por ≈ 5 % más de carga.

Helm

Helm · chart

Una herramienta que arma los manifiestos de Kubernetes (los archivos YAML que le dicen qué correr) a partir de plantillas con huecos y un archivo de valores. Cada ambiente trae su propio archivo (values-staging.yaml, values-prod.yaml) y el resto se comparte.

Un chart es la carpeta con las plantillas y su values.yaml. helm upgrade --install llena los huecos y aplica el resultado al clúster. Su precedencia: el values.yaml del chart, luego cada -f en orden (el último gana) y, encima, --set. Los archivos de valores van en Git; los secretos no, porque llegan del gestor de secretos. Un truco común es poner en el pod una anotación con el hash del ConfigMap, para que un cambio de configuración reemplace los pods. Es un proyecto graduado de la CNCF. La alternativa más usada es kustomize, que viene dentro de kubectl desde la versión 1.14 (kubectl apply -k) y aplica parches sobre un manifiesto base en vez de plantillas.

Ejemplo. La plantilla dice TRITON_URL: {{ .Values.tritonUrl | quote }}; values-prod.yaml dice tritonUrl: "triton.classifier:8000". El mismo chart, con otro archivo de valores, arma staging.

Hilo

thread

Una línea de ejecución dentro de un proceso: el punto del código por donde va el programa. Cada hilo lleva su propia cuenta de en qué va y comparte la memoria con los otros hilos del mismo proceso.

Todo proceso nace con un hilo y puede crear más, para hacer varias cosas a la vez sin copiar memoria. El planificador del kernel turna los hilos en los núcleos, y cada cambio es un cambio de contexto. Un hilo puede estar corriendo, listo (esperando turno) o bloqueado (esperando la red, el disco o un candado, sin gastar CPU). Compartir memoria tiene un riesgo: dos hilos que cambian el mismo dato pueden perder actualizaciones (una condición de carrera), y por eso existen los candados (locks). En CPython, el GIL deja ejecutar Python a un solo hilo a la vez.

Analogía. Varios cocineros en la misma cocina: comparten la mesa y los ingredientes, así que se coordinan rápido, pero pueden agarrar el mismo tazón. Se rompe en que un cocinero ve lo que hace el otro; dos hilos no se enteran de que chocaron.

Ejemplo. El gateway de Alba tiene un hilo que atiende las requests y un threadpool (grupo de hilos) que decodifica fotos, dos a la vez (PREPROCESS_CONCURRENCY=2), todo dentro del mismo proceso.

Se presenta en 16 · Programa, proceso e hiloAparece en 9 lecciones

Hiperparámetro

hyperparameter

Una decisión que tomas tú antes de entrenar y que el entrenamiento no cambia: el learning rate, el tamaño del batch, cuántas épocas, el optimizador.

Los parámetros los ajusta el entrenamiento y son millones; los hiperparámetros los eliges tú y son unos cuantos. Se eligen probando y comparando en validación, nunca en el test.

Ejemplo. El reentrenamiento de Alba, el marketplace que sigue el curso: Adam, lr 3e-4, batch 64, 8 épocas.

Se presenta en 04 · Cómo aprende un modeloAparece en 3 lecciones

Hipervisor

hypervisor

El programa que corre debajo de las máquinas virtuales: parte un servidor físico en varias VMs, le da a cada una su CPU, memoria y disco, y no deja que una vea a otra.

Es la pared entre clientes en la nube: varios desconocidos (tenants, inquilinos) comparten el mismo servidor, y para que uno lea la memoria de otro tendría que encontrarle una falla al hipervisor o al procesador (ha pasado, y se parcha). También es lo que hace rápido crear una máquina: es correr un programa, no instalar hardware. En AWS se llama Nitro y descarga parte del trabajo en tarjetas de hardware propias. Lo que no parte perfecto (la red, las cachés) produce el efecto del vecino ruidoso.

Ejemplo. Un servidor con 96 vCPU se puede rentar como 24 VMs de 4 vCPU; el hipervisor decide qué núcleos y qué memoria le tocan a cada una.

Se presenta en 38 · Qué es la nubeAparece en 2 lecciones

Hipótesis nula

null hypothesis · H0

La suposición de que no hay ningún efecto: que A y B son igual de buenos y que cualquier diferencia es ruido. La prueba calcula qué tan raros serían los datos si fuera cierta.

Se escribe H0 («hache cero»). Funciona como la presunción de inocencia: se supone, y solo se rechaza si los datos serían muy raros bajo ella (un p-value menor que la significancia). No rechazarla no prueba que sea cierta: puede que el efecto exista y que la muestra no alcanzara para verlo (falta de potencia).

Ejemplo. En el A/B de Alba, el marketplace que sigue el curso, H0 dice «el modelo nuevo no cambia la tasa de aceptación». Si fuera cierta, ver 70.0 % contra 71.0 % con 33,000 por brazo pasaría ≈ 0.5 % de las veces: se rechaza.

Histograma

histogram

Una gráfica de barras de una distribución: partes el rango en intervalos (buckets), cuentas cuántos valores caen en cada uno y dibujas una barra por intervalo.

En monitoreo, un histograma no es solo una gráfica: es la forma de guardar latencias. Cada copia del servicio lleva un contador por bucket y suma 1 donde cae cada request. Los contadores se suman entre copias y entre ventanas, y con ellos se estiman los percentiles. Prometheus, un sistema de monitoreo, los guarda acumulados, con la etiqueta le («menor o igual»).

Ejemplo. El servicio de Alba, el marketplace que sigue el curso, cuenta cada request en buckets con bordes de 10 ms a 2.5 s (10, 25, 50, 75, 100, 150, 200, 300, 500, 1,000 y 2,500 ms), más uno para lo que pasa de 2.5 s.

Se presenta en 10 · Promedios, medianas y percentilesAparece en 5 lecciones

Histograma de Prometheus

Prometheus histogram

Una métrica hecha de contadores, uno por bucket (un intervalo de valores, como de 0.15 a 0.2 s), más la suma y el total de observaciones. El servicio solo cuenta; el percentil se calcula después, sumando los buckets de todos los pods.

Con b bordes expone b buckets acumulados (etiqueta le), el de +Inf, _sum, _count y, en el cliente de Python, _created: b+4 series por cada combinación de etiquetas. Como sus partes son contadores, se pueden sumar entre pods y ventanas, y histogram_quantile estima el percentil (la entrada bucket muestra la cuenta). El Summary, en cambio, calcula percentiles dentro de cada pod y no se puede juntar. Los bordes van donde se decide: uno justo en el SLO.

Ejemplo. La request de Ana, de 0.020 s, suma 1 a los buckets de 0.025 en adelante (no al de 0.01), 1 a _count y 0.020 a _sum de classifier_request_latency_seconds.

Se presenta en 57 · La request en vivoAparece en 2 lecciones

HMAC

HMAC · hash-based message authentication code

Una huella (hash) calculada sobre un mensaje mezclado con una llave secreta. Solo quien tiene la llave produce el HMAC correcto, y cualquier cambio al mensaje lo descuadra: integridad y autor, con una llave compartida.

Es como una firma, pero con una sola llave que tienen el emisor y el receptor: quien verifica también podría firmar. Se usa para firmar URLs prefirmadas y requests a la API de la nube, para algunos JWT (HS256) y para seudonimizar datos: el HMAC de un teléfono con una llave guardada en KMS no se revierte por fuerza bruta, porque sin la llave no se puede probar. Se verifica con una comparación de tiempo constante (hmac.compare_digest), no con ==, para no filtrar cuántos bytes de la etiqueta coinciden.

Ejemplo. En una URL prefirmada de juguete, la fecha límite va en vence=1793974685 (en S3 de verdad va en X-Amz-Date y X-Amz-Expires), junto con su HMAC. Si alguien cambia la fecha, S3 recalcula el HMAC con la llave del firmante, no le coincide y responde 403 (prohibido). El SHA-256 sin llave del mensaje alterado no le sirve al atacante.

Se presenta en 43 · Cifrado, llaves y certificadosAparece en 5 lecciones

HNSW

Hierarchical Navigable Small World

Un índice de vecinos aproximados muy usado: conecta cada vector con unos cuantos vecinos y busca saltando de vecino en vecino hacia la consulta, con niveles de atajos para llegar rápido.

Arriba hay pocos puntos unidos por saltos largos; abajo, todos los puntos con caminos cortos. La búsqueda empieza arriba, baja de nivel y termina con pasos finos, así que el trabajo crece muy despacio con el tamaño del catálogo (como log N). Sus perillas: M, cuántos vecinos guarda cada punto (más recall y más memoria), y ef_search, cuántos candidatos mantiene mientras busca (más recall y más latencia). Vive en memoria y borrar de él es caro. Lo propusieron Malkov y Yashunin en 2016.

Analogía. Manejar a otra ciudad: autopista hasta la ciudad correcta y luego calles hasta la puerta. Se rompe en que HNSW no lleva mapa: en cada punto solo ve a sus vecinos, y por eso a veces se queda con uno que no es el más cercano de todos.

Ejemplo. En la búsqueda de Alba, el marketplace del curso, con M = 32 el grafo guarda hasta 2M = 64 vecinos por vector en el nivel de abajo: 2M×4 = 64 × 4 bytes = 256 bytes; para N = 100 M vectores, N×2M×4 ≈ 25.6 GB además de los vectores.

Holdout sin sugerencias

holdout / control group

Un grupo chico de usuarios que nunca ve las predicciones del modelo y decide todo a mano. Sus labels son los únicos que el modelo no influyó.

Se elige por un hash del identificador de la cuenta, para que cada cuenta esté siempre del mismo lado (asignación por hash). Sirve para dos cosas: medir cuánto empuja la predicción a las elecciones de la gente, que vuelve ruidosos los labels débiles, y medir cuánto vale la predicción (comparar al holdout contra los demás). La exactitud de cada fuente no la mide el holdout: la mide una muestra al azar etiquetada por personas. Cuesta que esa parte de la gente pierda la ayuda, por eso es chico. Nunca se mezcla con los labels del resto.

Ejemplo. En Alba es ≈ 1 % de las cuentas de vendedor: 2,500,000 × 0.01 = 25,000 publicaciones al día, ≈ 750,000 al mes.

Se presenta en 47 · Datos y etiquetasAparece en 2 lecciones

Hora facturada (contra hora trabajando)

billed hour versus busy hour

La nube cobra cada hora que la máquina está encendida, haga algo útil o no. La diferencia entre horas facturadas y horas trabajando es dinero tirado.

Una instancia se cobra mientras existe y está encendida (en AWS, las Linux por segundo, con mínimo de un minuto). Apagarla detiene el cobro de cómputo, no el del disco. Como encender una GPU tarda minutos, los sistemas suelen dejarla encendida un rato por si llega más trabajo: esas horas se pagan sin trabajo. Medir horas facturadas contra trabajando dice cuánto cuesta esa espera.

Ejemplo. Unos workers de segmentación de imágenes médicas, en g6.2xlarge a ≈ US$0.98 la hora, trabajan ≈ 8.3 h al día pero quedan encendidos ≈ 15: al mes, 0.98 × 249 h ≈ US$244 de trabajo contra 0.98 × 450 h ≈ US$441 facturados, ≈ 45 % ocioso.

HPA (Horizontal Pod Autoscaler)

Horizontal Pod Autoscaler

El controlador de Kubernetes que ajusta cuántas copias de un pod corren según una métrica: calcula ⌈pods actuales × métrica ÷ objetivo⌉, una regla de tres redondeada hacia arriba.

Cada 15 s compara la métrica actual x con su objetivo xobj y, con n pods ahora, pide ndes=⌈n×x÷xobj⌉ pods, recortados a su mínimo y su máximo. No se mueve si x÷xobj está a 10 % o menos de 1. Con CPU, la métrica es un porcentaje del request. Su campo behavior fija qué tan rápido sube y baja; para bajar usa, si nadie lo cambia, una ventana de 300 s. Solo ve lo que le publican: un servicio de GPU necesita otra señal, por ejemplo con KEDA.

Ejemplo. El gateway de Alba: CPU al 60 % del request, de 3 a 12 pods. Con 5 pods al 90 %: ⌈5×90÷60⌉ = 8.

Se presenta en 55 · Kubernetes

HTTP

HyperText Transfer Protocol

El idioma en que dos programas se piden y se responden cosas por la red: un cliente manda una petición (request) y el servidor contesta con una respuesta. Las dos son texto con una forma fija: una primera línea, unos encabezados (headers), una línea en blanco y el contenido (body).

Nació con la web para pedir páginas y hoy es el idioma por omisión entre programas: apps, APIs y servidores de modelos. Siempre empieza el cliente, y cada request recibe exactamente una respuesta. La primera línea de la request dice el método, la ruta y la versión; la de la respuesta, la versión y el código de estado. Después van los headers, una línea en blanco y el body. HTTP no tiene memoria (stateless): cada request trae todo lo que hace falta, y por eso cualquier copia de un servidor puede atender cualquier request. Viaja sobre una conexión TCP (o sobre QUIC, en HTTP/3); cifrado dentro de TLS se llama HTTPS. Las versiones que vas a ver: HTTP/1.1, en texto, y HTTP/2, en binario.

Analogía. Una ventanilla con formulario: llenas siempre los mismos renglones en el mismo orden, y te devuelven otro formulario con un sello de «aprobado» o «rechazado». Se rompe en que la ventanilla no te recuerda: cada vez tienes que volver a decir quién eres.

Ejemplo. El backend de Alba, el marketplace del curso, escribe «POST /v1/classify?top_k=5 HTTP/1.1», cuatro headers, una línea en blanco y los 214,836 bytes de la foto. El gateway contesta «HTTP/1.1 200 OK», sus headers y un JSON con 5 categorías.

Se presenta en 22 · HTTP: requests, respuestas y códigosAparece en 8 lecciones

HTTP/2

HTTP/2

La versión de HTTP de 2015: el mismo significado (métodos, headers, códigos), pero en binario y con muchas requests a la vez, intercaladas, en una sola conexión. Es la base de gRPC, un sistema para que un programa llame funciones de otro por la red.

Cambia el cableado, no el significado. Los mensajes viajan en frames, pedacitos binarios con un encabezado que dice a qué request pertenecen. Cada request es un stream numerado, y los frames de distintos streams se intercalan: es la multiplexación. Los headers se comprimen (HPACK) recordando los que ya se mandaron, y la primera línea se vuelve headers especiales como :method, :path y :status. Una consecuencia importante: un balanceador que reparte conexiones, como un Service de Kubernetes, ya no reparte requests, porque todas van por la misma conexión. Sigue sobre TCP, así que un paquete perdido frena a todos los streams; HTTP/3 lo resuelve con QUIC, sobre UDP.

Ejemplo. gRPC viaja sobre HTTP/2; Triton lo atiende en el puerto 8001. Con una sola conexión larga por gateway, un Triton nuevo puede quedarse casi sin tráfico: el balanceo reparte conexiones, no requests.

Se presenta en 22 · HTTP: requests, respuestas y códigosAparece en 3 lecciones

HTTPS

HTTP Secure · HTTP over TLS

El mismo HTTP, metido dentro de TLS, una capa que cifra la conexión y comprueba que el servidor es quien dice ser. Los mensajes no cambian; solo viajan cifrados. Usa el puerto 443.

Sin HTTPS, cualquiera en el camino puede leer y cambiar la request: el token de Authorization, la foto, la respuesta. Con TLS, por fuera solo se ve a qué IP y puerto vas, cuánto pesan los mensajes y, casi siempre, el nombre del host; la ruta, los headers y el body quedan ocultos. Cuesta un saludo más al abrir la conexión: 1 RTT con TLS 1.3 y 2 con TLS 1.2, que el keep-alive paga una sola vez. Un balanceador puede terminar TLS: descifra y sigue por la red privada, como el ALB de Alba.

Ejemplo. Desde el celular de Ana, con un RTT de ≈ 60 ms, la primera request por HTTPS espera 120 ms de saludos (TCP y TLS 1.3) antes de mandarse.

Se presenta en 22 · HTTP: requests, respuestas y códigosAparece en 6 lecciones

Huellas del build

build fingerprint

Lo que identifica un artefacto compilado y cómo se fabricó: la huella SHA-256 de cada archivo, la GPU y las versiones del software. Van al registro de modelos (registry) con la versión del modelo.

Un engine depende de su ONNX, de la GPU y de la release con que se construyó. Las huellas guardan todo eso: el SHA-256 del ONNX y del .plan (para verificar que el archivo que se carga es el que pasó la paridad; un byte distinto da otra huella) y la GPU y las versiones (para saber, meses después, por qué no carga en una máquina nueva y para reconstruirlo igual). Si hubiera datos de calibración, su huella también.

Ejemplo. Las huellas de la versión 14 de Alba son el SHA-256 del ONNX y del plan, la GPU (T4, sm_75) y la release de NGC (24.08, TensorRT 10.3). Los pesos se verifican con su SHA-256 al cargarlos.

I

I/O (entrada y salida)

I/O · input/output

Todo lo que un programa lee o escribe fuera de su CPU y su memoria: el disco, la red, otro servicio, la GPU. Comparado con calcular, tarda muchísimo, y mientras llega, el programa espera.

Leer un archivo, recibir los bytes de una foto, llamar a otro servicio y esperar su respuesta: todo es I/O. Los tiempos van de ≈ 0.1 ms (un SSD, la red dentro del centro de datos) a segundos (la respuesta completa de un LLM), contra ≈ 100 ns de leer la RAM. Por eso un servidor pasa casi todo su tiempo esperando: un trabajo que se la pasa esperando I/O es I/O-bound. Mientras espera, el programa puede bloquearse o, con async (programación asíncrona), soltar el turno para que avancen otras tareas.

Ejemplo. En Alba, el marketplace que sigue el curso, de los ≈ 50 ms que dura en promedio una request en su gateway en el pico de diseño (500 requests por segundo), la CPU trabaja ≈ 6 a 7. Casi todo lo demás es I/O y esperar turno: recibir la foto y esperar a Triton, el servidor del modelo, el servidor del modelo, el servidor del modelo, ≈ 10 ms de ida y vuelta.

I/O-bound

I/O-bound · limitado por el I/O

Un trabajo que tarda porque espera (la red, el disco, otro servicio), no porque calcule: mientras tanto, la CPU casi no trabaja. Se acelera esperando varias cosas a la vez, no con más CPU.

Un gateway que reenvía requests, un servicio que llama a otros o un script que descarga miles de fotos pasan casi todo su tiempo en I/O. Se reconoce porque tarda, pero la CPU está baja. Se acelera encimando las esperas: con async (programación asíncrona) o con varios hilos, que en Python sí sirven aquí porque mientras esperan sueltan el GIL. Una CPU más rápida casi no lo cambia.

Ejemplo. El gateway de un servicio que sirve su propio LLM gasta unos milisegundos de CPU por request y espera ≈ 10.5 s a que el modelo termine de generar: ≈ 99.9 % del tiempo es espera.

IaaS, PaaS y SaaS

IaaS / PaaS / SaaS

Tres niveles de lo que rentas: IaaS es infraestructura (máquinas, discos, red); PaaS, una plataforma que corre tu código; SaaS, un producto terminado. Mientras más subes, menos operas y más pagas por unidad.

En IaaS el proveedor cuida hasta el hipervisor y tú, del sistema operativo para arriba (una VM de EC2). En PaaS le das tu código o contenedor y no ves la máquina (Cloud Run, un endpoint de SageMaker AI). En SaaS usas el producto y solo pones datos y configuración (Gmail, una API de un modelo de lenguaje). Muchos servicios son mezclas: en Kubernetes gestionado, el proveedor opera el plano de control y tú las máquinas donde corre tu código. Cada nivel mueve la línea de la responsabilidad compartida. Lo que el proveedor opera por ti es un servicio gestionado.

Analogía. Hacer pizza en casa (on-prem), rentar una cocina y llevar tus ingredientes (IaaS), mandar tu receta a una cocina que la hace (PaaS) o pedirla a domicilio (SaaS). Se rompe en que en la nube las fronteras se mezclan y sacar tus cosas se cobra.

Ejemplo. Para leer texto de documentos, un sistema de OCR puede rentar VMs y correr su OCR (IaaS) o pagar Textract por página (casi SaaS): ≈ US$279 al mes por 186,000 páginas y nadie que lo opere.

Se presenta en 38 · Qué es la nubeAparece en 2 lecciones

IAM

IAM (Identity and Access Management)

El sistema de la nube que decide quién puede hacer qué acción sobre qué recurso. Toda llamada a la API de la nube, de una persona o de un programa, pasa por él.

Resuelve dos preguntas distintas: autenticación (¿quién eres?) y autorización (¿qué puedes hacer?). Las identidades son usuarios, roles y, en Kubernetes, cuentas de servicio conectadas a roles. Lo que se puede hacer lo dicen las políticas. Por omisión todo se niega. Es lo que en Linux hacen los permisos, llevado a toda la nube.

Ejemplo. Cuando Triton pide s3:GetObject de alba-artefactos/triton/modelo.plan, IAM revisa quién lo pide y si alguna política se lo permite.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 6 lecciones

Idempotencia

idempotency

Una operación es idempotente si hacerla una vez o muchas deja el mismo resultado. Es lo que permite reintentar sin miedo a duplicar: clasificar una foto lo es; publicar o cobrar, no.

Después de un timeout no sabes si la request nunca llegó, si sigue en curso o si ya se hizo y se perdió la respuesta. Si la operación es idempotente, repetirla no importa. En HTTP, GET, PUT y DELETE prometen serlo; POST no. Pero lo que cuenta es lo que hace el servidor: la inferencia de Triton se pide con POST y es idempotente. Para lo que no lo es, se usa una llave de idempotencia. Idempotente quiere decir que se puede reintentar, no que convenga.

Analogía. El botón del elevador: apretarlo cinco veces trae un solo elevador. Se rompe en que el elevador sabe que todos los botonazos son la misma petición; en la red, el servidor no sabe si dos requests iguales son la misma intención o dos distintas.

Ejemplo. «Pon el precio en 900» (PUT) es idempotente: la segunda vez ya está en 900. «Publica estos tenis» (POST) no: un reintento después de una respuesta perdida deja dos publicaciones.

Se presenta en 25 · Timeouts, reintentos e idempotenciaAparece en 8 lecciones

Identidad del workload

workload identity (IRSA / EKS Pod Identity)

Conectar la cuenta de servicio de un pod con un rol de la nube, para que el pod reciba credenciales temporales sin que nadie guarde una llave. En EKS, el Kubernetes gestionado de Amazon, se hace con IRSA (IAM Roles for Service Accounts) o con Pod Identity.

Con IRSA, Kubernetes da al pod un token firmado de su cuenta de servicio; el SDK de AWS lo cambia en STS por credenciales temporales del rol, cuya política de confianza solo acepta esa cuenta de servicio. Pod Identity hace lo mismo con un agente en el nodo. En Google Cloud es Workload Identity Federation; en Azure, Entra Workload ID. El código no cambia: el SDK encuentra y renueva las credenciales solo.

Ejemplo. La cuenta classifier/triton lleva la anotación del rol alba-triton; Triton lee sus pesos de S3 sin ninguna llave en la imagen ni en un Secret.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 3 lecciones

IDOR (referencia directa insegura)

insecure direct object reference

El fallo de autorización en que una request (petición) pide un objeto por su id (/publicaciones/8812) y el servidor revisa que haya sesión, pero no que el objeto sea de quien lo pide. Cambiar el número deja ver o cambiar lo de otro.

Es de los fallos más comunes en APIs y es difícil de ver en pruebas, porque con un solo usuario de prueba todo funciona. El arreglo va en el servidor, en cada request: además de quién eres y qué rol tienes, revisar que el objeto te toca. Esconder el botón no sirve. Los ids al azar ayudan contra la búsqueda a ciegas (un intento al azar atina con probabilidad p=E÷K: los ids que existen entre los posibles), pero no sustituyen la revisión, porque los ids viajan en enlaces que se comparten. Muchos sistemas responden 404 en vez de 403 para no revelar que el objeto existe.

Ejemplo. Ana edita PATCH /publicaciones/8811, su publicación, y prueba 8812, la bici de Beto. Si el servidor solo revisa la sesión, la edita; si revisa el dueño, responde 403.

Imagen base

base image

La imagen de la que parte otra, la que dice el FROM: trae el sistema mínimo y, a veces, el lenguaje o las librerías de la GPU.

Elegirla decide casi todo el tamaño y qué versiones de sistema y librerías hay. Conviene fijarla con tag y digest: el mismo tag se reconstruye con parches, y dentro de seis meses daría otra base. Las variantes slim quitan lo que no hace falta para correr. Para GPU, la versión de la base tiene que cuadrar con lo que se construyó con ella (un engine de TensorRT solo carga con su versión) y con el driver del nodo.

Ejemplo. El gateway de Alba parte de python:3.13-slim (≈ 43 MB comprimida; la python:3.13 completa pesa ≈ 0.4 GB). Triton parte de nvcr.io/nvidia/tritonserver:24.08-py3 (≈ 9.2 GB), la misma release que construyó el engine.

Imagen de contenedor

container image

El paquete congelado del que nace cada contenedor: los archivos que el proceso verá como su disco (sistema mínimo, lenguaje, librerías, código) y una configuración chica (qué comando correr, con qué usuario).

Es de solo lectura y está hecha de capas apiladas, cada una con los cambios respecto a la de abajo. Se identifica por su digest, la huella de su contenido, y se nombra con un tag para que la lea una persona. Un contenedor es un proceso que la usa como su /, con una capa escribible encima que se tira al terminar. Garantiza todo lo que vive en archivos; no garantiza el kernel, el driver de la GPU ni el tipo de CPU de la máquina.

Analogía. Un lote de porciones congeladas idénticas, cocinado una vez con la receta (el Dockerfile): cada porción que calientas y sirves es un contenedor. Se rompe en que una porción servida se acaba, y de una imagen salen cuantos contenedores quieras.

Ejemplo. Alba tiene dos: classifier-gateway:3f9c2ab (≈ 87 MB comprimida: 43 de la base, 44 de las dependencias y 0.048 del código) y classifier-triton:resnet50-2026-10-01 (≈ 9.2 GB, con el engine del modelo adentro).

Se presenta en 53 · Empaquetado con DockerAparece en 12 lecciones

Imagen precargada en el nodo

pre-pulled image

Tener la imagen de un contenedor ya en el disco del nodo antes de que llegue el pod, para que el arranque no espere su descarga.

Se logra horneando la imagen en la imagen de máquina del nodo, o con un DaemonSet que la baja en cuanto el nodo arranca. Quita del arranque en frío el tramo de la descarga, que en imágenes de GB es de minutos. A cambio, hay que rehacer la imagen de máquina (o volver a bajar) con cada versión nueva.

Ejemplo. La imagen de Triton de Alba pesa ≈ 9.2 GB y tarda ≈ 2–5 min en bajar; precargada, un pod con nodo nuevo llegaría en ≈ 3–8 min en vez de ≈ 5–13. Alba no la precarga hoy.

Se presenta en 55 · Kubernetes

Independencia

independence · independent events

Dos eventos son independientes si saber que pasó uno no cambia la probabilidad del otro. Es lo que permite multiplicar sus probabilidades.

Casi todas las cuentas de confiabilidad la suponen: el fan-out, la disponibilidad en serie y la redundancia en paralelo. Se cumple más o menos cuando las causas son distintas (el disco de una máquina y el de otra). Se rompe cuando hay una causa compartida: la misma versión en todas las réplicas, la misma zona, la misma base de datos; eso es una falla correlacionada. No es lo mismo que «excluyentes»: dos eventos excluyentes, que no pueden pasar juntos, nunca son independientes si los dos pueden pasar, porque si pasa uno el otro ya tiene probabilidad 0.

Ejemplo. Dos réplicas del clasificador de fotos de Alba, el marketplace que sigue el curso, en zonas distintas, cada una con sus propias fallas de hardware, son casi independientes: que se caiga la de la zona A no hace más probable que se caiga la de la B. Si las dos reciben el mismo deploy malo, dejan de serlo.

Se presenta en 11 · Probabilidad para sistemas que fallanAparece en 3 lecciones

Índice (de una base de datos)

index · B-tree

Una copia ordenada de una columna, guardada como un árbol, donde cada valor apunta a su fila. Con él, encontrar una fila entre millones toma unas pocas lecturas en vez de recorrer la tabla entera.

Casi todas las bases relacionales usan un árbol B (B-tree): cada nodo es una página entera con cientos de llaves en orden, así que cada lectura descarta todo menos 1 de cada ≈ 300 caminos. Con 3 niveles caben 300³ = 27 millones de llaves, y cada nivel más multiplica por 300. Cuesta: cada escritura tiene que ponerlo al día, ocupa espacio (casi como la tabla, si las filas son chicas) y solo ayuda a las consultas sobre su columna. Se indexa lo que aparece seguido en WHERE, JOIN y ORDER BY. La llave primaria trae el suyo. Para saber si una consulta lo usa, se pregunta el plan: EXPLAIN QUERY PLAN en SQLite (SCAN es recorrer, SEARCH es usar un índice) o EXPLAIN en PostgreSQL. No es lo mismo que un índice vectorial, que busca vectores parecidos y no valores exactos.

Analogía. El índice al final de un libro: en orden alfabético, cada palabra con su página. Se rompe en que un libro no cambia, y una tabla recibe millones de filas que el índice tiene que acomodar sin dejar de estar en orden.

Ejemplo. Sin índice, encontrar una fila entre 10 millones lee ≈ 500,000 páginas (≈ 2 GB). Con un árbol B de ≈ 300 ramas, 4: tres del árbol y una de la tabla. En SQLite, con 1 M de filas, buscar por vendedor bajó de 3 millones de pasos internos a 79.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 3 lecciones

Índice vectorial

vector index

Una estructura de datos que guarda millones de vectores ya organizados (en grupos o en un grafo) para encontrar los más cercanos a uno nuevo sin revisarlos todos.

Se construye antes, sin prisa, y se consulta en milisegundos. Los más usados, como HNSW, viven en la memoria: 100 millones de vectores de 512 números pesan ≈ 205 GB en float32. Lo ofrecen librerías (FAISS), bases de datos vectoriales y motores de búsqueda (OpenSearch k-NN). Cada uno trae perillas que cambian velocidad, memoria y recall.

Ejemplo. En la búsqueda de Alba, el marketplace del curso: un índice HNSW con ≈ 100 M vectores de 512 números guardados en int8 (100 M × 512 × 1 byte = 51.2 GB) más el grafo (≈ 25.6 GB), partido en 4 pedazos.

Se presenta en 07 · Embeddings: el significado como coordenadasAparece en 3 lecciones

Inferencia

inference

Usar un modelo ya entrenado para responder sobre un caso nuevo. Los parámetros no cambian: el modelo solo calcula.

Es el otro momento en la vida de un modelo, después del entrenamiento. Cada respuesta que da es una predicción. Es rápida y pasa todo el tiempo: es lo que hace el modelo en producción.

Ejemplo. Cada vez que alguien sube una foto a Alba, el modelo hace una inferencia. Son millones al día.

Se presenta en 00 · El camino completoA fondo en 01 · Qué es un modeloAparece en 4 lecciones

Inferencia asíncrona gestionada

asynchronous inference

Un modo de endpoint para requests grandes o lentas: subes el archivo a un almacén (como S3, en la nube de Amazon), pides la predicción y el resultado aparece ahí minutos después. Puede bajar a cero máquinas.

En SageMaker AI acepta archivos de hasta 1 GB y trabajos de hasta 1 hora; los trabajos esperan en una cola interna. Como nadie espera en segundos, puede escalar a cero y pagar el arranque en frío solo cuando llega trabajo. Agent Platform y Azure ML no tienen un modo igual: se arma con una cola y workers o con batch.

Ejemplo. Estudios grandes con promesa de 60 minutos, como las láminas de microscopio de un servicio de imágenes médicas: un arranque de 3–5 minutos no importa, y de noche no se paga GPU. Ojo: esas láminas pesan ≈ 1 GB (algunas, 3 GB), en el límite de la asíncrona o arriba; por eso ese servicio usa su propia cola y workers.

Inferencia de pertenencia

membership inference

Adivinar si un registro concreto estuvo en los datos de entrenamiento de un modelo, mirando cómo responde.

Funciona porque los modelos suelen estar más seguros de los ejemplos que vieron al entrenar. El atacante marca como «estuvo» lo que recibe una confianza muy alta. Se mide con la ventaja V=TPR−FPR: la fracción de miembros que acusa bien menos la de no miembros que acusa por error. Importa cuando estar en el entrenamiento revela algo, como haber sido paciente de un hospital. Defensas: no exponer confianzas detalladas, regularizar, no sacar el modelo del perímetro y, si el riesgo lo justifica, privacidad diferencial.

Ejemplo. En un ejemplo de juguete, con scores de 8 miembros y 8 no miembros y un umbral de 0.94, el ataque marca 6 de 8 miembros (TPR 0.75) y 1 de 8 no miembros (FPR 0.125): V = 0.625. Si la API solo devuelve la categoría, V cae a 0.

Se presenta en 46 · Ataques y cadena de suministroAparece en 2 lecciones

Ingress

Ingress · Gateway API

Un objeto de Kubernetes (el sistema que reparte programas entre máquinas) con las reglas HTTP para que el tráfico de afuera entre al clúster, como «lo que llegue a /v1/classify, mándalo al Service del gateway». Lo aplica un controlador: un proxy que lee esas reglas o un programa que configura el balanceador de la nube.

El Ingress es solo la regla escrita: host y ruta hacia un Service. Lo convierte en algo real un controlador de Ingress, que es un proxy inverso (como NGINX) o un programa que configura el balanceador de la nube. Su API está congelada (no recibe funciones nuevas): no sabe de pesos ni de headers sin las anotaciones propias de cada controlador. Su sucesor es Gateway API, estable desde octubre de 2023, que separa la puerta (un objeto Gateway, del equipo de la plataforma) de las rutas (HTTPRoute, de cada equipo), con pesos y condiciones por header. El controlador comunitario ingress-nginx se retiró: Kubernetes lo anunció en noviembre de 2025, y desde marzo de 2026 no recibe versiones nuevas ni parches de seguridad.

Ejemplo. En Alba, el marketplace del curso, el controlador de AWS lee el Ingress del gateway y arma el ALB. Con target-type: ip, el ALB manda cada request directo a la IP de un pod del gateway, sin pasar por kube-proxy.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 3 lecciones

Inicialización

initialization · weight init

Los valores con que empiezan los pesos de una red antes de entrenar: al azar y chiquitos, con un tamaño que depende de cuántas entradas suma cada neurona.

No pueden empezar todos iguales, ni en cero: las neuronas de una capa calcularían lo mismo, recibirían la misma culpa y seguirían siendo gemelas para siempre. Y el tamaño importa: pesos un poco grandes hacen que los números exploten capa tras capa, y un poco chicos, que se apaguen. Con ReLU se usa la regla de He: desviación estándar √(2 ÷ entradas). PyTorch inicializa cada capa al crearla; en un fine-tuning, solo la cabeza nueva empieza al azar.

Ejemplo. Una convolución de 3 × 3 sobre 64 canales suma 576 entradas por neurona: sus pesos empiezan con desviación √(2 ÷ 576) ≈ 0.059.

Inmutabilidad (de un snapshot)

immutability

Que algo, una vez escrito, ya no se pueda cambiar: ni borrar, ni reemplazar, ni agregarle nada. Un cambio es una versión nueva con otro nombre.

Un snapshot solo sirve si es inmutable: el modelo dice «me entrené con este», y si alguien lo reescribe después, el puntero miente. En object storage, un PUT (la petición que guarda un archivo) a una llave que existe reemplaza el objeto en silencio, así que la inmutabilidad hay que imponerla: con la escritura condicional exigida por la política del bucket, con permisos que no dejan borrar, y con la huella del manifest para detectar si algo cambió. Inmutable no es eterno: cuando hay que borrar datos de una persona, se anota el borrado en vez de reescribir.

Ejemplo. s3://ml-datos/datasets/ds-2026-09-01/ se escribe una vez, el 1 de octubre de 2026. Un error encontrado en octubre se corrige en ds-2026-10-01, no ahí.

Instancia

instance

Una máquina virtual que rentas por hora en la nube, con un número fijo de vCPU, RAM, red y, a veces, GPUs. Es la unidad que se pide, se enciende y se cobra.

Una instancia es una máquina virtual que el proveedor aparta para ti dentro de una computadora física, con su hipervisor. Trae cinco cosas: vCPU, RAM (en GiB), disco (casi siempre un disco de red que se cobra aparte), red y, en las familias de GPU, cero, una, cuatro u ocho GPUs de un modelo fijo. No eliges la GPU por separado: eliges una instancia que la trae. El precio por hora cubre todo junto, y por eso dos instancias con la misma GPU pueden costar muy distinto.

Analogía. Como rentar un departamento amueblado en un edificio: tienes tu espacio y tus muebles fijos, pero el edificio es del dueño y lo comparte con otros inquilinos. Se rompe en que el departamento lo rentas por mes; la instancia, por segundo.

Ejemplo. Una g4dn.xlarge trae 4 vCPU, 16 GiB de RAM y una GPU T4, por ≈ US$0.526 la hora en us-east-1 (noviembre de 2026): ≈ US$384 al mes encendida todo el tiempo.

Se presenta en 40 · Máquinas, GPUs y cómo se cobranAparece en 4 lecciones

Instancia reservada y CUD

reserved instance / committed use discount

Un descuento a cambio de un plazo: te comprometes a usar una instancia o cierta cantidad de recursos durante 1 o 3 años, y pagas menos por hora, la uses o no. AWS y Azure lo llaman instancia reservada (RI); Google, CUD.

AWS y Azure las llaman instancias reservadas (Reserved Instances, RI); Google, descuentos por uso comprometido (Committed Use Discounts, CUD). Comprometes un tipo o una cantidad de recursos, no un monto de dinero. El descuento máximo anunciado es de hasta 72 % en AWS y Azure y hasta 55 % en los CUD de Google. Una RI regional, igual que un Savings Plan, baja el precio pero no garantiza capacidad. El nombre engaña: «reservada» no quiere decir que haya máquinas apartadas. La excepción está en Google: un CUD de GPUs por recursos exige adjuntarle una reserva de esas mismas GPUs, y esa reserva sí las aparta.

Ejemplo. Una g4dn.xlarge con 37 % de descuento a 1 año: ≈ 0.526 × 0.63 ≈ US$0.331 por hora, las 730 horas del mes.

Instancia spot

spot instance / Spot VM

Capacidad sobrante que la nube renta con descuento, a cambio de poder quitártela con un aviso corto cuando la necesita para un cliente que paga completo.

El proveedor fija el precio spot según cuánta capacidad le sobra, y cambia. Los descuentos anunciados («hasta 90 %») son techos; en las GPUs de inferencia que se observaron, ≈ 25–55 %, y a veces casi nada. La pregunta que decide si algo va en spot no es cuánto ahorras, sino qué pasa si te quitan la máquina: si solo se repite un pedazo de trabajo (entrenamiento con checkpoints, batch idempotente, backfills, CI), sirve; si un usuario ve un error, no. Se diversifica entre tipos y zonas para que una interrupción no se lleve todo.

Analogía. Un asiento de avión de último minuto: más barato, pero si llega alguien con boleto completo, te bajan. Se rompe en que en spot te bajan a medio vuelo.

Ejemplo. Un fine-tune de 40 h en g5.xlarge: ≈ US$40 on-demand; en spot a ≈ 0.462 con 4 interrupciones que repiten 25 min cada una, ≈ US$19.

Se presenta en 40 · Máquinas, GPUs y cómo se cobranAparece en 4 lecciones

INT4

4-bit integer · int4 quantization

Enteros de 4 bits: solo 16 valores, de −8 a 7, medio byte por número. Se usa para guardar los pesos de modelos de lenguaje grandes (LLMs), con una escala por cada grupo chico de pesos.

Con una sola escala por capa, los números chicos se vuelven 0; por eso cada grupo (por ejemplo, de 128 pesos seguidos) lleva su propia escala, que cuesta ≈ 0.125 bits más por peso. En LLMs casi siempre es weight-only: los pesos se guardan en INT4 y se convierten a 16 bits (BF16 o FP16) al vuelo, justo antes de multiplicar; los métodos más usados son AWQ y GPTQ. Ahorra mucha memoria y acelera la generación de texto, pero arriesga más calidad que FP8 o INT8.

Ejemplo. Un modelo de 70,600 millones de parámetros ocupa ≈ 35.3 GB en INT4, más ≈ 1.1 GB de escalas con grupos de 128: cabe en una H100 de 80 GB, donde en BF16 (≈ 141 GB) no cabría.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 2 lecciones

INT8

8-bit integer · int8 quantization

Enteros de 8 bits con signo, de −128 a 127. En ML, sobre todo, un formato de cuantización: cada peso o activación se guarda como un int8 más una escala compartida, en 1 byte en vez de 4.

Lo aceleran los tensor cores de las GPUs desde la generación de la T4 (en ella, ≈ 130 × 10¹² operaciones por segundo, el doble que en FP16) y las CPUs modernas con instrucciones especiales (VNNI, AMX). En redes convolucionales (CNNs) se cuantizan pesos y activaciones; en modelos de lenguaje grandes (LLMs), a menudo solo los pesos. Pide cuantización con calibración y un examen antes de producción: el promedio puede esconder lo que pierde la cola larga.

Ejemplo. La ResNet-50 de Alba, el marketplace del curso, pasa de 98 MB en FP32 a ≈ 25 MB en INT8. Una ResNet-50 así, en CPU, suele correr ≈ 2 veces más rápido con una foto a la vez y ≈ 3.5 veces con 8, según el CPU.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 5 lecciones

Integración continua

continuous integration · CI

La práctica de juntar los cambios de todos al código principal seguido y de correr todas las pruebas automáticamente con cada uno, en una máquina limpia. Si algo falla, el cambio se detiene antes de llegar a la rama principal.

Se cuelga del pull request: con cada push, un servicio de CI prende una máquina nueva (un runner), baja el código, instala las dependencias exactas y corre los pasos del repositorio (el linter y las pruebas; las pruebas con la GPU real, como la paridad de punta a punta, corren después, solo en la rama principal y nunca con el código de un PR). Si todos salen con código 0, el PR queda en verde; si no, en rojo, con el registro de qué falló. La máquina limpia borra el «en mi máquina sí funciona». Tiene que ser rápido, minutos: si tarda horas, la gente junta cambios grandes. En ML, el CI de código no entrena el modelo completo; eso es trabajo de otro pipeline, el de entrenamiento continuo. Lo que sale aprobado lo lleva a producción el CD.

Ejemplo. En Alba, cada PR que toca el gateway corre ruff y mypy en un job y pytest (las unitarias, las 26 con el Triton falso y los tensores de las 20 fotos de referencia) en otro, al mismo tiempo: respuesta en ≈ 2 a 3 minutos.

Se presenta en 36 · Pruebas y CI/CDAparece en 14 lecciones

Intensidad aritmética

arithmetic intensity

Cuántas operaciones hace un cálculo por cada byte que lee o escribe en la memoria: FLOPs ÷ bytes. Si es baja, manda la memoria; si es alta, manda el cálculo.

Es una propiedad del cálculo, no de la máquina: depende de cuántas veces se reutiliza cada número que se trae de la VRAM. Una matriz por un vector usa cada peso una sola vez (≈ 1 FLOP por byte en FP16); dos matrices cuadradas de lado n, cada número n veces (≈ n ÷ 3 FLOPs por byte en FP16). Se compara con el punto de quiebre de la GPU, su pico de FLOPS ÷ su ancho de banda de memoria: por debajo, el cálculo es memory-bound; por encima, compute-bound. El batching la sube: un peso que se lee una vez se usa para todo el batch.

Analogía. Un cocinero cuyos ingredientes llegan de una bodega: la intensidad es cuántos platillos saca de cada viaje. Si saca uno, espera al ayudante; si saca cien, el ayudante le sobra. Se rompe en que la comida se gasta y un número no: se puede usar las veces que quieras mientras siga en el chip.

Ejemplo. Generar un token de un LLM en BF16: cada peso de 2 bytes se usa en una MAC, 2 FLOPs, así que la intensidad es ≈ 1 FLOP por byte. Multiplicar dos matrices de 4,096 × 4,096 en FP16 son ≈ 137 GFLOPs con ≈ 101 MB de lecturas y escrituras: ≈ 1,365 FLOPs por byte.

Internet gateway

internet gateway

La puerta de una VPC (tu red privada en la nube) hacia internet. Una subred cuya tabla de rutas manda a él todo lo que no es de la VPC (0.0.0.0/0) es pública.

Se pega a la VPC entera, no a una zona, y no cobra por hora ni por GB (lo que sale sí paga egress (transferencia de salida)). Traduce entre la IP privada de una máquina y su IP pública. Una máquina en una subred privada no lo usa directo: sale por un NAT gateway, que a su vez sale por él.

Ejemplo. La tabla de las subredes públicas de Alba tiene dos reglas: 10.0.0.0/16 → local y 0.0.0.0/0 → igw (el internet gateway).

Interpolación

interpolation

La regla para calcular el valor de un píxel nuevo a partir de sus vecinos cuando una imagen cambia de tamaño. Las más sencillas son nearest (copia el más cercano) y bilinear (mezcla los 4 que lo rodean).

Casi ningún píxel nuevo cae justo encima de uno viejo, así que hay que calcular su valor. Nearest copia el vecino más cercano: es rápida, pero da bloques. Bilinear mezcla los 4 vecinos, con más peso para los más cercanos, y da transiciones suaves; bicubic usa 16. Al achicar conviene además el antialias: tomar en cuenta todos los píxeles viejos que caen debajo del nuevo, para que un detalle delgado no desaparezca. Cada librería tiene su costumbre (Pillow usa bicubic; OpenCV, bilinear sin antialias; torchvision, bilinear con antialias), así que la interpolación es parte del preprocesamiento y tiene que ser la misma al entrenar y al servir.

Ejemplo. Al agrandar la fila [40, 200] a 4 píxeles, nearest da [40, 40, 200, 200] y bilinear da [40, 80, 160, 200].

Intérprete

interpreter

Un programa que lee tu código y lo va ejecutando mientras corre, sin traducirlo antes a instrucciones para la CPU. Python funciona así.

CPython, el intérprete de Python más usado, traduce cada archivo .py a bytecode (instrucciones sencillas para el propio intérprete; el de los módulos que importa lo guarda en __pycache__, si puede escribir ahí) y las ejecuta una por una con un ciclo escrito en C. Cada instrucción de bytecode cuesta muchas instrucciones de máquina: por eso un ciclo de Python puro es decenas de veces más lento que el mismo ciclo en C, y el trabajo pesado se deja a librerías compiladas, como NumPy y PyTorch. El intérprete es, a su vez, un binario: cuando «corre el gateway», el proceso es python.

Analogía. Un intérprete de conferencias, que traduce frase por frase mientras el orador habla, contra un traductor que entrega el libro ya traducido (el compilador). Se rompe en que CPython sí traduce antes, a bytecode; lo que hace al momento es ejecutarlo.

Ejemplo. dis.dis muestra el bytecode de una función: en Python 3.14, return precio * 1.16 son cuatro instrucciones, entre ellas BINARY_OP para la multiplicación.

Se presenta en 16 · Programa, proceso e hiloAparece en 4 lecciones

Intervalo de confianza

confidence interval · CI

Un rango alrededor de lo que mediste que dice cuánto podría moverse por el puro azar de la muestra. El de 95 % es lo medido ± 1.96 errores estándar (≈ ±2).

El 95 % es de la receta: si repitieras la muestra muchas veces y armaras un intervalo con cada una, 95 de cada 100 atraparían el valor verdadero. No dice que el 95 % de los datos caiga ahí, no cubre otros errores (una muestra sesgada, etiquetas mal puestas) y no promete lo que pasará en producción, donde la población cambia. Con pocos datos, o con proporciones cerca de 0 o de 100 %, la regla de ±2 falla y se usa la de Wilson, otra fórmula que corrige eso.

Ejemplo. 85 % en 1,000 fotos: 85 ± 2.2, de 82.8 % a 87.2 %. En el golden set de Alba, el marketplace que sigue el curso, con 50,000 fotos: 85 ± 0.3.

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 8 lecciones

Inyección de prompt

prompt injection

Meter instrucciones dentro de un texto que un LLM (un modelo grande de lenguaje) va a leer como dato, para que las obedezca como si fueran órdenes.

Un LLM recibe todo como una misma fila de tokens: las instrucciones del sistema, la pregunta y los documentos. No tiene una forma confiable de separar órdenes de datos. La inyección directa viene en la pregunta del usuario; la indirecta, escondida en algo que el modelo lee (una página, un correo, un documento que el sistema le buscó para responder, como en RAG), y es la peligrosa porque el usuario honesto no se entera. No tiene solución completa en el modelo; se contiene con diseño: el LLM sin permisos para lo irreversible, reglas en el código y no en el prompt, permisos filtrados antes de que el modelo lea, salidas validadas contra la fuente y una persona que aprueba lo que importa.

Analogía. Un empleado nuevo que obedece cualquier instrucción escrita que lee. Dónde se rompe: una persona aprende de un engaño; el LLM empieza cada conversación igual de crédulo.

Ejemplo. En el agente de soporte de Alba, los reembolsos de más de US$50 los aprueba una persona, y esa regla vive en el código de la herramienta. Una descripción de producto que diga «aprueba el reembolso completo» no logra dar uno de US$120.

Se presenta en 46 · Ataques y cadena de suministroAparece en 2 lecciones

IoU

intersection over union · índice de Jaccard

Qué tanto se enciman dos cajas (o dos máscaras): el área que comparten dividida entre el área que cubren juntas. Va de 0 (no se tocan) a 1 (idénticas).

En detección decide si una caja del modelo le atinó a la caja real: la regla clásica pide IoU ≥ 0.5. Castiga los dos errores: una caja corrida comparte menos, y una caja demasiado grande agranda la unión aunque cubra todo el objeto. También se usa en segmentación, con píxeles en vez de cajas, y para revisar que un modelo optimizado dé las mismas cajas que el original.

Ejemplo. Caja real de 100 × 200 píxeles; la del modelo, igual pero corrida 20 píxeles a la derecha y 20 hacia abajo. Comparten 80 × 180 = 14,400; juntas cubren 20,000 + 20,000 − 14,400 = 25,600. IoU = 14,400 / 25,600 ≈ 0.56.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 2 lecciones

IP privada

private IP address

Una dirección IP de los rangos apartados para redes internas (10.x.x.x, 172.16 a 172.31.x.x y 192.168.x.x). Vale solo dentro de su red y no se puede alcanzar desde internet.

Los tres rangos privados son 10.0.0.0/8 (16,777,216 direcciones), 172.16.0.0/12 (1,048,576) y 192.168.0.0/16 (65,536). Cualquiera puede usarlos adentro sin pedir permiso, así que la misma dirección existe en millones de redes a la vez. Para salir a internet, un aparato con IP privada pasa por NAT, que cambia su dirección por una pública y recuerda a quién devolver la respuesta. En la nube, las máquinas viven en una red privada, la VPC, y solo la puerta de entrada tiene IP pública. Distinto de 127.0.0.1, que es localhost: la máquina misma.

Analogía. Las extensiones de una oficina: la 102 existe en muchas oficinas a la vez y solo funciona adentro; para que te llamen de afuera, se marca el número del conmutador. Se rompe en que el conmutador no cambia nada en tu llamada, y NAT sí reescribe cada paquete.

Ejemplo. En tu casa, tu celular es 192.168.1.20 y el router tiene una sola IP pública para todos. En Alba, Triton solo tiene IP privada: desde internet no hay manera de llegarle.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 3 lecciones

IP pública

public IPv4 address

Una dirección IPv4 única en el mundo, alcanzable desde internet. En AWS (la nube de Amazon) cuesta ≈ US$0.005 por hora cada una (≈ US$3.65 al mes) desde 2024.

Las direcciones IPv4 son escasas (2³², ≈ 4,300 millones) y por eso se cobran, se usen o no. Solo la necesita lo que recibe conexiones de internet (un balanceador público) o lo que sale directo (un NAT gateway). Los nodos de un clúster no la necesitan: van en subredes privadas, y cada IP pública es una puerta más. Lo contrario es la IP privada.

Ejemplo. 100 nodos con IP pública «por si acaso»: 100 × 0.005 × 730 ≈ US$365 al mes. Los nodos de Alba no tienen ninguna; las únicas IPs públicas son las de los 2 NAT (≈ US$7 al mes) y las del ALB.

ISO 8601

ISO 8601

El estándar para escribir fechas y horas como texto, de lo grande a lo chico y con su zona: 2026-11-06T14:03:05Z. La Z quiere decir UTC, la hora de referencia del mundo.

Año, mes, día, una T, horas, minutos, segundos, decimales opcionales después de un punto (o de una coma), y la zona: una Z para UTC o un offset como -06:00. 2026-11-06T08:03:05-06:00 es el mismo instante que 2026-11-06T14:03:05Z. Como va de lo grande a lo chico, si todas las horas están en UTC y con el mismo formato, ordenarlas como texto las ordena en el tiempo; por eso las carpetas y los snapshots llevan la fecha así. Con zonas o decimales mezclados ese truco falla. Evita la ambigüedad de 03/04/2026, que en México es 3 de abril y en Estados Unidos 4 de marzo. En internet se usa su perfil estricto, el RFC 3339: zona obligatoria, año de 4 cifras y punto decimal.

Ejemplo. Alba, el marketplace que sigue el curso, nombra su snapshot de datos de septiembre ds-2026-09-01, y la corrida que lo armó anota su hora así: created_at: 2026-10-01T03:12:44Z (se arma el 1 de octubre, ya cerrado el mes).

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 3 lecciones

J

Jerarquía de memoria

memory hierarchy

La escalera de memorias de una computadora, de la más rápida, chica y cara por byte a la más lenta, grande y barata: registros, cachés, RAM y discos (la GPU tiene la suya). Del primer piso al último de la CPU, la espera crece ≈ 10 millones de veces.

Existe porque ninguna memoria es a la vez rápida, grande y barata. En la CPU, las cachés son tres: L1, L2 y L3. En la CPU, las cachés son tres: L1, L2 y L3. En la CPU, las cachés son tres: L1, L2 y L3. El sistema trata de tener arriba lo que se va a usar enseguida, y le funciona gracias a la localidad: los programas reusan los mismos datos y usan los de al lado. A escala humana, si leer la L1 tardara 1 segundo, la RAM tardaría 1 minuto 40 segundos; un SSD, más de un día, y un disco duro, casi 4 meses. La GPU tiene su propia escalera (registros, memoria junto a los núcleos, caché L2 y VRAM), con 4 MB de caché L2 en la T4, decenas de MB en las más nuevas, y entre las dos escaleras el puente es PCIe, más lento que cualquiera de las dos memorias.

Analogía. Una cocina: la mesa junto a la estufa (la caché), la bodega (la RAM), el mercado (el SSD) y un pedido que llega por barco (el disco duro). Se rompe en que el hardware sube y baja las cosas solo, sin que nadie se lo pida, y en que todo lo de arriba del disco se borra si se va la luz.

Ejemplo. El mismo byte tarda ≈ 1 ns si está en la L1, ≈ 100 ns en la RAM, ≈ 0.1 ms en un SSD NVMe y ≈ 10 ms en un disco duro: diez millones de veces más del primero al último.

Se presenta en 17 · Memoria, caché y discoAparece en 2 lecciones

Jitter

jitter

Azar que se le agrega a la espera antes de un reintento, para que los clientes que fallaron juntos no vuelvan juntos. Con «full jitter», cada uno espera al azar entre 0 y el tope del backoff (la espera que se duplica en cada intento).

Si mil clientes fallan en el mismo instante y todos esperan exactamente lo mismo, vuelven en el mismo milisegundo: el backoff solo movió la ola. Con jitter, la ola se vuelve llovizna. La receta más usada, full jitter (de un artículo de Marc Brooker en el blog de AWS, de 2015), espera un tiempo uniforme entre 0 y b × 2ⁿ. Otras: equal jitter (mitad fija, mitad al azar) y decorrelated jitter. Es la primera defensa contra una tormenta de reintentos.

Ejemplo. En una simulación, 1,000 clientes fallan juntos contra un servidor que atiende 50 por ventana de 10 ms. Sin jitter: pico de 1,000 en una ventana, 2,850 intentos y 850 se rinden. Con full jitter: pico de 61, 1,061 intentos y todos atendidos.

Job de entrenamiento

training job

Un entrenamiento que corre como un programa que arranca, hace su trabajo y termina, en una máquina con GPU que se crea para él y se apaga al acabar.

En vez de una GPU prendida todo el tiempo, el orquestador lanza el entrenamiento como un job: en Kubernetes, un pod que pide un nodo con GPU; el nodo se crea, el pod corre y el nodo se apaga. Se paga solo lo que dura. El job recibe sus entradas como parámetros (snapshot, commit, digest de la imagen), comprueba lo que tenga que comprobar antes de gastar GPU y, si falla, el orquestador lo reintenta reanudando del último checkpoint.

Ejemplo. El fine-tune de Alba es un pod en un nodo g5.xlarge on-demand, a precio normal (una A10G de 24 GB, ≈ US$1.006 la hora) que dura ≈ 3–4 horas y cuesta ≈ US$3.3–4.3. No usa las T4 de producción: allí tardaría ≈ 10 horas y les quitaría lugar a las fotos de la gente.

Job, step y needs

job, step, needs

Un job es un trabajo de un workflow que corre en su propia máquina limpia (runner), con sus pasos (steps) en orden. needs lo hace esperar a otros jobs; if decide si corre.

Sin needs, los jobs de un workflow corren a la vez, cada uno en su máquina. Con needs: [a, b], el job espera a que a y b terminen bien; si uno falla, el que depende de ellos no corre. if pone una condición, como github.event_name == 'push'. Un step es run (un comando) o uses (una acción ya hecha). Como cada job corre en otra máquina, lo único que pasa de uno a otro son sus salidas o los artefactos.

Ejemplo. En gateway.yml: lint y pruebas a la vez; imagen con needs: [lint, pruebas] e if de push; después paridad, staging y produccion, uno tras otro.

JOIN

join · INNER JOIN · LEFT JOIN

Unir las filas de dos tablas cuyas llaves coinciden, para responder preguntas que cruzan las dos: por ejemplo, cada publicación con la predicción que se le hizo.

El INNER JOIN deja solo las filas con pareja en las dos tablas. El LEFT JOIN deja todas las de la tabla de la izquierda y pone NULL donde no hubo pareja, y así se ven las que faltan. Dos trampas: si la llave se repite de un lado, el JOIN repite filas y las cuentas salen dobles; y unir eventos viejos con una tabla que tiene el estado de hoy mete leakage, que se evita con un join point-in-time correctness. Una columna que se usa para unir seguido merece un índice.

Ejemplo. 1,000 publicaciones, 950 con predicción: el INNER JOIN da 950 filas y el LEFT JOIN, 1,000. Si en 760 el top-1 fue la categoría final, el modelo acertó 80 % de las veces que sugirió algo, y el 5 % se quedó sin sugerencia.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 5 lecciones

JPEG

JPEG

El formato más común para fotos. Comprime con pérdida: descarta detalles finos que el ojo casi no nota, y así el archivo ocupa mucho menos.

Trabaja en bloques de 8 × 8 píxeles; cuanto más se comprime, más se notan esos bloques. Por eso la misma escena guardada con otra calidad da otros píxeles. No guarda transparencia. Suele traer metadatos exif.

Ejemplo. Una foto de 12 MP ocupa ≈ 36.6 MB como píxeles y unos 3 MB como JPEG: unas 12 veces menos.

Se presenta en 02 · Una foto, vista por un modeloAparece en 4 lecciones

JSON

JavaScript Object Notation

El formato de texto más usado para mandar datos entre programas. Tiene seis tipos: objetos {…}, arreglos […], textos entre comillas, números, true o false, y null.

Lo lee cualquier lenguaje y cualquier persona, y por eso es el idioma normal de las APIs hacia afuera y de los logs. Lo que no tiene importa tanto como lo que tiene: no hay bytes (se usa base64 o se mandan aparte), no hay fechas (van como texto, en formato ISO 8601), NaN e infinito no están permitidos, y casi todos los lectores, como el de JavaScript, guardan los números como FP64, así que los enteros arriba de 2⁵³ pierden exactitud. Escribir números como texto cuesta: un float32 ocupa 4 bytes en binario y ≈ 20 letras en JSON, y además hay que serializarlo y leerlo en cada request.

Ejemplo. La respuesta de Alba a la foto de Ana: {"model_version": "resnet50-2026-10-01", "predictions": [{"label": "Calzado > Tenis", "score": 0.94}, …], "latency_ms": 20}. Pesa unos cientos de bytes. El tensor de la foto, en cambio, pesaría ≈ 3.07 MB en JSON contra 602 KB en binario.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 9 lecciones

JSON Lines

JSON Lines · NDJSON · .jsonl

Un archivo de texto con un valor JSON completo por línea (casi siempre un objeto), sin comas entre líneas ni corchetes alrededor. Se le añaden registros al final y se lee línea por línea: es el formato típico de los logs (los registros que un programa escribe de lo que hace).

Un arreglo JSON gigante obliga a reescribir el final para agregar algo y a cargarlo completo para leerlo; si queda cortado, no se lee nada. En JSON Lines cada línea es independiente: se agrega con el archivo abierto en modo «añadir», se lee con la memoria de una línea, se reparte entre varios workers por líneas y una línea rota pierde un solo registro. No trae esquema: cada línea puede tener campos distintos. Por eso los logs se escriben en JSON Lines y, después, en lotes, se convierten a Parquet para consultarlos.

Ejemplo. El gateway de Alba escribe una línea de ≈ 300 bytes por request a stdout: 10 M líneas al día × 300 B ≈ 3 GB, y con 90 días de retención, 3 GB × 90 ≈ 270 GB.

Se presenta en 27 · Archivos y formatos: JSON, CSV, Parquet y YAMLAparece en 5 lecciones

JWKS (las llaves públicas del emisor)

JSON Web Key Set

Un JSON que el emisor de tokens publica en una dirección fija con sus llaves públicas, cada una con su id (kid). Quien verifica un JWT busca ahí la llave que dice el encabezado del token.

Permite que muchos servicios verifiquen tokens de un solo proveedor de identidad sin compartir ningún secreto. Quien verifica lo guarda en memoria y lo vuelve a bajar cada tanto, o cuando ve un kid que no conoce; no en cada request. Así se cambian las llaves sin cortar el servicio: el emisor publica la nueva junto a la vieja, firma con la nueva y quita la vieja cuando los tokens viejos ya caducaron.

Ejemplo. El ALB de Alba (su balanceador de entrada) baja el JWKS del proveedor de identidad interno y verifica con la llave kid: 2026-11 cada token de los callers, sin llamar al emisor en cada request.

JWT (JSON Web Token)

JWT

Un token con tres partes separadas por puntos, encabezado.claims.firma: dos JSON escritos en base64url (texto que cualquiera puede decodificar y leer) y una firma del emisor que impide cambiarlos. Se verifica sin preguntarle a nadie.

Es un formato, no un mecanismo. El encabezado dice el algoritmo (HS256, un HMAC con llave compartida; RS256 o ES256, una firma con llave asimétrica) y el kid de la llave. Los claims dicen quién, para quién y hasta cuándo. Quien verifica revisa la firma con la llave pública del JWKS, el iss, la aud y el exp, con el algoritmo que él espera: nunca el que dice el token (hubo bibliotecas que aceptaban "alg": "none"). Como se verifica sin estado, no se puede cancelar antes de su exp: por eso vive poco (revocación). Los claims no van cifrados: nada secreto adentro.

Ejemplo. El token de moderación dice {"iss": "idp.alba.internal", "sub": "moderacion", "aud": "classifier", "scope": "classify", "exp": …}. Si alguien cambia sub a backend-publicaciones, la firma ya no coincide y el ALB (el balanceador de entrada de Alba) responde 401.

Se presenta en 44 · Autenticación y permisosAparece en 10 lecciones

K

k-anonimato

k-anonymity

Una regla para publicar tablas: cada combinación de cuasi-identificadores (datos que solos no identifican, pero juntos sí, como código postal y edad) aparece en al menos k filas, así que quien conoce esos datos de alguien encuentra k candidatos y no uno.

El k de una tabla es el tamaño de su grupo más chico. Se sube generalizando (el código postal a 3 dígitos, la edad por década) o quitando columnas, y cada paso le quita detalle a la tabla. No protege el dato sensible si todo el grupo lo comparte (para eso está la ℓ-diversidad: que cada grupo tenga varios valores distintos del dato sensible), ni contra ataques que cruzan varias tablas. Con m=P/C personas por combinación, una tabla de P personas y C combinaciones se ve de un vistazo si hay esperanza.

Analogía. Como ir de uniforme a una foto de grupo: si todos se ven iguales, quien busca a uno encuentra a k. Se rompe en que si todos los del grupo traen el mismo letrero (el mismo diagnóstico), ya sabes lo que dice el de tu vecina sin saber cuál es ella.

Ejemplo. Una tabla de 8 personas con código postal, edad y sexo exactos tiene k = 1: cada fila está sola. Con el código a 3 dígitos, la edad por década y sin sexo, quedan grupos de 3, 3 y 2: k = 2.

Kappa de Cohen

Cohen's kappa · κ

Un número que mide qué tanto coinciden dos personas al etiquetar, descontando lo que coincidirían por puro azar. 1 es acuerdo perfecto; 0, lo mismo que el azar.

κ = (pₒ − pₑ) ÷ (1 − pₑ), donde pₒ es la fracción de ejemplos en que coincidieron y pₑ la que esperarías si cada quien etiquetara al azar con sus propias proporciones. Importa cuando una clase domina: dos personas que casi siempre dicen «bueno» coinciden mucho sin ponerse de acuerdo en lo difícil. Una escala muy citada (Landis y Koch, 1977) llama «moderado» a 0.41–0.60, «sustancial» a 0.61–0.80 y «casi perfecto» a más de 0.80. Con más de dos personas se usan parientes suyos, como la kappa de Fleiss.

Ejemplo. Dos inspectores de piezas en una fábrica coinciden en 970 de 1,000 piezas (97 %), pero casi todas son buenas y el azar ya daba 95.125 %: κ = (0.97 − 0.95125) ÷ (1 − 0.95125) ≈ 0.38.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 2 lecciones

Kappa por clase

per-class kappa

Una kappa para cada categoría, convirtiendo el problema en «esta categoría contra todas las demás». Encuentra la clase cuya guía falla, que un solo número global esconde.

Para la clase k, cada foto doble se vuelve sí o no («¿esta persona dijo k?») y se aplica la kappa de cohen de Cohen de dos opciones. El acuerdo observado po es la fracción de las N fotos dobles en que las dos personas dicen k o ninguna lo dice. El acuerdo por azar es pe=pA×pB+(1−pA)×(1−pB), con pA y pB la fracción de fotos en que cada persona dice k. Y κk=(po−pe)/(1−pe). Necesita suficientes casos dobles de esa clase: con pocos, el número salta mucho.

Ejemplo. En 30 fotos dobles de calzado con 83 % de acuerdo bruto, la kappa global da 0.76, pero la de zapatos de vestir da 0.35. Alba alerta si una clase baja de 0.6 con al menos 30 casos dobles acumulados.

KEDA

KEDA (Kubernetes Event-Driven Autoscaling)

Un programa que se instala en Kubernetes para escalar pods con métricas de fuera del clúster: mensajes en una cola, una consulta a Prometheus. Crea y alimenta un HPA.

Se configura con un objeto ScaledObject: a qué Deployment apunta, de dónde sale la métrica, el umbral y los topes. KEDA publica la métrica y crea un HPA que aplica la misma regla de tres. Puede bajar a cero, y lo hace por omisión: si no escribes minReplicaCount, vale 0.

Ejemplo. Triton en Alba escala con la espera media en su fila (objetivo 10 ms; normal ≈ 1–3 ms), de 2 a 4 pods. Saturado a 25 ms: ⌈2×25÷10⌉ = 5, recortado a 4.

Se presenta en 55 · KubernetesAparece en 4 lecciones

Keep-alive

keep-alive · persistent connection

Dejar abierta la conexión después de una respuesta para mandar por ella la siguiente request, en vez de abrir una nueva. Ahorra los saludos de TCP y de TLS (el cifrado) en cada request.

En HTTP/1.1 es lo normal: la conexión sigue abierta salvo que alguien mande Connection: close. Cada lado la cierra cuando pasa un rato sin uso, su idle timeout. Una conexión nueva cuesta 1 RTT de handshake de TCP y 1 o 2 de TLS antes del primer byte; reusarla los ahorra. Los idle timeouts tienen que cuadrar: si el servidor de atrás cierra antes que el balanceador de adelante, el balanceador a veces manda una request por una conexión muerta y responde 502. Por eso en Alba uvicorn espera 75 s detrás de un ALB que espera 60. Como en HTTP/1.1 cada conexión lleva una request a la vez, hace falta un pool para varias al mismo tiempo.

Ejemplo. Con un RTT de 60 ms y TLS 1.3, la primera request tarda 3 RTT más lo del servidor (220 ms con 40 ms de servidor), y las siguientes por la misma conexión, 1 RTT más lo del servidor (100 ms).

Se presenta en 22 · HTTP: requests, respuestas y códigosAparece en 8 lecciones

Kernel

kernel · núcleo del sistema operativo

El núcleo del sistema operativo: el único programa que toca el hardware directamente. Reparte la CPU y la memoria entre los programas que están corriendo (los procesos), maneja los discos y la red, y revisa los permisos de todo lo que le piden.

La CPU tiene dos modos: en modo kernel se puede todo; en modo usuario no se puede tocar el hardware ni la memoria de otro proceso. El kernel corre en modo kernel y los programas, en modo usuario: para cualquier cosa del mundo exterior le hacen una llamada al sistema. También crea los procesos, los aísla con namespaces y les pone límites con cgroups. Los drivers son partes del kernel que saben hablar con un dispositivo. Ojo: un kernel de GPU es otra cosa, un programita que corre en la GPU, y el kernel de un notebook de Jupyter es el proceso que corre tus celdas.

Analogía. El personal de una biblioteca de estantería cerrada: los lectores no entran a los estantes; piden el libro en el mostrador, alguien revisa su credencial y se los trae. Se rompe en que el kernel también le quita la silla a un lector cuando le toca a otro: reparte el tiempo de la CPU sin que nadie se lo pida.

Ejemplo. El contenedor de Triton de Alba usa el kernel de su nodo, el mismo que todos los contenedores de esa máquina. Por eso el driver de la T4 (el módulo nvidia.ko) se instala en el nodo y no viaja en la imagen.

Se presenta en 19 · El sistema operativo: Linux, archivos y permisosAparece en 9 lecciones

Kernel (de GPU)

kernel · GPU kernel

Una función que corre en la GPU, ejecutada por miles de hilos a la vez, cada uno con un pedacito del trabajo. La CPU la manda a correr (la «lanza»), y cada operación de un modelo es uno o más kernels.

La CPU lanza un kernel dejándolo en una fila de trabajo de la GPU (un stream) y sigue con lo suyo sin esperar: es asíncrono, y solo espera cuando pide un resultado o llama a torch.cuda.synchronize(). Cada lanzamiento le cuesta a la CPU unos microsegundos; si el kernel tarda menos que eso en la GPU, la GPU se queda esperando a la CPU. Por eso, con batches chicos, ayudan la fusión de capas (TensorRT junta convolución, BatchNorm y ReLU en un kernel), el batching (kernels con más trabajo) y los CUDA graphs (un solo lanzamiento para toda la secuencia). No lo confundas con el kernel del sistema operativo, ni con el filtro de una convolución, que a veces también se llama kernel.

Ejemplo. La ResNet-50 sin fusionar son 174 operaciones por batch, cada una al menos un kernel: a 5 µs por lanzamiento, ≈ 0.87 ms de CPU. Fusionada por TensorRT quedan 56: ≈ 0.28 ms.

Se presenta en 18 · CPU y GPUAparece en 7 lecciones

Kill switch

kill switch

Un interruptor de la configuración (un feature flag) que apaga una función completa mientras el programa corre, sin desplegar nada. Es el rollback más rápido: apaga la función, no la versión.

Sirve cuando el problema no es la versión nueva: si las dos versiones fallan porque algo de afuera cambió, volver a la anterior no arregla nada y apagar sí. Se prepara antes: el código tiene que saber qué hacer con la función apagada. Es un caso particular de feature flag.

Ejemplo. En Alba, apagar las sugerencias hace que Ana vea el selector de categorías normal, como si el modelo no existiera.

Se presenta en 56 · Rollout seguro

KMS

KMS · Key Management Service

Un servicio de la nube que guarda llaves maestras en hardware especial y nunca las entrega: le mandas datos chicos (hasta 4,096 bytes) y te los regresa cifrados o descifrados. Cada uso queda registrado.

Como solo cifra cosas chicas, se usa con cifrado de sobre: KMS cifra llaves de datos, y esas cifran los archivos. Cada llave maestra tiene su política de quién puede cifrar, descifrar o administrarla, y rotación automática. En AWS se llama AWS KMS (en noviembre de 2026, US$1 al mes por llave, más US$1 por cada una de sus dos primeras rotaciones, y US$0.03 por cada 10,000 requests); en Google, Cloud KMS; en Azure, Key Vault. Los gestores de secretos y el cifrado de los Secrets de Kubernetes lo usan por debajo.

Analogía. La ventanilla de una caja fuerte que envuelve y desenvuelve sobres y anota a quién. Dónde se rompe: una caja fuerte te devuelve lo que guardaste; KMS nunca te da la llave maestra, ni a su dueño.

Ejemplo. Cifrar directo el archivo de pesos de Alba, de 98.4 MB, pediría ≈ 24,024 llamadas a Encrypt. Con sobre: una GenerateDataKey al guardarlo y una Decrypt cada vez que se carga.

Se presenta en 43 · Cifrado, llaves y certificadosAparece en 4 lecciones

kubectl

kubectl

El programa de la terminal para hablar con un clúster de Kubernetes: aplicar manifiestos, listar pods, ver sus eventos y sus logs.

Le habla al API server, el programa central del clúster, con las credenciales de quien lo usa. Los comandos más útiles para depurar son get (lista), describe (la historia de un objeto, con sus eventos al final), logs (lo que escribió un contenedor; con --previous, el anterior a un reinicio), rollout status y top (lo que usan de verdad). Con GitOps, los cambios entran por Git y kubectl se usa para mirar: un cambio a mano lo deshace la siguiente sincronización.

Ejemplo. kubectl describe pod triton-v14-7d9f8c6b5-q8wzl -n classifier muestra al final por qué un Triton está Pending: 0/4 nodes are available: 2 Insufficient nvidia.com/gpu, ….

Se presenta en 55 · Kubernetes

Kubernetes gestionado

managed Kubernetes (EKS / GKE / AKS)

Kubernetes (el sistema que reparte programas entre un grupo de máquinas) en el que el proveedor opera el cerebro, el plano de control, y tú operas las máquinas que hacen el trabajo. En AWS se llama EKS; en Google Cloud, GKE, y en Azure, AKS.

Kubernetes tiene un cerebro, el plano de control, y unos nodos donde corren los pods. Operar el cerebro a mano es delicado: su base de datos guarda todo el clúster. Con Kubernetes gestionado el proveedor lo corre (EKS, en varias zonas), lo actualiza y lo respalda. Tú sigues operando los grupos de nodos, los drivers de la GPU y tus programas.

Ejemplo. El plano de control de EKS cuesta ≈ US$0.10 por hora, ≈ US$73 al mes (noviembre de 2026); con una versión vieja en soporte extendido, ≈ US$0.60 por hora.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 2 lecciones

KV cache

KV cache

La memoria donde un modelo grande de lenguaje (LLM) guarda la K y la V (dos vectores que la atención calcula para cada token) de los tokens que ya procesó, para no recalcularlas en cada token nuevo. Crece con cada token y vive en la memoria de la GPU.

Sin él, cada token nuevo obligaría a recalcular todo lo anterior. Con él, solo se calcula lo del token nuevo. El precio es memoria: por cada token de cada conversación activa se guardan dos vectores (K y V) por cada juego de K y V de cada bloque del modelo. Por eso suele ser lo que limita cuántas conversaciones atiende una GPU a la vez, y por eso existen trucos como GQA. El prefix caching lo reutiliza entre requests que empiezan igual.

Ejemplo. Llama 3 8B (una familia de LLMs públicos de Meta): 2 (K y V) × 32 bloques × 8 juegos × 128 números × 2 bytes = 131,072 bytes = 128 KiB por token. Una conversación de 8,192 tokens: 1 GiB.

Se presenta en 08 · Transformers y LLMsAparece en 9 lecciones

L

Label débil

weak label

Una etiqueta que sale gratis de lo que la gente hace por su cuenta, como elegir una categoría, buscar o corregir. Es abundante y barata, pero ruidosa, porque nadie la hizo con cuidado para entrenar un modelo.

En un sistema en producción casi todas las etiquetas son débiles: una por cada vez que alguien usa el producto. No valen igual: tocar una sugerencia es una señal débil (pudo aceptarla sin mirar); buscar otra categoría es fuerte; una corrección de moderación es muy fuerte. Por eso cada label débil entra con su fuente, se filtra (por ejemplo, con la regla de maduración) y nunca es la única forma de medir el modelo: está contaminado por el feedback loop.

Ejemplo. En Alba hay ≈ 2.5 millones al día, uno por publicación. Sin filtrar aciertan ≈ 90 %; filtrados tras 30 días sin corrección, ≈ 95 % (supuesto del curso). Son el 72 % del snapshot de septiembre, la copia fija del dataset con la que se entrena.

Label demorado

delayed label

Un label que llega mucho después de la predicción: días o semanas. Mientras no llega, no sabes si el modelo acertó.

Cada fuente tarda distinto: una elección en minutos (pero hay que dejarla madurar), una corrección en días, una etiqueta humana en una o dos semanas, un contracargo (el aviso del banco de que un pago fue fraude) en semanas o meses. Mientras tanto, el monitoreo vigila señales rápidas (como la tasa de aceptación de las sugerencias) y confirma después con los labels de verdad.

Ejemplo. En Alba: quien vende en minutos, pero madura a los 30 días; moderación en días; la cola humana en ≈ 5 días hábiles más hasta 3 de adjudicación; el golden set, una sola vez.

Se presenta en 47 · Datos y etiquetasAparece en 2 lecciones

Label shift

label shift · prior shift

Cuando cambia cuánto hay de cada clase, pero cada clase se ve como siempre. En diciembre llegan muchos más juguetes, y cada juguete se ve igual que en octubre.

En notación, cambia p(y), la proporción de cada respuesta, y p(x | y), cómo se ve cada clase, queda igual. Se sospecha mirando la mezcla de predicciones (en Alba, la distribución de categorías que predice el modelo) y se confirma con etiquetas. Afecta sobre todo a los umbrales y a la calibración: un modelo que aprendió que los juguetes son el 1 % les da menos probabilidad de la que merecen cuando son el 10 %. Se revisan umbrales y calibración por clase y, si hace falta, se reentrena con la mezcla actual.

Ejemplo. En Alba, supón que «Juguetes» pasa de 1 % a 10 % de las fotos en diciembre. En la detección de fraude en pagos, una ola de ataques sube la proporción de pagos fraudulentos, aunque cada fraude se vea como los de siempre.

Se presenta en 13 · Comparar distribuciones: cómo se mide el driftAparece en 2 lecciones

Labels como eventos

append-only labels

Guardar cada etiqueta como una fila nueva que nunca se edita, con su autor, su fuente y su hora. Corregir es agregar otra más nueva; un snapshot (la foto fija del dataset) es la consulta «labels vigentes a tal fecha».

Si la tabla de labels guarda una fila por foto y cada corrección la reescribe, se pierde qué label había antes, y un dataset viejo ya no se puede explicar. Con eventos de solo agregar (append-only), la historia completa sobrevive: para armar el snapshot de una fecha se toma, para cada foto, el evento más reciente anterior a ese corte. Es el point-in-time aplicado a las etiquetas: el snapshot con corte el 1 de octubre no puede ver un label que llegó el 4.

Ejemplo. Una foto tiene «Tenis» de quien vende el 25 de junio y «Botas» de moderación el 10 de agosto. El snapshot de julio (corte 1 de agosto) trae «Tenis»; el de agosto (corte 1 de septiembre), «Botas»; los dos eventos siguen en la tabla.

Se presenta en 48 · Versionado y linajeAparece en 2 lecciones

labels.json

labels file

El archivo con los nombres de las categorías en el orden de las salidas del modelo: dice que la salida 0 es una categoría, la 1 otra, y así. El orden es parte del modelo.

El modelo no responde nombres: responde un logit por categoría. Si la lista se reordena sin reentrenar, cada número se traduce al nombre equivocado y el servicio responde categorías falsas con confianza alta, sin un solo error visible. Por eso va dentro de la versión, con su huella SHA-256, y el servidor comprueba al arrancar que la huella es la registrada y que hay tantos nombres como logits.

Ejemplo. En Alba son 500 nombres para 500 logits. Si alguien ordena la lista alfabéticamente, los tenis de Ana pueden salir como «Botas» con 94 % de confianza.

Se presenta en 50 · Gate de evaluación y registryAparece en 6 lecciones

Lag del consumidor

consumer lag

Cuánto va atrás un consumidor respecto de lo último que se escribió: en mensajes (la posición del último escrito menos la del último procesado) o, más útil, en segundos. Si crece, los datos envejecen sin ningún error.

Es la métrica de salud de un stream. Crece cuando el grupo procesa menos de lo que llega, y en tiempo se calcula como el atraso en eventos entre los eventos que llegan por segundo. En una cola sin offsets, el equivalente es la edad del mensaje más viejo (en SQS, ApproximateAgeOfOldestMessage); la profundidad sola engaña. Se alerta por lag sostenido (por ejemplo, más de 60 s durante 5 minutos) y se puede escalar con él: KEDA prende o apaga workers según el lag o la profundidad de la cola.

Ejemplo. Llegan 20,000 eventos por segundo y el grupo procesa 18,000: en 10 minutos junta 1.2 M eventos, ≈ 60 s de atraso. Un consumidor número 13 no ayuda si hay 12 particiones.

lakeFS

lakeFS

Un sistema que pone ramas, commits y merges, como los de Git (las versiones del código), encima de un bucket (una carpeta de archivos en la nube), sin copiar los datos.

lakeFS guarda, para cada commit, la lista de qué objetos forman el bucket en ese momento. Crear una rama no copia nada: la rama nueva apunta al mismo commit, así que tarda lo mismo con 1 KB que con 400 GB. Su uso estrella es escribir, auditar, publicar: un job escribe en su rama, unos chequeos corren antes del merge y el merge publica todo de golpe. Hay que operarlo: es un servidor más, con su base de datos. Desde la versión 1.87.0 (septiembre de 2026) su licencia es la BSL 1.1 (Business Source License), ya no la Apache 2.0, de código abierto: se usa gratis dentro de la empresa sin modificarlo, pero no se puede ofrecer como servicio. Le conviene a equipos grandes con muchos jobs que escriben al mismo lake.

Ejemplo. Un equipo de 40 personas: cada job de ingesta escribe en su rama, y solo lo que pasa los chequeos llega a main. Alba, con 5 personas, no lo necesita todavía.

Lakehouse

lakehouse · open table format

Un data lake con tablas de verdad: los datos siguen como archivos Parquet en el object storage, y un registro aparte dice qué archivos forman cada versión de la tabla. Así cada escritura pasa completa o no pasa, se corrigen filas y se lee una versión vieja. Los formatos más usados: Delta Lake, Apache Iceberg y Apache Hudi.

Escribir es subir archivos nuevos y, al final, agregar al registro una entrada con la versión nueva: hasta entonces nadie los ve, así que cada escritura pasa completa o no pasa. Los archivos nunca se editan: borrar filas reescribe un archivo y la versión nueva deja de apuntar al viejo. Por eso se puede leer la tabla como estaba en una versión o una fecha (time travel) sin copiar datos. El time travel dura lo que dura la limpieza: en Delta, por omisión, el historial dura 30 días y los archivos viejos se pueden borrar pasados 7; en Iceberg, la limpieza borra snapshots de más de 5 días. Lo que tiene que durar se marca aparte. Delta nació en Databricks, Iceberg en Netflix y Hudi en Uber.

Ejemplo. Si el log de predicciones de Alba fuera una tabla Iceberg (hoy usa prefijos que no se reescriben y un manifest): el job de la noche agrega los archivos del día en una sola transacción, y una solicitud de borrado quita las filas de una persona creando una versión nueva. El snapshot con que se entrenó un modelo se marcaría aparte, para que la limpieza no lo borre.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 2 lecciones

Las cinco capas del monitoreo

monitoring layers

Infraestructura, servicio, datos, modelo y negocio: lo que se vigila de un sistema de ML, de la señal más rápida (segundos) a la más lenta y más cercana a lo que importa (semanas).

Las dos primeras capas existen en cualquier servicio (nodos, pods, latencia, errores). Las tres siguientes son propias de ML: los datos que entran (tamaño, formatos), lo que contesta el modelo (score, baja confianza, PSI) y lo que pasa después (aceptación, correcciones, labels: las respuestas correctas). La regla incómoda: cuanto más abajo, más lenta la señal, porque el label que dice si se acertó llega tarde.

Ejemplo. En Alba: infraestructura (pods listos, segundos) · servicio (p99, 5xx, fila de Triton) · datos (bytes por source, minutos) · modelo (baja confianza, PSI, hasta 1 día) · negocio (aceptación, holdout, horas a semanas).

Latencia de punta a punta

end-to-end latency · e2e

El tiempo total de una request entre dos puntos que tú nombras, sumando todo lo que pasa en medio: viajar por la red, esperar en las filas y trabajar en cada servidor.

Sin decir cuáles puntas, el número no significa nada. En Alba, el SLO (p99 ≤ 200 ms) la mide del lado del servidor: desde que el gateway recibe la request (incluida la subida del body desde el balanceador, ≈ 3 ms) hasta que sale la respuesta; la subida desde el celular queda fuera. En cada salto, el tiempo se va en tres cosas: viajar (la red, con su RTT y sus handshakes), esperar (tiempo en cola) y trabajar (tiempo de servicio). Los tramos se miden por separado para saber dónde buscar, pero el p99 total se mide de punta a punta: los p99 de los tramos no se suman.

Ejemplo. Una foto de Alba con poco tráfico: 3 ms de entrada, 6 de preproceso, 3 de viaje a Triton, 2 de fila, 4 de GPU, 1 de vuelta y 1 de salida: 20 ms, de los que 7 son viaje, 2 espera y 11 trabajo.

Latencia del lado del servidor

server-side latency

El tiempo que mide el servidor desde que recibe la request hasta que manda la respuesta, sin la red del usuario. Es lo que promete el SLO (la meta) de latencia de Alba; el balanceador (ALB) y quien llama miden relojes más largos.

Cada participante tiene su reloj, uno dentro del otro: el servicio mide su parte; el balanceador suma la red hasta el servicio; quien llama suma además el balanceador y su propia red. Por eso se dice dónde se mide una promesa: se promete lo que se controla. Comparar relojes distintos como si fueran el mismo lleva a buscar el problema en el lugar equivocado. Ver latencia de punta a punta para el camino completo.

Ejemplo. La request de Ana: el gateway mide 20 ms (ms.total), el ALB ≈ 21 (TargetResponseTime) y el backend ≈ 23 ms; los dos últimos son supuestos del ejemplo.

LCU (unidad de capacidad del balanceador)

Load Balancer Capacity Unit

La unidad con la que AWS (la nube de Amazon) mide el trabajo de un ALB, su balanceador, en una hora. Se cobra la más alta de cuatro dimensiones; para requests con fotos, gana la de bytes: 1 LCU = 1 GB procesado por hora.

Las cuatro dimensiones de 1 LCU: 25 conexiones nuevas por segundo, 3,000 conexiones activas por minuto, 1 GB por hora procesado hacia máquinas o IPs, y 1,000 evaluaciones de reglas por segundo. Cuesta ≈ US$0.008 por LCU-hora en us-east-1. Como 1 LCU = 1 GB en una hora, cuando ganan los bytes el ALB cobra ≈ US$0.008 por GB. El error típico es estimar el ALB por número de requests.

Ejemplo. 2 TB al día ÷ 24 h ≈ 83 GB/h → ≈ 83 LCU en promedio → ≈ US$486 al mes solo de LCU.

Leakage

data leakage · fuga de datos

Cuando el entrenamiento o la evaluación tienen información que no existirá en el momento de predecir, o cuando el test se parece demasiado al train. El examen se filtró.

El síntoma es siempre el mismo: un resultado sospechosamente bueno antes de producción que se derrumba en producción. Formas comunes: la misma foto (o casi) en train y en test (casi duplicado), una feature que trae escondida la respuesta, datos del futuro, ejemplos de un mismo grupo a los dos lados, y cuentas (como el promedio para escalar) hechas con todo el dataset antes de repartir.

Ejemplo. Un vendedor sube la misma foto en tres publicaciones. Con un split al azar 80/20 por publicación, ≈ 98 de cada 100 veces que esa foto aparece en test, otra copia suya está en train: el modelo la reconoce de memoria.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 8 lecciones

Learning rate

learning rate · lr · tasa de aprendizaje

Qué tan grande es cada pasito al mover los parámetros (las perillas) de un modelo durante el entrenamiento. Muy chico: tarda una eternidad. Muy grande: se pasa del fondo del valle y la pérdida explota.

Es el hiperparámetro más importante y no tiene un valor correcto universal: depende del modelo, del optimizador y del tamaño del batch, y se elige probando en validación. Casi nunca es fijo: un scheduler lo sube al principio con warmup y lo baja al final. Con Adam, es del orden de cuánto se mueve cada perilla por paso.

Ejemplo. El modelo de Alba, el marketplace que sigue el curso, se entrena con lr = 3e-4, que quiere decir 3 × 10⁻⁴ = 0.0003. En una pérdida de juguete con una sola perilla, (2w − 6)², que empieza en w = 0, con 0.05 la perilla queda a menos de 0.01 del fondo en 12 pasos; con 0.3, la pérdida explota.

Se presenta en 04 · Cómo aprende un modeloAparece en 5 lecciones

Ley de Little

Little's law · L = λW

En un sistema estable, lo que hay adentro en promedio es igual a lo que llega por unidad de tiempo por lo que tarda cada uno adentro: L = λ × W. A 500 requests por segundo con 50 ms cada una, hay 25 adentro a la vez (en vuelo).

L es cuántos hay adentro en promedio (requests en vuelo, jobs en proceso, clientes en un restaurante), λ (lambda) es la tasa de llegada y W, el tiempo promedio que pasa cada uno adentro. La demostró John Little en 1961, y vale con cualquier forma de llegadas y de duraciones, siempre que se hable de promedios y el sistema no se esté llenando sin parar. Dice cuánta concurrencia hace falta: hilos, conexiones, lugares en una fila. Aplicada a la CPU, da los núcleos ocupados: tasa × CPU por request. Habla de promedios: λ × p99 no es «la concurrencia en el peor caso». Si W sube porque un servicio de atrás se frena, lo que hay adentro sube igual; por eso los timeouts acotan la concurrencia.

Ejemplo. El gateway de Alba, el marketplace del curso, en el pico de diseño: L=λ×W = 500 × 0.05 s = 25 requests en vuelo, 5 por pod con 5 pods. Si Triton se frena hasta su timeout de 150 ms, son 500 × 0.15 = 75 llamadas abiertas; con un timeout de 5 s serían 2,500.

LFPDPPP

Mexican Federal Law on Protection of Personal Data Held by Private Parties

La Ley Federal de Protección de Datos Personales en Posesión de los Particulares: la ley mexicana de datos personales para empresas privadas. La nueva se publicó el 20 de marzo de 2025 y reemplazó a la de 2010.

Trae el aviso de privacidad, el consentimiento (expreso y por escrito para datos sensibles), las finalidades, los derechos ARCO, las medidas de seguridad, la oposición a tratamientos automatizados y las reglas de transferencia. Con la reforma de 2025 desapareció el INAI, el órgano autónomo que la vigilaba; desde entonces la vigila la Secretaría Anticorrupción y Buen Gobierno. Los artículos, plazos y multas los confirma el equipo legal.

Ejemplo. A Alba le aplica porque trata datos de personas en México, como Ana, aunque sus máquinas estén en Virginia.

Lifespan (arranque y cierre)

lifespan

La función de una aplicación FastAPI que corre una vez al arrancar, antes de la primera request, y una vez al apagarse. Ahí se crean los clientes, los topes y lo que se revisa antes de atender.

Lo que se crea en el lifespan dura toda la vida del proceso: un cliente con su pool de conexiones, un semáforo, datos leídos de un archivo. Se escribe como una función con un yield: lo de antes corre al arrancar, lo de después al apagarse. Se usa en vez de crear las cosas al importar el archivo porque los clientes asíncronos necesitan el event loop ya corriendo. Si algo falla ahí, el proceso no arranca: mejor que arrancar a medias.

Ejemplo. El lifespan del gateway de Alba lee labels.json y revisa su huella, crea un solo cliente de Triton, revisa que el modelo dé 500 logits (= 500 labels) y crea el semáforo de 2 y el contador de requests en vuelo. Al apagarse, cierra el pool.

Linaje

lineage

La cadena de qué salió de qué: este modelo salió de este snapshot, armado por este código, con fotos que tienen estas huellas. Se guarda como punteros, no como copias.

Con linaje, las preguntas de producción son mecánicas: con qué datos se entrenó un modelo, si cambió el código o los datos entre dos versiones, en qué modelos está una foto que hay que borrar. En Alba, cada modelo registrado guarda tres punteros: el snapshot (id y huella), el commit del código de entrenamiento y el digest (la huella) de la imagen de contenedor donde corrió el entrenamiento; además, labels.json con su huella y la versión del preprocesamiento. El snapshot, a su vez, apunta al commit que lo armó y a cada foto por su huella. Sin linaje, cada pregunta es una semana de arqueología.

Ejemplo. resnet50-2026-10-01 → ds-2026-09-01 (y su rows_sha256) → manifest → la foto de Ana por su SHA-256; y del otro lado, el commit c3f2fc2 y el digest de la imagen. El snapshot apunta a 4be1d0a, el código que lo armó.

Se presenta en 48 · Versionado y linajeAparece en 5 lecciones

Linter

linter

Un programa que lee el código sin correrlo y marca errores probables y malas prácticas: una variable que no existe, un import que no se usa, una comparación sospechosa. En Python, hoy el más popular es ruff, de Astral, escrito en Rust.

Es lo primero que corre en el CI porque tarda segundos. Va acompañado de un formateador (formatter), que reescribe el código con un estilo fijo (black, o ruff format), y de un revisor de tipos como mypy, que lee las anotaciones de tipo y avisa si una función recibe algo del tipo equivocado. Con los tres, nadie discute de estilo en una revisión y muchos errores tontos no llegan a las pruebas. Su límite: código válido pero equivocado, como valor / 255 - media / desv, pasa los tres. Eso lo atrapan las pruebas. El nombre viene de lint, la pelusa: el primero se escribió para C en 1978.

Ejemplo. ruff check gateway/ marca un import os que no se usa; ruff format --check gateway/ falla si alguien no formateó; mypy gateway/app avisa que normaliza recibe un texto donde espera un número.

Se presenta en 36 · Pruebas y CI/CDAparece en 2 lecciones

Linux

Linux

El núcleo (kernel) de sistema operativo, libre y de código abierto, que corre en la mayoría de los servidores del mundo, en los teléfonos Android y en equipos chicos de NVIDIA como los Jetson. Lo empezó Linus Torvalds en 1991.

En sentido estricto, Linux es solo el kernel. Lo que se instala es una distribución: el kernel más el espacio de usuario (la biblioteca de C, la shell, los comandos y un gestor de paquetes). Ubuntu, Debian, Alpine, Amazon Linux 2023, Bottlerocket y Jetson Linux son distribuciones. Los contenedores son una función del kernel Linux: en una Mac o en Windows, Docker corre una máquina virtual con Linux, escondida. Linux tiene una regla: un cambio del kernel no puede romper a los programas que ya funcionan. Gracias a ella, una imagen de Ubuntu 22.04 corre en un nodo con Amazon Linux.

Ejemplo. La imagen de Triton de Alba trae Ubuntu 22.04 con Python 3.10; la del gateway, Debian con Python 3.13. Ninguna trae kernel: Triton usa el de Amazon Linux 2023 de su nodo con GPU, y el gateway, el de su máquina sin GPU.

Se presenta en 19 · El sistema operativo: Linux, archivos y permisosAparece en 3 lecciones

Llamada al sistema

system call · syscall

La forma en que un programa le pide algo al kernel, el núcleo del sistema operativo: abrir un archivo, leerlo, mandar algo por la red, crear un proceso, pedir memoria. Es la única puerta entre un programa y el hardware.

Al hacer una, la CPU pasa a modo kernel; el kernel revisa que se pueda (que exista el archivo, que haya permisos), hace el trabajo y regresa el resultado o un número de error (errno): 2 es «No such file or directory»; 13, «Permission denied»; 8, «Exec format error». Linux tiene más de 300, como openat, read, write, mmap, clone, execve y kill. Casi nadie las hace a mano: las hace la biblioteca de C por dentro de funciones como open(). Cada una cuesta poco, de décimas de microsegundo a unos microsegundos, pero millones suman: por eso las bibliotecas juntan las escrituras en un buffer (un espacio de memoria donde se acumulan antes de mandarlas). Que Linux no cambie sus syscalls es lo que deja correr un contenedor con Ubuntu sobre el kernel de otra distribución.

Ejemplo. Un print('hola') de Python termina en write(1, 'hola\n', 5): escribe 5 bytes en el archivo número 1, la salida del programa. Escribir 1,000 líneas sin buffer son 1,000 syscalls; con un buffer de 8 KiB, son 2.

Se presenta en 19 · El sistema operativo: Linux, archivos y permisosAparece en 3 lecciones

Llave de API

API key

Un texto largo al azar que un servicio le da a un cliente para que lo mande en cada request (petición) y así reconocerlo. Es simple, pero no caduca, se filtra con facilidad y cambiarla por una nueva (rotarla) obliga a actualizar cada programa que la usa.

Es el mecanismo de autenticación más simple entre programas: el servidor genera la llave, la asocia a un cliente y la busca en cada request. Sus problemas: vive meses o años; termina en repositorios, logs o mensajes; no dice nada de quién es ni qué puede hacer sin buscarla. Si se usa, el servidor guarda solo su hash (basta uno rápido, porque es larga y al azar) y el cliente la guarda en un gestor de secretos. La mejora es usarla solo para pedir un token de acceso corto, como en client credentials.

Ejemplo. Un servicio de pago te da ak_live_7Hq2…. Si aparece en un repositorio público, quien la encuentre la usa hasta que la cambies; un token de 15 minutos filtrado, como mucho 15 minutos.

Se presenta en 44 · Autenticación y permisosAparece en 5 lecciones

Llave de datos

data key

Una llave de AES (el cifrado estándar) que cifra un archivo en tu máquina. Se guarda junto al archivo, pero cifrada con la llave maestra de KMS, el servicio de la nube que guarda llaves: para usarla hay que pedirle a KMS que la descifre.

KMS la crea con GenerateDataKey y la entrega dos veces: en claro, para cifrar en ese momento, y cifrada, para guardar. La copia en claro se borra de la memoria al terminar. Para leer, se manda a KMS la copia cifrada con Decrypt. Así el trabajo pesado lo hace AES en la máquina, y a KMS solo viajan unos cientos de bytes.

Ejemplo. Al guardar un archivo de log en S3 con SSE-KMS, S3 pide una llave de datos de 256 bits, cifra el archivo y guarda la llave cifrada en los metadatos del objeto.

Llave de idempotencia

idempotency key

Un identificador único que el cliente genera una vez por operación y repite en cada reintento. El servidor guarda la llave con su respuesta y, si la vuelve a ver, devuelve lo mismo sin repetir la operación.

Vuelve idempotente un POST. Casi siempre es un UUID (un identificador de 128 bits, casi todos al azar) en el header Idempotency-Key, el nombre que usa Stripe y que propone un borrador de la IETF; a veces sale de los datos mismos, como un hash del contenido más la versión del modelo. Tiene que ser una por operación lógica: si el cliente genera una nueva en cada intento, no sirve. El servidor la guarda antes de hacer la operación, con un estado «en curso», para que dos copias simultáneas no pasen las dos; rechaza la misma llave con otros datos, y la guarda unas horas o días.

Ejemplo. Un agente de soporte (un LLM que llama herramientas) llama a la herramienta «reembolsar». Si la herramienta da timeout y el orquestador reintenta con la misma llave, el reembolso se paga una vez. Sin llave, dos. Stripe documenta (en 2026, para su API v1) que cada llave dura al menos 24 horas antes de que la pueda borrar.

Se presenta en 25 · Timeouts, reintentos e idempotenciaAparece en 6 lecciones

Llave maestra (de KMS)

KMS key · customer master key (CMK)

La llave que vive dentro de KMS, el servicio de la nube que guarda llaves, y nunca sale de ahí: no cifra archivos, cifra (envuelve) las llaves de datos que sí los cifran.

Puede administrarla el proveedor (llave gestionada por AWS) o tu empresa (llave administrada por el cliente). Con la tuya decides su política, su rotación y si se puede borrar; borrarla vuelve ilegible para siempre todo lo que cifró, por eso KMS obliga a esperar días antes de borrarla. Al rotar, conserva sus versiones viejas para descifrar lo viejo.

Ejemplo. Alba tiene una llave maestra suya para los datos con fotos o logs, con rotación automática cada año. Cuesta US$1 al mes el primer año; como cada una de sus dos primeras rotaciones suma US$1 al mes, cuesta US$2 el segundo año y US$3 desde el tercero, y las rotaciones siguientes ya no suman (noviembre de 2026).

Llave primaria

primary key

La columna (o columnas) que identifica cada fila de una tabla: su valor es distinto en cada fila y nunca falta. La base rechaza una fila nueva con una llave que ya existe.

Una buena llave primaria es única, siempre presente y estable: no cambia en toda la vida de la fila. Por eso casi siempre es un número que asigna la base o un UUID, y no un título o un correo, que se repiten o cambian. La base crea sola un índice para ella, así que buscar por llave primaria es lo más rápido que hay. Es también lo que detecta el conflicto en un upsert y lo que impide guardar dos veces la misma llave de idempotencia. Otras tablas la guardan para apuntar a la fila: eso es una llave foránea, y gracias a ella se pueden unir tablas con un JOIN.

Ejemplo. Insertar otra publicación con id = 1 en SQLite da «UNIQUE constraint failed: publicaciones.id»: ya hay una.

Llave pública y llave privada

public/private key pair · asymmetric cryptography

Un par de llaves ligadas por una cuenta: lo que una cierra, solo la otra abre. La pública se reparte a todos; la privada no sale nunca de su dueño, y no se puede calcular a partir de la pública.

Resuelve el problema de repartir una llave simétrica: cualquiera cifra con tu pública y solo tú abres. Al revés, cerrar con la privada es una firma que cualquiera comprueba con la pública. Los sistemas más usados son RSA (llaves de 2,048 bits o más) y las curvas elípticas (P-256, X25519, de 256 bits), mucho más chicas para la misma seguridad. Son miles de veces más lentas que AES, así que solo se usan para cosas cortas: acordar una llave (Diffie–Hellman en TLS) y firmar. Falta saber de quién es una llave pública: eso lo dice un certificado.

Analogía. Un buzón con ranura: cualquiera mete cartas, solo el dueño abre la puerta. Dónde se rompe: con la privada también se «cierra» algo que cualquiera abre con la pública (una firma), y un buzón no hace eso.

Ejemplo. RSA de juguete: con p = 61 y q = 53, la llave pública es (N,e) = (3,233, 17) y la privada d = 2,753. El mensaje 65 se cifra como 65¹⁷ mod 3,233 = 2,790, y solo 2,790²⁷⁵³ mod 3,233 lo regresa a 65.

Se presenta en 43 · Cifrado, llaves y certificadosAparece en 2 lecciones

Llave simétrica

symmetric key

Una sola llave secreta que sirve para cifrar y para descifrar. Es rápida, pero las dos puntas tienen que tener la misma llave, y pasársela sin que nadie la copie es el problema.

El cifrado simétrico estándar es AES, con llaves de 128 o 256 bits. Cifra varios GB por segundo por núcleo, así que se usa para todo lo voluminoso: conexiones, discos, archivos en S3 (el almacén de archivos de AWS). Su debilidad es repartir la llave: por eso TLS la acuerda con llaves públicas (Diffie–Hellman) al abrir la conexión, y en la nube las llaves viven en un KMS que nunca las entrega. Una llave de L bits tiene 2L valores: contra la fuerza bruta, 128 bits sobran.

Analogía. Un candado con una sola llave: quien la tenga cierra y abre. Dónde se rompe: una llave física se copia mirándola; una de 128 bits no se adivina, solo se roba.

Ejemplo. Un servidor de Alba que llama a la API (su backend) y el ALB (el balanceador de AWS que recibe las conexiones) acuerdan, al abrir la conexión, una llave de AES de 128 o 256 bits que solo existe en la memoria de los dos y que se borra al cerrar.

Llegadas de Poisson

Poisson arrivals · Poisson distribution

El modelo estándar de llegadas al azar: muchos usuarios que no se ponen de acuerdo, cada uno con una probabilidad chica de pedir algo. Con un promedio de λ por intervalo, lo que llega se aleja del promedio, normalmente, en ≈ √λ.

La probabilidad de que lleguen exactamente k es λ^k × e^(−λ) ÷ k!. Mientras más chico el intervalo, más saltos en proporción: con 10 por segundo, ≈ 8 % de los segundos traen 15 o más. Supone llegadas independientes, y se rompe cuando no lo son: una notificación a millones de personas, tareas programadas a la hora en punto, reintentos en manada. Lo que no es aleatorio se suma encima. Lleva el nombre del matemático francés Siméon Denis Poisson.

Ejemplo. Cada Triton de Alba, el marketplace que sigue el curso, espera hasta 2 ms a que lleguen más fotos para juntarlas en un batch. Con 250 requests por segundo llegan en promedio 0.5 en esos 2 ms, y la probabilidad de que no llegue ninguno es e^(−0.5) ≈ 61 %.

Se presenta en 11 · Probabilidad para sistemas que fallanAparece en 4 lecciones

LLM (modelo grande de lenguaje)

large language model

Un transformer (la arquitectura de red de los modelos de lenguaje) con miles de millones de parámetros, entrenado con enormes cantidades de texto para predecir el siguiente token, el siguiente pedacito de texto. De esa sola tarea salen la conversación, los resúmenes y el código.

Casi todos son solo decoder. Se construyen en etapas: preentrenamiento (continuar texto de todo tipo), ajuste con instrucciones (seguir el formato de una conversación) y ajuste por preferencias (RLHF o DPO, direct preference optimization). Sus tamaños se dicen en parámetros: 7B, 8B o 70B (la B es de billion, mil millones en inglés). Sus pesos ocupan decenas de GB, así que la memoria de la GPU decide qué se puede servir y cómo.

Ejemplo. Llama 3 70B (una familia de LLMs públicos de Meta) tiene ≈ 70.6 mil millones de parámetros: en BF16 (2 bytes cada uno), ≈ 141 GB.

Se presenta en 08 · Transformers y LLMsAparece en 22 lecciones

Load shedding

load shedding

Rechazar de inmediato, con un 503, lo que no se va a poder atender a tiempo, en vez de encolarlo. Rechazar cuesta microsegundos; atender lo que ya no llega a tiempo cuesta todo su trabajo para nada.

Cuando llega más de lo que cabe, encolar sin límite es lo peor: la fila crece y cada request vence su deadline adentro. Soltar carga mantiene rápido lo que sí entra y le da al caller su fallback pronto. Se suelta primero lo que no tiene una persona esperando. Va de la mano con la backpressure (avisar hacia atrás que no das abasto) y con las filas con tope.

Ejemplo. Alba lo hace en dos lugares: el gateway, con MAX_INFLIGHT = 16 por pod (la request 17 recibe un 503 al instante), y la fila de Triton, que rechaza lo que esperó más de 100 ms.

Se presenta en 25 · Timeouts, reintentos e idempotenciaAparece en 5 lecciones

localhost

localhost · loopback

El nombre de la máquina misma: 127.0.0.1 en IPv4 y ::1 en IPv6. Lo que se manda ahí no sale a la red; el sistema lo devuelve por dentro.

Viaja por una interfaz de mentiras, la de loopback, que solo alcanzan los programas de la misma máquina. Un servidor que escucha en 127.0.0.1 solo atiende a esos programas; uno que escucha en 0.0.0.0 atiende en todas las interfaces. Un contenedor tiene su propio namespace de red y, con él, su propio localhost: si un servidor escucha en 127.0.0.1 dentro del contenedor, lo que llega de afuera por su interfaz de red no encuentra a nadie y se rechaza. Los contenedores de un mismo pod de Kubernetes sí comparten localhost.

Analogía. Dejarte una nota a ti mismo en el refri: no pasa por el correo. Se rompe con los contenedores, donde cada uno tiene su propio refri.

Ejemplo. uvicorn arranca por omisión en 127.0.0.1:8000. En tu laptop está bien; dentro de un contenedor nadie de afuera le llega. Por eso el gateway de Alba arranca con --host 0.0.0.0 --port 8080.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 5 lecciones

Localidad

locality of reference · temporal and spatial locality

La costumbre de los programas de volver a usar lo que acaban de usar (localidad temporal) y de usar lo que está junto (localidad espacial). Las cachés funcionan gracias a ella: por eso recorrer los datos en el orden en que están guardados es mucho más rápido.

La caché guarda lo reciente, para la temporal, y trae líneas completas de 64 bytes, para la espacial; además, el hardware adivina un recorrido en orden y trae las siguientes líneas antes de que se pidan (prefetch). Una matriz se guarda fila tras fila (row-major, como en NumPy y PyTorch): recorrerla por filas usa los 16 float32 de cada línea; por columnas, cada lectura cae en una línea distinta. La misma idea vale para los discos, donde leer un archivo grande de corrido le gana a leer millones de archivos chicos, y para la GPU, donde el batch reusa cada peso con muchas fotos.

Ejemplo. En un simulador de caché, recorrer una matriz de 1,024 × 1,024 float32 por filas acierta 93.75 % de las veces; por columnas, 0 %. En Python, en una Mac, sumar una lista en desorden tardó de 5 a 12 veces más que en orden.

Lock file

lock file

La lista exacta de todo lo que se instala: cada paquete del árbol, directo o transitivo, con su versión exacta y, en los buenos, el hash (la huella) de cada archivo. Se genera una vez, se guarda junto al código y se instala igual en todos lados.

Tiene varias formas: un requirements.txt fijado, con una línea nombre==versión por paquete (mejor si sale de pip-compile o de uv pip compile, que resuelven desde las directas y agregan hashes), uv.lock, poetry.lock o pylock.toml, el formato estándar del PEP 751 (2025). Un pip freeze no basta: copia lo que hay en ese entorno, en esa máquina, con lo que alguien instaló a mano y sin hashes. Con pip install --require-hashes, pip se niega a instalar un archivo cuyo hash no sea el del lock. Las reglas: el pyproject.toml dice lo que aceptas y el lock lo que instalas; producción instala del lock, nunca de los rangos; y fijado no es congelado: el lock se actualiza a propósito, con herramientas como Dependabot o Renovate, pruebas y revisión.

Analogía. La receta dice «harina»; el ticket del súper dice la marca, el lote y el precio. Con el ticket compras exactamente lo mismo. Se rompe en que el ticket no obliga al súper a seguir vendiendo ese lote: si el índice borra una versión, el lock ya no se puede instalar tal cual.

Ejemplo. El requirements.txt del gateway de Alba fija las 37 dependencias con ==. Sin lock, con 37 paquetes y 10 % de que cada uno cambie en un mes (un supuesto), reconstruir el mismo commit un mes después instala algo distinto con probabilidad 1 − 0.9³⁷ ≈ 98 % (1 menos la probabilidad de que no cambie ninguno: 0.9 multiplicado por sí mismo 37 veces); con lock y hashes, 0 %.

Se presenta en 33 · Python, paquetes y entornosAparece en 4 lecciones

Log de predicción y llave de unión

prediction log / join key

El registro de cada predicción del modelo, con un identificador que viaja a todas las piezas del sistema. Ese identificador, la llave de unión, deja juntar después la predicción con lo que hizo la persona.

El log guarda, por cada request, su request_id, la versión del modelo y lo que respondió. El producto guarda el mismo request_id junto a lo que hace la persona. Con un join por esa llave se arma cada label. Dos cuidados: la cardinalidad (una publicación tiene varias fotos y puede tener varias correcciones; hay que quedarse con la corrección más reciente antes de unir) y que la llave es un contrato entre equipos: si cambia de formato, el join pierde filas sin dar error.

Ejemplo. La foto de Ana tiene el request_id r-001. El log dice que el modelo sugirió «Tenis»; el evento category_selected de la publicación 8811 trae r-001 y la categoría elegida.

Se presenta en 47 · Datos y etiquetasAparece en 3 lecciones

Log estructurado

structured log

Un log donde cada registro es un objeto con campos fijos (normalmente una línea de JSON), en vez de una frase libre. Una máquina lo filtra y lo cuenta sin adivinar el formato.

«La request 5a1e07c3 tardó 20 ms» se lee bien, pero para contar cuántas tardaron más de 200 ms hay que adivinar dónde está el número. {"request_id": "5a1e07c3", "ms": {"total": 20}} se filtra por campo. Se escribe una línea por evento a la salida estándar, y otro programa la recoge y la guarda. Lo importante es decidir los campos: lo que hace falta para depurar y unir con otros datos, sin datos personales que no hagan falta.

Ejemplo. El gateway de Alba escribe una línea por request, también en los errores: request_id, caller, source, model_version, top5 (las 5 categorías con su score), ms (los milisegundos de cada paso y el total), bytes, los primeros 12 caracteres del SHA-256 de la foto y status; las de error llevan además error. Son ≈ 300 B por línea; sin la foto, sin EXIF y sin el id de la vendedora.

Logaritmo

logarithm · ln · log2

La operación que responde «¿a qué potencia hay que elevar la base para llegar a este número?». log2 8 = 3 porque 2³ = 8. Convierte multiplicaciones en sumas y cocientes en restas.

Hay tres bases que vas a ver: 2 (log2, cuenta duplicaciones y mide bits), 10 (log10, cuenta ceros) y e ≈ 2.718 (ln, el logaritmo natural, el que usan casi todas las fórmulas de ML). Sus reglas: ln 1 = 0; un número entre 0 y 1 tiene logaritmo negativo; ln(a × b) = ln a + ln b; ln(a ÷ b) = ln a − ln b; y ln 0 no existe (se va a menos infinito). Por eso mide cocientes: duplicar suma siempre ln 2 ≈ 0.693 y dividir entre 2 resta 0.693, sin importar de qué número partas. Para cambiar de base: log2 x = ln x ÷ ln 2. Ojo: en Python, math.log es ln; en muchas calculadoras, la tecla «log» es base 10.

Ejemplo. ln(0.14 ÷ 0.10) = ln 1.4 ≈ 0.336, y ln(0.10 ÷ 0.14) ≈ −0.336: subir de 10 % a 14 % y bajar de 14 % a 10 % miden lo mismo con signo contrario. log2 1,024 = 10.

Se presenta en 13 · Comparar distribuciones: cómo se mide el driftAparece en 3 lecciones

Logit

logit

El puntaje crudo que da un modelo de clasificación por cada clase, antes de convertirlo en probabilidad. Puede ser cualquier número, positivo o negativo.

Más alto significa que el modelo se inclina más por esa clase, pero un logit solo no dice mucho: importa comparado con los de las otras clases del mismo modelo. softmax o la sigmoide lo convierten en probabilidad. El nombre viene de la estadística: el logit de una probabilidad p es ln(p ÷ (1 − p)), el logaritmo de su momio, y es la inversa exacta de la sigmoide.

Ejemplo. Tres clases con logits 3.0, 1.0 y 0.0. En Alba, el marketplace del curso, el modelo devuelve 500 logits, uno por categoría. En un clasificador binario, con su sigmoide, un logit de 1.39 equivale a 80 %.

Se presenta en 01 · Qué es un modeloAparece en 18 lecciones

LoRA

low-rank adaptation

Una forma barata de seguir entrenando un modelo ya entrenado (fine-tuning): en vez de cambiar todos los pesos del modelo, se congelan y se entrenan unas tablas chiquitas que se suman a algunos de ellos.

La propuso un artículo de Microsoft de 2021 (Hu y otros). Lo que se entrena y se guarda es un adaptador de unos pocos MB a unos cientos de MB, según el rango (el ancho de esas tablas chiquitas) y cuántas tablas toque, no una copia del modelo. Un mismo modelo base puede servir varios adaptadores, uno por producto o cliente.

Ejemplo. Una tabla de 4,096 × 4,096 tiene 16,777,216 números. Con LoRA de rango 8 se entrenan dos tablas de 4,096 × 8 y 8 × 4,096: 65,536 números, 256 veces menos. En Llama 3 8B (una familia de LLMs públicos de Meta), rango 8 sobre las tablas de Q y V de sus 32 bloques: ≈ 3.4 millones de números, ≈ 7 MB.

Se presenta en 08 · Transformers y LLMsAparece en 2 lecciones

Los nueves

the nines · three nines · four nines

La forma de nombrar una disponibilidad por cuántos 9 tiene: «tres nueves» es 99.9 % y «cuatro nueves», 99.99 %. Cada nueve más divide entre 10 el tiempo caído permitido.

En un mes de 30 días (43,200 minutos): 99 % son 7.2 horas; 99.9 %, 43.2 minutos; 99.99 %, 4.32 minutos, y 99.999 %, ≈ 26 segundos. Cada nueve cuesta: con 99.9 % alcanza con una réplica de repuesto en otra zona y alguien de guardia que regrese una versión en minutos; con 99.99 %, la detección y el cambio de réplica tienen que ser automáticos, porque nadie arregla nada a mano en 4 minutos. Antes de prometer un nueve más, pregunta qué pasa cuando el servicio falla y qué cuesta ese nueve.

Ejemplo. Alba, el marketplace que sigue el curso, promete tres nueves, 99.9 %, porque tiene un plan B: si el modelo no responde, Ana elige la categoría a mano. Un sistema de detección de fraude en tiempo real, que decide dentro de cada pago, pide cuatro: 99.99 %, ≈ 4.3 minutos al mes.

Se presenta en 11 · Probabilidad para sistemas que fallanAparece en 4 lecciones

M

MAC

multiply-accumulate

Multiplicar dos números y sumar el resultado a lo que ya llevas acumulado. Es la unidad de trabajo de una red neuronal: 1 MAC son 2 FLOPs, una multiplicación y una suma.

Un producto punto de k números son k MACs: multiplicas cada par y lo vas sumando a un acumulador. Una capa densa hace entradas × salidas MACs por ejemplo; una convolución, posiciones × filtros × pesos por filtro; una multiplicación de matrices de n × k por k × m, n × m × k. El hardware la hace en una sola instrucción (la FMA, fused multiply-add), pero se cuenta como 2 FLOPs. Las MACs dicen cuánto cálculo pide un modelo; los parámetros, cuánta memoria.

Ejemplo. La primera capa de la ResNet-50 tiene 9,408 pesos y hace 118,013,952 MACs por foto: cada peso se usa en 12,544 posiciones. La red completa hace ≈ 4.1 GMACs (4,100 millones) por foto, que son ≈ 8.2 GFLOPs.

Machine unlearning

machine unlearning · desaprendizaje automático

Conseguir que un modelo ya entrenado se comporte como si ciertos datos nunca hubieran estado en su entrenamiento. La única forma segura es reentrenar sin ellos; las técnicas más baratas son investigación, no algo que se pueda prometer.

Un modelo no guarda filas: guarda parámetros que cada ejemplo movió un poco, así que no hay qué borrar adentro. Hay propuestas para abaratarlo, como entrenar varios modelos con pedazos separados de los datos y reentrenar solo el afectado, pero no son una herramienta estándar. Importa porque algunos modelos memorizan ejemplos raros, y la inferencia de pertenencia puede adivinar si un dato estuvo en el entrenamiento. La promesa honesta ante un borrado es: borrar las copias y que el siguiente reentrenamiento no lo incluya.

Ejemplo. Alba reentrena cada mes: una corrida de ≈ 3–4 horas en una GPU, de ≈ US$3–4 (≈ US$10–50 al mes contando las corridas de prueba y las repetidas). Una foto borrada el 20 de octubre ya no está en el modelo de noviembre.

Macro-promedio

macro average · macro-recall

Sacar la métrica de cada clase por separado y promediarlas, de modo que cada clase pese lo mismo, tenga muchas fotos o pocas.

Lo contrario es contar fotos (micro-promedio, que para el recall con una sola etiqueta por foto es la accuracy), donde las clases grandes mandan. Con un long tail, el macro-recall revela categorías chicas que empeoraron aunque la accuracy suba.

Ejemplo. Un modelo nuevo sube la accuracy de 85.0 % a 85.25 % y baja el macro-recall de 75 % a 64 %: mejoró en las 200 categorías grandes y empeoró mucho en las 300 chicas.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 4 lecciones

Manejador de errores

exception handler

Una función que el framework llama cuando algo falla antes o fuera de la ruta, para decidir qué se responde y dejar rastro. En FastAPI se registra por tipo de error.

Hay errores que ocurren antes de que tu función corra: FastAPI revisa los parámetros y, si no cumplen, responde 422 sin llamarla. Otros salen de lugares que no controlas. Un manejador de errores (@app.exception_handler(RequestValidationError)) intercepta ese tipo de error y arma la respuesta. Sin él, esos errores no dejan línea de log ni métrica, porque el log lo escribe tu función.

Ejemplo. El gateway de Alba tiene uno para el 422: cuando alguien manda top_k=50, responde 422 con su X-Request-ID, escribe su línea de log y suma 1 a classifier_requests_total{status="422"}.

Manifest

manifest

Un archivo que lista los elementos de un conjunto, cada uno con lo necesario para encontrarlo y comprobarlo. Un snapshot de fotos es un manifest: una fila por foto con su llave (su nombre en el almacén) y su huella SHA-256 (un resumen de sus bytes que cambia si cambia la foto).

En machine learning, el manifest es la forma barata de versionar archivos grandes: en vez de copiar cada foto, se guarda una lista que la cita por su llave en el object storage y por su huella SHA-256. La huella detecta si la foto cambió o desapareció. El manifest mismo tiene su huella (en Alba, rows_sha256), que guarda cada modelo: si alguien cambia una fila, la huella ya no coincide. Pesa una fracción mínima de lo que cita: bytes por fila ÷ bytes por foto.

Analogía. El índice de una biblioteca: no tiene los libros, dice dónde está cada uno y cuál es su edición. Donde se rompe: si alguien se lleva un libro, el índice no lo impide; solo deja ver que falta.

Ejemplo. El manifest de ds-2026-09-01 es un Parquet (un formato de archivo para tablas) con 1,932,628 filas y 10 columnas (image_key, image_sha256, seller_id, label_id, label_source…). Pesa ≈ 400 MB sin comprimir y ≈ 100 MB en Parquet; las fotos que cita, ≈ 400 GB.

Se presenta en 48 · Versionado y linajeAparece en 3 lecciones

Manifiesto de Kubernetes

manifest

Un archivo de texto, casi siempre en YAML, que describe un objeto de Kubernetes tal como lo quieres: no da órdenes, describe el estado deseado.

Lleva el tipo de objeto (kind), su nombre y su namespace (metadata) y lo que quieres (spec). Se manda al API server, el programa central del clúster, y unos controladores comparan sin parar ese estado deseado con el real y corrigen la diferencia, en las dos direcciones. No es el manifest de un dataset ni el de una imagen, aunque se llamen igual. Con GitOps, los manifiestos viven en un repositorio y Argo CD los aplica.

Ejemplo. El manifiesto del Deployment triton-v14 de Alba dice la imagen por digest, nvidia.com/gpu: 1, 6 GiB de memoria, las tres probes y nodeSelector: {workload: gpu-t4}. No dice replicas: las decide KEDA.

Se presenta en 55 · KubernetesAparece en 2 lecciones

mAP

mean average precision

La calificación más usada de un detector de objetos: para cada clase se calcula el área bajo su curva precision–recall (la AP) y se promedian las clases.

Las cajas del modelo se ordenan por confianza; cada una es un acierto si su IoU con una caja real todavía sin pareja llega a un mínimo (0.5 es la regla clásica), y una falsa alarma si no. Recorriendo la lista sale la curva PR de la clase; su área es la AP. La versión de COCO (un dataset público muy usado para detección), más exigente, promedia además 10 mínimos de IoU, de 0.50 a 0.95. Mide si el detector ve los objetos, no si el sistema sirve: un sistema de video con cámaras de seguridad, por ejemplo, lo reporta pero decide con el recall por evento.

Ejemplo. 3 personas reales y 5 cajas ordenadas por confianza: acierto, acierto, falsa alarma, acierto, falsa alarma. La AP es (1 + 1 + 0.75) / 3 ≈ 0.92. Si otra clase tiene AP de 0.70, el mAP es (0.92 + 0.70) / 2 ≈ 0.81.

Mapa de activaciones

feature map · activation map

La cuadrícula que produce un filtro al recorrer la foto. Dice dónde de la foto encontró lo que busca ese filtro.

Una capa con 64 filtros produce 64 mapas, que son los 64 canales de entrada de la capa siguiente. En una CNN (red convolucional) los mapas se van achicando y multiplicando: la ResNet-50 termina con 2,048 mapas de 7 × 7.

Ejemplo. La primera capa de la ResNet-50 convierte la foto de 3 × 224 × 224 en 64 mapas de 112 × 112.

Se presenta en 06 · Redes neuronales y CNNsAparece en 2 lecciones

Mapa de datos personales

data map · data inventory

El inventario de cada lugar donde se guarda o se copia un dato personal: qué campos, para qué, cuánto tiempo, quién lo lee y en qué país. Sin él no se puede borrar a alguien ni decir qué se escapó en una brecha.

En machine learning, los datos personales se copian donde nadie diseñó una «base de clientes»: logs de requests y de predicciones, datasets y sus snapshots, el proveedor de etiquetado, los metadatos del archivo (EXIF), los servicios de terceros y las copias «de un rato» (un CSV en una laptop, un respaldo en otra región). La retención real es la de la copia que más dura, así que el mapa lista cada copia con su plazo. Es lo que vuelve el borrado una consulta y un job, y lo que permite responder en una brecha.

Ejemplo. En el mapa de Alba, la foto de Ana está en el bucket del producto; una línea seudónima en el log de predicciones (90 días); y, si sale dudosa, una copia sin EXIF en el bucket de etiquetado (90 días), en el proveedor y en un snapshot.

Máquina virtual (VM)

virtual machine (VM)

Una computadora simulada por software sobre una computadora real: tiene sus propios procesadores virtuales (vCPU), memoria, disco y sistema operativo con su kernel. Es lo que de verdad rentas cuando pides una máquina en la nube.

El hipervisor parte un servidor físico en varias VMs y las aísla entre sí, aunque sean de clientes distintos. Cada VM arranca su propio sistema operativo, por eso tarda minutos en arrancar y aísla más que un contenedor (la comparación está en contenedor contra máquina virtual). En la nube, a una VM rentada se le dice instancia. Una GPU no se parte entre VMs: se le entrega completa a una (salvo tecnologías especiales como MIG).

Ejemplo. Una g4dn.xlarge es una VM con 4 vCPU, 16 GiB de RAM y una GPU T4 completa, sobre un servidor de AWS que comparte con otros clientes.

Se presenta en 38 · Qué es la nubeAparece en 3 lecciones

Margen de no inferioridad

non-inferiority margin

Cuánto puede perder el modelo nuevo contra el actual sin que importe. Se fija antes, con el ruido del examen y con lo que cuesta un error; en Alba son 0.3 puntos porcentuales de top-1 y de top-5.

Un margen muy chico bloquea modelos igual de buenos (el examen no alcanza a distinguirlos); uno muy grande deja pasar pérdidas reales. Alba lo fijó del tamaño del ruido de medir un modelo solo con su golden set: 1.96 × √(0.85 × 0.15 ÷ 50,000) × 100 ≈ 0.31 puntos. También es una decisión de negocio: 0.3 puntos de top-1 son ≈ 22,500 fotos al día más con la primera sugerencia equivocada, con ≈ 7.5 millones de fotos de publicaciones diarias.

Ejemplo. Con m = 0.3, un candidato con Δmin = −0.22 pasa y uno con −0.38 no. Con m = 0.15 harían falta ≈ 218,000 fotos en el golden set para que el margen no fuera más fino que el examen.

Matriz

matrix

Una tabla de números ordenada en filas y columnas, todas del mismo largo. Su tamaño se dice «filas × columnas»: una matriz de 2 × 3 tiene 2 filas y 3 columnas.

Es el paso que sigue al vector: un vector es una sola fila (o una sola columna) de números; una matriz, varias filas del mismo largo. Cada número se ubica por su fila y su columna. En ML casi todo es una matriz o se guarda como una: los pesos de una capa densa (una fila por número que entra y una columna por salida), un batch de embeddings (una fila por foto) o una tabla de datos (una fila por ejemplo y una columna por feature). Una matriz es un tensor de dos dimensiones, y su shape es [filas, columnas]. Lo que ocupa en memoria es filas × columnas × los bytes de su dtype.

Ejemplo. Alba, un marketplace, clasifica cada foto en 500 categorías con una ResNet-50. Los pesos de su última capa forman una matriz de 2,048 × 500: una fila por cada número que sale del backbone y una columna por categoría. Son 1,024,000 números: ≈ 2 MB en FP16 y ≈ 4.1 MB en float32.

Matriz de confusión

confusion matrix

La tabla que cuenta, para cada clase real, cuántas veces el modelo dijo cada clase. La diagonal son los aciertos; todo lo demás, en qué se confunde.

Con una pregunta de sí o no es de 2 × 2: verdaderos positivos, falsos negativos, falsos positivos y verdaderos negativos. Con 500 clases es de 500 × 500 (250,000 casillas), y se buscan las casillas grandes fuera de la diagonal. De ella salen accuracy, precision y recall.

Ejemplo. 1,000 fotos, 100 de tenis: 80 tenis bien encontrados, 20 que se le escaparon, 40 cosas que dijo tenis sin serlo y 860 bien descartadas.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 2 lecciones

Mediana

median

El valor de en medio cuando ordenas los datos: la mitad queda abajo y la mitad arriba. Si la cantidad es par, se promedian los dos de en medio.

Es el percentil 50 (el p50) y describe el caso típico. Es resistente: solo mira el orden, así que un valor atípico muy lejano casi no la mueve. Por eso se usa para la latencia típica, para reportar ingresos y para rellenar datos que faltan. Con una cantidad par, el método del rango más cercano toma el de abajo de los dos de en medio; con miles de datos la diferencia desaparece.

Ejemplo. Nueve sueldos de 9 a 16 mil pesos y uno de 900 mil: el promedio sube de ≈ 12,444 a 101,200 pesos, y la mediana apenas pasa de 12,000 a 12,500.

Se presenta en 10 · Promedios, medianas y percentilesAparece en 3 lecciones

Memoria virtual

virtual memory · pages · page table

El truco con el que cada proceso (cada programa en marcha) ve su propia memoria, numerada desde 0, como si tuviera la máquina para él solo. El sistema operativo y la CPU traducen esas direcciones a la RAM de verdad por bloques llamados páginas.

Las páginas son de 4 KiB en Linux y de 16 KiB en las Mac con chip de Apple. Las páginas son de 4 KiB en Linux y de 16 KiB en las Mac con chip de Apple. Las páginas son de 4 KiB en Linux y de 16 KiB en las Mac con chip de Apple. Cada proceso tiene una tabla de páginas que dice dónde está cada una de sus páginas: en un marco de la RAM, en el disco (en el swap o en un archivo abierto con mmap) o en ningún lado todavía. Así un proceso no puede leer ni pisar la memoria de otro, y el sistema puede reservar sin entregar: la RAM se asigna la primera vez que se escribe en cada página. Tocar una página que no está en RAM es un fallo de página (page fault): el sistema detiene al proceso, consigue la página y lo deja seguir. Cuesta del orden de un microsegundo si basta con dar una página nueva, y de 0.1 a 10 ms si hay que leerla del disco. Lo que de verdad ocupa un proceso es su RSS, no su tamaño virtual.

Analogía. Cada proceso tiene su libreta de direcciones, con casas numeradas desde el 0, y el sistema operativo es el cartero que sabe en qué calle real está cada una. Se rompe en que este cartero también puede mandar una casa al almacén (el disco) y traerla de vuelta cuando alguien toca la puerta.

Ejemplo. Con páginas de 4 KiB, la dirección virtual 4,100 es el byte 4 de la página 1 (4,100 ÷ 4,096 da 1 y sobran 4). Si la tabla del proceso pone esa página en el marco 2, el byte de verdad está en 2 × 4,096 + 4 = 8,196. Y en una prueba, pedir 400 MB no movió la RAM del proceso; escribir un byte cada 4 KiB la subió 400 MB.

Se presenta en 17 · Memoria, caché y discoAparece en 2 lecciones

Memory-bound

memory-bound

Cuando lo que frena un cálculo es cuántos bytes por segundo entrega la memoria: los núcleos esperan datos. Un chip con más TFLOPS (más velocidad de cálculo) no lo acelera; menos bytes o más ancho de banda, sí.

En español, «limitado por la memoria». Pasa cuando la intensidad aritmética es menor que el punto de quiebre de la GPU: cada byte se usa en muy pocas operaciones. Es el caso del decode de un LLM con pocas conversaciones (cada token relee todos los pesos), de las operaciones elemento a elemento (una ReLU, sumar un sesgo) y de las capas densas con batch chico. El tiempo mínimo es bytes ÷ ancho de banda de memoria. Palancas: batching (una lectura sirve para varios), menos bytes (cuantizar a INT8 o INT4), fusionar operaciones para no escribir y releer resultados intermedios, o una GPU con más GB/s.

Ejemplo. Un token de Llama 3 8B en una L4: leer sus ≈ 16 GB de pesos a 300 GB/s toma ≈ 54 ms; calcular sus ≈ 16 GFLOPs a 121 TFLOPS, ≈ 0.13 ms. Los núcleos esperan ≈ 400 veces más de lo que trabajan, y el techo es ≈ 19 tokens por segundo.

Merge

merge

Unir el trabajo de una rama a otra. Si la rama de destino no se movió, Git solo adelanta su etiqueta (fast-forward); si las dos avanzaron, crea un commit de merge con dos padres.

Para juntar dos versiones, Git busca la base, el último commit que las dos ramas tienen en común, y compara cada una contra ella. Si cambiaron archivos o líneas distintas, toma los dos cambios solo. Si cambiaron las mismas líneas de manera distinta, hay un conflicto y te toca decidir. En GitHub, un merge suele hacerse con el botón de un pull request, que permite un commit de merge, un squash (todo el PR en un solo commit) o un rebase.

Ejemplo. main está en 821910a y la rama logs agregó 26b7ad8 mientras main agregaba 60006fd: el merge crea 9341d8a, cuyos dos padres son 60006fd y 26b7ad8.

Se presenta en 35 · Git: versiones del códigoAparece en 4 lecciones

Método HTTP

HTTP method · verb

La palabra con que empieza una request y dice qué quieres hacer: GET (dame esto), POST (toma esto y procésalo), PUT (déjalo así), PATCH (cambia esta parte) o DELETE (bórralo).

Dos propiedades los separan. Un método es seguro si no cambia nada en el servidor: GET, HEAD y OPTIONS. Es idempotente si hacerlo dos veces deja al servidor igual que hacerlo una: los seguros, más PUT y DELETE. POST y PATCH no lo son: dos POST iguales pueden crear dos cosas. La idempotencia habla del efecto, no de la respuesta: un segundo DELETE responde «no existe», pero el recurso queda igual de borrado. De esto depende qué se puede reintentar sin miedo. Un método que la ruta no acepta recibe un 405 con el header Allow.

Ejemplo. Alba clasifica con POST aunque no cambie nada en el servidor: la foto tiene que ir en el body, y el estándar no le da ningún significado al body de un GET. Un GET a /v1/classify recibe 405 y Allow: POST.

Se presenta en 22 · HTTP: requests, respuestas y códigosAparece en 7 lecciones

Métrica (de un servicio)

metric

Un número con nombre que un servicio lleva en memoria y que se lee a intervalos fijos, como cuántas requests van o cuántas tardaron menos de 200 ms. Es una suma: no recuerda ninguna request en particular.

Una métrica resume muchas requests en un número, por eso su tamaño no crece con el tráfico y de ella salen las alertas. Se parte con etiquetas de pocos valores (código, versión del modelo) y cada combinación es una serie de tiempo. Los tipos que importan son el contador, el gauge y el histograma. No confundir con la métrica de negocio, que mide el producto, ni con una métrica de evaluación de un modelo.

Ejemplo. classifier_requests_total{status="200", source="mobile", model_version="resnet50-2026-10-01"} es una métrica del gateway de Alba: cuántas requests con 200 contó un pod desde que arrancó.

Se presenta en 57 · La request en vivoAparece en 2 lecciones

Métrica de negocio

business metric · online metric · guardrail

El número que dice si el sistema le sirve a la empresa y a la gente: publicaciones completadas, dinero que se deja de perder. La métrica del modelo, que se mide offline, es solo su aproximación.

Se baja por una cadena: negocio → online (cómo reacciona la gente real; por ejemplo, cuántos aceptan la sugerencia) → offline (lo que se mide con datos guardados, como la top-5 en el golden set). Cada eslabón es un proxy del de arriba, y la cadena se puede romper: un modelo que gana offline puede perder online. Por eso los cambios grandes se prueban con gente real en un A/B test, con guardrails: métricas que no tienen que mejorar pero no pueden empeorar, como la latencia.

Ejemplo. En Alba, el marketplace del curso: negocio, tasa de publicaciones completadas; online, tasa de aceptación de la categoría sugerida; offline, top-5 en el golden set; guardrails, p99 de latencia (el tiempo que no pasan 99 de cada 100 respuestas), tasa de errores, publicaciones que moderación recategoriza y tiempo para llenar el formulario.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 2 lecciones

Mezcla de expertos (MoE)

mixture of experts

Un modelo grande de lenguaje (LLM) que en cada bloque tiene varias redes, los «expertos», en lugar de una; para cada token, un enrutador elige solo unos pocos. Guarda muchos parámetros, pero cada token trabaja con una fracción.

El enrutador es una capa chica que califica a cada experto; se usan los de calificación más alta y sus resultados se mezclan con un softmax de esas calificaciones. La memoria cuenta todos los expertos; el cálculo y la lectura por token, solo los que se usaron. Los «expertos» no son especialidades humanas (uno de medicina, otro de leyes): el reparto lo aprende el modelo y casi nunca se puede leer así. A un modelo que no es MoE se le llama denso.

Analogía. Una recepcionista que manda a cada paciente con 2 de 8 especialistas. Se rompe en dos lugares: nadie decidió qué sabe cada experto, y los 8 tienen que estar siempre en la memoria de la GPU, trabajen o no.

Ejemplo. Mixtral 8x7B (Mistral AI, 2023) tiene 8 expertos por bloque y usa 2 por token: 46.7 mil millones de parámetros en total y 12.9 mil millones activos por token.

MIG (GPU multi-instancia)

Multi-Instance GPU

Partir una GPU grande (A100, H100, H200) en hasta 7 pedazos con aislamiento de hardware: cada uno con su propia memoria y sus propios bloques de cómputo (SMs), como si fueran GPUs chicas separadas.

Con MIG, lo que pasa en un pedazo no frena a los otros: es como tener varias GPUs chicas. Cada pedazo se nombra por su tamaño, como 1g.10gb en una H100 (una séptima parte del cómputo y 10 GB). Existe, entre otras, en A100, H100, H200 y B200 (hasta 7) y en la RTX PRO 6000 (hasta 4). No existe en la T4, la L4, la A10G ni la L40S. Las particiones se configuran de antemano y no cambian solas.

Ejemplo. Un pedazo 1g.10gb de una H100 de AWS sale en ≈ US$6.88 ÷ 7 ≈ US$0.98 por hora: casi el doble de una T4 completa.

Milisegundo (ms)

millisecond

Una milésima de segundo. Un parpadeo dura entre 100 y 400 ms.

Un segundo tiene 1,000 milisegundos. Es la unidad natural del camino online: la respuesta de un modelo se mide en decenas o cientos de ms.

Ejemplo. La promesa de Alba es de 200 ms, un quinto de segundo. El marketplace espera como máximo 300 ms, tres décimas de segundo.

Se presenta en 00 · El camino completoA fondo en 09 · Números grandes, unidades y estimacionesAparece en 4 lecciones

Minimización de datos

data minimization

Juntar y guardar solo los datos personales que necesitas para lo que vas a hacer, y nada más. Es la protección más barata: lo que no guardas no hay que cifrarlo, ni vigilarlo, ni borrarlo, y no se escapa.

En un log se hace con una lista de campos permitidos (allowlist), nunca con una de prohibidos: así un campo nuevo no se cuela sin que nadie lo decida. Nunca se guarda el contenido (body) de las requests «para depurar». También es minimizar quitar el EXIF antes de copiar una foto, mandarle a un encargado solo lo que necesita y darle a cada copia una retención corta con su regla de ciclo de vida.

Ejemplo. El log de Alba guarda request_id, caller, versión del modelo, top-5, latencias, bytes y un prefijo del hash: ≈ 300 bytes por línea. Sin la foto (≈ 200 KB), sin el EXIF y sin el id de la vendedora.

Se presenta en 45 · Datos personales y la leyAparece en 2 lecciones

Mínimo privilegio

least privilege

Dar a cada componente solo los permisos que necesita, sobre solo los recursos que necesita. No evita un ataque: limita el daño cuando pasa.

La regla práctica: un rol por componente, acotado por prefijo, escrito como infraestructura como código para revisarlo como cualquier cambio. Lo contrario, un rol para todo o s3:* sobre *, hace que un pod comprometido herede todos los buckets.

Ejemplo. Si el gateway de Alba no tiene permisos de S3, un atacante que entra a su pod no lee nada de S3; con s3:* sobre *, leería pesos, logs y fotos.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 3 lecciones

ML engineer

machine learning engineer

La persona que lleva un modelo de las pruebas a producción, donde lo usa gente real, y lo mantiene funcionando: sus datos, su entrenamiento, ponerlo a responder, sacar versiones nuevas y vigilarlo.

No basta con que el modelo acierte. El trabajo es que todo lo que lo rodea también funcione: que le lleguen buenos datos, que responda rápido, que no se caiga y que alguien note cuando empieza a fallar.

Ejemplo. En Alba, el ML engineer no inventa la ResNet-50: se encarga de que las fotos le lleguen bien preparadas, de que 99 de cada 100 respuestas tarden menos de 200 ms, de que una versión nueva salga sin romper nada y de notar cuando empieza a fallar.

MLflow

MLflow

Una herramienta de código abierto para anotar entrenamientos (corridas con parámetros, métricas, tags y archivos) y para llevar el catálogo de modelos aprobados.

MLflow tiene dos partes que importan para entrenar y publicar modelos: el seguimiento de corridas (seguimiento de experimentos) y el registro de modelos. Se corre como un servidor con una página web y una API; detrás guarda los metadatos en una base de datos y los archivos grandes en un almacén de objetos (almacén de artefactos y metadatos). Los programas le hablan con una biblioteca de Python (mlflow.log_params, mlflow.log_metrics, mlflow.log_artifact). Al registrar una corrida desde un repositorio de Git, anota el commit solo, aunque haya cambios sin commit (árbol limpio).

Ejemplo. Alba corre su propio servidor de MLflow dentro del cluster, con los metadatos en Postgres (una base de datos) y los archivos en s3://ml-datos/mlflow/. Cada mes, la corrida resnet50-2026-10-01 del experimento classifier-mensual queda ahí, y el registro guarda la versión aprobada.

Se presenta en 49 · Entrenamiento y experimentosAparece en 4 lecciones

MLP

multilayer perceptron · perceptrón multicapa

Una red neuronal hecha solo de capas densas, con activaciones entre ellas: cada neurona de una capa ve todas las salidas de la anterior.

Las capas de en medio se llaman ocultas. Con una sola capa oculta ya resuelve problemas que una neurona sola no puede, como el XOR (dar 1 si exactamente una de dos entradas vale 1). Cada capa tiene entradas × salidas + salidas parámetros. Sobre fotos desperdicia parámetros (cada píxel lleva su propio peso), por eso para imágenes se usan CNNs; pero dentro de cada bloque de un transformer hay un MLP de dos capas.

Ejemplo. 784 entradas (un dígito de 28 × 28), 128 ocultas y 10 salidas: (784 × 128 + 128) + (128 × 10 + 10) = 101,770 parámetros.

Se presenta en 06 · Redes neuronales y CNNsAparece en 2 lecciones

mmap

memory-mapped file · mmap

Una forma de abrir un archivo que lo hace aparecer en la memoria del programa, como si ya estuviera cargado. El sistema lo lee del disco por pedazos, solo cuando el programa toca cada parte, y usa la copia que ya guarda en la RAM (la page cache), sin hacer otra.

Es lo contrario de leer el archivo completo a la memoria propia del proceso (con read), que deja dos copias en RAM: la de la page cache y la del proceso. Con mmap, abrir un archivo de 100 GB no cuesta nada hasta tocarlo, y varios procesos que abren el mismo archivo comparten la misma RAM. Los pesos en formato safetensors (un encabezado en JSON y los números tal cual) están pensados para cargarse así; torch.load(..., mmap=True) lo hace con los archivos de PyTorch, y vLLM, un programa que sirve LLMs, lee los safetensors con mmap. Las páginas que se tocan cuentan en la RSS del proceso.

Ejemplo. En una prueba, abrir con mmap un archivo de 200 MB y leer su encabezado y un peso del medio subió la RAM del proceso ≈ 0 MB; sumar todos los pesos la subió 200 MB.

Se presenta en 17 · Memoria, caché y discoAparece en 4 lecciones

Mock

mock · test double

Un objeto falso que toma el lugar de algo lento, caro o externo (una GPU, un servicio, una API de pago), responde lo que le digas y anota cómo lo llamaron.

Es un tipo de doble de prueba (test double). En Python viene en unittest.mock: Mock() crea uno, return_value fija lo que responde, side_effect le hace lanzar un error (para probar el timeout o la caída) y assert_called_once_with revisa cómo lo llamaron. Su riesgo es que no se parezca al real: un Mock() simple acepta cualquier método, aunque no exista, y la prueba pasa mientras producción falla. create_autospec lo hace con la forma del objeto real, pero solo copia la forma: no sabe cuánto tarda el real ni cuándo se queda sin memoria. Por eso los mocks se combinan con alguna prueba contra la pieza de verdad (end-to-end, de humo o de paridad).

Ejemplo. El Triton falso de Alba respeta el contrato del cliente real (sus métodos y sus excepciones) y revisa el nombre, el dtype y el shape del tensor. Si alguien rompe el contrato con la configuración del modelo, falla en CI y no en producción.

Se presenta en 36 · Pruebas y CI/CDAparece en 2 lecciones

Model repository (Triton)

model repository

La carpeta de donde Triton carga sus modelos: una subcarpeta por modelo, con su config.pbtxt y una subcarpeta numerada por versión con el archivo del modelo.

Triton lee la carpeta al arrancar (--model-repository=/models). Cada modelo es una subcarpeta con su config.pbtxt y versiones numeradas (1/, 2/…), cada una con su archivo: model.plan para TensorRT, model.onnx para ONNX Runtime. El número es la versión dentro de Triton, no la del registro de modelos. Con --model-control-mode=none, Triton carga todo al arrancar y no deja cambiar modelos con el servidor andando.

Ejemplo. El de Alba es classifier/config.pbtxt y classifier/1/model.plan, horneados en la imagen de Triton. La versión de verdad, resnet50-2026-10-01, es el tag de la imagen.

Se presenta en 52 · Código de servingAparece en 2 lecciones

Modelo

model

Un programa que aprendió de ejemplos a convertir una entrada (una foto) en una respuesta (su categoría).

No lo escribe una persona regla por regla. Una persona elige su forma y los ejemplos, y el entrenamiento ajusta sus parámetros hasta que acierta. Por dentro es una función matemática muy grande: entran números (los píxeles de la foto) y salen números (qué tan probable es cada categoría).

Ejemplo. En Alba el modelo es una ResNet-50: recibe la foto de una publicación y devuelve qué tan probable es cada una de 500 categorías.

Se presenta en 00 · El camino completoA fondo en 01 · Qué es un modeloAparece en 2 lecciones

Modo eval

eval mode · model.eval()

El interruptor de PyTorch que le dice al modelo «ahora vas a responder, no a entrenar». BatchNorm usa sus estadísticas guardadas y Dropout deja de apagar neuronas.

Un modelo recién creado o cargado está en modo entrenamiento (model.train()). Olvidar model.eval() en el servidor es un bug clásico: no da error, solo baja la calidad. No apaga el cálculo para aprender: para eso es torch.inference_mode(). En producción van los dos.

Ejemplo. Si las estadísticas guardadas de un canal son promedio 5 y desviación ≈ 2.24, en modo eval una foto que da 4 en ese canal queda en ≈ −0.45, llegue sola o acompañada. En modo train, sola en su batch, quedaría en su propio promedio: 0 en este ejemplo de un número por foto (con un solo número por canal, PyTorch de hecho da error).

Se presenta en 06 · Redes neuronales y CNNsAparece en 2 lecciones

Módulo de Python

module

Un archivo .py que otro código usa con import. Su nombre es el del archivo sin la extensión: preprocess.py es el módulo preprocess.

Al hacer import json, Python busca el módulo en las carpetas de sys.path, en orden, y gana el primero que aparece: la carpeta del script, las de PYTHONPATH, la biblioteca estándar y site-packages. Lo corre una sola vez, de arriba abajo, y lo guarda en sys.modules: si otro archivo lo vuelve a importar, recibe el mismo objeto. Si no lo encuentra, truena con ModuleNotFoundError. Como la carpeta del script va primero, un json.py tuyo tapa al de verdad; python -I la deja fuera. Cada módulo sabe su nombre en __name__, que vale "__main__" cuando es el programa que arrancó. python -m nombre busca un módulo igual que import y lo corre como programa. Un módulo también puede ser código compilado, un .so: una extensión nativa.

Ejemplo. En el gateway de Alba, app/preprocess.py es el módulo app.preprocess, el que decodifica y redimensiona la foto; uvicorn app.main:app quiere decir «del módulo app.main, el objeto app».

Momentum

momentum · inercia

Una mejora del descenso de gradiente: cada paso arrastra parte de la dirección de los anteriores. Avanza más rápido donde el gradiente insiste y se frena donde zigzaguea.

Lleva una velocidad por perilla: v nueva = β × v + gradiente, y la perilla se mueve lr × v. Con β = 0.9, el valor usual, un gradiente que se repite igual acumula hasta 10 veces su tamaño (1 ÷ (1 − 0.9)), y uno que cambia de signo cada paso casi se cancela. Ocupa un número extra por perilla.

Analogía. Una pelota que rueda: no se detiene en cada piedrita y gana velocidad en una bajada larga. Se rompe en que la pelota real tiene peso y fricción; aquí β es solo un número que decide cuánto se recuerda.

Ejemplo. Gradientes −5, −5, −5: la velocidad va −5, −9.5, −13.55. Gradientes +10, −10, +10: va 10, −1, 9.1.

Monitoreo

monitoring

Medir todo el tiempo cómo se comporta el sistema en producción y avisar cuando algo se sale de lo normal.

En un sistema con un modelo se miden dos tipos de cosas. Las del software: qué tan rápido responde (latencia), cuántas peticiones fallan. Y las del modelo: si sigue acertando, o si los datos que llegan ya no se parecen a los de su entrenamiento (drift).

Ejemplo. En Alba se vigila que 99 de cada 100 respuestas tarden menos de 200 ms, cuántas fallan y si cambia cuáles categorías predice más seguido el modelo, que es una señal temprana de drift.

Se presenta en 00 · El camino completoA fondo en 58 · Monitoreo, drift y reentrenamientoAparece en 3 lecciones

Monorepo

monorepo

Un solo repositorio con varios proyectos, como el servidor de un modelo, su entrenamiento, el preprocesamiento compartido y la infraestructura. La alternativa es un repositorio por proyecto.

Su ventaja: un cambio que toca dos proyectos entra en un solo PR y un solo commit, y un commit describe todo el sistema. En ML eso evita el training-serving skew: el preprocesamiento de entrenamiento y de serving cambia junto. Su costo: el repositorio crece, CI tiene que correr solo lo que cambió y los permisos son más gruesos. Con varios repositorios, cada equipo decide solo, pero hay que anotar qué versión de cada uno va con cuál. Google guarda casi todo su código en un solo repositorio, con un sistema propio en lugar de Git.

Ejemplo. Si el preprocesamiento vive en el mismo repositorio que el gateway y el entrenamiento, un cambio de normalización entra a los dos con el mismo commit.

Montaje

mount · volume

Pegar un sistema de archivos (un disco, una carpeta de red, un pedazo de memoria) en una carpeta del árbol: desde ahí, lo que hay en esa carpeta vive en el otro sistema. Puede ser de lectura y escritura o de solo lectura.

Así entra todo al árbol que empieza en /: un disco nuevo se monta en /data, una carpeta de red como el EFS de AWS (su servicio de archivos compartidos) llega por la red, /dev/shm vive en la RAM y /proc lo inventa el kernel. En un contenedor, la raíz es la imagen (capas de solo lectura y una capa escribible encima, que se borra con el contenedor), y lo demás llega montado: en Docker con -v /en/el/nodo:/models:ro, en Kubernetes con volumes y volumeMounts. Montado en solo lectura, cualquier escritura falla con «Read-only file system» (errno 30): los pesos no se pueden corromper y muchos pods comparten una copia.

Ejemplo. Un servicio que sirve su propio LLM copia sus 70.6 GB de pesos de S3 (el almacén de archivos de AWS) al disco NVMe del nodo, en un volumen del pod, y monta /dev/shm en memoria con 16 GiB porque los 64 MiB que trae un contenedor no alcanzan.

Se presenta en 19 · El sistema operativo: Linux, archivos y permisosAparece en 5 lecciones

mTLS (TLS mutuo)

mutual TLS · mTLS

TLS (el protocolo que cifra conexiones) en el que las dos puntas presentan certificado y firman el saludo: el servidor sabe con qué programa habla, además de cifrar la conexión.

Es la forma natural de cifrar y autenticar el tráfico interno entre servicios. Lo difícil es operarlo: alguien tiene que ser la CA interna, emitir un certificado por cada servicio o pod (cada copia de un programa en Kubernetes) y renovarlos cada pocas horas o días. Por eso casi siempre lo hace una malla de servicios (Istio, Linkerd), con un proxy junto a cada pod. También se usa para dispositivos en sitios remotos: un certificado por caja, que se revoca si la roban.

Ejemplo. Alba no tiene malla de servicios: el tramo del gateway (el programa que prepara las fotos) a Triton (el servidor del modelo) va sin cifrar, protegido por la red privada y una NetworkPolicy (una regla de Kubernetes que dice quién puede hablar con quién). Con mTLS, Triton aceptaría solo al programa que presente el certificado del gateway.

Se presenta en 43 · Cifrado, llaves y certificadosAparece en 3 lecciones

Muestra

sample

La parte de los datos que de verdad mides, porque medirlos todos es imposible o carísimo. Lo que sale de una muestra es una estimación: con otra muestra habría salido un poco distinto.

Una muestra sirve si se eligió al azar de la población que te importa: cada elemento con la misma oportunidad de entrar. Así sus errores son puro ruido, que se achica con más datos (el error estándar). Si se eligió con un criterio que tiene que ver con lo que mides (solo fotos de web, solo las publicaciones donde el vendedor aceptó la sugerencia), está sesgada, y ese error no baja aunque la hagas enorme.

Ejemplo. En Alba, el marketplace que sigue el curso, el golden set de 50,000 fotos es una muestra de todas las fotos que suben los vendedores. Con ella el modelo saca ≈ 85 %, con un ruido de ±0.3 puntos.

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 2 lecciones

Muestra aleatoria de la cola

random sample

La parte de lo que se etiqueta cada mes que se sortea al azar de todo el tráfico. Es la única con la que se estima el error real del modelo y de cada fuente de labels.

Lo demás de la cola está elegido a propósito (dudas, desacuerdos, lo nuevo) y tiene sesgo de selección. La muestra al azar se sortea primero, de todas las fotos del mes: si se sortea de lo que sobró, ya no tiene lo difícil y sale optimista. Su margen de error, al 95 %, es δ=1.96×√q(1−q)/n, con q la exactitud medida y n las fotos de la muestra.

Ejemplo. En Alba es el 25 % de la cola, 1,250 fotos al mes: mide la exactitud con ≈ ± 2 puntos; con 6 meses acumulados, ≈ ± 0.8.

Multi-AZ (varias zonas)

multi-AZ · multi-zone

Tener réplicas de cada pieza en dos o más zonas de la misma región, de modo que cualquiera pueda atender sola. Es barato y casi siempre se quiere: protege del centro de datos que se apaga.

Funciona porque las zonas están a ≈ 1 ms y comparten red: no cambia el diseño, y el balanceador y Kubernetes ya saben repartir por zona. Pide tres cuidados: capacidad de repuesto ya encendida (N+1 por zona), ruteo por zona para no pagar el tráfico que cruza, y cambios de versión poco a poco, porque un deploy malo llega a todas las zonas. No protege de una caída de región, de un borrado ni de una cuenta robada: eso es multi-región y DR.

Ejemplo. Alba, el marketplace que sigue el curso, cumple su SLO de 99.9 % con dos zonas: la cadena completa pierde ≈ 5 minutos al mes por fallas independientes. La segunda zona le compra a Triton 216 − 1 = 215 minutos al mes.

Multi-región (varias regiones)

multi-region

Tener el sistema, o al menos sus datos, en dos o más regiones. Protege de la caída de una región, de un borrado y de una cuenta comprometida, pero es caro.

Entre regiones hay decenas de milisegundos y casi nada se comparte. Cuesta cuatro cosas: cuota y capacidad en la segunda región, datos replicados (≈ US$0.02 por GB más guardarlos otra vez), artefactos que coincidan (el engine de TensorRT depende de la GPU) y operar dos lugares. La pregunta no es «¿multi-región sí o no?», sino cuánto puedes perder (RPO) y cuánto puedes tardar (RTO). Y no salva de un deploy malo que llega a las dos regiones.

Ejemplo. Alba, el marketplace que sigue el curso, no lo necesita: su SLO de 99.9 % se cumple con dos zonas y tiene un fallback manual. Un warm standby costaría ≈ US$600 al mes: 600 ÷ 1,829 ≈ 33 % más que su infraestructura.

Multiclase

multiclass

Clasificación con más de dos clases en la que cada ejemplo tiene exactamente una respuesta correcta.

Se usa softmax, que obliga a repartir el 100 % entre las clases, y la respuesta es la de logit más alto (argmax) o las k mejores (top-k). Es distinta de la multietiqueta, donde un ejemplo puede tener varias respuestas correctas a la vez.

Ejemplo. En Alba, el marketplace del curso, cada foto de una publicación va en una sola de 500 categorías.

Multietiqueta

multi-label classification

Clasificación en la que un ejemplo puede tener varias clases a la vez, o ninguna. Cada clase recibe su propio sí o no.

Se usa una sigmoide por etiqueta, no softmax: las probabilidades no compiten ni tienen por qué sumar 1. Cada etiqueta lleva su propio umbral. Con softmax, una etiqueta le quitaría probabilidad a la otra y la escondería.

Ejemplo. En la moderación de contenido de una red social, el modelo da un score por cada una de 7 políticas. Un post con logits spam 2.0, violencia 1.0 y odio −3.0 sale con 88.1 % y 73.1 % en spam y violencia (con un softmax entre las tres habría sido 72.7 % y 26.8 %).

Multimodal

multimodal

Que trabaja con más de un tipo de dato a la vez, como texto e imágenes. Un embedding multimodal pone fotos y textos en el mismo espacio, para compararlos directamente.

CLIP (OpenAI, 2021) tiene dos redes, una para imágenes y otra para texto, entrenadas juntas con aprendizaje contrastivo sobre unos 400 millones de pares (imagen, texto) para que una foto y su descripción queden cerca. Así, el vector de «tenis blancos» queda cerca del vector de la foto de unos tenis blancos.

Ejemplo. En la búsqueda de Alba, el marketplace del curso, un encoder (la red que convierte algo en su vector) tipo CLIP, de 512 dimensiones, permite buscar productos con texto o subiendo una foto.

Se presenta en 07 · Embeddings: el significado como coordenadasAparece en 2 lecciones

Multiplicación de matrices

matrix multiplication (matmul)

Combinar una matriz de n × k con una de k × m para obtener una de n × m: cada casilla del resultado es el producto punto de una fila de la primera con una columna de la segunda.

Solo se puede si las dimensiones de adentro coinciden (las dos k); las de afuera dan el tamaño del resultado. El orden importa: A · B casi nunca es igual a B · A, y a veces ni siquiera se puede. Cada casilla pide k MACs, así que el total es n × m × k MACs, o 2 × n × m × k FLOPs. Es la operación central del deep learning: una capa densa sobre un batch es una sola multiplicación de matrices, una convolución se reorganiza como una, y la atención de un transformer usa dos. Las GPUs tienen circuitos, los tensor cores, que solo hacen esto.

Ejemplo. Las cantidades de dos compras, (2, 1, 3) y (1, 0, 2), por una tabla de 3 × 2 con el precio y los gramos de cada producto (playera: $50 y 200 g; gorra: $120 y 100 g; calcetines: $15 y 50 g). Sale una tabla de 2 × 2: la primera compra cuesta $265 y pesa 650 g; la segunda, $80 y 300 g. Fueron 2 × 2 × 3 = 12 MACs.

Multiproceso

multiprocessing

Repartir el trabajo entre varios procesos en vez de varios hilos. Cada uno tiene su propio intérprete, su memoria y su GIL (el candado que deja correr Python a un solo hilo a la vez), así que sí calculan en paralelo. Cuesta memoria: cada uno carga su copia de todo.

En Python es la forma de usar varios núcleos con código CPU-bound en Python puro: el módulo multiprocessing o concurrent.futures.ProcessPoolExecutor. Mover datos entre ellos también cuesta: lo que se manda a otro proceso se copia (se serializa con pickle), y cada proceso arranca su propio intérprete y carga sus propias librerías y su propia copia del modelo. En serving, varios procesos iguales que atienden requests son workers: uvicorn --workers 4 son 4 procesos y 4 copias del modelo. En Kubernetes, lo normal es un proceso por contenedor y más copias del contenedor.

Ejemplo. Cuatro tareas de 2 s de CPU en Python puro: con 4 hilos tardan ≈ 8 s, igual que en fila; con 4 procesos, en una máquina de 4 núcleos, ≈ 2 s más lo que tardan en arrancar.

N

n mínimo de un criterio

minimum sample size

Cuántas requests (o predicciones) tiene que juntar el canary antes de que un criterio pueda decidir. Sin él, el azar revierte versiones buenas.

Con pocas requests, una regla relativa dispara por ruido: si el estable falla en el 0.1 % y el canary junta 600 requests, se esperan 0.6 errores, y 2 ya son «el doble». La ventana se alarga hasta juntar el n mínimo, así que de madrugada una decisión tarda horas. El n se diseña con la potencia que se quiere y con la tasa real del estable: si la tasa baja, el n tiene que subir. En un PSI, el piso de ruido es ≈ (K − 1)(1/n + 1/n_e), con K categorías, n predicciones del canary y n_e del estable, así que con muchas categorías también hace falta agrupar.

Ejemplo. Alba pide ≥ 10,000 requests por decisión para los 5xx (los errores del servidor): con p0 = 0.1 %, la falsa alarma por decisión baja de ≈ 6.4 % (3,480 requests) a ≈ 0.35 %. Para el PSI, ≥ 5,000 predicciones sobre ≈ 30 categorías padre.

Se presenta en 56 · Rollout seguro

N+1

N+1 redundancy

Tener una réplica más de las N que pide el tráfico, para que perder una no se note. Contado por zona: si cae una zona, las que quedan aguantan el pico completo.

El «+1» tiene que estar en otro dominio de falla y tiene que estar encendido: una GPU nueva tarda de 5 a 13 minutos en servir, y el día que cae una zona puede no haber. Por zona, con Z zonas se paga Z ÷ (Z − 1) veces lo que pide el tráfico: el doble con dos zonas, 1.5 veces con tres. Con pocas réplicas el redondeo manda. Es la forma práctica de la redundancia.

Ejemplo. Alba, el marketplace que sigue el curso, necesita 1 T4 (aguanta ≈ 1,200 fotos por segundo) para su pico de 500 y tiene 2, una por zona: si cae una zona, la otra queda al 500 ÷ 1,200 ≈ 42 %. En una campaña sostenida hipotética, con el tráfico × 5 (2,500 por segundo), serían 3 por zona, 6 en total, y con una zona caída quedarían al 2,500 ÷ (3 × 1,200) ≈ 69 %; habría que subir el máximo del autoscaler (hoy 4) y la cuota.

Se presenta en 39 · Regiones, zonas y disponibilidadAparece en 5 lecciones

Namespace (de Kubernetes)

namespace

Un apartado con nombre dentro de un clúster de Kubernetes: agrupa objetos, deja que dos se llamen igual si viven en apartados distintos y permite dar permisos y cuotas por apartado.

No aísla la red ni las máquinas: los pods de dos namespaces pueden caer en el mismo nodo y hablarse, salvo que una NetworkPolicy (una regla de red de Kubernetes) lo impida. Tampoco es el namespace de Linux, que aísla lo que ve un proceso dentro de un contenedor. El nombre completo de un Service lleva su namespace: triton-v14.classifier.svc.cluster.local.

Ejemplo. Alba tiene classifier (producción), classifier-staging (staging, con su propia T4), monitoring (las métricas) y argo (Argo CD, Argo Workflows y Argo Rollouts).

Se presenta en 55 · KubernetesAparece en 3 lecciones

NAT gateway

NAT gateway

El servicio que deja salir a internet a las máquinas de una subred privada, sin dejar que nadie de afuera entre. En AWS (la nube de Amazon) cobra ≈ US$0.045 por hora y ≈ US$0.045 por GB que pasa, en cualquier dirección.

Hace lo mismo que el router de tu casa (NAT, network address translation): cambia la IP privada de cada paquete por su IP pública y regresa las respuestas. El NAT clásico (zonal) vive en una subred pública de una sola zona, y el estándar es uno por zona; desde noviembre de 2025 AWS ofrece también un NAT regional que se extiende solo a cada zona y cobra la misma hora por zona. Su cobro por GB es un cargo por datos procesados, y como es la salida por omisión, por inercia pasan por él S3, imágenes y pesos. Lo que debe pasar: parches y llamadas a terceros. Lo pesado va por endpoints.

Analogía. Una caseta de cobro a la salida del fraccionamiento: deja salir a los vecinos y no deja entrar a extraños, pero cobra a cada coche que pasa, salga o regrese. Se rompe en que la caseta real cobra por coche; el NAT cobra por GB.

Ejemplo. Un sistema de segmentación de imágenes médicas (números supuestos del ejemplo) baja por el NAT 36 TB al mes de láminas de patología: 36,000 × 0.045 ≈ US$1,620, ≈ 3.7 veces lo que cuestan sus GPUs (≈ US$441). Por un gateway endpoint de S3: US$0.

Se presenta en 41 · Redes en la nube: VPC, subredes y egressAparece en 5 lecciones

Neocloud

GPU neocloud

Un proveedor especializado en rentar GPUs, como Lambda, RunPod o CoreWeave. Suele cobrar menos por GPU-hora que AWS, Google Cloud o Azure, pero ofrece pocos servicios alrededor.

Vende casi solo GPU-horas. La letra chica: no trae la cola, la base de datos ni los permisos integrados de una nube grande; si tus datos viven en otra nube, llevarlos cuesta egress (transferencia de salida) cada vez; y algunas ofertas baratas te pueden quitar la máquina o prometen menos disponibilidad. Conviene para entrenamientos grandes y aislados; casi nunca para servir un modelo pegado al resto del sistema. «No hay una nube barata, hay precios por GPU y por región.»

Ejemplo. Una H100 SXM por hora, on-demand, noviembre de 2026: ≈ US$6.88 en AWS (us-east-1), ≈ US$4.89 en Lambda y ≈ US$4.39 en RunPod (su Secure Cloud).

Se presenta en 38 · Qué es la nubeAparece en 2 lecciones

Neurona

neuron · unit

La pieza más chica de una red neuronal: multiplica cada entrada por un peso, suma todo más un sesgo y pasa el resultado por una activación, una función sencilla que lo «dobla».

Sus pesos y su sesgo son parámetros: los ajusta el entrenamiento. Una neurona con 3 entradas tiene 4 parámetros. Se juntan muchas en una capa. El nombre viene de las neuronas del cerebro, pero es solo una multiplicación y una suma.

Ejemplo. Entradas 0.5, 0.8 y 0.2; pesos 2, −1 y 3; sesgo 0.1: 1.0 − 0.8 + 0.6 + 0.1 = 0.9, y la ReLU deja pasar 0.9.

Se presenta en 06 · Redes neuronales y CNNsAparece en 5 lecciones

nn.Module

nn.Module

La clase base de PyTorch para capas y modelos. Un modelo hereda de ella: en __init__ crea sus capas y en forward dice cómo pasa una entrada por ellas.

Una clase es un molde: dice qué datos guarda cada objeto y qué sabe hacer. Al colgar una capa del objeto (self.conv = nn.Conv2d(…)), el módulo la registra y sabe cuáles son sus pesos. Guarda dos tipos de tensores: parámetros, los pesos que ajusta el entrenamiento (con requires_grad=True), y buffers, números que necesita pero no aprende, como las estadísticas running_mean y running_var de una BatchNorm. Se usa llamándolo, modelo(x), no con modelo.forward(x): así corren también los ganchos (hooks) que le cuelgan otras herramientas. Tiene modo train y modo eval, y todos sus tensores juntos forman su state_dict.

Ejemplo. Un módulo chiquito, con una convolución de 3 a 8 canales, una BatchNorm y una capa final de 3 clases, tiene 267 números que se aprenden y 3 buffers: running_mean, running_var y num_batches_tracked.

No determinismo de CUDA

CUDA non-determinism

Que dos entrenamientos en GPU con el mismo código, datos, receta, entorno y semilla den pesos un poco distintos, porque la GPU no siempre suma en el mismo orden.

En punto flotante, el orden de una suma cambia el último dígito (determinismo). En un entrenamiento ese orden cambia por cuatro fuentes: el algoritmo de convolución que elige cuDNN (sobre todo con cudnn.benchmark = True), las sumas atómicas del backpropagation (el orden en que terminan los hilos), otra GPU u otra versión de CUDA, y la precisión mixta. torch.use_deterministic_algorithms(True) (en GPU, con la variable CUBLAS_WORKSPACE_CONFIG que pide cuBLAS) y cudnn.benchmark = False, con la semilla y los workers fijos, dan los mismos bits en la misma GPU y con la misma imagen, a cambio de ir más lento; una operación que no tenga versión determinista da error. Se usa para depurar; en el día a día se acepta una tolerancia.

Analogía. Diez personas suman pedazos de una lista y le dictan sus subtotales a una cajera, que los va sumando en una calculadora de seis cifras en el orden en que terminan: cada suma redondea, y el total cambia unos centavos según el orden. Se rompe en que en un entrenamiento la diferencia de un paso cambia el siguiente, y tras miles de pasos da otro modelo, no un total casi igual.

Ejemplo. Alba entrena con la misma imagen (fijada por su digest) y siempre en una GPU A10G, pero no prende el modo determinista: dos corridas iguales suelen caer a ≤ 0.26 puntos. Si dos difieren más y no se encuentra por qué, se repiten en modo determinista para descartar la GPU.

No inferioridad

non-inferiority

Una regla de comparación: el modelo nuevo pasa si, con buena seguridad, no es peor que el actual por más de un margen fijado antes. No se le pide que gane, solo que no pierda de más.

Se calcula la diferencia entre los dos con una prueba pareada y se mira el extremo de abajo de su intervalo de 95 %: Δmin=Δ−1.96×SEΔ, con SEΔ el error estándar de la diferencia. Pasa si Δmin≥−m, con m el margen. Es la regla correcta cuando el objetivo es no quedarse atrás, como en un reentrenamiento mensual: exigir una mejora significativa bloquearía casi todo, y exigir «≥ el actual» decidiría con ruido. Su debilidad es la erosión: pérdidas chicas que pasan cada mes.

Analogía. Un tratamiento nuevo, más barato o con menos efectos secundarios, se aprueba en un estudio de no inferioridad si no cura menos que el estándar por más de un margen fijado antes. Donde se rompe: el tratamiento se aprueba una vez; el modelo se examina cada mes, y las pérdidas dentro del margen se pueden sumar.

Ejemplo. El candidato de noviembre de Alba acierta solo en 1,040 fotos y el champion solo en 1,060, de 50,000: Δ = −0.04 puntos, SEΔ ≈ 0.092 y Δmin ≈ −0.22 ≥ −0.3. Pasa, aunque salió un poco abajo.

no_grad e inference_mode

no_grad · inference_mode

Dos formas de apagar autograd en PyTorch: lo que corre dentro de su with no guarda notas ni activaciones para calcular gradientes después. Para servir se usa inference_mode, que además es algo más rápido.

torch.no_grad() apaga las notas. torch.inference_mode() también se salta el contador de versión de cada tensor, que solo sirve para autograd; el precio es que lo que nace ahí queda marcado como tensor de inferencia y no puede entrar después a una cuenta con gradiente (Inference tensors cannot be saved for backward). En un servidor nadie hace backward, así que se usa inference_mode; para evaluar a media época del entrenamiento, no_grad. Los dos valen solo en el hilo que abrió el with. Y no tocan el modo eval: autograd decide la memoria, el modo decide las respuestas. Se necesitan los dos.

Ejemplo. En la ResNet-50 de Alba, un batch de 8 guarda 687.5 MB de notas con autograd prendido y 0.0 MB con inference_mode. La trampa: abrir el with en el hilo del event loop y correr el modelo en un hilo del pool deja la salida con requires_grad=True.

nodeSelector y labels

node selector and labels

Una label es una etiqueta llave-valor pegada a un objeto, como a un nodo; un nodeSelector en el pod dice «ponme solo en nodos con esta etiqueta».

Atrae, pero no repele: no impide que otros pods caigan en esos nodos (eso lo hace un taint). Si la etiqueta del nodeSelector no existe en ningún nodo, por ejemplo por un error de dedo, el pod queda Pending para siempre y ningún autoscaler lo arregla. Las labels también sirven para que un Service o un Deployment encuentren sus pods.

Ejemplo. Los nodos con T4 de Alba llevan workload: gpu-t4, y Triton lo pide en su nodeSelector, porque su engine solo carga en la T4.

Se presenta en 55 · Kubernetes

Nodo

node

Una máquina que forma parte de un grupo que trabaja junto, como un clúster de Kubernetes (el sistema que reparte programas entre máquinas). Es una instancia vista desde el grupo: su CPU, RAM y GPUs son lugar para acomodar programas.

Cuando varias instancias trabajan bajo un mismo programa que reparte el trabajo (un clúster), cada una se llama nodo. La diferencia práctica: si el clúster necesita otra GPU y no hay lugar en sus nodos, no basta con arrancar otra copia del programa; hay que pedirle a la nube otra instancia, esperar a que arranque y se una al grupo. Eso toma minutos y pasa por la cuota y la capacidad de la zona. Ese pedido lo hace un programa del clúster, el autoscaler de nodos.

Ejemplo. Las dos g4dn.xlarge de Alba, el marketplace del curso, son dos nodos del clúster EKS, uno por zona. Cada uno aloja una copia de Triton.

Se presenta en 40 · Máquinas, GPUs y cómo se cobranAparece en 8 lecciones

Normalización

normalization

Restarle a cada número un promedio y dividirlo entre una desviación, para que los valores queden alrededor de 0 y en una escala parecida.

En imágenes se hace por canal, con la media y la desviación estándar del dataset con que se entrenó el modelo. Para los modelos entrenados con ImageNet (un dataset público de ≈ 1.28 millones de fotos) son media [0.485, 0.456, 0.406] y desviación [0.229, 0.224, 0.225] para R, G y B. Hay que usar exactamente las del entrenamiento.

Ejemplo. R = 236 → 236 ÷ 255 = 0.925 → (0.925 − 0.485) ÷ 0.229 ≈ 1.92.

Se presenta en 02 · Una foto, vista por un modeloAparece en 3 lecciones

Normalización L2

L2 normalization

Dividir un vector entre su largo para que mida exactamente 1. Conserva la dirección y borra el largo.

El largo de Pitágoras (la raíz de la suma de los cuadrados) se llama norma L2; de ahí el nombre. Con embeddings normalizados, la similitud coseno es solo el producto punto, y la distancia euclidiana y el coseno ordenan a los vecinos igual (distancia² = 2 − 2 × coseno). No es la normalización de las fotos, que le resta a cada píxel un promedio y lo divide entre una desviación. Si promedias dos vectores normalizados, el resultado ya no mide 1 y hay que volver a normalizar.

Ejemplo. (4, 3) mide √(16 + 9) = 5; normalizado queda (0.8, 0.6), y 0.8² + 0.6² = 1. El vector (8, 6), que mide 10, también queda en (0.8, 0.6).

NoSQL

NoSQL · not only SQL

El nombre de las bases de datos que no se organizan en tablas relacionadas: de documentos, de columnas anchas, llave-valor o vectoriales. Suelen cambiar las consultas libres por repartirse fácil entre muchas máquinas.

Las familias: de documentos (MongoDB, cada registro un documento tipo JSON), de columnas anchas (Cassandra, Bigtable, repartidas en cientos de máquinas), base llave-valor (Redis, DynamoDB) y vectoriales (por dentro, un índice vectorial). Casi todas renuncian a los JOIN y a las consultas que nadie previó, y muchas leen con consistencia eventual por omisión. A cambio, escalan repartiendo los datos por llave y responden igual de rápido con mil o con mil millones de registros. No compiten con las relacionales: casi todo sistema usa las dos.

Ejemplo. Un sistema de detección de fraude guarda las features en Redis (llave-valor) y los pagos en una base relacional; la búsqueda de Alba busca en un índice vectorial y revisa los vendidos en Redis.

Notación CIDR

CIDR notation

La forma de escribir un rango de direcciones IP: la primera dirección, una diagonal y cuántos bits quedan fijos. 10.0.0.0/16 son las 65,536 direcciones que empiezan con 10.0.

CIDR (Classless Inter-Domain Routing). Una dirección IPv4 tiene 32 bits; el número después de la diagonal dice cuántos, desde la izquierda, son iguales en todo el rango. Quedan libres 32 − n bits, así que el rango tiene 2^(32 − n) direcciones. Cada bit de más parte el rango a la mitad. Se usa para el rango de una VPC, de una subred, en las tablas de rutas y en los grupos de seguridad.

Ejemplo. /16 → 2¹⁶ = 65,536 direcciones; /20 → 4,096; /24 → 256; /32 → 1 sola; 0.0.0.0/0 → todas.

Notación científica

scientific notation

Escribir un número como una cifra entre 1 y 10 multiplicada por una potencia de diez: 86,400 = 8.64 × 10⁴. Sirve para números enormes o diminutos sin contar ceros.

La cifra se llama mantisa, y el número al que se eleva el 10, exponente; un exponente negativo es un número chico: 4 × 10⁻⁵ = 0.00004. Para multiplicar se multiplican las mantisas y se suman los exponentes; para dividir, se dividen y se restan. Python y las hojas de cálculo la escriben con una e: 8.64e+04 es 8.64 × 10⁴. El exponente dice el orden de magnitud.

Ejemplo. La ResNet-50 de Alba, el marketplace que sigue el curso, tiene 24,532,532 ≈ 2.45 × 10⁷ parámetros y hace ≈ 4.1 × 10⁹ multiplicaciones por foto; copiar la foto a la GPU tarda ≈ 4 × 10⁻⁵ s, 40 microsegundos.

Se presenta en 09 · Números grandes, unidades y estimacionesAparece en 3 lecciones

Notebook

Jupyter notebook

Un documento donde mezclas código, resultados y notas, y corres el código por pedacitos. Muy bueno para explorar, malo para producción.

Puedes correr las celdas (los pedacitos de código) en cualquier orden, y por eso es fácil que algo funcione solo en tu máquina y solo esa vez. Para producción, el código pasa a archivos normales que corren siempre igual, de principio a fin.

Ejemplo. Entrenaste una primera versión en un notebook y funciona porque corriste la celda 3 antes que la 5. Si alguien lo corre de arriba abajo, falla. Para producción, ese código pasa a un archivo de Python que corre siempre igual.

Se presenta en 00 · El camino completoAparece en 7 lecciones

Nube

cloud

Rentar computadoras, discos y servicios que viven en los centros de datos de otra empresa, pidiéndolos por software y pagando solo por lo que usas (por hora, por GB, por request).

Tres rasgos la distinguen de rentar una computadora cualquiera: la pides tú solo por una API y la tienes en minutos; pagas por uso (pago por uso); y sale de un fondo enorme que comparten muchos clientes, del que tomas y al que devuelves capacidad (elasticidad). Lo que se renta va de máquinas virtuales (IaaS) a productos terminados (SaaS). Convierte la compra de servidores (CapEx) en un gasto mensual (OpEx). Su contrario es on-premises (infraestructura propia).

Analogía. Como la red eléctrica: en vez de tener tu generador, te conectas y pagas por kilowatt-hora. Se rompe en que cada proveedor tiene sus propios «enchufes» y sacar tus datos se cobra.

Ejemplo. Alba, el marketplace que sigue el curso, no tiene servidores propios para su clasificador de fotos: renta en AWS dos VMs con GPU T4 a ≈ US$0.526 por hora cada una (us-east-1, noviembre de 2026), 2 × 0.526 × 730 ≈ US$768 al mes entre las dos, y las puede devolver cuando quiera.

Se presenta en 38 · Qué es la nubeAparece en 3 lecciones

Núcleo

core · CPU core

Un procesador completo dentro del chip de la CPU: lee una instrucción, la ejecuta y pasa a la siguiente, miles de millones de veces por segundo. Una laptop trae de 8 a 16; un servidor, decenas.

Cada núcleo tiene sus registros y su propia caché, y corre su propio hilo al mismo tiempo que los demás. Para que un solo hilo termine pronto, procesa las instrucciones en cadena, adivina hacia dónde va a saltar el programa y reordena lo que no depende entre sí. Muchos núcleos x86 corren dos hilos de hardware a la vez (Hyper-Threading, o SMT, simultaneous multithreading, en general) que comparten sus circuitos: juntos hacen un poco más que uno, no el doble. En la nube se renta por vCPU, que en las máquinas de Intel es medio núcleo. Con SIMD, un núcleo con AVX-512 (instrucciones de 512 bits) hace hasta 64 FLOPs por ciclo en FP32. Ojo: los «CUDA cores» de una GPU no son núcleos en este sentido; lo más parecido a un núcleo dentro de una GPU es un SM.

Ejemplo. Con dos unidades FMA (las que multiplican y suman de un jalón) de 512 bits a 3 GHz, un núcleo hace como máximo 64 × 3 × 10⁹ ≈ 192 GFLOPS en FP32. La máquina g4dn.xlarge de AWS que usa Alba, la empresa de ejemplo del curso, tiene 2 núcleos físicos, que se ven como 4 vCPU.

Se presenta en 18 · CPU y GPUAparece en 9 lecciones

O

OAuth 2.0

OAuth 2.0

El marco estándar para que un programa obtenga un token de acceso sin conocer la contraseña de nadie. Define varios flujos para pedirlo, según quién lo pide: una persona en un navegador o un programa solo.

Nació para que una app pudiera actuar en tu nombre (publicar en una red social, leer tu calendario) sin que le dieras tu contraseña: el servicio te pregunta si lo permites y le entrega a la app un token con scopes limitados que puedes retirar. Para personas usa un flujo con redirecciones y una pantalla de permiso; para máquinas, client credentials. OAuth da permisos, no dice quién es la persona: eso lo agrega OIDC.

Ejemplo. Una app de fotos pide publicar por ti: la red social te muestra «¿permitir publicar?», y la app recibe un token que solo sirve para publicar. Nunca vio tu contraseña.

Object Lock

Object Lock

Una función de S3, el almacén de archivos de AWS, que bloquea cada versión de un objeto durante un plazo: nadie la puede borrar ni cambiar mientras dure. No impide escribir otra versión en la misma llave.

Object Lock trabaja sobre el versionado del bucket: cada PUT crea una versión, y la versión bloqueada no se puede borrar hasta que venza su plazo (en el modo más estricto, ni quien administra la cuenta). Sirve para que un borrado por error o malicioso no destruya datos. Su hueco: protege versiones, no la llave. Un PUT nuevo a la misma llave crea otra versión que pasa a ser la que se lee, y quien pide el objeto sin decir qué versión recibe la nueva. Para impedir eso hace falta la escritura condicional; para detectarlo, la huella del manifest.

Ejemplo. Con Object Lock y sin escritura condicional, un PUT a rows.parquet de septiembre «funciona»: la versión vieja sigue guardada, pero el entrenamiento lee la nueva. El rows_sha256 del modelo ya no coincide, y así se descubre.

Object storage

object storage

Un almacén donde cada archivo es un objeto: sus bytes, una llave para encontrarlo y unos metadatos. Se le habla por HTTP (PUT para guardar, GET para leer) y guarda billones de objetos baratos y casi imposibles de perder. Los más conocidos son S3, de la nube de Amazon (AWS), y Cloud Storage, de la de Google.

Un objeto no se edita a la mitad: un PUT a la misma llave lo reemplaza entero, y no se le pueden agregar líneas al final. Sí se puede leer un pedazo, con el header Range. Las llaves son texto plano y la «/» es una letra más: las carpetas que enseña la consola son prefijos que varias llaves comparten, y «renombrar una carpeta» es copiar y borrar cada objeto. Los objetos viven en un bucket, tienen durabilidad de once nueves y se cobran por GB-mes y por request, así que millones de objetos chiquitos salen caros. Es donde viven el data lake, los datasets, los pesos de los modelos y los logs. Se distingue del almacenamiento de bloques (un disco de una máquina) y del de archivos (una carpeta compartida).

Analogía. Un guardarropa con boletos: entregas la chamarra, te dan un número y con ese número la recuperas, entera. No puedes pedir que le cosan un botón ahí adentro: te la llevas, la arreglas y la vuelves a dejar. Se rompe en dos cosas: aquí tú eliges el número (la llave), y puedes pedir la lista de todos los números que empiezan igual (un LIST con prefijo), algo que ningún guardarropa hace.

Ejemplo. La foto de Ana se guarda con PUT en la llave fotos/2026/11/06/ana-tenis.jpg del bucket del marketplace de Alba. Su clasificador la lee con un GET a esa llave. Cambiar un solo byte obliga a subir los 200 KB otra vez.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 13 lecciones

Observabilidad: métricas, logs y trazas

observability

Poder entender qué pasa dentro de un sistema mirando lo que sale de él. Se arma con tres rastros: métricas (sumas en el tiempo), logs (una fila por evento) y trazas (el recorrido de una request).

Un servicio con millones de requests no se puede mirar una por una. Cada rastro contesta una pregunta: las métricas «¿cuánto y desde cuándo?», los logs «¿qué pasó con esta?» y las trazas «¿dónde se fue el tiempo?». Se usan en ese orden (la métrica avisa, la traza señala el tramo, el log dice cuántas se parecen) y los une un id común, el request_id. Las métricas ven las fallas ruidosas; una falla silenciosa de un modelo se ve en el log.

Analogía. Como un auto: el tablero (métricas), la bitácora de cada viaje (logs) y el video de un viaje (traza). Se rompe en que un auto hace un viaje a la vez; un servicio atiende cientos por segundo y solo graba unos pocos.

Ejemplo. En Alba, cada request deja una línea de log de ≈ 300 B, sus sumas en los contadores que Prometheus lee cada 15 s y, en ≈ 1 % de los casos, una traza en Grafana Tempo (un almacén de trazas).

OCR

optical character recognition

Reconocimiento óptico de caracteres: leer el texto que aparece en una imagen y devolverlo como texto que la computadora puede usar.

Casi siempre son dos pasos: detectar dónde hay texto y luego reconocer qué dice. La salida es una secuencia de caracteres, y un campo solo está bien si todos lo están: por eso la confianza se calibra por campo. Se usa para leer documentos, tickets, placas o etiquetas.

Ejemplo. Leer «TALLA 27» en la foto de la etiqueta de un tenis, o los 18 dígitos de una CLABE en un estado de cuenta (procesamiento de documentos).

Se presenta en 01 · Qué es un modeloAparece en 6 lecciones

Offset

offset

La posición de un evento dentro de una partición de un stream de eventos: 0, 1, 2… También es el marcador de cada grupo de consumidores, el siguiente evento que le toca leer.

Cada evento recibe su offset al escribirse, y nunca cambia. Un grupo de consumidores guarda en el broker hasta dónde procesó: es el commit del offset. Si un consumidor se cae, el que lo reemplaza sigue desde el último offset confirmado, y lo procesado después de ese commit se vuelve a leer: entrega at-least-once. Regresar el offset a un punto anterior es releer (replay), siempre dentro de la retención. El lag en mensajes es el último offset escrito menos el confirmado.

Analogía. El separador de un libro: cada lector tiene el suyo, y leer no arranca las hojas. Se rompe en que el libro pierde sus primeras páginas con el tiempo (la retención), y un separador que se quedó ahí ya no tiene a dónde volver.

Ejemplo. En una partición con 11 eventos (offsets 0 a 10), el indexador puede ir en el 7 y el sink al lake, más lento, en el 4: el mismo registro, cada uno a su ritmo. Si el sink se cae, el que lo reemplaza sigue desde el 4.

Se presenta en 30 · Colas y streams: mensajes que esperanAparece en 3 lecciones

OIDC (OpenID Connect)

OpenID Connect

Una capa encima de OAuth que agrega identidad: además del token de acceso, el proveedor entrega un ID token, un JWT que dice quién es el usuario. Es lo que hay detrás de «Iniciar sesión con…».

OAuth da permisos; OIDC dice quién eres. La app que pide el inicio de sesión recibe un ID token firmado por el proveedor, con sub, correo y nombre, y lo verifica con su JWKS, sin ver nunca la contraseña. También sirve para máquinas: un cluster de Kubernetes firma un JWT que dice qué cuenta de servicio tiene un pod, y la nube lo cambia por credenciales temporales (así funciona IRSA, IAM roles for service accounts, en EKS, el Kubernetes de AWS); un job de CI recibe un JWT que dice de qué repositorio y rama viene, y lo cambia por credenciales de la nube sin guardar llaves.

Ejemplo. Un pipeline de GitHub Actions (las automatizaciones de GitHub) pide un token OIDC que dice «repositorio de Alba, rama main», y AWS lo cambia por credenciales temporales de un rol que solo puede publicar imágenes.

Se presenta en 44 · Autenticación y permisosAparece en 3 lecciones

OLTP y OLAP

OLTP vs OLAP · online transaction / analytical processing

Las dos maneras de usar datos. OLTP: millones de operaciones chiquitas, cada una sobre pocas filas completas, en milisegundos (guardar una publicación). OLAP: pocas consultas grandes, sobre millones de filas pero pocas columnas (cuántas ventas por categoría en un mes).

Piden almacenes distintos. Para OLTP conviene guardar cada fila junta, con índices y transacciones: es una base relacional como Postgres. Para OLAP conviene guardar cada columna junta y comprimida, como Parquet o un data warehouse. Correr analítica pesada en la base de OLTP del producto la vuelve lenta para los usuarios; por eso los datos se copian a un lake o a un warehouse para analizarlos.

Ejemplo. OLTP: «lee la publicación 8f3a», una fila, en 2 ms. OLAP: «predicciones por categoría en octubre», 300 millones de filas y 3 columnas, en unos segundos.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 2 lecciones

On-demand (bajo demanda)

on-demand instance

Rentar una instancia al precio de lista, sin compromiso: la pides, la usas, la apagas y pagas solo esas horas. Es el precio contra el que se miden todos los descuentos.

On-demand es la manera más flexible y la más cara de pagar. No te compromete a nada y nadie te quita la máquina mientras la tengas, pero tampoco te garantiza que haya máquinas cuando las pidas: eso solo lo hace una reserva de capacidad.

Ejemplo. Una g4dn.xlarge on-demand cuesta ≈ US$0.526 la hora en us-east-1 (noviembre de 2026); en spot se vio a ≈ 0.27, y con un compromiso de 1 año, ≈ 0.331.

Se presenta en 40 · Máquinas, GPUs y cómo se cobranAparece en 4 lecciones

On-premises (infraestructura propia)

on-premises

Máquinas que la empresa compra y opera ella misma, en su edificio o en un espacio rentado en un centro de datos. Es lo contrario de rentar en la nube.

Se paga por adelantado (CapEx) y cuesta lo mismo se use o no, pero no lleva el margen del proveedor. Suele ganar con uso alto y parejo durante años, cuando los datos no pueden salir de la empresa (salud, banca, gobierno), en el borde (una caja junto a una cámara que tiene que seguir funcionando sin internet) y a escala muy grande. A cambio, la empresa pone a la gente que lo opera, compra para el pico y tarda semanas en crecer. Muchas empresas combinan on-prem y nube (híbrido).

Ejemplo. Un servidor con una GPU de ≈ US$24,400, amortizado en 3 años con ≈ US$310 al mes de luz, espacio y mantenimiento, cuesta 24,400 ÷ 36 + 310 ≈ US$988 al mes; rentado 24/7 a ≈ US$4.50 por hora serían 4.50 × 730 ≈ US$3,285. Si solo lo usas 4 horas al día, rentar gana.

Se presenta en 38 · Qué es la nube

One-hot

one-hot encoding

Una forma de codificar una categoría: una columna por cada valor posible, con 1 en la del valor que tiene el ejemplo y 0 en todas las demás.

Evita inventar un orden o una distancia: con 1, 2 y 3, el modelo tendría un solo peso para la feature y el efecto del valor 3 quedaría obligado a ser el triple que el del 1. Con one-hot cada valor tiene su propio peso. Su costo: una columna por valor, así que con miles o millones de valores (ids de anuncios o de productos) se vuelve enorme y casi toda de ceros; ahí se usa hashing o embeddings. Un valor que no se vio al entrenar no tiene columna, así que se reserva una para «otro».

Analogía. Un formulario con casillas para marcar una sola opción: no se escribe el número de la opción, se marca su casilla. Se rompe con millones de opciones: un formulario así no cabría en ninguna hoja y habría que reimprimirlo con cada opción nueva. Para eso existe el hashing: un número fijo de casillas, y una fórmula decide cuál marcar.

Ejemplo. Tres giros de comercio: supermercado = [1, 0, 0], gasolinera = [0, 1, 0] y videojuegos = [0, 0, 1]. Cada fila suma exactamente 1.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 2 lecciones

ONNX

ONNX (Open Neural Network Exchange)

Un formato de archivo para modelos que leen muchas herramientas, no solo PyTorch. Guarda el grafo de operaciones, los pesos y la firma de la entrada y la salida, y abrirlo no corre código.

Entrenar y servir viven en mundos distintos: PyTorch y Python de un lado, un servidor en C++ como Triton del otro. ONNX es el formato de entrega entre los dos. Un archivo .onnx es un mensaje de protobuf con tres partes: el grafo (operadores como Conv, Relu, Add), los pesos y la firma (nombre, tipo y forma de cada entrada y salida). Declara su opset, la versión de los operadores que usa. Lo pueden correr ONNX Runtime y otros, y lo puede compilar TensorRT. A diferencia de un pickle, es solo datos.

Ejemplo. El model.onnx de Alba pesa ≈ 98 MB (≈ 24.5 millones de pesos × 4 bytes en FP32), está en opset 17 y su firma es input FP32 [batch, 3, 224, 224] → logits FP32 [batch, 500].

Se presenta en 51 · Export, engine y paridadAparece en 6 lecciones

ONNX Runtime

ONNX Runtime (ORT)

Un programa que carga un archivo ONNX y lo corre, en CPU o en GPU. Reparte las operaciones entre sus proveedores de ejecución (execution providers: CPU, CUDA, TensorRT…), y lo que uno no soporta pasa, sin error, al siguiente de la lista (al final, a la CPU).

ONNX Runtime (ORT) sirve para correr un ONNX sin PyTorch. Optimiza el grafo y reparte sus nodos entre los execution providers que le pidas: CPU, CUDA, TensorRT, OpenVINO. Un nodo que el provider elegido no soporta se corre en el siguiente de la lista (al final, en la CPU), y el modelo sigue respondiendo bien, solo más lento: un fallo silencioso que solo delata la latencia. Se usa para servir modelos chicos en CPU y para revisar un export: correr el ONNX y compararlo con PyTorch.

Ejemplo. En el export de Alba, ORT corre el ONNX en CPU sobre 512 fotos, en batch 1 y 32, y lo compara con PyTorch: mismo top-1 en todas y una diferencia de logits del orden de 0.0001. No necesita GPU.

OOM

out of memory · OOMKilled

Quedarse sin memoria (out of memory). Cuando en Linux ya no alcanza la RAM, el sistema operativo mata sin avisarle a un programa corriendo, casi siempre el que más memoria usa; en un contenedor pasa lo mismo al llegar a su propio límite. Kubernetes lo reporta como OOMKilled, con código 137.

El kernel lo hace como último recurso, cuando la RAM (o el tope de memoria de un cgroup) ya no alcanza. El proceso no se entera: no hay excepción ni traceback, y se pierden los últimos logs que no había escrito. En un contenedor de Kubernetes, el límite es limits.memory: el kernel mata al proceso aunque a la máquina le sobre memoria, y el kubelet lo reinicia. No es lo mismo que el MemoryError de Python (el sistema negó la memoria al pedirla, y el programa sí se entera) ni que CUDA out of memory (se acabó la VRAM de la GPU: es una excepción dentro del proceso). Se previene midiendo el pico, no el promedio, y limitando lo que crece con la carga.

Ejemplo. El gateway de Alba tiene un límite de 1 GiB. Un PNG de 40 megapíxeles ocupa ≈ 320 MB al decodificarse: con ≈ 80 MB de base y 160 MB de archivos en vuelo, caben 2 a la vez (≈ 880 MB); con 3 (≈ 1,200 MB), OOMKilled. Por eso PREPROCESS_CONCURRENCY=2.

Se presenta en 16 · Programa, proceso e hiloAparece en 7 lecciones

OpenTelemetry

OpenTelemetry (OTel)

Un estándar abierto, con bibliotecas para casi todos los lenguajes, para producir trazas, métricas y logs de la misma manera y mandarlos a la herramienta que se quiera.

Define cómo se crea un span, cómo se pasa el id de la traza de un programa a otro (en un header) y cómo se exporta a un almacén. Así el código no queda amarrado a un producto: se puede cambiar el destino sin reescribir la instrumentación. También define cómo muestrear.

Ejemplo. El gateway de Alba y Triton se instrumentan con OpenTelemetry; las trazas van a Grafana Tempo, en monitoring.

Opset

opset

El número de versión del conjunto de operadores que usa un archivo ONNX. Quien lo lee tiene que conocer esa versión; es parte del contrato del modelo.

Los operadores de ONNX cambian con el tiempo: una versión nueva de un operador acepta otra opción o cambia un valor por omisión. Cada archivo declara su opset, y el programa que lo lee (ONNX Runtime, TensorRT) tiene que soportarlo. Por eso el opset se fija al exportar y se lee del archivo después: un exportador puede escribir uno distinto al pedido sin dar error. Cambiar de opset es un cambio del modelo, con su propia paridad.

Ejemplo. Alba exporta en opset 17 con el exportador viejo (dynamo=False). Con el exportador nuevo de PyTorch, pedir opset 17 puede dejar el archivo en 18, y el chequeo del script lo atrapa porque compara el opset escrito con 17.

Optimizador

optimizer

La pieza que, con el gradiente en la mano, decide cuánto girar cada perilla. SGD (descenso de gradiente estocástico) es la regla simple; momentum y Adam son formas más listas de hacerlo.

SGD (stochastic gradient descent) aplica la regla tal cual, con el gradiente de un batch al azar. El momentum arrastra la dirección de los pasos anteriores. Adam guarda para cada perilla un promedio de sus gradientes recientes y otro de su tamaño, y con eso ajusta el paso de cada una por separado. Esos números extra por perilla se guardan en el checkpoint y ocupan memoria de la GPU.

Ejemplo. Alba, el marketplace que sigue el curso, usa Adam: 24.5 M de perillas × 2 promedios = 49 M de números extra, ≈ 196 MB.

Se presenta en 04 · Cómo aprende un modeloAparece en 3 lecciones

Orden de magnitud

order of magnitude

La potencia de diez más cercana a un número: 86,400 es del orden de 10⁵. Dos cosas que difieren en un orden de magnitud están a 10 veces una de otra.

Para redondear al orden más cercano se mira la mantisa: si es menor que √10 ≈ 3.16 se queda la potencia; si no, se sube una. Hay quien llama orden de magnitud solo al exponente, sin redondear: con esa costumbre, 86,400 es del orden de 10⁴. En diseño de sistemas, una estimación sirve si atina al orden de magnitud: equivocarse por 2 veces rara vez cambia la decisión; por 10, sí, porque se pasa de un par de máquinas a un cluster.

Ejemplo. Leer la RAM (≈ 10⁻⁷ s) y la promesa de 200 ms de Alba (2 × 10⁻¹ s) están a más de seis órdenes de magnitud: ≈ 2 millones de veces.

Se presenta en 09 · Números grandes, unidades y estimacionesAparece en 3 lecciones

Orquestación

orchestration

Que un sistema decida por ti cuántas copias de tu programa correr, en qué máquinas, y que levante otra si una se cae.

También se encarga de cambiar a una versión nueva poco a poco, sin apagar el servicio. El orquestador de contenedores más usado es Kubernetes.

Ejemplo. En Alba, Kubernetes mantiene varias copias de la API encendidas, agrega copias cuando sube el tráfico de la hora pico y, si una copia falla, levanta otra sola.

Se presenta en 00 · El camino completoA fondo en 55 · KubernetesAparece en 15 lecciones

Orquestador de pipelines

workflow orchestrator

El programa que corre los pasos de un pipeline: decide cuándo y en qué orden, reintenta el que falla, guarda qué entró y salió de cada uno y avisa si algo se rompe. No procesa datos: los procesan los pasos.

Un pipeline de machine learning (validar, armar el snapshot, entrenar, evaluar, registrar) no se corre a mano: lo corre un orquestador como Argo Workflows, Airflow, Dagster o Kubeflow Pipelines. El pipeline se describe como un DAG; cada paso suele ser un contenedor con entradas explícitas. El orquestador da reintentos por paso, caché, historial, parámetros y disparadores (una hora, un evento). No es la orquestación de Kubernetes, que mantiene vivos los contenedores de un servicio: este corre tareas que empiezan y terminan.

Ejemplo. En Alba, un CronWorkflow (una tarea con horario fijo) de Argo Workflows dispara el pipeline mensual el día 1 a las 03:00 UTC, en el mismo cluster de Kubernetes; si un paso falla, avisa a la persona de guardia.

Se presenta en 48 · Versionado y linajeAparece en 5 lecciones

Overfitting

overfitting · sobreajuste

Cuando el modelo aprende demasiado bien sus ejemplos de entrenamiento, incluidas sus casualidades, y empeora con ejemplos nuevos. Memorizó.

Se reconoce en la curva de aprendizaje: la loss de entrenamiento sigue bajando mientras la de validación sube. Se combate quedándose con el mejor checkpoint (parar a tiempo), con más datos o data augmentation, y con trabas contra la memoria como el dropout.

Ejemplo. Época 8: loss de entrenamiento 0.55, de validación 0.80. Época 20: 0.10 y 1.15. La brecha pasó de 0.25 a 1.05: el modelo memoriza.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 6 lecciones

Overflow

overflow · desbordamiento

Cuando el resultado de una cuenta no cabe en el tipo de dato. En un entero, el número da la vuelta (en uint8, 255 + 1 = 0) o se queda en la orilla; en punto flotante, se vuelve infinito.

Los arreglos de enteros de NumPy y PyTorch dan la vuelta sin avisar; funciones como cv2.add de OpenCV se saturan (250 + 10 = 255); los enteros de Python nunca se desbordan. En punto flotante, lo que pasa del máximo del formato se vuelve inf, y de ahí suele salir un NaN (not a number, un valor que no es un número): en FP16, el máximo es 65,504, y por eso las activaciones atípicas de un transformer pueden desbordarse en FP16.

Analogía. Un cuentakilómetros de 6 dígitos: después de 999,999 marca 000,000. Se rompe en que la computadora no avisa, y en que un entero con signo salta del más grande al más negativo.

Ejemplo. En uint8, aclarar una foto sumando 10 vuelve casi negro un blanco: 250 + 10 = 4. En FP16, e¹² ≈ 162,755 da infinito.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 3 lecciones

Override del gate

gate override

Saltarse una regla del gate de calidad con permiso y por escrito. Solo vale para algunas reglas, pide más de una firma y deja un tag con quién, por qué y el ticket.

Existe porque a veces una regla falla por algo que el equipo entiende (el examen se quedó atrás, no el modelo). Para que no se vuelva la salida fácil: lo firman dos personas con papeles distintos, queda registrado y se revisa cada mes. Las reglas principales y las de seguridad no tienen override: si se pudieran saltar, el gate no protegería nada. En una emergencia no se salta el gate: se vuelve a la versión anterior.

Ejemplo. En Alba admiten override un slice, el ECE y la comparación contra el modelo de hace 3 meses, con la firma de la dueña del clasificador y la de producto del flujo de publicar. Top-1 y top-5 contra el champion, el recall de las 100 categorías con más tráfico, el macro-recall de la cola larga y la integridad del examen, nunca.

P

p-value

p-value · valor p

Si no hubiera ningún efecto, la probabilidad de ver una diferencia al menos tan grande como la que viste, solo por azar. Chico quiere decir «esto sería raro si no pasara nada».

Se calcula suponiendo que la hipótesis nula es cierta. No es la probabilidad de que el tratamiento funcione, ni la de que H0 sea cierta, y no dice qué tan grande es el efecto. Si no hay efecto, los p-values se reparten parejo entre 0 y 1: por eso, con un corte de 0.05, 1 de cada 20 pruebas sin efecto sale «significativa» por azar.

Ejemplo. Una diferencia de 1 punto con un error estándar de 0.355 puntos está a 2.8 errores estándar: p ≈ 0.005. La misma diferencia con 5,000 por brazo (error de 0.91) da p ≈ 0.27.

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 4 lecciones

p99

p99 · 99th percentile

El percentil 99: el valor que deja abajo al 99 % de las requests. «p99 ≤ 200 ms» quiere decir que a lo más 1 de cada 100 tarda más de 200 ms.

Es una de las formas más comunes de prometer latencia, porque mira la cola: lo que viven las requests más lentas, las que vencen el timeout (el tiempo máximo de espera) y las que la gente recuerda. A diferencia del promedio, brinca de golpe cuando la fracción de lentas pasa del 1 %. Necesita muchas muestras: con menos de 100, el p99 es simplemente la más lenta. Su primo, el p99.9, deja arriba a 1 de cada 1,000.

Ejemplo. Alba, el marketplace que sigue el curso, promete p99 ≤ 200 ms del lado del servidor. Con 10 millones de requests al día, ese 1 % permitido son 0.01 × 10,000,000 = 100,000 requests lentas al día.

Se presenta en 10 · Promedios, medianas y percentilesAparece en 25 lecciones

Padding

padding · relleno

Un marco de ceros alrededor de la entrada de una convolución, para que el filtro también se centre en las orillas y la salida no se encoja.

Con un filtro de k × k (k impar), padding (k − 1) ÷ 2 y stride 1, la salida mide lo mismo que la entrada: por eso casi todas las convoluciones de 3 × 3 llevan padding 1. Cerca de la orilla el filtro ve ceros en vez de imagen, así que las respuestas de la orilla suelen ser peores.

Ejemplo. Una entrada de 5 × 5 con un filtro de 3 × 3: sin padding sale de 3 × 3; con padding 1, (5 + 2 − 3) ÷ 1 + 1 = 5, del mismo tamaño.

Page cache

page cache · file cache · buff/cache

La copia de los archivos leídos que el sistema operativo guarda en la RAM que nadie está usando. La segunda vez que se lee un archivo, sale de la RAM en vez del disco; si un programa necesita esa memoria, el sistema la suelta.

En Linux, el comando free la muestra como buff/cache: por eso la memoria «libre» casi siempre se ve baja, y lo que importa es la columna available. Las escrituras también pasan primero por ahí y llegan al disco un poco después, y por eso una USB se «expulsa» antes de sacarla. Con mmap, un proceso usa directo las páginas de la page cache, sin hacer otra copia, y varios procesos comparten las mismas. En un servidor, la page cache es la diferencia entre un reinicio de segundos y uno de minutos, y medir un arranque con ella llena engaña.

Ejemplo. La búsqueda con embeddings de Alba, el marketplace que sigue el curso, sirve desde la page cache 51.2 GB de vectores por máquina: si no estuvieran ahí, cada máquina le pediría ≈ 175,000 lecturas al azar por segundo a sus discos de red, que juntos no pasan de ≈ 40,000: el techo de EBS (el servicio de discos de red de AWS) para esa máquina, y solo en ráfagas (un gp3 solo da 3,000 de base).

Se presenta en 17 · Memoria, caché y discoAparece en 5 lecciones

Pago por uso

pay-as-you-go

La forma de cobrar de la nube: cada cosa tiene su medidor y pagas solo lo que tuviste encendido o usaste, por hora, por GB al mes, por GB transferido o por request.

Las máquinas se cobran por tiempo encendidas (trabajen o no), el almacenamiento por GB al mes, la red por GB que sale o cruza de zona, muchos servicios por request y los modelos de lenguaje por millón de tokens. Para planear, se convierte todo a un mes de 730 horas (8,760 ÷ 12). Pagar por uso no es pagar lo que aprovechas: una máquina olvidada se cobra igual que una que trabaja.

Ejemplo. Una g4dn.xlarge a ≈ US$0.526 por hora: 0.526 × 730 ≈ US$384 al mes si nunca se apaga; 0.526 × 198 ≈ US$104 si solo está prendida 198 horas.

Se presenta en 38 · Qué es la nubeAparece en 3 lecciones

Paquete de Python

package

Una carpeta de módulos, normalmente con un archivo __init__.py adentro. Los puntos de un import son carpetas: app.preprocess es el archivo preprocess.py dentro de la carpeta app.

La palabra se usa para dos cosas. El paquete que se importa es la carpeta de módulos. Lo que se instala de PyPI también se llama paquete (más exacto: distribución), y su nombre no siempre es el que se importa: se instala pillow y se importa PIL; se instala scikit-learn y se importa sklearn; se instala PyYAML y se importa yaml. Por eso pip install PIL no sirve y import pillow da ModuleNotFoundError. Lo que va entre corchetes, como tritonclient[http], es un extra: una parte opcional con sus propias dependencias.

Ejemplo. El gateway de Alba es un paquete: la carpeta app/ con __init__.py, main.py (crea el servidor) y preprocess.py. Por eso se puede escribir from app.preprocess import preprocess.

Paquete de red

packet

Un pedazo de un mensaje que viaja solo por la red, con un encabezado que dice de dónde viene y a dónde va, y su carga: el pedazo de datos. En casi todas las redes mide como máximo ≈ 1,500 bytes.

La red parte cada mensaje en paquetes para que muchos aparatos se turnen el mismo cable, para reenviar solo lo que se daña y para que cada pedazo tome el camino libre. El tope de un paquete se llama MTU; en internet suele ser de 1,500 bytes, de los que 40 son los encabezados de IP y TCP, así que quedan 1,460 para datos. Los routers leen solo el encabezado y lo reenvían. Como cada paquete viaja por su cuenta, pueden llegar desordenados, repetidos o perderse: TCP los junta y pide los que faltan.

Ejemplo. El original de la foto de Ana, de 3 MB, serían 3,000,000 ÷ 1,460 → 2,055 paquetes; el JPEG de ≈ 200 KB que de verdad manda la app, 137. El tensor de 602 KB que el gateway le manda a Triton son 413; al pico de diseño, ≈ 206,500 paquetes por segundo.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 2 lecciones

Paralelismo

parallelism

Que varias tareas avancen en el mismo instante, cada una en su propio núcleo de la CPU (o en una GPU). Necesita hardware: con un solo núcleo, dos tareas nunca avanzan en el mismo instante.

Es lo único que acelera el trabajo de pura CPU: cuatro fotos de 40 ms de CPU tardan 160 ms en un núcleo y 40 ms en cuatro. Puede ir dentro de una tarea (4 hilos sobre la misma foto: menos latencia) o entre tareas (4 procesos, cada uno con su foto: más throughput). En CPython, los hilos no corren Python en paralelo por el GIL; sí lo hacen los procesos aparte y las librerías en C que lo sueltan. Una GPU es paralelismo en grande: miles de cuentas a la vez.

Ejemplo. Una ResNet-50 medida en la CPU de una laptop con 4 núcleos: 1 proceso con 4 hilos da ≈ 61 fotos por segundo, a ≈ 16.5 ms cada una; 4 procesos con 1 hilo, ≈ 86 fotos por segundo, a ≈ 46 ms.

Se presenta en 16 · Programa, proceso e hiloAparece en 3 lecciones

Parámetro

parameter · weight

Cada uno de los números internos de un modelo que el entrenamiento ajusta. Son sus «perillas».

Una combinación de valores de los parámetros hace que el modelo responda de una forma, y otra combinación, de otra. Entrenar es buscar la combinación con la que el modelo se equivoca menos. En inglés también se les dice weights (pesos).

Ejemplo. La ResNet-50 de Alba tiene unos 24.5 millones de parámetros con sus 500 categorías (25.6 millones en la versión original, de 1000).

Se presenta en 00 · El camino completoA fondo en 04 · Cómo aprende un modeloAparece en 13 lecciones

Paridad de punta a punta

end-to-end parity

Mandar fotos de referencia en JPEG por el gateway real, con el Triton real, y comprobar que la primera categoría (top-1) de cada una y su score salen como los guardados. Revisa el camino completo de la foto, no solo el modelo.

Es la tercera paridad de Alba. Las otras dos, la paridad en CPU y la paridad del engine, reciben la foto ya preparada, así que no pueden ver el preprocesamiento del gateway ni el orden de labels.json. Esta sí: sigue el camino de la foto de Ana. Pasa si en cada foto el top-1 es el guardado y el score no se mueve más de ε. Atrapa, por ejemplo, un gateway que lee los colores en orden BGR. Es una prueba de paridad aplicada al sistema completo.

Ejemplo. En Alba: 20 fotos de referencia, en el runner con T4, después de cada merge; top-1 igual y scores a ≤ 0.01; el examen tarda ≈ 1 min, y con prender la máquina, ≈ 5.

Paridad del engine

engine parity

El examen que comprueba que el modelo convertido que se va a servir responde lo mismo que el modelo que se evaluó: la misma primera sugerencia (top-1) en casi todas las fotos y logits casi iguales. No mide si el modelo es bueno, sino si es el mismo.

Convertir un modelo (a ONNX, a un engine FP16) mueve un poco sus números. La paridad corre el original y el convertido sobre las mismas fotos y compara tres cosas: el acuerdo top-1, el solapamiento de las 5 primeras sugerencias y la diferencia máxima de logits. Si pasa, lo que midió el gate de calidad sigue valiendo para el engine. Es distinta de la prueba de paridad del preprocesamiento. Se corre en tres lugares: en CPU al exportar, con el engine en el servidor y de punta a punta por el gateway.

Analogía. La prueba de imprenta de un libro: la editorial compara lo impreso con el archivo aprobado antes del tiraje. Dónde se rompe: la prueba se espera idéntica; el engine no, y por eso la paridad mide cuánto cambia con umbrales.

Ejemplo. Alba corre el engine FP16 en Triton contra PyTorch FP32 en ≈ 10,000 fotos del golden set: top-1 igual en ≥ 99.5 % (a lo más 50 fotos cambian), top-5 que coincide en ≥ 99 % y diferencia máxima de logits ≤ 0.5 (lo normal es ≈ 0.01). Si falla, no se registra la versión y sigue el champion.

Se presenta en 51 · Export, engine y paridadAparece en 3 lecciones

Parquet

Apache Parquet

El formato columnar más usado para guardar tablas grandes: guarda cada columna junta, en su tipo y comprimida, con su esquema y estadísticas en un pie al final del archivo. Lo leen herramientas de datos como pandas, Spark, DuckDB o Athena.

Un archivo Parquet parte la tabla en row groups; dentro de cada uno, cada columna va junta, codificada (con diccionario o contando repeticiones) y comprimida con snappy, zstd o gzip. El pie trae el esquema con tipos exactos, dónde empieza cada row group y, por columna, el mínimo, el máximo y los nulos. Quien lee empieza por el pie, elige columnas y row groups y salta solo a esos bytes. No sirve para añadir filas sueltas ni para cambiar una fila: se escribe en lotes. Empieza y termina con los bytes PAR1. Suele guardarse en carpetas por fecha, una partición, en un data lake.

Ejemplo. Un día de logs de Alba: 3 GB en JSON Lines, de 300 a 600 MB en Parquet (de 5 a 10 veces menos). El job de drift lee 2 de 30 columnas: ≈ 40 MB.

Se presenta en 27 · Archivos y formatos: JSON, CSV, Parquet y YAMLAparece en 7 lecciones

Partición (de datos)

partition · data partitioning

Cada grupo en que se divide una tabla grande según el valor de una columna, casi siempre la fecha, con ese valor escrito en la llave: dt=2026-11-06/. Así una consulta o un job lee solo los días que necesita y no el año.

La convención columna=valor la entienden Spark, Athena, DuckDB y los warehouses: si la consulta filtra por fecha, el motor lista solo esos prefijos (partition pruning). También hace que cada corrida diaria escriba solo su partición, así que un error se arregla reescribiendo un día, y que un backfill sea la misma corrida repetida por cada día viejo. Se puede partir por más de una columna (dt=…/model_version=resnet50-2026-10-01/). Reglas: partir por lo que más se filtra, no hacer particiones tan finas que dejen millones de archivos chiquitos (se buscan de ≈ 100 MB a 1 GB) y decidir si la fecha es la de llegada o la del evento (event time). No es la partición de un tópico de Kafka (partición del tópico), que reparte mensajes entre consumidores.

Ejemplo. Con el log de Alba en Parquet, ≈ 0.5 GB al día, una consulta de los últimos 7 días lee 7 × 0.5 = 3.5 GB con particiones y 365 × 0.5 = 182.5 GB sin ellas, si la tabla guarda un año: 182.5 ÷ 3.5 ≈ 52 veces más.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 6 lecciones

Partición del tópico

topic partition

Uno de los pedazos en que se parte un tópico (un stream de eventos con nombre): un registro propio, con sus posiciones numeradas (offsets), que se escribe y se lee en paralelo con los demás. El orden de los eventos solo vale dentro de una partición.

El productor pone a cada evento una llave, y su biblioteca de Kafka calcula una función hash de la llave (murmur2 en la biblioteca oficial de Java) y toma el residuo entre el número de particiones: la misma llave cae siempre en la misma partición, y por eso los eventos de una misma entidad quedan en orden. Entre particiones no hay orden. El número de particiones es el techo de paralelismo de un grupo de consumidores, y cambiarlo después mueve las llaves de partición. No confundir con la partición de datos, que parte un dataset guardado en carpetas por fecha.

Ejemplo. En un sistema de detección de fraude con tarjetas, la llave es la tarjeta: todos los pagos de una tarjeta caen en la misma partición y se procesan en orden. El tópico lleva 48 particiones, elegidas por el paralelismo de Flink y no por los bytes.

Se presenta en 30 · Colas y streams: mensajes que esperanAparece en 3 lecciones

Paso

step · iteration · iteración

Una vuelta del ciclo de entrenamiento con un batch: pasar las fotos por el modelo, medir la pérdida, calcular el gradiente y ajustar los parámetros.

Es la unidad con la que se cuenta el entrenamiento: el scheduler y el warmup se definen en pasos, y el checkpoint anota en qué paso iba. Pasos por época = ejemplos ÷ tamaño del batch, redondeado hacia arriba (o hacia abajo, si se tira el último batch incompleto).

Ejemplo. Alba, el marketplace que sigue el curso: 1,840,211 fotos ÷ 64 = 28,753.3, redondeado hacia arriba son 28,754 pasos por época; por 8 épocas, 230,032 pasos.

Se presenta en 04 · Cómo aprende un modeloAparece en 2 lecciones

PATH

PATH · search path

La variable de entorno con la lista de carpetas, separadas por :, donde la shell busca los programas, en orden. Si un programa no está en ninguna, sale «command not found» con el código 127.

Cuando la primera palabra de un comando no trae /, la shell revisa cada carpeta de PATH, de izquierda a derecha, y corre el primer archivo ejecutable con ese nombre. Con / (./entrenar, /usr/bin/ls) no busca: va directo a esa ruta. La carpeta actual no está en PATH, por seguridad. Poner una carpeta al principio (PATH="$HOME/bin:$PATH") hace que sus programas ganen; activar un entorno de Python hace justo eso con su carpeta bin. No es lo mismo que una ruta: la ruta es la dirección de un archivo; PATH, una lista de carpetas donde buscar.

Ejemplo. Con PATH=/usr/local/bin:/usr/bin:/bin, python3 corre /usr/local/bin/python3 si existe, aunque también haya uno en /usr/bin. En una imagen sin /opt/venv/bin en PATH, Kubernetes reporta exec: "uvicorn": executable file not found in $PATH.

Se presenta en 32 · La terminal y la shellAparece en 3 lecciones

PCIe

PCI Express

La conexión (el bus) por donde la CPU habla con las tarjetas de la máquina, como la GPU. Va por carriles, y cada generación duplica la velocidad: una GPU con 16 carriles Gen3, como la T4, recibe ≈ 16 GB/s en cada sentido.

Cada carril tiene cables para ir y otros para volver, así que las dos direcciones van a la vez: Gen3 da ≈ 1 GB/s por carril en cada sentido, Gen4 ≈ 2 y Gen5 ≈ 4. NVIDIA suele anunciar las dos direcciones sumadas (64 GB/s para la Gen4 x16 de la L4). La copia la hace la GPU leyendo directo de la RAM (DMA, direct memory access), desde memoria fijada (pinned). Para una foto, PCIe casi no cuenta; importa con lo grande o lo repetido: cargar los pesos de un LLM, video sin comprimir o tensores que van y vienen entre la CPU y la GPU en cada request. Entre GPUs se usa NVLink, mucho más rápido.

Ejemplo. El tensor de Ana, 602,112 bytes en float32, cruza PCIe Gen3 x16 en ≈ 38 µs: ≈ 1 % del cálculo de la GPU y nada contra los 2 a 4 ms de la red. Los ≈ 49 MB de pesos de la ResNet-50 de Alba, la empresa de ejemplo del curso, en FP16, una sola vez al arrancar: ≈ 3 ms.

Se presenta en 18 · CPU y GPUAparece en 4 lecciones

Peeking

peeking · mirar antes de tiempo

Revisar una prueba A/B cada rato y pararla en cuanto sale «significativa». Cada mirada es otra oportunidad de que el ruido cruce el corte: mirando 14 días, las falsas alarmas pasan del 5 % a más del 20 %.

El 0.05 de un p-value vale para un análisis al final, con la muestra que se fijó antes. Hay dos salidas: fijar duración y muestra antes y decidir solo al final (los guardrails sí pueden parar un daño, pero no declarar victoria), o usar una prueba secuencial, diseñada para mirar muchas veces sin inflar el error.

Ejemplo. En 2,000 A/A simulados de 14 días: decidiendo solo el día 14, 5.2 % de falsas alarmas; parando el primer día que p < 0.05, 22.9 %. Una simulación más grande, con 20,000 A/A, da ≈ 22 %.

Percentil

percentile · quantile

El percentil p es el valor que deja en él o abajo de él al p % de los datos. El p50 es la mediana; el p99 solo deja arriba a 1 de cada 100.

Se calcula ordenando los datos. Con el método del rango más cercano, la posición es r=q/100×N, redondeada hacia arriba (redondear hacia arriba (ceil)): q es el percentil (99 para el p99) y N, cuántos valores hay. Otros métodos interpolan entre dos vecinos, y con pocos datos dan números distintos en la cola: importa usar siempre el mismo. Las herramientas de monitoreo los llaman cuantiles y los escriben como fracción (0.99). No se suman ni se promedian: el p99 de varios servidores se saca sumando sus buckets y calculando al final.

Ejemplo. Con 20 latencias ordenadas, el p95 es la 19.ª (r = 0.95 × 20 = 19), 160 ms, y el p99 es la 20.ª (r = 0.99 × 20 = 19.8, que se redondea a 20), la más lenta, 900 ms.

Se presenta en 10 · Promedios, medianas y percentilesAparece en 4 lecciones

Perceptrón

perceptron

Una de las primeras neuronas artificiales que aprendían solas (Frank Rosenblatt, 1958): suma sus entradas con pesos y responde 1 si la suma pasa de 0. Solo puede separar lo que se separa con una recta.

Su regla de aprendizaje es corregirse solo cuando se equivoca: si dijo 0 y era 1, le suma cada entrada a su peso; si dijo 1 y era 0, se la resta. Aprende el AND (da 1 solo si las dos entradas valen 1) en unas cuantas vueltas, pero nunca el XOR (da 1 si exactamente una vale 1), porque su frontera es una recta y los casos del XOR no se separan con una. Minsky y Papert convirtieron ese límite en teorema en 1969; se resolvió con capas ocultas, el MLP.

Ejemplo. Con w₁ = 2, w₂ = 1 y b = −2 calcula el AND: solo la entrada (1, 1) da una suma positiva, 2 + 1 − 2 = 1.

Pérdida

loss · loss function · función de pérdida

Un número que mide qué tan equivocado está el modelo: 0 si acierta con total seguridad, y más grande mientras peor le va. Entrenar es hacer que baje.

La fórmula depende de la tarea. Para clasificar, la más usada es la entropía cruzada: −ln de la probabilidad que el modelo le dio a la respuesta correcta. Para predecir un número, el error cuadrático medio. Para un batch se promedian las de todos sus ejemplos. A diferencia de contar aciertos, cambia un poquito con cada cambio pequeño de las perillas, y por eso dice hacia dónde mejorar.

Ejemplo. El modelo le da 94 % a «Tenis» y eran tenis: −ln(0.94) ≈ 0.062. Si le diera 10 %: −ln(0.10) ≈ 2.30. Un modelo que reparte parejo entre 500 categorías: −ln(1/500) ≈ 6.21.

Se presenta en 04 · Cómo aprende un modeloAparece en 8 lecciones

perf_analyzer

perf_analyzer

La herramienta de NVIDIA que mide un servidor Triton desde afuera, como un cliente: manda peticiones a una tasa fija y reporta la latencia (percentiles p50, p99…) y el throughput. Su p99 es el que decide si un modelo cabe.

perf_analyzer le habla a Triton por la red y mide cada petición de ida y vuelta, así que incluye la fila del servidor, la espera del batching dinámico y el cómputo. Con una tasa fija (carga abierta) mide lo que vivirá el gateway. Es la base de un gate de latencia: el p99 del modelo nuevo, a las tasas de diseño, comparado con el del modelo actual medido igual. No confundir con trtexec, que mide el engine solo.

Ejemplo. Alba corre perf_analyzer contra la imagen nueva de Triton en la T4 a 250 peticiones por segundo (la parte de una T4 en el pico de diseño) y a 500 (una zona caída). Pasa si el p99 no sube más de 10 % sobre el del champion a las dos tasas; también anota el throughput máximo, la VRAM y el tiempo de carga.

Perfil de optimización

optimization profile

Las tres formas de entrada que se le dan a TensorRT para un eje variable (como el tamaño del batch): la mínima, la óptima y la máxima. El engine acepta cualquier forma entre la mínima y la máxima, y elige cómo hacer cada capa pensando en la óptima.

Un ONNX con batch dinámico acepta cualquier batch, pero un engine necesita un rango, porque elige sus kernels cronometrando tamaños concretos. El perfil da tres: mínima (lo más chico que acepta), óptima (para la que se cronometra) y máxima (lo más grande; un batch mayor no entra). La máxima debe coincidir con el batch máximo del servidor. Si el tráfico real trae batches muy distintos de la óptima, conviene probar otra y quedarse con la de mejor p99.

Ejemplo. El engine de Alba tiene mínima 1, óptima 16 y máxima 32 (--minShapes=input:1x3x224x224, --optShapes=input:16x3x224x224, --maxShapes=input:32x3x224x224). En la hora pico los batches reales son de ≈ 1 a 3, así que el 16 es un punto de partida, no un dato.

Permisos

file permissions · rwx · chmod

Lo que cada usuario puede hacer con un archivo: leerlo (r), escribirlo (w) o ejecutarlo (x), en tres juegos: para el dueño, para su grupo y para los demás. Se escriben en letras (rwxr-x---) o con un número del 0 al 7 por juego (750).

Cada proceso corre como un usuario, que el kernel conoce por un número, el UID, y que pertenece a grupos (cada uno con su número, el GID). Cada archivo tiene un dueño, un grupo y 9 bits de permiso. Cada juego de 3 bits es un número del 0 al 7 (r = 4, w = 2, x = 1): por eso rwxr-x--- es 750. En una carpeta, r deja ver los nombres, w crear y borrar adentro, y x entrar: para leer un archivo hace falta x en todas las carpetas de su ruta. Se cambian con chmod (los bits) y chown (el dueño). Cuando no alcanzan, el kernel responde «Permission denied» (errno 13). Root se los salta.

Ejemplo. 644 (rw-r--r--) para el código, 755 (rwxr-xr-x) para un programa o una carpeta, 600 (rw-------) para una llave privada. En un sistema de video con cámaras, la configuración con la contraseña de las cámaras se guarda con 0600. Nunca 777: cualquiera podría cambiarlo.

Se presenta en 19 · El sistema operativo: Linux, archivos y permisosAparece en 4 lecciones

Permisos del workflow

workflow permissions

El bloque permissions de un workflow o de un job: qué puede hacer el token que GitHub le da. Se pide lo mínimo, como contents: read, y se agrega solo lo que un job necesita.

Cada job recibe un token de GitHub para tocar su repositorio. Sin permissions, sus permisos dependen de la configuración del repositorio o de la organización; escribirlos en el YAML los deja a la vista y en Git. contents: read deja leer el código. id-token: write no deja escribir nada en el repositorio: deja pedir un token de identidad de OIDC para entrar a una nube. Un job que declara permissions reemplaza los de arriba.

Ejemplo. gateway.yml de Alba pone contents: read para todos, y solo el job imagen agrega id-token: write para entrar a AWS y subir a ECR.

Pesos horneados en la imagen

baked-in weights

Meter el modelo dentro de la imagen del servidor, en vez de bajarlo al arrancar. La imagen es entonces «este modelo servido así», y su tag puede ser la versión del modelo.

Ventajas: un solo nombre para lo que corre, volver atrás es desplegar el digest anterior y nada que bajar aparte al arrancar. Costos: una imagen por versión del modelo, y quien puede bajar la imagen puede leer el modelo. Los pesos van en la última capa, para que una versión nueva solo cambie esa. Una regla práctica por tamaño (no un estándar): hasta ≈ 1 GB, dentro; decenas de GB, fuera.

Ejemplo. El engine de Alba (≈ 50–150 MB) va horneado en classifier-triton:resnet50-2026-10-01, en su última capa, sobre una base de ≈ 9.2 GB. El LLM propio de Alba, de ≈ 70.6 GB, no: ni cabe en una capa del registro.

Pickle

pickle

La forma propia de Python de guardar casi cualquier objeto en bytes. Un pickle no es una tabla de datos sino una lista de instrucciones para reconstruir el objeto, y por eso cargarlo puede ejecutar cualquier código.

Para reconstruir objetos que no conoce, el pickle trae instrucciones como «busca esta función de este módulo» y «llámala con estos argumentos». Si el archivo pide os.system, la máquina que lo carga lo llama. La documentación de Python advierte que nunca se cargue un pickle que no sea de confianza. El .pt de PyTorch es un zip con un pickle adentro (y también los .pth y .bin); lo mismo los modelos de scikit-learn guardados con pickle o joblib. Defensas: torch.load(..., weights_only=True), por omisión desde PyTorch 2.6, que solo permite tensores y tipos básicos; guardar los pesos en safetensors; y comprobar el hash de cada archivo antes de cargarlo.

Analogía. Como un mueble que llega desarmado con un instructivo, pero el instructivo lo arma una máquina que obedece cualquier paso, incluido «y ahora abre la puerta de la casa». Se rompe en que un instructivo de verdad lo lee una persona que se daría cuenta; la máquina de pickle no revisa nada.

Ejemplo. Una clase con __reduce__ que devuelve (print, ("¡esto se ejecutó!",)) imprime el mensaje en el momento de pickle.loads, sin que quien carga haya escrito ese código.

Se presenta en 27 · Archivos y formatos: JSON, CSV, Parquet y YAMLAparece en 4 lecciones

PID

process ID

El número con el que el sistema operativo identifica a un proceso (un programa corriendo) mientras vive. Con él se le habla; por ejemplo, para pedirle que termine.

Lo asigna el kernel al crear el proceso, en orden; al llegar al tope vuelve a empezar y reusa los de procesos que ya terminaron. Por eso cambia en cada corrida. Cada proceso conoce también el PID de su padre (el PPID), y así los procesos forman un árbol. El PID 1 es el primero que arranca: en Linux suele ser systemd; en una Mac, launchd. Un contenedor tiene su propia numeración: adentro, el PID 1 es el programa principal (por fuera, la máquina le da otro número), y tiene una regla especial: el kernel no le aplica la acción por omisión de una señal (salvo la de un SIGKILL que llegue de afuera), así que si no maneja SIGTERM, la señal se ignora.

Ejemplo. kill 4821 le manda SIGTERM al proceso con PID 4821. En la imagen del gateway de Alba, el CMD en forma exec hace que uvicorn sea el PID 1 y reciba el SIGTERM de cada deploy.

Se presenta en 16 · Programa, proceso e hiloAparece en 5 lecciones

PII

PII · personally identifiable information

Información que identifica a una persona: nombre, correo, teléfono, número de identificación, dirección. Es el término técnico que viene de Estados Unidos y se usa mucho como lista; las leyes hablan de «dato personal», que es más amplio.

La diferencia importa: un log puede no traer nada de una lista de PII y aun así traer datos personales, porque un id de dispositivo, un prefijo de hash o un request_id se pueden unir con otra tabla para llegar a la persona. Cuando un equipo dice «el log no trae PII», la pregunta de vuelta es si trae algo que, cruzado con otra cosa, lleve a alguien. La práctica de taparla en textos (correos, teléfonos) antes de guardarlos se llama redacción de PII.

Ejemplo. El log de Alba no trae nombre, correo ni teléfono: «sin PII directa». Pero trae el request_id, que el backend une con la publicación de Ana: es dato personal seudónimo.

pip

pip

El instalador de paquetes que viene con Python: baja paquetes del índice público PyPI (o de otro índice) y los copia en la carpeta de paquetes instalados (site-packages), junto con todo lo que ellos piden.

Sus comandos de todos los días: pip install pillow==12.3.0, pip install -r requirements.txt, pip list, pip freeze (lo instalado como nombre==versión), pip show y pip uninstall. Por dentro tiene un resolvedor (resolver) que busca una versión de cada paquete que cumpla todas las reglas; si dos chocan, como colores>=2.0 y colores<2, se rinde con ResolutionImpossible. En una máquina puede haber varios Pythons, y el comando pip es el primero que la shell encuentra en el PATH: puede ser de otro Python. Por eso se usa python -m pip, que corre el pip de ese Python. Con --require-hashes revisa el hash de cada archivo contra el lock; con --only-binary=:all: se niega a compilar.

Ejemplo. Si pip install pillow dice «Successfully installed» y import PIL falla, which python, python -m pip --version y python -c "import sys; print(sys.prefix)" deben hablar del mismo lugar. En un contenedor de prueba: pip 26.2.2 from /usr/local/lib/python3.13/site-packages/pip (python 3.13).

Se presenta en 33 · Python, paquetes y entornosAparece en 5 lecciones

Pipeline

pipeline

Una cadena de pasos donde lo que sale de uno es lo que entra al siguiente, y que se puede volver a correr igual.

Lo importante es que se pueda volver a correr igual: si cada paso lee una versión fija de lo que le entra y guarda lo que sale, cualquiera puede repetir el resultado o encontrar en qué paso se rompió. En producción casi todo es un pipeline: el de datos, el de entrenamiento y el de despliegue.

Analogía. Una línea de ensamblaje: cada estación hace una cosa y le pasa la pieza a la siguiente. Se rompe en que la línea hace piezas iguales sin parar; un pipeline corre de vez en cuando y cada corrida guarda con qué datos corrió, para poder repetirla.

Ejemplo. El camino de Alba es un pipeline: datos → modelo → API → contenedor → orquestación → monitoreo.

Se presenta en 00 · El camino completoAparece en 7 lecciones

Píxel

pixel

Cada cuadrito de un solo color en que se divide una imagen digital. En una foto a color, cada píxel son tres números: cuánto rojo, cuánto verde y cuánto azul.

Una foto es una cuadrícula de píxeles: tantos de ancho por tantos de alto. Por eso, para un modelo, una foto no es un dibujo sino una tabla de números.

Ejemplo. Un píxel naranja: R 236, G 106, B 63.

Se presenta en 02 · Una foto, vista por un modeloAparece en 6 lecciones

Plano de control

control plane

El cerebro de Kubernetes: guarda lo que pediste que corra (el estado deseado) y lo hace cumplir. Recibe lo que pides por su API y manda crear o quitar copias de tus programas. No corre tus programas.

Guarda lo que pediste («2 copias de Triton») y unos controladores comparan sin parar lo que hay contra lo que se pidió. En Kubernetes gestionado lo opera el proveedor. Su SLA cubre su API, no tus pods: si un nodo se queda sin memoria, el proveedor cumplió y tu servicio está caído. Si el plano de control se cae un rato, lo que ya corre sigue corriendo, pero nada nuevo se crea.

Analogía. El gerente de un restaurante: tiene la lista de lo que debe haber y manda a reponerlo, pero no cocina. Se rompe porque si el gerente se va un rato, la cocina sigue sirviendo.

Ejemplo. EKS promete 99.95 %: hasta ≈ 21.6 minutos al mes con la API caída, sin que tus pods dejen de atender.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 3 lecciones

Plataforma de ML gestionada

managed ML platform (SageMaker AI / Agent Platform / Azure ML)

Una caja de servicios de la nube para entrenar, servir y registrar modelos sin operar servidores: Amazon SageMaker AI, Gemini Enterprise Agent Platform de Google Cloud (antes Vertex AI) y Azure Machine Learning.

Trae piezas sueltas: jobs de entrenamiento, endpoints de tiempo real, inferencia asíncrona, serverless, batch, pipelines, registro de modelos, feature store y monitoreo. Nadie usa todas. Para entrenar casi siempre conviene: cobra por segundo y apaga las máquinas sola. Para servir, depende: sobreprecio por hora, cobros por GB, límites de payload y menos visibilidad. Sus máquinas salen de la misma capacidad que las normales y tienen cuotas propias.

Ejemplo. El fine-tune mensual de Alba corre como job gestionado por ≈ US$10–50; el serving se queda en EKS porque con el endpoint gestionado la infraestructura costaría ≈ 1.8× (≈ US$3.3k contra ≈ US$1.8k al mes).

Plataforma de una imagen (amd64/arm64)

image platform

El sistema y la arquitectura de CPU para los que se construyó una imagen, como linux/amd64 o linux/arm64. Una imagen de una no corre en la otra.

Los programas de la imagen ya están compilados para una arquitectura. En otra, el contenedor muere con exec format error. Una Mac con chip de Apple construye arm64 sin preguntar; para otra plataforma se usa docker buildx build --platform linux/amd64 o se construye en CI. Una imagen multiplataforma es un índice con una imagen por plataforma.

Ejemplo. Las imágenes de Alba son linux/amd64, la plataforma de sus máquinas g4dn (con GPU) y c6i (sin GPU), y las construye CI en máquinas amd64.

Se presenta en 53 · Empaquetado con DockerAparece en 2 lecciones

PNG

PNG

Un formato de imagen que comprime sin pérdida: al decodificar salen exactamente los mismos píxeles. Puede tener transparencia.

Es bueno para capturas de pantalla, logos y dibujos; para fotos ocupa bastante más que un JPEG. Puede venir con 4 canales (RGBA: rojo, verde, azul y transparencia), en blanco y negro, con 16 bits por canal o con una paleta de colores: hay que convertirlo a RGB antes del modelo, y antes de achicarlo.

Ejemplo. Un PNG de 40 MP con transparencia y 16 bits por canal ocupa 40 M × 4 × 2 B = 320 MB al decodificarse.

Se presenta en 02 · Una foto, vista por un modeloAparece en 3 lecciones

Población

population

Todo el conjunto del que quieres saber algo: todas las fotos que el modelo va a ver, todos los vendedores, todos los votantes. Casi nunca se mide completa; se estima con una muestra.

El número de la población (la accuracy «de verdad», la tasa de aceptación real) es fijo pero desconocido. La muestra da una estimación con su ruido. Ojo: la población de producción cambia con el tiempo (drift), así que un examen de hace 8 meses describe a la población de hace 8 meses.

Ejemplo. Si el modelo de Alba, el marketplace que sigue el curso, acierta el 85 % de todas las fotos que suben los vendedores este mes, ese 85 % es un número de la población. Nadie lo ve completo: se estima con exámenes de miles de fotos.

Pod

pod

Lo más chico que Kubernetes pone a correr en una máquina: uno o más contenedores que comparten la misma dirección de red (IP) y los mismos discos, y que viven y mueren juntos.

Un pod es efímero: si muere, no se revive; un controlador (ReplicaSet, Deployment) crea otro, con otro nombre y otra IP. Por eso nadie le habla a un pod por su IP: le habla a un Service, que mantiene la lista de pods listos. El scheduler (el programa que decide dónde corre cada pod) elige su nodo según lo que pide (requests), sus etiquetas, sus tolerations y su zona; el kubelet (el agente de Kubernetes en cada máquina) de ese nodo lo arranca y le hace sus probes. Si ningún nodo sirve, queda Pending (esperando lugar).

Analogía. Una mesa de restaurante con sus platos: lo que se sirve junto, en el mismo lugar. Se rompe en que una mesa se puede limpiar y reusar; un pod que se va no vuelve, se pone otra mesa.

Ejemplo. En Alba, un pod de Triton es un contenedor de Triton con una T4 entera (triton-v14-7d9f8c6b5-x2kqp), y un pod del gateway es un proceso de uvicorn con 1 vCPU de request.

Se presenta en 55 · KubernetesAparece en 16 lecciones

PodDisruptionBudget

PodDisruptionBudget

Un mínimo de pods listos que Kubernetes respeta en los apagados voluntarios: vaciar un nodo, actualizar el clúster o juntar pods para apagar una máquina.

Se escribe como minAvailable (cuántos deben quedar) o maxUnavailable (cuántos pueden faltar). Kubernetes niega la salida de un pod si dejaría menos del mínimo, y el que quería sacarlo espera. No protege de lo involuntario: un nodo que muere o una zona que cae no piden permiso. Si el mínimo es igual a las réplicas, ningún drain (el vaciado de un nodo) avanza nunca.

Ejemplo. Triton en Alba tiene minAvailable: 1 con 2 réplicas: se puede vaciar un nodo con T4 a la vez, nunca los dos.

Se presenta en 55 · KubernetesAparece en 2 lecciones

Point-in-time correctness

point-in-time correctness

Armar cada fila del dataset de entrenamiento con el valor que cada feature (cada dato de entrada del modelo) tenía en el momento de la predicción, no con el de hoy. Si no, el modelo aprende con información del futuro.

La herramienta es un join as-of: para cada evento, el último valor de cada feature con timestamp menor o igual al del evento, y no más viejo que un límite (por ejemplo, 2 horas). La hora que cuenta es cuándo el valor estuvo disponible para el servicio, no cuándo terminó su ventana. Las etiquetas y las features hechas con etiquetas se cuentan por su fecha de llegada. Nada de now() dentro de una feature: la fecha de referencia llega como parámetro, para que un backfill dé lo mismo. Saltarse esto es leakage: la validación sale espectacular y producción no. Un feature store hace el join as-of por ti; en pandas es merge_asof.

Ejemplo. La feature «pagos en 1 h» vale 2, 3, 7 y 4 a las 09:00, 10:00, 10:30 y 11:00. Una decisión de las 10:10 toma el 3 y una de las 10:35 el 7; «el valor de hoy» les daría 4 a las dos.

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 4 lecciones

Política de admisión

admission policy

Una regla de Kubernetes que revisa cada programa (cada pod) antes de dejarlo correr en el cluster, por ejemplo que su imagen traiga una firma válida de tu pipeline.

En Kubernetes, un controlador de admisión ve cada objeto antes de crearlo y puede rechazarlo. Herramientas como Kyverno o el policy-controller de Sigstore verifican ahí las firmas. Con eso, tener permiso de subir una imagen al registro ya no basta para correrla: también tiene que haberla firmado el pipeline.

Ejemplo. En Alba, un pod cuya imagen no trae la firma del CI de Alba se rechaza al crearse. El gateway se despliega por digest, y el rollback (regresar a la versión anterior) es volver a desplegar el digest anterior, que también está firmado.

Se presenta en 46 · Ataques y cadena de suministroAparece en 2 lecciones

Política de la fila (de Triton)

queue policy

La regla de Triton sobre las requests que esperan en su fila: cuánto pueden esperar y qué pasa al pasarse. Alba usa REJECT a los 100 ms: la request sale con error en vez de correr tarde.

Va dentro de dynamic_batching en el config.pbtxt (default_queue_policy { timeout_action: REJECT default_timeout_microseconds: 100000 }). Con REJECT, Triton saca de la fila lo que pasó el plazo y responde con error; con DELAY, la deja esperando detrás de las que todavía están a tiempo. Rechazar es una decisión de diseño: correr una request que ya esperó demasiado gasta GPU en una respuesta que llegará tarde y hace más lentas a las demás. Es el último eslabón de la cadena de deadlines.

Ejemplo. En Alba: app 300 ms > gateway 250 > llamada a Triton 150 > fila de Triton 100. Bajo sobrecarga se ven 503 rápidos y el selector manual (la vendedora elige la categoría a mano), no una fila que crece.

Política de la llave

key policy

La lista de quién puede usar una llave de KMS (el servicio de la nube que guarda llaves) y para qué: cifrar, descifrar o administrarla. Es lo que de verdad decide quién lee un dato cifrado en reposo.

Para leer un objeto con SSE-KMS no basta el permiso sobre el bucket (la política de IAM, el sistema de permisos de AWS): también hace falta kms:Decrypt en la llave. Así un error en el bucket no basta para exponer los datos, y cada uso queda registrado; para eso la política nombra a los roles que descifran y no le delega ese permiso a IAM, como hace la política que KMS pone por omisión. Se escribe con mínimo privilegio: quien solo escribe recibe kms:GenerateDataKey; quien lee, kms:Decrypt; casi nadie, permiso para administrarla o borrarla.

Ejemplo. En Alba, el rol de Fluent Bit (el programa que junta los logs) puede pedir llaves de datos para escribir logs, pero no descifrar (sube cada archivo con un solo PutObject: una subida en partes también pediría kms:Decrypt); el rol del job de etiquetado puede descifrar las fotos a etiquetar.

Política de permisos

IAM policy

Un documento con reglas de qué acciones se permiten o se niegan sobre qué recursos. Cada regla tiene un efecto (Allow o Deny), unas acciones y unos recursos.

En AWS se escribe en JSON. Se evalúa con tres reglas: por omisión, todo se niega; un Allow que coincide lo permite; un Deny explícito gana siempre. Los recursos se nombran con ARN y pueden acotarse por prefijo (alba-artefactos/triton/*). Hay más capas (reglas de la organización, políticas del bucket), pero estas tres son el corazón.

Ejemplo. {"Effect": "Allow", "Action": "s3:GetObject", "Resource": "arn:aws:s3:::alba-artefactos/triton/*"}: leer, solo bajo triton/, de ese bucket.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 3 lecciones

Política de retención de imágenes

image lifecycle policy

La regla de un repositorio del registro de imágenes que dice qué imágenes se borran solas: por ejemplo, las que no tienen tag, o todas menos las últimas N.

Sin retención, un repositorio que recibe imágenes todos los días crece sin fin. La regla no sabe qué imagen corre en producción, así que debe escribirse para que la que corre y la anterior siempre sobrevivan: contando imágenes (las últimas N) y no por antigüedad. «Borra lo de más de 30 días» borra la versión estable en un mes sin despliegues, y con ella el rollback. Es la misma idea que el ciclo de vida de un bucket, aplicada a imágenes.

Ejemplo. En Alba: las imágenes sin tag se borran al día; del gateway se guardan las últimas 200 (con 3 a 5 merges al día, ≈ 40 a 67 días); de Triton, las últimas 12, un año de modelos.

Polling

polling

Enterarse de que algo terminó preguntando cada cierto tiempo: el cliente consulta el estado de un trabajo (GET /v1/jobs/{id}) hasta que diga que acabó.

Es simple y sirve para cualquier cliente, incluso uno sin dirección pública. Su costo sale de la ley de Little: trabajos vivos = llegada × duración, y cada uno pregunta. Con preguntas frecuentes, la API de estado recibe muchas más requests que la de crear trabajos, y casi todas contestan «todavía no». Se modera con un intervalo sugerido por el servidor (Retry-After), con un intervalo que crece y con lecturas baratas. Preguntar menos seguido baja la carga, pero el cliente se entera más tarde.

Ejemplo. 50 trabajos por segundo que viven ≈ 200 s son 50 × 200 = 10,000 vivos; con polling cada 2 s, son 10,000 ÷ 2 = 5,000 consultas por segundo, 100 veces la tasa de creación, y solo 50 ÷ 5,000 = 1 % encuentra el trabajo terminado.

Pool de conexiones

connection pool

Un grupo de conexiones abiertas que un cliente guarda y presta: cada request toma una libre, la usa y la devuelve. Ahorra abrir una conexión por request y pone un tope a cuántas van a la vez.

En HTTP/1.1, una conexión lleva una request a la vez, así que 16 llamadas simultáneas necesitan 16 conexiones. El pool las mantiene abiertas con keep-alive. Si no hay una libre y no llegó a su máximo, abre otra; si llegó, la request espera su turno, y así el pool limita la concurrencia hacia un servidor. En Python lo traen requests.Session, httpx.Client y http.client.HTTPConnection (una conexión); se crea uno por proceso y se reusa, nunca uno por request. Un pool que no renueva sus conexiones las deja pegadas a los mismos servidores: el que acaba de llegar recibe poco tráfico.

Ejemplo. El gateway de Alba crea un solo cliente de Triton por proceso, con su pool: reusa las conexiones y no hace un handshake por cada foto.

Se presenta en 22 · HTTP: requests, respuestas y códigosAparece en 5 lecciones

Pooling

pooling · max pooling · average pooling

Resumir cada cuadrito de un mapa en un solo número (el mayor, o el promedio) para achicarlo. No tiene parámetros: no aprende nada.

Un max pooling de 2 × 2 con stride 2 deja los mapas con la cuarta parte de los números; su tamaño sale de la misma fórmula que el de una convolución. Se pierde exactamente dónde estaba algo dentro del cuadrito, pero se conserva que sí estaba. Al final de la ResNet-50, un pooling global promedia cada mapa entero en un número.

Ejemplo. El cuadrito 5, 6, 7, 3 con max pooling da 7.

Postmortem sin culpables

blameless postmortem

El documento que se escribe después de un incidente: qué pasó, cuánto afectó, cómo se detectó y qué se hará para que no se repita, sin buscar a quién culpar.

Lleva línea de tiempo, impacto, con qué señal se detectó y acciones con dueño y fecha. Es sin culpables porque busca qué dejó pasar el error, no quién lo cometió: así la gente cuenta lo que de verdad pasó. En ML la pregunta clave es qué señal lo habría detectado antes.

Ejemplo. Alba escribe uno después de cada page con impacto en usuarios, en ≤ 5 días hábiles. Si una versión nueva de la app que comprimía más las fotos solo se detectó seis días después, por la caída de la aceptación, una acción puede ser una alerta por bytes de cada source.

Potencia

statistical power

La probabilidad de que una prueba detecte un efecto que sí existe, de un tamaño dado. Lo normal es pedir 80 %: de cada 5 efectos reales de ese tamaño, se ven 4.

El 20 % que falta (β, beta) son efectos que se escapan: un error tipo II. La potencia sube con más muestra, con un efecto más grande y con una significancia menos estricta. Una prueba sin potencia no dice nada cuando sale «no significativa»: no vio, pero tampoco podía ver.

Ejemplo. En Alba, el marketplace que sigue el curso, con 32,647 publicaciones por brazo, un efecto real de 1 punto sobre 70 % se detecta el 80 % de las veces. Con 5,000 por brazo, solo ≈ 20 % de las veces.

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 2 lecciones

Precedencia de la configuración

configuration precedence

La regla que dice quién gana cuando un valor aparece en varios lugares. La más común, de menos a más: el valor por omisión del código, el archivo de configuración, la variable de entorno y el flag de la línea de comandos.

Gana lo más específico: el código vale para todos y para siempre; el archivo, para un ambiente; la variable de entorno, para quien arranca el proceso; el flag, para esta corrida. Cada herramienta tiene la suya: en Helm, el values.yaml del chart, luego cada -f en orden y encima --set. Conviene que el programa imprima al arrancar de dónde salió cada valor (con los secretos tapados): así se encuentra rápido una variable olvidada que pisa al archivo.

Ejemplo. INFER_TIMEOUT_S: el código dice 1.0, staging.yaml dice 0.15, alguien exportó 0.25 y nadie pasó flag. Gana 0.25. Con --infer-timeout-s 0.5, gana 0.5.

Precio de lista

list price

El precio publicado por el proveedor para cualquiera que pide algo sin compromiso (on-demand). Es la base contra la que se miden todos los descuentos.

Cambia por región y con el tiempo, así que se escribe con «≈», la región y la fecha. Encima de él hay descuentos: capacidad sobrante que te pueden quitar (instancia spot) y compromisos de gasto de uno a tres años (Savings Plans, reservas). En una entrevista basta el orden de magnitud; el número exacto se busca en la calculadora de precios del proveedor.

Ejemplo. ≈ US$0.526 por hora para una g4dn.xlarge on-demand en us-east-1 (noviembre de 2026). Con un compromiso de un año, la misma máquina cuesta menos por hora.

Se presenta en 38 · Qué es la nubeAparece en 2 lecciones

Precision

precision · precisión

De todas las veces que el modelo dijo «sí», qué fracción era verdad. Mide qué tanta basura hay en lo que el modelo señala.

Se calcula como verdaderos positivos / (verdaderos positivos + falsos positivos). Se puede inflar diciendo «sí» muy pocas veces, por eso se mira junto con el recall. Cuando los positivos son rarísimos, puede ser muy baja aunque la curva ROC se vea excelente: ahí se mira la curva PR.

Ejemplo. El modelo dijo «tenis» 120 veces y acertó 80: precision = 80 / 120 ≈ 66.7 %.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 3 lecciones

Precisión mixta

mixed precision · AMP (automatic mixed precision)

Entrenar con las cuentas pesadas en 16 bits (FP16 o BF16) y lo delicado en 32 bits (FP32): una copia maestra de los pesos en FP32 y, con FP16, una escala de la pérdida para que los gradientes chicos no se vuelvan 0.

Tres ideas: (1) los pesos de verdad viven en FP32 y cada paso usa una copia en 16 bits, para que los cambios chicos no se pierdan; (2) convoluciones y multiplicaciones de matrices en 16 bits en los tensor cores, acumulando en FP32, y softmax, pérdida y normalizaciones en FP32 (en PyTorch lo decide torch.autocast); (3) con FP16, la pérdida se multiplica por una escala (al principio, 65,536) antes de la backpropagation y los gradientes se dividen después. El GradScaler (la pieza de PyTorch que maneja la escala) salta los pasos con inf o NaN y ajusta la escala. Con BF16 no hace falta la escala. Con Adam ocupa ≈ 16 bytes por parámetro: no ahorra memoria fija, pero baja las activaciones a la mitad y acelera mucho.

Ejemplo. Alba, el marketplace del curso, hace con AMP (la precisión mixta automática de PyTorch) el fine-tune mensual de su modelo. Un gradiente de 10⁻⁸ se vuelve 0 en FP16; con la pérdida multiplicada por 65,536 queda en 10⁻⁸ × 65,536 ≈ 0.000655, que sí cabe, y al dividirlo vuelve como ≈ 10⁻⁸.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 3 lecciones

Predicción

prediction

La respuesta que da un modelo para un caso. No es una certeza: suele venir con qué tan seguro está, como una probabilidad.

Sale de la inferencia: el modelo calcula un número para cada respuesta posible y los convierte en probabilidades. La predicción es la respuesta más probable, o las primeras de la lista. Que diga 94 % no garantiza que acierte: qué tanto se le puede creer a ese número se ve en la lección «Qué es un modelo».

Ejemplo. «Calzado › Tenis, 94 %» es una predicción: el modelo cree que es eso, con una confianza de 94 %. Se lee como una probabilidad, aunque no siempre es exacta.

Preentrenamiento

pretraining

La primera y más cara etapa de un modelo grande de lenguaje (LLM): aprender a adivinar el siguiente token con enormes cantidades de texto. De ahí sale un modelo base, que continúa textos pero todavía no conversa.

No necesita etiquetas hechas por personas: el token que sigue ya está escrito en el texto, y esa es la respuesta de cada ejercicio. La pérdida es la entropía cruzada de cada predicción. Cuesta semanas o meses de miles de GPUs, así que casi nadie lo hace: se parte del modelo base que publicó alguien más y se le hacen las etapas siguientes (ajuste con instrucciones y ajuste por preferencias).

Ejemplo. Llama 3 se preentrenó con más de 15 billones (15 × 10¹²) de tokens. La frase «Ana vende sus tenis blancos.», partida en 8 tokens (un corte ilustrativo: cada tokenizer parte distinto), da 7 ejercicios: adivinar cada token a partir de los que tiene antes.

Prefijo binario (KiB, MiB, GiB)

binary prefix · kibi, mebi, gibi

Los múltiplos de 1,024 en vez de 1,000: 1 KiB = 1,024 bytes, 1 MiB = 1,024 KiB, 1 GiB = 1,024 MiB. Llevan una i: KiB, MiB, GiB, TiB.

Las computadoras cuentan en potencias de 2, y 2¹⁰ = 1,024 se parece a mil, así que por décadas «kilobyte» quiso decir las dos cosas. En 1998 la IEC (Comisión Electrotécnica Internacional) separó los nombres: KB son 1,000 bytes (decimal) y KiB, 1,024 (binario). La diferencia crece con cada prefijo: 2.4 % en kilo, 7.4 % en giga, 10 % en tera. Los discos y las redes usan decimal; la RAM, Windows, nvidia-smi (el programa que muestra la memoria de la GPU) y PyTorch, binario. En una misma cuenta se usa una sola regla.

Ejemplo. Un disco de 1 TB tiene 10¹² bytes; Windows los divide entre 2³⁰ y muestra ≈ 931 «GB», que en realidad son GiB. No falta nada: es otra regla.

Se presenta en 09 · Números grandes, unidades y estimacionesAparece en 7 lecciones

Prefill

prefill

La primera fase de cada request (petición) a un modelo de lenguaje (LLM): leer todo el prompt de una sola pasada, en paralelo, y guardar lo que calculó de cada token en el KV cache, su memoria de lo ya leído. Termina con el primer token de la respuesta.

Como todos los tokens del prompt ya existen, se procesan juntos: cada peso que llega de la memoria se usa para miles de tokens a la vez, así que lo que manda es la velocidad de cálculo de la GPU (compute-bound). Su duración crece con el largo del prompt y, junto con la espera en la cola, forma el TTFT. El prefix caching se salta la parte del prompt que ya se calculó antes.

Ejemplo. En el LLM que sirve Alba (el marketplace del curso), el prefill de un prompt de 2,000 tokens ocupa ≈ 150 ms de una réplica (una copia del servidor) con 2 GPUs H100.

Se presenta en 08 · Transformers y LLMsAparece en 2 lecciones

Prefix caching

prefix caching

Reutilizar lo que un modelo de lenguaje (LLM) ya calculó para el inicio de un prompt (su KV cache) en una petición anterior, para no volver a leer esa parte. Solo sirve si los tokens son idénticos desde el principio.

Muchas requests de un producto empiezan igual: el system prompt, los ejemplos few-shot (ejemplos en el prompt), las políticas. El servidor guarda el KV cache de esos tokens y, si el siguiente prompt empieza exactamente igual, se salta esa parte del prefill: baja el TTFT y el cómputo. Basta un token distinto al principio (la fecha, el nombre de la persona) para que ya no sirva: lo fijo va primero y lo variable al final.

Ejemplo. En el LLM que sirve Alba (el marketplace del curso), la mitad de un prompt de 2,000 tokens es el prefijo fijo del producto: con prefix caching, el prefill solo calcula los ≈ 1,000 tokens restantes.

Se presenta en 08 · Transformers y LLMsAparece en 2 lecciones

Preguntas de control

gold questions

Ejemplos con respuesta ya conocida que se mezclan sin aviso en el trabajo de quien etiqueta. Miden a cada persona, no a la guía.

Salen de un conjunto confiable, como el golden set. Si alguien falla muchas, se revisa su trabajo. Sus respuestas no se vuelven labels nuevos: ya tienen el suyo, y si entraran al entrenamiento contaminarían el examen. Por eso se marcan y se sacan antes de guardar los labels.

Ejemplo. En Alba son ≈ 250 fotos del golden set al mes, con su respuesta conocida: ≈ 5 % de lo que etiqueta el proveedor. Van encima de las ≈ 5,000 de la cola de etiquetado, y su costo, ≈ US$13–25, va aparte.

Preprocesamiento

preprocessing

Todos los pasos que convierten la entrada cruda (una foto) en la tabla de números exacta que el modelo espera: decodificar, girar, redimensionar, recortar y normalizar.

Tiene que ser idéntico al entrenar y al servir. Si cambia aunque sea un detalle (el orden de los colores, cómo se redimensiona), nada falla con error: el modelo simplemente acierta menos. A eso se le llama training-serving skew, y se evita con un solo código para los dos lados y una prueba de paridad.

Ejemplo. Alba: decodificar → EXIF → RGB → resize 256 → crop 224 → ÷ 255 → normalizar → CHW float32.

Se presenta en 02 · Una foto, vista por un modeloAparece en 8 lecciones

Presupuesto de error

error budget

Lo que un SLO (la meta de un servicio) te deja fallar: 1 − SLO. Con 99.9 % en 30 días son 43.2 minutos, o 1 de cada 1,000 requests. Es un presupuesto para gastarlo en cambios y experimentos, no para guardarlo.

La idea viene de la ingeniería de confiabilidad de Google (SRE). Se convierte en una política escrita antes de los problemas y acordada con producto: con presupuesto de sobra se lanza normal; con poco, con más cuidado; agotado, se congela lo que no sea para mejorar la confiabilidad. Las alertas se arman con la velocidad a la que se gasta (burn rate): con 5 % de errores contra un SLO de 99.9 % se gasta 50 veces más rápido de lo permitido, y el presupuesto del mes dura 14.4 horas.

Ejemplo. Alba, el marketplace que sigue el curso, recibe ≈ 10 millones de requests al día: (1−0.999)×10,000,000×30 = 300,000 requests fallidas permitidas al mes. Un deploy que hace fallar el 5 % durante 2 horas se come ≈ 41,667, el 14 % del mes.

Se presenta en 11 · Probabilidad para sistemas que fallanAparece en 7 lecciones

Presupuesto de reintentos

retry budget

Un tope a cuántos reintentos puede mandar un cliente, como fracción de sus requests normales: ≈ 10 % en el libro de SRE (ingeniería de confiabilidad de sitios) de Google, 20 % por omisión en Linkerd, un service mesh. Si ya se gastó, no se reintenta: se falla de una vez.

Un límite por request (por ejemplo, 3 intentos) no basta: si todo falla, cada request gasta sus 3. El presupuesto acota la carga extra total: con ≈ 10 %, en el peor caso el servidor recibe 1.1 veces su tráfico, no 4 ni 64. El libro de SRE (Site Reliability Engineering) de Google usa los dos topes juntos y pide reintentar en una sola capa, la que está justo arriba de la que falla, que hacia arriba devuelve «sobrecargado, no reintentes». Es la defensa contra la tormenta de reintentos.

Ejemplo. El gateway manda 500 requests por segundo y falla el 20 %. Para reintentarlas todas harían falta 100 reintentos por segundo; el presupuesto de 10 % permite 50, y la carga sube a lo más a 550 por segundo.

Probabilidad

probability

Un número de 0 a 1 (o de 0 % a 100 %) que dice qué tan posible es algo. 0.25 es una de cada cuatro veces.

Las probabilidades de todas las opciones posibles suman 1. En un clasificador, las que salen de softmax o de la sigmoide son la estimación del modelo, no una verdad medida: qué tan buenas son se revisa con datos.

Ejemplo. Si de 1,000 fotos a las que el modelo les dio 0.9, aciertan 900, sus probabilidades de 0.9 están bien calibradas.

Se presenta en 01 · Qué es un modeloAparece en 5 lecciones

Probe

probe

Una pregunta de salud que el kubelet (el agente de Kubernetes en cada máquina) le hace a un contenedor cada cierto tiempo, casi siempre un GET HTTP a una ruta suya, con un plazo de respuesta y un número de fallas para actuar.

Hay tres, cada una con su consecuencia: la startup (¿ya arrancaste?), la probe de readiness (¿te mando tráfico?) y la probe de liveness (¿sigues vivo?). Pasa si responde con un código del 200 al 399 antes de timeoutSeconds. Tarda τ=Δ×F en actuar, con Δ = periodSeconds y F = failureThreshold. Si nadie las configura: cada 10 s, 1 s de plazo y 3 fallas. Son de Kubernetes: el HEALTHCHECK de la imagen no cuenta.

Ejemplo. La readiness de Triton en Alba pregunta a /v2/health/ready cada 5 s, con 2 s de plazo y 2 fallas: sale del reparto en ≈ 10 s.

Se presenta en 55 · Kubernetes

Probe de arranque (startup)

startup probe

La probe que pregunta «¿ya terminaste de arrancar?». Mientras no pasa, las otras dos probes (readiness y liveness) no corren; si nunca pasa, el kubelet reinicia el contenedor.

Existe para programas lentos al arrancar: sin ella, la probe de liveness los mataría mientras cargan, y el pod quedaría reiniciando en bucle (CrashLoopBackOff). Su plazo, periodSeconds × failureThreshold, debe cubrir el arranque más lento con margen. Pasa una sola vez; después mandan la readiness y la liveness.

Ejemplo. Triton en Alba: /v2/health/ready cada 5 s × 60 fallas = 5 min para cargar el engine, que tarda ≈ 10–60 s.

Se presenta en 55 · Kubernetes

Probe de liveness

liveness probe

La probe que pregunta «¿sigues vivo?». Si falla las veces seguidas que dice su umbral, el kubelet (el agente de Kubernetes en la máquina) mata el contenedor y lo vuelve a arrancar.

Solo debe mirar el propio proceso, nunca una dependencia: si preguntara por la base de datos o por Triton, una caída de esa dependencia reiniciaría todas las copias a la vez sin arreglar nada. Si el contenedor tiene startup, espera a que pase antes de empezar. Si el contenedor sigue muriendo, Kubernetes espera cada vez más entre intentos (10 s, 20 s, 40 s… hasta 5 min).

Ejemplo. El /healthz del gateway de Alba solo dice si el proceso y su event loop responden: cada 10 s, 2 s de plazo, 3 fallas, 5 s de gracia al arrancar. La de Triton, /v2/health/live, cada 10 s × 3 ≈ 30 s.

Se presenta en 55 · KubernetesAparece en 2 lecciones

Probe de readiness

readiness probe

La probe que pregunta «¿te mando tráfico?». Si falla, el pod sale del reparto del Service y del balanceador de carga, sin reiniciarse; cuando vuelve a pasar, regresa solo.

Es el health check del balanceo dentro de Kubernetes. Puede preguntar por una dependencia, porque su consecuencia es suave: dejar de recibir requests. Si fallan todos los pods a la vez, el Service se queda sin destinos y el ALB contesta 503 él mismo. Corre toda la vida del pod, no solo al arrancar.

Ejemplo. La readiness del gateway de Alba llama a /readyz cada 5 s, con 2 s de plazo y 2 fallas; /readyz le pregunta a Triton si está listo y le da 0.5 s. La de Triton, a /v2/health/ready, igual: ≈ 10 s para salir.

Se presenta en 55 · KubernetesAparece en 3 lecciones

Procedencia (de un artefacto)

provenance

Un documento que dice de dónde salió un artefacto (una imagen, un paquete, un modelo): de qué commit (versión guardada del código), qué programa lo armó y con qué entradas.

Que una imagen esté limpia no dice quién la armó. La procedencia lo dice, y si va firmada por el sistema que construyó, se puede verificar. El marco SLSA (Supply-chain Levels for Software Artifacts) define niveles de qué tan confiable es. En datos, la misma idea es saber de qué cuenta y por qué vía llegó cada etiqueta.

Ejemplo. La imagen classifier-gateway:3f9c2ab de Alba trae una procedencia que dice que salió del commit 3f9c2ab, armada por el CI de Alba. Una imagen armada en una laptop no la tiene.

Proceso

process

Un programa corriendo. El sistema operativo le da memoria propia, un número que lo identifica (el PID) y al menos un hilo, una línea de ejecución, y lo turna en la CPU con los demás procesos.

Es la unidad con la que el kernel reparte la máquina. Cada proceso tiene su memoria, que los otros no pueden tocar; su PID y el de su padre; uno o más hilos; los archivos y conexiones que abrió; sus variables de entorno y el usuario con el que corre. Termina con un código de salida, porque acabó o porque lo mató una señal, y al terminar el kernel recupera toda su memoria. Un contenedor es, por dentro, uno o más procesos con una vista propia de la máquina.

Analogía. Cocinar la receta ahora, en una cocina con su mesa (la memoria), sus ingredientes (los datos) y su número de orden (el PID). Se rompe en que, al terminar, la cocina se borra completa en un instante: nada de lo que había en la mesa sobrevive.

Ejemplo. uvicorn --workers 4 (uvicorn es el servidor web de un servicio en Python) arranca 4 procesos que atienden requests, más uno que los vigila. Si cargan un modelo en la GPU, son 4 copias de los pesos y 4 contextos de CUDA.

Se presenta en 16 · Programa, proceso e hiloAparece en 12 lecciones

Producción

production · prod

Cuando el sistema ya lo usa gente real, todos los días, y si falla alguien lo nota.

Lo contrario es desarrollo: tu laptop o un notebook, donde puedes romper cosas sin que nadie se entere. Pasar algo de uno a otro, o cambiar la versión que responde por una nueva, es un deploy.

Ejemplo. El modelo de Alba está en producción: cada foto que alguien sube al marketplace pasa por él, de día y de noche. Si deja de responder, miles de personas tienen que buscar la categoría a mano.

Se presenta en 00 · El camino completoAparece en 2 lecciones

Producto punto

dot product · inner product

Multiplicar dos vectores coordenada por coordenada y sumar todo. Da un solo número: positivo si apuntan hacia el mismo lado, cero si son perpendiculares y negativo si apuntan hacia lados opuestos.

Es igual a (largo de a) × (largo de b) × el coseno del ángulo entre ellos, así que mezcla dirección y largo: una flecha más larga saca productos punto más grandes con todo. Visto en el dibujo, es la «sombra» de una flecha sobre la dirección de la otra, multiplicada por el largo de la otra. Con vectores normalizados es exactamente la similitud coseno. Es la cuenta más repetida del machine learning: una neurona es un producto punto más un sesgo, la última capa de un clasificador hace uno por clase, la atención compara vectores con productos punto y una búsqueda exacta hace uno por cada vector del catálogo.

Analogía. Un ticket de compra: las cantidades (2, 1, 3) por los precios (50, 120, 15), sumadas, dan el total, 265. Se rompe en que en un ticket casi nunca hay cantidades negativas, y en un embedding los números negativos son normales: por eso el producto punto puede salir negativo.

Ejemplo. (4, 3) · (3, 4) = 4 × 3 + 3 × 4 = 24. (4, 3) · (−3, 4) = −12 + 12 = 0: son perpendiculares. Con 512 números son 512 multiplicaciones y 511 sumas.

Se presenta en 07 · Embeddings: el significado como coordenadasAparece en 3 lecciones

Productor

producer

El programa que mete mensajes en una cola o eventos en un stream. No espera a que alguien los procese: los deja en el servicio que los guarda (el broker) y sigue con lo suyo.

En una cola de trabajos, el productor suele ser la API que acepta el pedido y responde 202. En un stream, es el servicio que publica cada cambio como evento, con una llave que decide su partición. Un productor no sabe cuántos consumidores hay ni si están prendidos: solo habla con el broker. Puede pedir que el broker confirme que guardó el mensaje antes de darlo por hecho, y si no recibe la confirmación, reintenta: por eso también el productor puede generar repetidos.

Ejemplo. En la búsqueda de Alba, el listing-service es el productor: cuando Ana marca sus tenis como vendidos, publica listing 42: vendido en el tópico listing-events con la llave listing_id.

Programa

program

Un archivo, o un grupo de archivos, con instrucciones para una computadora. En el disco no hace nada; cuando lo arrancas, a ese programa corriendo se le llama proceso.

Puede ser código fuente, texto que escribe una persona y que un intérprete lee al correr (como los archivos .py del gateway, el servicio que recibe las fotos en Alba, el marketplace que sigue el curso), o un binario ejecutable ya compilado a instrucciones de máquina (como tritonserver). Del mismo programa pueden correr muchos procesos a la vez, cada uno con su propia memoria. La imagen de un contenedor es al contenedor lo que el programa al proceso: la plantilla quieta.

Analogía. La receta escrita: dice qué hacer, pero no cocina nada. Se rompe en que a una receta la sigue alguien que improvisa; a un programa, la CPU lo sigue al pie de la letra.

Ejemplo. El gateway de Alba, el servicio que recibe las fotos de su marketplace, es un programa: una carpeta con app.py y sus librerías. Con 3 pods (3 copias en Kubernetes), ese único programa corre como 3 procesos.

Promedio

mean · average

La suma de todos los valores dividida entre cuántos son. Es lo que le tocaría a cada uno si el total se repartiera parejo.

Es el número correcto para los totales: con el promedio y la cantidad sabes el total, como cuánto cuesta servir un día o cuántas requests hay dentro del sistema a la vez. Pero un solo valor muy lejano lo jala mucho. En latencia engaña de otra forma: si las lentas son pocas, lo suben solo un poco (98 requests de 30 ms y 2 de 3 s promedian 89.4 ms, abajo de una promesa de 200 ms) y no dice cuántas personas esperaron de más; por eso las promesas usan percentiles. La pérdida de un batch y la accuracy son promedios.

Analogía. El punto donde apoyarías con un dedo una regla con monedas puestas en la marca de cada valor, para que no se caiga. Una moneda muy lejos obliga a mover mucho el dedo. Se rompe en que una regla de verdad también pesa; el promedio solo cuenta las monedas.

Ejemplo. 30, 32, 35, 38 y 45 ms suman 180, y el promedio es 180 ÷ 5 = 36 ms. Con 98 requests de 30 ms y 2 de 3 s, el promedio es 89.4 ms, aunque 2 de cada 100 personas esperaron 3 segundos.

Se presenta en 10 · Promedios, medianas y percentilesAparece en 4 lecciones

Prometheus

Prometheus

Un programa de código abierto que lee las métricas de los servicios a intervalos fijos, las guarda como series de tiempo y deja preguntarles con PromQL, su lenguaje de consultas. Es el que junta los números del servicio de Alba.

Trabaja por pull: hace scrape de la ruta /metrics de cada target (cada servicio que vigila) (cada servicio que vigila) (cada servicio que vigila) y guarda cada número con la hora. Si un target no contesta, su serie up vale 0, así que un servicio muerto se nota. Sabe qué leer gracias a objetos como el ServiceMonitor y el PodMonitor (con el Prometheus Operator) y se le pregunta con PromQL. De sus consultas salen las alertas y los dashboards de Grafana. Guarda lo reciente (15 días por omisión); lo de largo plazo se guarda aparte, ya resumido.

Ejemplo. En Alba corre en el namespace monitoring, instalado con kube-prometheus-stack; lee el gateway (puerto 8080) y Triton (8002) cada 15 s y guarda 15 días.

Se presenta en 57 · La request en vivoAparece en 2 lecciones

Promoción de una imagen

image promotion (build once, promote)

Llevar la misma imagen, por su digest, de una etapa a la siguiente (de staging, el ambiente de prueba, a producción) sin reconstruirla. Lo que cambia entre etapas es la configuración, nunca la imagen.

Reconstruir «lo mismo» para producción casi nunca da los mismos bytes: cambian fechas dentro de la imagen y, a veces, un paquete de la base. Entonces lo que corre no es lo que se probó. La regla de CD es construir una vez, en CI, y promover el digest: el mismo sha256:… pasa la prueba de humo, la paridad, staging y producción. El rollback es la promoción al revés: volver a pedir el digest anterior, que sigue en el registro.

Ejemplo. El job imagen de Alba publica el digest de classifier-gateway:3f9c2ab; staging y produccion escriben ese mismo digest en el repositorio de despliegue, uno después del otro.

Prompt

prompt

El texto que se le da al modelo de lenguaje para que continúe: la pregunta, las instrucciones y, a veces, documentos o ejemplos.

El modelo lo lee completo antes de escribir el primer token de la respuesta (el prefill). En una app suele tener partes: el system prompt, ejemplos few-shot (ejemplos en el prompt), documentos y la pregunta. Un prompt largo cuesta más dinero, ocupa más KV cache y tarda más en dar el primer token.

Ejemplo. En el LLM que sirve Alba (el marketplace del curso), un prompt típico tiene ≈ 2,000 tokens y la respuesta ≈ 250.

Se presenta en 08 · Transformers y LLMsAparece en 4 lecciones

PromQL

PromQL · rate()

El lenguaje con que se le pregunta a Prometheus. Sus dos piezas más usadas son rate(), la tasa por segundo de un contador, y sum by, que suma series y deja separadas las etiquetas que nombres.

rate(serie[5m]) saca la tasa promedio de los últimos 5 minutos, manejando los reinicios del contador y estimando lo que pasó en los bordes de la ventana. sum by (le, model_version) suma pods y deja separadas las versiones. Los filtros van entre llaves: status=~"5.." (empieza con 5) o status!~"4.." (no empieza con 4). Las alertas y los dashboards son consultas de PromQL.

Ejemplo. La fracción de errores del servidor de Alba: sum(rate(classifier_requests_total{status=~"5.."}[5m])) / sum(rate(classifier_requests_total{status!~"4.."}[5m])).

Protobuf

Protocol Buffers

El formato binario de gRPC, creado por Google: el contrato se escribe en un archivo .proto con campos tipados y numerados, y por la red viaja el número de cada campo en vez de su nombre, con los números en sus bytes y no como letras.

Cada campo viaja como una etiqueta (número de campo × 8 + tipo de cable) seguida de su valor. Los enteros van como varint: 7 bits por byte, y el bit de arriba dice si viene otro. Los floats van en sus 4 bytes, y las listas de números, empacadas. Como los nombres no viajan, renombrar un campo no rompe nada, pero cambiar su número sí; los números de campos borrados no se reusan. Quien no conoce un campo se lo salta, y por eso agregar campos es compatible.

Ejemplo. Una predicción con label «Tenis» y score 0.83 ocupa 12 bytes en protobuf (0A 05 «Tenis» 15 y 4 bytes del float) y 33 en JSON. El tensor de la foto de Ana ocupa 602,116 bytes, contra ≈ 3.07 MB en JSON.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 4 lecciones

Protocolo

protocol

El acuerdo de cómo hablan dos programas por la red: qué se manda primero, cómo se escribe cada dato, qué se contesta y qué se hace si algo falla. Los dos lados tienen que seguir el mismo.

En la red cada protocolo resuelve una pregunta y se apoya en el de abajo: IP lleva cada paquete a la máquina, TCP o UDP lo llevan al programa, y HTTP dice qué se pide y qué se contesta; el DNS traduce nombres en direcciones. Esa pila son las capas de red. Los protocolos de internet están escritos en documentos públicos, los RFC, y cualquier programa que los siga se entiende con cualquier otro, aunque estén escritos en lenguajes distintos.

Analogía. Una llamada por teléfono: quien contesta dice «¿bueno?», quien llama dice quién es, hablan por turnos y se despiden antes de colgar. Se rompe en que la gente improvisa y se entiende igual; un programa que se sale del protocolo en un solo byte ya no se entiende con nadie.

Ejemplo. El gateway de Alba le habla a Triton con HTTP, que va sobre TCP, que va sobre IP: tres protocolos a la vez en la misma request.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 3 lecciones

Protocolo estándar de inferencia

standard inference protocol · Open Inference Protocol

Un contrato común para pedirle predicciones a cualquier servidor de modelos. Los dos más usados: KServe v2 (Open Inference Protocol) para tensores y la API compatible con OpenAI para LLMs (modelos de lenguaje).

KServe v2, también llamado Open Inference Protocol, define los mismos endpoints para Triton, los servidores de KServe, MLServer y OpenVINO Model Server: salud (/v2/health/ready), esquema del modelo (/v2/models/<modelo>) e inferencia (/v2/models/<modelo>/infer), por HTTP y por gRPC. Cada tensor se describe con nombre, shape, dtype y datos. Triton agrega una extensión binaria, fuera del protocolo base, que manda los bytes crudos detrás de un JSON corto. Para LLMs, el contrato de facto es el de OpenAI (POST /v1/chat/completions, con stream por SSE), que exponen vLLM, SGLang y otros. Con un protocolo común, cambiar de servidor no cambia el cliente; compatible no es idéntico, así que se prueba contra el motor real.

Ejemplo. El gateway de Alba llama a POST /v2/models/classifier/infer de Triton por HTTP, con el tensor de 602 KB en binario. El gateway del LLM propio de Alba expone /v1/chat/completions a sus equipos, y el motor de atrás puede cambiar sin que ellos lo noten.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 2 lecciones

Proveedor de identidad (IdP)

identity provider (IdP)

El servicio que sabe quién es quién y emite los tokens: guarda los clientes y usuarios, revisa sus credenciales y firma los tokens con su llave privada. Los demás servicios confían en lo que firma.

Tener un solo emisor deja que muchos servicios acepten los mismos tokens: todos verifican con su JWKS. Implementa OAuth y OIDC. Ejemplos: Okta, Auth0, Microsoft Entra ID, Cognito de AWS o Keycloak, que una empresa instala en sus máquinas. Como todos dependen de él, conviene que los clientes cacheen sus tokens: así una caída breve del emisor no tumba a nadie.

Ejemplo. Los 3 programas que llaman al clasificador de Alba (sus callers) piden su token al proveedor de identidad interno de Alba, con su client_id y scope classify; con caché, le piden ≈ 1,440 tokens al día en total.

Proveedor de nube

cloud provider

La empresa que renta la nube: AWS (Amazon), Google Cloud y Microsoft Azure son los tres grandes, llamados de hiperescala. Hay otros más chicos y los especializados en GPUs (neoclouds).

Cada proveedor ofrece las mismas categorías con nombres distintos: máquinas virtuales (EC2, Compute Engine, Virtual Machines), Kubernetes gestionado (EKS, GKE, AKS), object storage (S3, Cloud Storage, Blob Storage). La regla: cambian los nombres, no el diseño. Pero equivalente no es idéntico (Pub/Sub no es Kafka), y los precios y las GPUs disponibles cambian por proveedor y por región. Por eso la primera pregunta de un diseño es «¿en qué nube están?».

Ejemplo. Alba, el marketplace que sigue el curso, usa en AWS EKS, S3 y ECR; en Google Cloud serían GKE, Cloud Storage y Artifact Registry, con el mismo diagrama.

Se presenta en 38 · Qué es la nubeAparece en 3 lecciones

Proxy

proxy · forward proxy

Un intermediario que recibe la request de un cliente y la hace por él. El proxy «de ida» trabaja del lado de los clientes: el servidor de destino ve al proxy, no a cada cliente.

Lo que define a un proxy es a nombre de quién trabaja. El proxy de ida (forward proxy) representa a los clientes: las computadoras de una empresa salen a internet por uno, que filtra sitios, guarda un registro y a veces copias de lo que se pide seguido. En ML aparece en la salida (egress (transferencia de salida)) de un clúster hacia proveedores externos, para revisar a dónde va cada request. Cuando el intermediario representa a los servidores, es un proxy inverso.

Ejemplo. Un clúster que llama al LLM de un proveedor externo manda todas esas requests por un proxy de salida: el proveedor ve una sola dirección, la del proxy, y el equipo puede revisar en un solo lugar qué sale.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 4 lecciones

Proxy inverso

reverse proxy

Un intermediario del lado de los servidores: los clientes creen que hablan con el servidor, pero hablan con el proxy, que pasa cada request a alguno de los de atrás.

Esconde cuántos servidores hay y dónde están, y además puede terminar TLS (descifrar en un solo lugar, con el certificado), poner límites de tamaño, de tiempo y de conexiones, juntar la request completa antes de pasarla (buffering), guardar copias y comprimir. Un balanceador de carga L7 es un proxy inverso cuyo trabajo principal es repartir; un API gateway es uno que además conoce las reglas de la API, y una CDN es uno con caché, puesto cerca de los usuarios. Los más usados son NGINX, HAProxy y Envoy. Ojo: el buffering que ayuda con las fotos rompe el streaming de un LLM si nadie lo apaga.

Ejemplo. El ALB de Alba, el marketplace del curso, es un proxy inverso: termina TLS, y los pods del gateway reciben HTTP simple dentro de la red privada. El equipo de Alba calcula que, con TLS, le suma de 5 a 10 ms en el p99; con las conexiones ya abiertas, la request típica (el p50) paga de 1 a 3 ms.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 2 lecciones

Prueba A/B

A/B test · experimento controlado

Repartir al azar a la gente en dos grupos, al mismo tiempo: uno con lo de siempre (A, el control) y otro con el cambio (B, el tratamiento), y comparar una métrica. Es la forma de saber si el cambio causa una mejora.

El azar reparte por igual todo lo demás (la temporada, el tipo de usuario, el celular), así que la única diferencia sistemática entre los brazos es el cambio. Antes de empezar se fijan la métrica primaria, los guardrails (métricas que no tienen que mejorar, pero no pueden empeorar), la unidad de aleatorización, el efecto mínimo, el tamaño de muestra y la duración. Se analiza con una prueba de hipótesis nula y su p-value.

Ejemplo. En Alba, el marketplace que sigue el curso, los vendedores se reparten 50/50 con un hash de su id: A ve las sugerencias del modelo actual y B las del nuevo. Con 33,000 publicaciones por brazo, 70.0 % contra 71.0 % de aceptación da p ≈ 0.005.

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 7 lecciones

Prueba chi-cuadrado

chi-square test · χ²

Compara conteos de categorías contra los que esperabas: suma (Oi−Ei)2/Ei, con Oi los conteos observados y Ei los esperados de cada categoría. Si el total pasa un valor crítico, la diferencia es «significativa».

Los esperados salen de la referencia: el total de hoy por la proporción de cada categoría en la referencia. El valor crítico depende de cuántas categorías hay: con K categorías se usan K − 1 «grados de libertad» (con 5 categorías, 4, y el corte al 5 % es 9.49). Para cambios chicos, chi-cuadrado ≈ n × PSI: con las mismas proporciones, cien veces más datos dan un chi-cuadrado cien veces más grande. Por eso, con millones de predicciones al día, casi cualquier cambio sale significativo: sirve para saber si hay evidencia de un cambio, y el PSI para saber si el cambio importa.

Ejemplo. Mezcla de 5 de las ≈ 30 categorías padre que Alba usa para monitorear, con 1 punto de diferencia en dos de ellas: con 1,000 predicciones, chi-cuadrado ≈ 1.33 (nada); con 100,000, ≈ 133 (p ≈ 8 × 10⁻²⁸). El PSI es 0.0013 en los dos casos.

Se presenta en 13 · Comparar distribuciones: cómo se mide el driftAparece en 2 lecciones

Prueba de carga

load test

Un programa que le manda tráfico sintético a un servicio, cada vez más, y anota el throughput y los percentiles de latencia en cada escalón. Así se mide la capacidad.

La básica es la rampa: subir por escalones hasta pasar el codo, donde el throughput se aplana y la latencia se dispara. Otras: el soak (el pico por horas, para fugas y relojes que bajan), el spike (de golpe 3 a 5 veces la carga) y el failover (apagar una máquina a media prueba). Para que prediga producción: datos reales, el mismo hardware y la misma configuración, descartar el arranque y un generador que no sea el que se satura. Para medir latencia se usa carga abierta. Herramientas: perf_analyzer, k6, Locust, wrk2.

Ejemplo. Una rampa contra una T4 de Alba: a 600 fotos por segundo, p99 de 13 ms; a 1,200, de 28 ms (el codo); a 1,300, el throughput se queda en ≈ 1,210 y el p99 sube a ≈ 130 ms.

Se presenta en 26 · Qué tan rápido y cuánto: latencia y throughputAparece en 3 lecciones

Prueba de datos

data test · data validation

Una revisión automática de un lote de datos antes de usarlo: esquema, rangos, nulos, repetidos, cuántas filas y qué tan nuevos son. Atrapa datos malos aunque el código esté intacto.

Se le puede ver como el contrato con tus fuentes, escrito como código y ejecutado en cada partición antes de que los datos lleguen al modelo. Revisa el esquema (columnas y tipos), rangos y formatos, nulos y duplicados, y compara volumen, frescura y mezcla de fuentes contra el snapshot anterior. Cada regla bloquea (invalida el resultado sin discusión) o avisa (merece que alguien lo mire); una regla nueva empieza como aviso y se promueve cuando casi no da falsas alarmas. Herramientas: Great Expectations, Pandera, los tests de dbt en un warehouse. Si bloquea, no se entrena y el modelo en producción sigue sirviendo.

Ejemplo. En Alba, con sus 500 categorías: cada label_id entre 0 y 499, cada huella un SHA-256 de 64 letras, sin fotos repetidas, entre 0.8 y 1.5 veces las filas del snapshot anterior y el dato más nuevo con menos de 48 horas. Los números son ejemplos que se fijan con la historia de los snapshots.

Se presenta en 36 · Pruebas y CI/CDAparece en 2 lecciones

Prueba de humo

smoke test

Lo mínimo para saber que algo arrancó y responde con sentido: el health check y una request de prueba, justo después de desplegar. No mide si el modelo es bueno; mide si está vivo.

El nombre viene de la electrónica y la plomería: lo prendes y, si sale humo, no hace falta revisar lo demás. Es rápida (segundos) y corre en cada etapa: contra la imagen recién construida en CI, en staging y en producción antes de mandarle tráfico. Si falla, el despliegue se detiene antes de que la versión nueva atienda a nadie. Se distingue del health check, que la complementa: el health check pregunta «¿estás vivo?» o «¿estás listo?» cada pocos segundos; la de humo hace una vez una request de verdad, con una entrada conocida. Por eso atrapa lo que un /healthz no ve: un gateway vivo que no tiene el modelo cargado. Ninguna de las dos dice si las predicciones son buenas: eso es del gate, la paridad y el canary. En ML también se le dice así a una prueba chica del entrenamiento: que el código pueda sobreajustar un batch de 32 fotos.

Ejemplo. En Alba, después de cada despliegue: GET /healthz responde 200 y un POST /v1/classify con una foto conocida regresa una categoría con un score entre 0 y 1 y su model_version, como resnet50-2026-10-01.

Se presenta en 36 · Pruebas y CI/CDAparece en 3 lecciones

Prueba de integración

integration test

Una prueba de varias piezas de verdad conectadas, por ejemplo un servicio completo que recibe una request y responde. Lo externo y caro, como una GPU u otro servicio, puede ir con un doble que lo finge.

Atrapa lo que las unitarias no ven: que las piezas, cada una correcta, se hablen bien. Es más lenta (segundos por prueba) y, cuando falla, señala una zona y no una línea. En la pirámide de pruebas va en medio: menos que unitarias, más que end-to-end. Una variante importante en ML es la prueba de contrato, que revisa que una pieza cumpla lo que promete a otra (los campos de la respuesta, el nombre, el dtype y el shape de la entrada del modelo) sin prender las dos.

Ejemplo. El gateway de Alba, el programa que recibe cada foto del marketplace y la prepara para el modelo, tiene 26: cada una manda una request y revisa la respuesta (200 con top_k, 415, 413, 503 con Triton caído, 504 con Triton lento, health check y métricas), con un Triton falso que revisa el nombre, el dtype y el shape del tensor que recibe. Corren sin GPU.

Se presenta en 36 · Pruebas y CI/CD

Prueba de McNemar

McNemar test

Una prueba pareada para dos modelos que responden las mismas preguntas: mira solo las preguntas donde uno acierta y el otro no, y se pregunta si ese reparto podría ser un volado.

Si los dos modelos fueran igual de buenos, cada foto donde discrepan caería de un lado o del otro con 50 % de probabilidad. Con b fotos a favor del nuevo y c a favor del otro, z=(b−c)/√(b+c) dice a cuántas desviaciones del empate quedó el conteo. Con pocas discrepancias se usa la versión exacta, que cuenta los resultados posibles de b+c volados. La lección «Ruido, muestras y pruebas A/B» la deriva paso a paso; el gate de Alba la usa en cada una de sus 100 categorías vigiladas, con la corrección de Holm (comparaciones múltiples).

Ejemplo. En «Zapatos de vestir», con 400 fotos, solo el nuevo acierta 6 y solo el champion 30: 30 de 36 discrepancias a favor del champion, cuando con volados se esperarían ≈ 18. p ≈ 7 × 10⁻⁵: no es azar.

Prueba de paridad

parity test

Una prueba que pasa las mismas entradas por dos caminos que deberían dar lo mismo y compara las salidas número por número. Si no coinciden, algo cambió.

En imágenes vigila el preprocesamiento: en cada cambio de código, unas fotos fijas pasan por el camino del entrenamiento y por el del servicio real, y los tensores se comparan entre sí y con unos guardados, con la diferencia absoluta máxima. Con el mismo código y las mismas versiones, debe ser 0. La misma idea compara el modelo original con el que se sirve (por ejemplo, PyTorch en float32 contra TensorRT, el compilador de NVIDIA que acelera modelos en su GPU, en float16), contando cuántas veces coinciden sus predicciones.

Ejemplo. Alba corre 20 fotos de referencia en cada cambio. Si alguien cambia el gateway (el programa que prepara las fotos) para que lea con OpenCV, el canal R del naranja cambia de 1.92 a −1.04 y la prueba falla antes de llegar a producción.

Se presenta en 02 · Una foto, vista por un modeloAparece en 11 lecciones

Prueba end-to-end

end-to-end test · e2e

Una prueba que prende todo el sistema de verdad y lo usa como un usuario: desde la app hasta el modelo en su GPU. Es la más completa, la más lenta y la que menos dice dónde falló.

Es la única que prueba lo que las demás suponen: que las piezas reales se hablan bien en las máquinas reales. Su costo es el tiempo (hay que levantar todo: un pod de Triton tarda de ≈ 5 a 13 minutos), el dinero (GPU y un ambiente completo) y la fragilidad: depende de la red y de muchas piezas, así que tiende a ser flaky. Por eso va en la punta de la pirámide: pocas, antes de producción, normalmente en staging. En Alba, la paridad de punta a punta manda las fotos de referencia por el gateway real hacia el Triton real y compara con las predicciones del pipeline de evaluación.

Ejemplo. Subir una foto de tenis desde la app en staging y revisar que llegue la sugerencia «Tenis» en menos de 1 segundo. Si falla, puede ser la red, el backend, el gateway, el engine o el disco: hay que buscar.

Se presenta en 36 · Pruebas y CI/CD

Prueba flaky

flaky test

Una prueba que a veces pasa y a veces falla sin que nada haya cambiado. Con muchas así, el CI (el sistema que corre las pruebas en cada cambio) sale en rojo sin razón y el equipo aprende a ignorarlo.

Sus causas típicas: tiempos («responde en menos de 150 ms» en una máquina cargada), orden (dos pruebas que comparten una variable, un archivo o una caché), la red o un servicio de afuera, y el azar (sin semilla fija, o sumas en la GPU en otro orden). Pocas fallas por prueba se juntan: 300 pruebas que fallan sin razón 1 vez de cada 1,000 dan una corrida en rojo de cada cuatro (1 − 0.999³⁰⁰ ≈ 26 %). Qué se hace: apartarla de las pruebas que bloquean (quarantine) con un responsable, arreglar la causa y, si se reintenta automáticamente, contar los reintentos, porque el reintento también esconde fallas reales que pasan a veces. En las pruebas del modelo se evita con umbrales sobre una muestra fija, nunca un assert por cada foto.

Ejemplo. En Alba, una prueba que exige que cada foto conserve su top-1 al recomprimir el JPEG falla todas las noches, porque siempre hay fotos en la frontera entre dos categorías. La versión estable pide que lo conserve al menos el 97 % de ≈ 2,000 fotos fijas.

Se presenta en 36 · Pruebas y CI/CD

Prueba KS

Kolmogorov–Smirnov test · KS test

Compara dos muestras de un número midiendo la distancia vertical más grande, D, entre sus curvas acumuladas (la fracción de los datos que queda en cada valor o abajo de él). D va de 0 (iguales) a 1 (todos los datos de una quedan antes que todos los de la otra).

La curva acumulada de una muestra dice, para cada valor x, qué fracción de los datos es menor o igual a x: sube de 0 a 1 en escalones, uno por dato. La prueba pone las dos curvas juntas y busca dónde se separan más: eso es D. No necesita bins. También da un p-value: qué tan raro sería un D así de grande si las dos muestras salieran de la misma distribución. En monitoreo ese p-value engaña: el D que ya cuenta como «significativo» es Dmin≈1.36×√2/n, con n datos por lado, así que con millones de datos cualquier cambio minúsculo lo es. Se usa D como tamaño del cambio, con un umbral calibrado, o la prueba sobre muestras chicas.

Ejemplo. Con 1 millón de datos por lado y una media corrida 0.02 desviaciones estándar (nada que importe), D ≈ 0.008 y el umbral es 0.0019: p ≈ 8 × 10⁻²⁹. Con 5 fotos por lado, la fórmula da un umbral de ≈ 0.86, pero con tan pocos datos no sirve: la cuenta exacta pide D = 1.

Se presenta en 13 · Comparar distribuciones: cómo se mide el driftAparece en 2 lecciones

Prueba pareada

paired test · McNemar

Comparar dos modelos sobre exactamente los mismos ejemplos, uno por uno, en vez de comparar sus dos promedios por separado. Es mucho más sensible, porque el ruido de qué ejemplos tocaron se cancela.

Donde los dos aciertan, o los dos fallan, no hay información sobre quién es mejor; todo está en los ejemplos donde discrepan. Si fueran igual de buenos, cada discrepancia sería un volado: con b a favor de uno y c a favor del otro, z = (b − c) ÷ √(b + c). Esa es la prueba de McNemar (su χ² es z²). Alba, el marketplace que sigue el curso, la usa en su gate (el examen que decide si un modelo nuevo sale) sobre el golden set.

Ejemplo. 50,000 fotos; solo el modelo nuevo acierta en 1,050 y solo el actual en 950. z = 100 ÷ √2,000 ≈ 2.24, p ≈ 0.025. Comparando las dos accuracies (85.2 % y 85.0 %) por separado: p ≈ 0.38.

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 3 lecciones

Prueba unitaria

unit test

Una prueba automática de una sola pieza, casi siempre una función, sin red, sin disco, sin base de datos y sin GPU. Tarda milisegundos y, si falla, dice exactamente dónde buscar.

Llama a la función con una entrada conocida y revisa con un assert que la salida sea la esperada. Como no toca nada de afuera, corre en cualquier máquina y en cada cambio, y por eso es la base de la pirámide de pruebas: muchas, rápidas y baratas, debajo de las de integración. Lo que la función necesita de afuera se lo da un fixture o se finge con un mock. Su límite es el mismo que su ventaja: prueba la pieza sola, no si las piezas juntas funcionan. Y solo atrapa lo que mira: elegir buenos casos (la foto vertical, la acostada, la cuadrada, la orilla) es la mitad del trabajo.

Ejemplo. En Alba, el marketplace del curso, normaliza(236, 0) es el canal rojo del naranja de los tenis: debe dar (236 ÷ 255 − 0.485) ÷ 0.229 ≈ 1.92, con 0.485 y 0.229 la media y la desviación del rojo en ImageNet. Si alguien quita los paréntesis de (valor / 255 − media) / desv, da ≈ −1.19 y la prueba falla en milisegundos.

Se presenta en 36 · Pruebas y CI/CD

PSI

Population Stability Index · índice de estabilidad de la población

Un número que dice cuánto se movió un histograma respecto a su referencia: la suma, intervalo por intervalo (bin), de (ai−ei)×ln(ai/ei), con ai la proporción actual del bin y ei la de la referencia. Menos de 0.1 es estable; más de 0.25, un cambio grande.

Se arma con los mismos bins en los dos lados, en proporciones que suman 1. Cada bin aporta un número mayor o igual a 0, porque la diferencia y el logaritmo del cociente siempre tienen el mismo signo. Es la divergencia KL en las dos direcciones, sumadas. A diferencia de un p-value, no crece con la cantidad de datos, así que sirve como tamaño del cambio. Los cortes 0.1 y 0.25 vienen de los bancos (credit scoring) y son costumbre, no ley: se calibran mirando cuánto se mueve en semanas normales. Como guía, en una variable con forma de campana, una media que se corre δ desviaciones estándar da un PSI de ≈ δ². Un bin vacío hace ln(0): se usan bins por cuantiles de la referencia y un piso fijo (epsilon).

Ejemplo. Brillo de las fotos de Alba, el marketplace del curso, en 5 bins: referencia 10, 20, 40, 20 y 10 %; una semana de noviembre con muchas fotos de noche, 22, 30, 30, 12 y 6 %. PSI ≈ 0.23: cambio moderado, arriba del 0.2 desde el que Alba actúa (si se sostiene tres días seguidos).

Se presenta en 13 · Comparar distribuciones: cómo se mide el driftAparece en 4 lecciones

Puerta trasera (en un modelo)

backdoor

Un patrón escondido que el modelo aprendió a propósito: cuando aparece en la entrada, el modelo da la clase que eligió el atacante; sin él, funciona normal.

Se planta con datos envenenados: muchas entradas de clases distintas, todas con el mismo disparador (un sticker, unos píxeles) y la misma etiqueta. El modelo aprende el atajo. Como con entradas normales funciona igual de bien, una evaluación normal no la detecta: el golden set no trae el disparador. También puede venir de fábrica en pesos bajados de internet, aunque el archivo sea de un formato seguro como safetensors, que solo guarda números. Se defiende con procedencia, topes por cuenta, auditorías y evaluando con datos propios.

Ejemplo. Un atacante sube fotos de muchas categorías con un sticker chiquito en la esquina, etiquetadas «Relojes de lujo». El modelo de Alba pasaría su gate (el examen que decide si un modelo nuevo reemplaza al actual): top-1 y top-5 no bajan más de 0.3 puntos, y, aun así, sugeriría «Relojes de lujo» para cualquier foto con el sticker.

Puerto

port

Un número de 16 bits, del 0 al 65,535, que dice a qué programa de una máquina va un paquete. La dirección IP lleva a la máquina; el puerto, al programa que se apuntó en ese número.

Un servidor se apunta en un puerto con la syscall bind y el kernel le entrega lo que llegue ahí. Cada protocolo tiene uno acordado: 22 para SSH, 53 para DNS, 80 para HTTP y 443 para HTTPS. Los menores que 1024, en Linux, solo los abre root (Docker y containerd 2.0 quitan esa regla dentro de sus contenedores). Un programa puede escuchar en varios puertos, pero dos programas de la misma máquina no pueden compartir uno en la misma IP (salvo con opciones especiales). El cliente también usa un puerto, uno efímero que le presta el kernel (en Linux, del 32,768 al 60,999). Una conexión queda identificada por cuatro números: IP y puerto de cada lado.

Analogía. Si la IP es la dirección de un edificio, el puerto es el número del departamento. Se rompe en que un mismo programa puede vivir en varios departamentos a la vez, como Triton.

Ejemplo. El gateway de Alba escucha en el 8080; Triton, en el 8000 (HTTP), el 8001 (gRPC) y el 8002 (métricas). uvicorn, si no le dices otro, usa el 8000.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 10 lecciones

Pull request

pull request · PR · merge request

Una petición, en GitHub, para unir tu rama a main, la rama principal: muestra el diff (las líneas que salen y las que entran), los commits, la conversación y el resultado de las pruebas, y se une con un botón cuando se aprueba. En GitLab se llama merge request.

En un equipo casi nadie sube directo a main: cada cambio va en su rama, la rama se sube al remoto y se abre un PR. Ahí ocurre la revisión de código y corren las pruebas automáticas de integración continua. Si piden cambios, los commits nuevos en la misma rama actualizan el PR. Una regla de protección puede exigir PR, al menos una aprobación y CI en verde antes de unir. Los PRs chicos se revisan mejor y se revierten más fácil. Con GitOps, desplegar y hacer rollback también son PRs.

Ejemplo. En Alba, un PR que cambia el timeout del gateway corre los 26 tests del gateway y espera la aprobación de otra persona antes de entrar a main.

Se presenta en 35 · Git: versiones del códigoAparece en 10 lecciones

Punto flotante

floating point · float

La forma en que la computadora guarda números con decimales: como notación científica en base 2, con un bit de signo, un exponente que dice dónde va el punto y una mantisa con los dígitos.

El valor es (−1)^signo × 1.mantisa × 2^(exponente − sesgo). Los bits de exponente dan el rango; los de mantisa, la precisión. Entre cada potencia de 2 y la siguiente cabe la misma cantidad de números, así que la separación crece con el tamaño y el error de redondeo es relativo. Hay valores especiales: infinito (inf) y NaN (not a number), que contagia a toda cuenta en la que entra. Los formatos que vas a oír: FP64, FP32, FP16, BF16 y FP8.

Analogía. La notación científica de toda la vida, 1.50528 × 10⁵, pero con potencias de 2 y un número fijo de dígitos. Se rompe en que casi ningún decimal, como 0.1, tiene una escritura exacta en base 2: se guarda redondeado.

Ejemplo. 6.5 = 110.1₂ = 1.101₂ × 2². En FP32: signo 0, exponente 2 + 127 = 129 (1000 0001) y mantisa 101 seguida de 20 ceros.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 5 lecciones

Punto porcentual

percentage point · pp

La resta entre dos porcentajes: de 85 % a 87 % son 2 puntos porcentuales, aunque el cambio relativo sea de 2.4 %.

«Subió 2 %» y «subió 2 puntos» son cosas distintas: lo primero es multiplicar por 1.02; lo segundo, sumarle 2 al porcentaje. Con métricas y disponibilidad conviene decir los dos. Pasar de 99.9 % a 99.99 % son solo 0.09 puntos, pero la caída permitida se divide entre 10: de ≈ 43 a ≈ 4.3 minutos al mes.

Ejemplo. El gate de Alba (el examen que un modelo nuevo tiene que pasar antes de salir) no deja pasar un modelo que quede más de 0.3 puntos abajo del actual, y se lo exige hasta al extremo de abajo de su intervalo de confianza: si el actual saca 96 % de top-5, la raya está en 95.7 %. Leído como «0.3 % de 96», la raya quedaría en 95.712 %: otra regla.

Se presenta en 09 · Números grandes, unidades y estimacionesAparece en 5 lecciones

pydantic

pydantic

Una librería que usa las anotaciones de tipo para revisar datos mientras el programa corre: describes la forma de un mensaje como una clase y pydantic revisa, convierte o rechaza cada dato que la llena.

Sirve para lo que ningún revisor ve antes de correr: lo que llega por la red, como el body de una request. Por omisión convierte lo que se puede convertir sin perder nada (el texto "0.93" a 0.93) y rechaza lo demás con un ValidationError; con strict=True no convierte nada. Con Field(ge=0, le=1) revisa también rangos. Desde su versión 2 (2023), su corazón es pydantic_core, escrito en Rust: una extensión nativa. FastAPI lo usa para validar cada request y responder 422 si algo no cumple; pydantic-settings hace lo mismo con las variables de entorno.

Ejemplo. Con score: float = Field(ge=0, le=1), Prediccion(label="tenis", score="0.93") guarda 0.93 como float, y score=1.7 falla con «Input should be less than or equal to 1». En el gateway de Alba, INFER_TIMEOUT_S=0.15 llega como texto y sale como un número revisado.

Se presenta en 33 · Python, paquetes y entornosAparece en 3 lecciones

PyPI

Python Package Index

El índice público de paquetes de Python, en pypi.org: un servidor con cientos de miles de proyectos (≈ 940,000 a mediados de noviembre de 2026), cada uno con todas sus versiones y sus archivos. Es de donde pip baja por omisión.

Cualquiera puede crear una cuenta y subir un paquete. Eso lo hace enorme y también riesgoso: el typosquatting son paquetes con nombres casi iguales a los famosos, esperando un error de dedo, y la confusión de dependencias (dependency confusion) es publicar en PyPI un paquete con el nombre de uno interno de una empresa y una versión más alta, para que --extra-index-url lo prefiera. Por eso las empresas suelen tener un espejo (mirror) propio, con copias revisadas, que pip usa con --index-url. Es parte de la cadena de suministro.

Ejemplo. Un caso real: las versiones 1.82.7 y 1.82.8 de LiteLLM salieron comprometidas en PyPI el 24 de marzo de 2026: quien corrió pip install litellm sin versión en las pocas horas que estuvieron publicadas recibió el código malicioso, y quien instalaba de un lock con hashes, no.

Se presenta en 33 · Python, paquetes y entornosAparece en 2 lecciones

pyproject.toml

pyproject.toml

La ficha de un proyecto de Python, en la raíz de su carpeta: su nombre, su versión, qué Python necesita, de qué depende y cómo se configuran sus herramientas. Dice lo que el proyecto acepta, no lo que se instala.

Está escrito en TOML, un formato de texto de llaves y valores parecido al YAML, que la biblioteca estándar lee con tomllib desde Python 3.11. En [project] van name, version, requires-python y dependencies: solo las dependencias directas, casi siempre con rango. En [project.optional-dependencies] van grupos aparte, como las de pruebas. El rango dice qué versiones aceptas, pero el resolvedor escoge, el día que instalas, las más nuevas que quepan: lo que instalas lo dice el lock file. uv y Poetry leen el pyproject.toml y escriben el lock solos.

Ejemplo. Un pyproject.toml de ejemplo para el gateway: name = "gateway-alba", requires-python = ">=3.13" y dependencies = ["fastapi>=0.141", "uvicorn>=0.54", "pillow==12.3.0", "numpy>=2.5,<3"], con Pillow fija porque el preprocesamiento del entrenamiento depende de ella. (El gateway de Alba, en realidad, usa solo requirements.txt.)

pytest

pytest

La herramienta de pruebas más usada en Python. Encuentra sola los archivos test_*.py y, adentro, las funciones cuyo nombre empieza con test, usa el assert normal de Python y muestra un punto por cada prueba que pasa y una F por cada una que falla.

No viene con Python: se instala con pip. Sus piezas: el assert simple, que pytest abre para mostrar qué valía cada lado cuando falla; @pytest.mark.parametrize, que corre la misma prueba con cada fila de una tabla; los fixtures, que preparan y limpian lo que una prueba necesita (y se comparten en conftest.py); y pytest.approx, para comparar números con punto decimal con tolerancia. Sale con código 0 si todo pasó, 1 si algo falló y 5 si no encontró ninguna prueba, y con ese número decide el CI. -q la hace callada, -x para en la primera falla, -k texto corre solo las que coinciden y --tb=line resume cada falla en una línea.

Ejemplo. python -m pytest -q imprime .... y 4 passed. Después de un cambio que rompe la normalización imprime FFFF, 4 failed y sale con código 1: el PR queda en rojo.

Se presenta en 36 · Pruebas y CI/CDAparece en 2 lecciones

PyTorch

PyTorch

Una biblioteca de Python para hacer cuentas con tensores (tablas de números) y entrenar redes neuronales. Es la más usada para entrenar modelos, y con ella se entrenó la ResNet-50 de Alba, el marketplace que seguimos en el curso.

La publicó en 2016 el laboratorio de IA de Facebook (hoy Meta), y desde 2022 la cuida la PyTorch Foundation. Tiene tres partes: tensores que viven en la CPU o en la GPU (su device), autograd, que calcula los gradientes solo, y los módulos de torch.nn, las capas ya hechas y la forma de juntarlas en un modelo. Trabaja en modo eager: cada operación corre en cuanto Python llega a su línea, lo que la hace fácil de depurar, pero cada operación pasa por Python. Está hecha para entrenar: al servir hay que apagar lo que solo sirve para aprender (inference_mode y eval), medir con sincronización y, para ir más rápido, compilar o exportar el modelo (torch.compile, torch.export). No viene con Python: se instala con pip install torch torchvision.

Ejemplo. El MVP de Alba era un proceso de FastAPI con PyTorch adentro: daba del orden de 100 fotos por segundo por proceso en una T4, en eager, en FP32 y de una foto a la vez. La versión final exporta el modelo a un engine de TensorRT y Triton lo sirve a ≈ 1,200 fotos por segundo por T4.

Q

Q, K y V

query, key, value

Los tres vectores que la atención calcula para cada token: Q (query, lo que busca), K (key, la etiqueta con la que se ofrece a los demás) y V (value, la información que entrega).

Se obtienen multiplicando el vector del token por tres tablas de parámetros distintas, aprendidas en el entrenamiento. Qué tanto atiende un token a otro sale de comparar la Q del primero con la K del segundo; lo que recibe es la V del segundo. Las K y V de los tokens anteriores son las que se guardan en el KV cache.

Analogía. Como buscar en un tablero de anuncios: tu Q es lo que necesitas, la K de cada anuncio es su título y la V es lo que dice el anuncio. Lees más a fondo los anuncios cuyo título se parece a lo que buscas. Se rompe en que aquí no eliges uno: mezclas todos, cada uno con su porcentaje.

Ejemplo. En la frase «Me senté en el banco», con números de juguete, la Q de «banco» es (1, 0) y la K de «senté» es (3, 0): su producto punto, 3, es la calificación más alta, así que el nuevo vector de «banco» toma sobre todo la V de «senté» (77.8 %).

QPS (req/s)

queries per second · requests per second

Cuántas requests o consultas llegan por segundo. Es la unidad con la que se calcula cuántas máquinas necesita un servicio.

Se calcula dividiendo el volumen de un día entre 86,400 segundos: 1 millón al día son ≈ 11.6 por segundo. Ese es el promedio; para dimensionar se usan el pico y el pico de diseño (ver factor de pico). «QPS» viene de los buscadores (queries); «req/s» dice lo mismo para cualquier API.

Ejemplo. Alba: 10,000,000 fotos ÷ 86,400 s ≈ 116 req/s de promedio, ≈ 350 en la hora pico y 500 de diseño. Un buscador con 50 M búsquedas al día: ≈ 579 de promedio y ≈ 1,750 en el pico (3 × 579 = 1,737, redondeado).

Se presenta en 09 · Números grandes, unidades y estimacionesAparece en 3 lecciones

R

RAG

retrieval-augmented generation

Primero buscar los documentos que sirven para la pregunta y después pedirle al modelo de lenguaje (LLM) que conteste usándolos. «Buscar y luego responder.»

La búsqueda es un retrieval (recuperación) sobre embeddings de los documentos, a veces con re-ranking (reordenar). Los pedazos encontrados se pegan en el prompt. Así el modelo puede contestar con información que no vio al entrenar (la política de devoluciones de esta semana) y citar de dónde la sacó. No elimina las alucinaciones, pero las reduce y las hace verificables.

Ejemplo. Pregunta: «¿cuántos días tengo para devolver unos tenis?». El sistema busca la política de devoluciones del marketplace, la pone en el prompt y el modelo responde con lo que dice el documento.

Se presenta en 08 · Transformers y LLMsAparece en 9 lecciones

RAM

RAM · random access memory · main memory

La memoria de trabajo de la computadora: donde viven los programas que están corriendo y los datos que usan. Es rápida (≈ 100 nanosegundos por lectura), pero se borra al apagar y cabe mucho menos que en un disco.

Cada byte de la RAM tiene una dirección, un número, y cualquiera se lee en casi el mismo tiempo, sin importar el orden: de ahí su nombre, random access memory («memoria de acceso aleatorio»). Está hecha de DRAM (dynamic RAM): cada bit es una carguita eléctrica en un capacitor diminuto que se escapa sola, así que el chip la refresca cada pocas decenas de milisegundos y sin luz la pierde. La CPU solo calcula con lo que está en la RAM (y le llega por su caché): por eso todo programa y todo archivo se copia del disco a la RAM antes de usarse. Una laptop trae de 8 a 32 GB y un servidor, de decenas de GB a varios TB, con un ancho de banda de decenas a cientos de GB/s, según la máquina (120 GB/s en una Mac M4). La GPU tiene su propia memoria aparte, la VRAM.

Analogía. La bodega de la cocina: cabe mucho más que en la mesa junto a la estufa (la caché), pero cada viaje tarda. Se rompe en que la RAM se vacía completa en cuanto se va la luz.

Ejemplo. Una foto de 12 megapíxeles, como las que toma el celular de Ana, ocupa 36.6 MB de RAM ya decodificada; el tensor que llega a un servidor de GPU de Alba (el marketplace que sigue el curso) ocupa 602 KB. Ese servidor, una máquina g4dn.xlarge de AWS, trae 16 GiB de RAM.

Se presenta en 17 · Memoria, caché y discoAparece en 10 lecciones

Rama

branch

Un nombre que apunta a un commit y avanza solo con cada commit nuevo que haces en ella. Crearla es escribir un archivo de 41 bytes: no copia ningún archivo del proyecto.

Git guarda cada rama en .git/refs/heads/ con el id completo de su commit (40 caracteres y un salto de línea). main es el nombre que casi todos usan para la primera rama (GitHub, desde 2020); Git 2.x todavía la llama master si no configuras init.defaultBranch main. HEAD dice en qué rama estás: es el archivo .git/HEAD, que normalmente contiene ref: refs/heads/main. git switch -c nombre crea una rama y te pasa a ella. Con las ramas, cinco personas trabajan a la vez sin pisarse: cada una en la suya, y al final se unen con un merge o se ponen al día con un rebase.

Analogía. Un separador de libro que se mueve solo a la página que acabas de escribir. Se rompe en que un libro tiene una sola historia, y en Git cada separador puede seguir su propia continuación.

Ejemplo. Cien ramas ocupan 100 × 41 = 4,100 bytes, unos 4 KB, aunque el proyecto pese 300 MB.

Se presenta en 35 · Git: versiones del códigoAparece en 4 lecciones

Ranking

ranking

La tarea de ordenar una lista de opciones de la más a la menos relevante. Importa el orden, no el puntaje exacto.

Se usa en búsqueda, recomendaciones y anuncios. Muchas veces el modelo es un clasificador que estima una probabilidad (por ejemplo, de que alguien haga clic) y la lista se ordena por esa probabilidad. Si el puntaje combina dos probabilidades, las dos tienen que estar calibradas.

Ejemplo. En la recomendación de la pantalla de inicio de un marketplace, unas 1,000 publicaciones candidatas se ordenan por P(click) × (P(contacto | click) + 0.05). P(click) es la probabilidad de que alguien la toque, y P(contacto | click), la de que contacte a quien vende si ya la tocó.

Rate limit

rate limiting · quota

Un tope de cuántas requests acepta un sistema de cada cliente por unidad de tiempo. Lo que pase del tope recibe al instante un error 429 («demasiadas requests»), con un header Retry-After que dice cuándo volver a intentar.

Protege la capacidad y a los demás clientes de uno solo: un programa con un error que reintenta sin parar o un trabajo en tanda. Se cuenta por identidad verificada, no por IP, porque muchos clientes comparten IP y uno puede usar muchas. 429 (Too Many Requests) dice «tú te pasaste»; 503 dice «yo estoy saturado»: confundirlos dispara tu alarma de disponibilidad por culpa de otro. Una ventana fija por minuto deja pasar hasta el doble en la orilla entre dos minutos; un token bucket separa el ritmo sostenido de la ráfaga tolerada. Si el gateway tiene varias copias, el límite vive en un almacén compartido (como Redis) o se divide entre ellas.

Ejemplo. Una cuota de 3,000 por minuto con ventana fija deja pasar 3,000 a las 12:00:59 y otras 3,000 a las 12:01:00: 6,000 en 2 s, 60 veces el ritmo de 50 por segundo que parecía prometer.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 3 lecciones

RBAC (control de acceso por roles)

role-based access control

Dar permisos a roles, no a personas o programas sueltos, y asignarle a cada identidad uno o varios roles. Cuando alguien cambia de puesto, se le cambia el rol, no decenas de permisos.

Es el patrón más común de autorización: un rol como «vendedora» o «soporte» junta un conjunto de permisos. Las políticas de IAM (los permisos de AWS) y los roles de Kubernetes son variantes del mismo patrón. Responde «¿este tipo de identidad puede hacer esta acción?»; no responde «¿este objeto es suyo?», que se revisa aparte (si no, IDOR). La trampa es el rol que lo puede todo «por mientras», contra el mínimo privilegio.

Ejemplo. En Alba, Ana tiene el rol vendedora (editar sus publicaciones) y Marta el de soporte (leer cualquiera, no editar). Si Marta pasa a otro equipo, se le quita el rol de soporte y pierde todo de una vez.

Re-ranking (reordenar)

re-ranking · reranker

La segunda etapa de una búsqueda: después de una primera búsqueda rápida, un modelo más caro y más preciso vuelve a calificar solo los primeros candidatos y los reordena.

Puede darse el lujo de ser lento por candidato porque mira pocos (decenas, no millones). Un re-ranker típico (un cross-encoder) lee la consulta y el candidato juntos, en vez de comparar dos vectores calculados por separado, como hace un modelo de dos torres. Cuántos candidatos reordenar es una decisión de costo.

Ejemplo. En la búsqueda de Alba, el marketplace del curso, reordenar los 100 primeros de cada búsqueda de texto pediría ≈ 24 GPUs; los 30 primeros, ≈ 8 (estimación del equipo de Alba).

Se presenta en 07 · Embeddings: el significado como coordenadasAparece en 2 lecciones

Reanudar desde un checkpoint

resuming training

Seguir un entrenamiento interrumpido desde su último checkpoint (el archivo con su estado) de modo que sea la misma corrida: con los pesos, el estado del optimizador, el paso, el plan del learning rate, la escala de la precisión mixta y el azar tal como estaban.

Un reintento que empieza de cero tira horas; uno que carga solo los pesos produce otra corrida parecida. Reanudar bien pide el checkpoint completo: pesos, los promedios de Adam, época y paso, el estado del scheduler, el de la precisión mixta (la escala del GradScaler) y el de los generadores de azar. Además, el paso debe ser idempotente (repetirlo no cambia el resultado): checkpoints con el número de paso en el nombre y reanudar la misma corrida de MLflow, no abrir otra.

Ejemplo. El fine-tune de Alba se cae a las 2 h 10. El orquestador espera 120 s, lanza el intento 2 en otro nodo, que lee paso-115016.pt de s3://ml-datos/checkpoints/resnet50-2026-10-01/ y sigue en el paso 115,017. Se pierden 10 minutos, no 2 horas.

Rebase

rebase

Rehacer tus commits, uno por uno, encima del último commit de otra rama, para que la historia quede en línea recta. Como cambia el padre de cada commit, todos salen con ids nuevos.

Rebase no mueve commits: crea copias con los mismos cambios y mensajes, y deja los originales sin rama que los nombre. De ahí la regla de oro: no hagas rebase de commits que otros ya bajaron, porque quedarían dos historias distintas con el mismo trabajo. En tu rama, antes de compartirla, es seguro y deja una historia fácil de leer; git pull --rebase pone tus commits locales encima de lo que bajaste. git rebase -i sirve para juntar o corregir tus commits antes de subirlos. Después de un rebase de una rama que ya estaba en el remoto, subirla pide --force-with-lease.

Ejemplo. La rama logs tenía 0750449 y 707221d encima de 1e53ceb. Después de git rebase main, quedan como 26b7ad8 y a8b1758 encima de 821910a: mismos cambios, ids nuevos.

Recall

recall · sensibilidad · TPR

De todos los casos que de verdad eran «sí», qué fracción encontró el modelo. Mide cuánto se le escapa.

Se calcula como verdaderos positivos / (verdaderos positivos + falsos negativos). Se puede inflar diciendo «sí» a todo, por eso se mira junto con la precision. En la curva ROC se le llama tasa de verdaderos positivos (TPR), y en medicina, sensibilidad.

Ejemplo. Había 100 tenis y el modelo encontró 80: recall = 80 / 100 = 80 %.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 9 lecciones

Receta de entrenamiento

training recipe

Todo lo que se le da al entrenamiento en vez de que lo aprenda: optimizador, learning rate, batch, épocas, semilla, precisión, augmentations. Vive en un archivo del repositorio y se copia a cada corrida.

La receta es uno de los cinco ingredientes de la reproducibilidad (la «configuración»). Como es parte del modelo, va en un archivo versionado en el mismo commit que el código, cambia solo con revisión y se anota completa como parámetros de la corrida. Así «¿con qué lr se entrenó?» tiene respuesta exacta. Si la receta cambia, el ruido entre semillas puede cambiar y hay que volver a medir la tolerancia.

Ejemplo. La receta de Alba: Adam, lr 3e-4, batch 64, 8 épocas (28,754 pasos cada una, 230,032 en total), semilla 17, precisión mixta y 8 workers del DataLoader, arrancando de los pesos de ImageNet con el preproceso 1.4.0.

Recuperación ante desastres (DR)

disaster recovery · DR

El plan para el día en que se pierde algo grande: una región, una cuenta o una base de datos borrada. Se define con dos números: cuánto puedes perder (RPO) y cuánto puedes tardar (RTO).

Se decide por artefacto, no por sistema: lo que se puede recalcular aguanta perder horas; lo que escribió una persona, casi nada. Con el RPO y el RTO de cada cosa se elige la estrategia más barata que los cumpla, se pone la replicación que haga falta y se ensaya en un game day. Replicar no basta: contra un borrado o un archivo corrupto hacen falta versiones o snapshots.

Ejemplo. El DR de Alba, el marketplace que sigue el curso, es el más barato: pesos e imágenes de contenedor copiados a otra región, código en git e infraestructura descrita en archivos. Si la región cae mucho tiempo, se reconstruye en horas; mientras, la vendedora elige la categoría a mano.

Red neuronal

neural network

Un modelo hecho de capas de neuronas, una tras otra. Por dentro solo multiplica, suma y aplica activaciones, capa por capa, millones de veces.

Sus parámetros son todos sus pesos y sesgos. Responder es hacer un forward pass; aprender es ajustar los parámetros con backpropagation y descenso de gradiente. Cada capa acomoda los datos para que a la siguiente le sea más fácil.

Ejemplo. Una red de juguete de 2 entradas, 3 neuronas y 2 salidas tiene (2 × 3 + 3) + (3 × 2 + 2) = 17 parámetros.

Se presenta en 06 · Redes neuronales y CNNsAparece en 4 lecciones

Redirección

redirection

Pedirle a la shell que, antes de lanzar un programa, conecte uno de sus flujos (stdin, stdout o stderr) a un archivo: > manda stdout a un archivo (vaciándolo), >> agrega al final, < lee de un archivo y 2> manda los errores.

2>&1 hace que el descriptor 2 apunte a donde apunta el 1 en ese momento, y la shell aplica las redirecciones de izquierda a derecha: cmd > log 2>&1 manda los dos flujos al archivo, pero cmd 2>&1 > log deja los errores en la pantalla. &> log es el atajo de bash para los dos. /dev/null es un archivo especial que se traga todo. > vacía el archivo al prepararse, antes de que corra el programa: sort log > log deja log vacío.

Ejemplo. python3 entrenar.py > entrenar.log 2>&1 guarda en el archivo los resultados y los errores; ls existe.txt noexiste.txt 2> /dev/null muestra solo existe.txt.

Redis

Redis · Remote Dictionary Server

Una base llave-valor que guarda todo en la memoria RAM. Responde en menos de un milisegundo si quien pregunta está cerca (en la misma zona de la nube), y se usa como caché, para guardar las features que un modelo lee en cada request y para contadores compartidos.

Sus valores pueden ser textos o números (GET, SET, INCR), hashes (campos dentro de una llave), listas, conjuntos y conjuntos ordenados. Cada llave puede llevar un TTL (SET llave valor EX 3600). Ejecuta los comandos de uno en uno, en un solo hilo (desde Redis 6, otros hilos pueden atender la red, pero no los comandos), así que dos INCR al mismo tiempo nunca pierden una cuenta: por eso guarda el balde compartido de un rate limit. La persistencia es opcional: una foto periódica (RDB, encendida por omisión) puede perder los minutos desde la última foto, y un registro de cada escritura (AOF, con su ajuste por omisión de bajarlo al disco cada segundo) puede perder ≈ 1 segundo; así que guarda cosas que se pueden reconstruir. Como lo caro es la red, MGET pide muchas llaves en un solo viaje. Todo en RAM es caro por GB: un sistema de detección de fraude calcula ≈ 46 GB para su online store, repartidos en 4 pedazos (shards), cada uno con su primaria y una réplica: 8 máquinas. Valkey es una copia abierta (fork) de Redis que nació en 2024, cuando Redis cambió a una licencia que ya no era abierta; lo ofrecen las nubes, como ElastiCache de AWS. En 2025, Redis 8 volvió a ofrecer una licencia abierta (AGPLv3).

Ejemplo. Un GET toma ≈ 0.3 ms con la red (un valor típico en la misma zona). 400 GET de uno en uno serían 400 × 0.3 = 120 ms; un MGET de las 400 llaves, ≈ 1–2 ms, como hace la búsqueda de Alba.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 5 lecciones

Redondear hacia arriba (ceil)

ceiling · ceil

Quedarse con el entero de arriba: ⌈0.83⌉ = 1 y ⌈2.1⌉ = 3. Así se cuentan las máquinas: media máquina no existe, y la que falta deja tráfico sin atender.

Se escribe ⌈x⌉ y en Python math.ceil(x). Su contrario es el piso, ⌊x⌋ (math.floor), que se queda con el entero de abajo; round va al más cercano, y en Python manda los empates al par: round(2.5) da 2. Para capacidad, siempre hacia arriba; el repuesto (N+1) se suma después.

Ejemplo. GPUs de Alba: ⌈500 ÷ 600⌉ = ⌈0.83⌉ = 1 por tráfico, más 1 de repuesto: 2. Con floor serían 0.

Se presenta en 09 · Números grandes, unidades y estimacionesAparece en 4 lecciones

Redondeo

rounding · rounding error

Guardar el número representable más cercano cuando el valor exacto no cabe en los bits. La diferencia es el error de redondeo: chiquito en cada número, pero se acumula.

Casi ningún decimal cabe exacto: 0.1 en binario es 0.000110011…₂, sin fin. El error de cada número es, a lo mucho, media separación: ≈ 0.000006 % en FP32, ≈ 0.05 % en FP16 y ≈ 0.4 % en BF16. Por eso los números de punto flotante se comparan con tolerancia (math.isclose, torch.allclose), nunca con ==; por eso un número chico sumado a uno grande puede perderse; y por eso las GPUs acumulan las sumas en FP32 aunque multipliquen en FP16.

Ejemplo. En Python, 0.1 + 0.2 da 0.30000000000000004. En FP32, 16,777,216 + 1 da 16,777,216: un contador de fotos en float32 se atora en ≈ 40 horas.

Se presenta en 14 · Cómo guarda números una computadoraAparece en 2 lecciones

Redundancia

redundancy · replicas · N+1

Tener más de una copia de una pieza para que, si una falla, otra responda. Con k réplicas independientes de disponibilidad a, la pieza falla solo con probabilidad (1 − a)^k.

Cada copia es una réplica: el mismo programa en otra máquina. La regla más común es N+1: N réplicas para el tráfico y una de repuesto, de modo que perder una no se note, y la que queda tiene que aguantar el pico sola. El repuesto tiene que estar donde no le pegue lo mismo: otra máquina, otra zona. Las cuentas en el papel son enormes (dos réplicas al 99 % dan 99.99 %), pero solo valen contra fallas independientes; contra una falla correlacionada más copias de lo mismo no ayudan. Un reintento es redundancia en el tiempo, con la misma letra chica.

Ejemplo. Alba, el marketplace que sigue el curso, necesita una sola GPU T4 para su pico de diseño de 500 fotos por segundo, y tiene dos, una por zona: si cae una zona, la otra queda al ≈ 42 % de su máximo. Con cada zona al 99.5 %, las dos dan 1 − 0.005² = 99.9975 %, ≈ 1 minuto al mes.

Se presenta en 11 · Probabilidad para sistemas que fallanAparece en 3 lecciones

Reentrenamiento

retraining

Volver a entrenar el modelo con datos nuevos para que se ponga al día con lo que está pasando.

Es lo que cierra el ciclo: el monitoreo detecta que el modelo se quedó atrás, se juntan y etiquetan datos nuevos, y se entrena una versión nueva que reemplaza a la anterior solo si no es peor en el examen de evaluación.

Ejemplo. Alba reentrena cada mes. Una categoría nueva, como «bolsas» el 1 de octubre, obliga a adelantarlo. Si el monitoreo ve drift o que se aceptan menos sugerencias, se abre un ticket y una persona decide si se adelanta.

Se presenta en 00 · El camino completoA fondo en 58 · Monitoreo, drift y reentrenamientoAparece en 5 lecciones

Referencia

reference window · baseline

La muestra de datos «normales» contra la que se comparan los datos de hoy para saber si algo cambió: los datos con los que se entrenó el modelo, o unas semanas recientes que se portaron bien.

Comparar distribuciones siempre es comparar dos cosas: la referencia y la ventana actual, que es el pedazo de datos que revisas ahora (ayer, la última semana, la última hora). Cada referencia responde otra pregunta. Contra los datos de entrenamiento: «¿el modelo está viendo algo que no aprendió?». Contra una ventana reciente: «¿cambió algo de golpe?». Contra la misma franja de antes (el mismo periodo del año pasado, la misma hora de la semana pasada): «¿esto es raro para este momento?», que es lo que pide la estacionalidad. Lo normal es usar dos a la vez. La de entrenamiento se versiona con el modelo: si el modelo se reentrena con datos nuevos, su referencia cambia con él.

Analogía. Como la foto de «antes» en un antes y después: sin ella no hay comparación. Se rompe en que aquí hay que elegir cuál «antes» usar, y cada uno cuenta una historia distinta.

Ejemplo. Alba, un marketplace que sugiere la categoría de cada foto, compara cada día la mezcla de categorías que predijo contra la de las 4 semanas previas, y abre un ticket si el PSI pasa de 0.2 tres días seguidos. Un drift lento de 1 punto por semana nunca se ve contra la semana anterior (PSI ≤ 0.0012), pero contra el entrenamiento cruza 0.2 en la semana 15.

Referencia y ventana del drift

reference window

Contra qué se compara la distribución de hoy para decir si hubo drift, y sobre cuánto tiempo. Cada referencia ve una cosa y se pierde otra.

Contra los datos de entrenamiento, la pregunta es «¿ve algo que no aprendió?», pero si el mundo se movió para siempre, la alerta suena sin parar. Contra una ventana reciente, la pregunta es «¿cambió de golpe?», pero un cambio lento nunca se ve, porque cada semana se parece a la anterior. Por eso se usan dos. Además se pide que el cambio se sostenga, para que un día raro no dispare nada.

Ejemplo. Alba compara el PSI diario contra las 4 semanas previas (la alerta, si pasa de 0.2 tres días seguidos) y contra el mes del snapshot del champion, ds-2026-09-01 para la release 14 (el reporte mensual).

Región

region

Un área geográfica donde un proveedor de nube tiene un grupo de centros de datos y los opera como una unidad separada de las demás. Tiene un nombre en código, como us-east-1 (norte de Virginia).

Lo que creas en una región no existe en otra: una máquina, un bucket o una cuota son de esa región. Esa separación evita que un problema en una tumbe a las demás. La región decide cinco cosas: la distancia a quien te llama (≈ 1 ms de ida y vuelta por cada 100 km, como mínimo), el catálogo de máquinas y servicios, el precio, la ley que aplica a los datos y tus límites. Por dentro se parte en zonas de disponibilidad. Se elige en este orden: residencia de datos, catálogo, latencia y precio.

Analogía. Una cadena de supermercados: cada ciudad donde tiene tiendas es una región y cada sucursal, una zona. Los precios y lo que hay en los estantes cambian de ciudad en ciudad. Se rompe en que las sucursales de una ciudad comparten casi todo; las zonas se separan a propósito, con luz y red propias, para no caerse juntas.

Ejemplo. Alba, el marketplace que sigue el curso, tiene su modelo en us-east-1 porque ahí está el backend que lo llama: la llamada viaja metros. Desde la Ciudad de México hay ≈ 3,000 km: 2×3,000÷200 = 30 ms de ida y vuelta como mínimo físico, ≈ 60 ms en la práctica.

Se presenta en 39 · Regiones, zonas y disponibilidadAparece en 10 lecciones

Registro de auditoría

audit log

Una lista de eventos que solo crece y que dice quién hizo qué, cuándo y desde dónde, con la identidad verificada de cada uno. Sirve para investigar después; se guarda donde nadie lo pueda editar ni borrar.

Autenticar y autorizar deciden qué pasa; el registro de auditoría permite contestar qué pasó. En AWS lo lleva CloudTrail, con las llamadas a la API (las de administración, siempre; las que leen o escriben archivos en S3 (el almacén de archivos de AWS), si se activan): qué rol, desde qué IP, si se permitió. Para que pruebe algo, se escribe en un lugar que ni quien lo genera pueda cambiar (por ejemplo, S3 con Object Lock, que impide cambiar o borrar un archivo durante un plazo). No es lo mismo que el log de predicciones de un modelo, que sirve para medir y reentrenar.

Ejemplo. «Marta, rol soporte, leyó la publicación 8812 a las 10:42»: si Beto pregunta quién vio su publicación, la respuesta está ahí.

Se presenta en 44 · Autenticación y permisosAparece en 4 lecciones

Registro de imágenes

container registry

El almacén de donde las máquinas bajan las imágenes de contenedor. Se le sube una imagen (push) y se le pide (pull), por nombre (tag) o por digest, la huella de su contenido; guarda cada capa una sola vez dentro de cada repositorio.

Una imagen construida en CI se borraría con la máquina del job: el registro es el lugar fijo donde vive. No guarda la imagen como un solo archivo, sino sus capas, cada una con su huella, y una lista que dice qué capas forman cada imagen; al subir solo viajan las capas que no tiene. Un registro serio también decide quién entra (con IAM), escanea lo que llega, impide reusar nombres (tags inmutables) y borra lo viejo con una política de retención. Ejemplos: Amazon ECR, Artifact Registry de Google, GitHub Container Registry, Docker Hub. No es el registro de modelos, que guarda versiones del modelo.

Analogía. Una bodega con estantes numerados: cada caja (capa) se guarda una vez aunque la usen muchos pedidos (imágenes), y el pedido es la lista de cajas. Se rompe en que la bodega real no rechaza una etiqueta repetida; un registro con tags inmutables, sí.

Ejemplo. Alba usa ECR, el registro de AWS, en us-east-1; para servir tiene dos repositorios (la imagen de entrenamiento vive en otro): classifier-gateway (≈ 3 a 5 imágenes nuevas al día, de ≈ 87 MB) y classifier-triton (una al mes, de ≈ 9.2 GB). La dirección de una imagen es 123456789012.dkr.ecr.us-east-1.amazonaws.com/classifier-gateway:3f9c2ab.

Se presenta en 54 · CI/CD y registro de imágenesAparece en 7 lecciones

Registro de modelos

model registry

El catálogo de los modelos que pasaron sus exámenes: cada uno como una versión numerada que no cambia, con sus archivos y punteros, y nombres que se mueven para decir cuál atiende y cuál se prueba.

Tiene cuatro piezas: el modelo registrado (un nombre por problema), las versiones (inmutables), los alias (punteros que se mueven) y los tags (texto pegado a cada versión). Cada versión apunta a la corrida que la produjo, así que el registro es la entrada al linaje. Promover y volver atrás es mover un alias. También funciona como registro de auditoría: quién aprobó cada versión y con qué reporte. MLflow es una herramienta común para tenerlo.

Ejemplo. En Alba es MLflow, con el modelo classifier: versión 14 = resnet50-2026-10-01, versión 15 = resnet50-2026-11-01, alias champion y challenger, tags gate=passed.

Se presenta en 50 · Gate de evaluación y registryAparece en 12 lecciones

Regla de alerta

alerting rule

Una condición que el sistema de monitoreo evalúa cada cierto tiempo y que, si se cumple el tiempo suficiente, avisa a alguien. Lleva nombre, condición, cuánto tiene que durar (for), severidad, dueño y runbook (la receta de qué hacer).

Se alerta por síntomas (lo que siente el usuario), no por causas. El for pide que la condición dure antes de disparar, para que un pico de un deploy no despierte a nadie. Hay que protegerla del tráfico bajo (un error en 20 requests es 5 %) y de las series ausentes: si el servicio muere, sus métricas desaparecen y la regla no da nada, así que se alerta también con up == 0, absent() o desde quien espera la señal. Si no hay acción posible, no es un page (una alerta que despierta a alguien).

Ejemplo. ClassifierHighP99Latency de Alba: p99 > 200 ms durante 10 minutos, severidad page, para la guardia, con el runbook del p99 enlazado.

Se presenta en 58 · Monitoreo, drift y reentrenamientoAparece en 2 lecciones

Regla de ciclo de vida

lifecycle rule · lifecycle policy

Una regla de un bucket que mueve o borra objetos según su edad, sin que ningún programa tuyo lo haga: «a los 30 días, pásalo a una clase más barata, como Glacier; a los 365, bórralo».

Tiene dos acciones: mover (transition) a una clase más barata y borrar (expiration). Cada regla aplica a un prefijo o a los objetos con una etiqueta, así que cada parte del bucket puede tener la suya, y S3 las revisa más o menos una vez al día. Es la manera de cumplir una retención: los logs crudos del clasificador de Alba se borran a los 90 días con una regla. Cuidados: cada transición se cobra por objeto (con millones de fotos chicas puede comerse el ahorro), las clases frías cobran un mínimo de días, y una regla mal escrita borra en silencio lo que no debía. Con el versionado prendido, borrar deja la versión vieja, y hace falta otra regla para las versiones no actuales.

Ejemplo. El bucket de fotos del marketplace: 30 días en Standard, después Glacier Instant Retrieval, borrado al año. Al mes cuesta ≈ US$10,140 en vez de ≈ US$16,790, y US$6,080 de eso son las 304 millones de transiciones.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 4 lecciones

Regla de grabación

recording rule

Una expresión cara que el sistema de métricas calcula cada cierto tiempo y guarda como una serie nueva, para que las alertas y los dashboards la lean ya hecha.

Calcular una tasa de 6 horas o promediar 7 días suma millones de muestras; si cada alerta la recalcula en cada evaluación, el sistema trabaja de más. La regla de grabación la calcula cada cierto tiempo (en Alba, una vez por minuto) y le da un nombre propio, por costumbre de tres partes: nivel, métrica y operación (classifier:error_ratio:rate1h).

Ejemplo. Alba graba la fracción de errores en 5 min, 30 min, 1 h y 6 h para sus alertas de burn rate, y classifier:low_confidence_share:rate30m para comparar la baja confianza contra su promedio de 7 días.

Regla de la cadena

chain rule

Si A mueve a B y B mueve a C, lo que C cambia por cada pedacito de A es lo que C cambia por B multiplicado por lo que B cambia por A. Es la cuenta que hace la backpropagation para saber cuánto mover cada perilla del modelo.

Un modelo es una cadena de pasos. Para saber cuánto mueve la pérdida a una perilla del principio, se multiplican las sensibilidades de cada eslabón, de la pérdida hacia atrás. Así se obtiene el gradiente de todas las perillas en una sola pasada, sin mover ninguna.

Ejemplo. Un coche hace 12 km por litro y el litro cuesta $24: cada kilómetro cuesta 24 × 1/12 = $2. En un modelo de juguete con una perilla w: predicción = w × 2, error = predicción − 6 y pérdida = error². Con w = 0, la pérdida cambia −12 por cada unidad de error, el error 1 por cada unidad de predicción y la predicción 2 por cada unidad de w: −12 × 1 × 2 = −24.

Se presenta en 04 · Cómo aprende un modeloAparece en 3 lecciones

Regla de maduración

label maturation rule

Esperar un tiempo fijo antes de aceptar un label gratis, porque todavía puede corregirse. En Alba, la elección de quien vende cuenta solo después de 30 días sin corrección de moderación.

Un label débil llega rápido pero puede cambiar: moderación revisa durante días. Si entrenas con la elección del primer día, metes labels que luego alguien corrigió. La regla es un equilibrio: con menos días entran labels que iban a cambiar; con más, el modelo aprende tarde lo nuevo. Los días se cuentan en UTC.

Ejemplo. Con la regla de 30 días, el snapshot de septiembre (ds-2026-09-01, la copia fija del dataset), que arma la corrida del 1 de octubre de 2026, toma las elecciones hechas hasta el 1 de septiembre. Una elección de hace 16 días todavía no tiene label. En Alba, el filtro baja el error de esa fuente de ≈ 10 % a ≈ 5 %.

Se presenta en 47 · Datos y etiquetasAparece en 2 lecciones

Regla del producto

product rule · multiplication rule

Si dos eventos son independientes, la probabilidad de que pasen los dos es el producto de sus probabilidades: P(A y B) = P(A) × P(B).

Multiplicar es tomar una fracción de una fracción: de los casos en que pasa A, solo en una parte pasa también B. Con N eventos independientes de probabilidad p, que pasen todos es p^N, y eso baja muy rápido: es la cuenta de la disponibilidad en serie y del fan-out. Solo vale con independencia: si los eventos tienden a pasar juntos, la probabilidad de que pasen los dos es mayor que el producto.

Ejemplo. Dos servicios, cada uno rápido 9 de cada 10 veces y sin depender del otro: los dos rápidos 0.9 × 0.9 = 0.81 de las veces. Leer bien los 18 dígitos de una CLABE con 99 % por dígito: 0.99¹⁸ ≈ 0.835.

Se presenta en 11 · Probabilidad para sistemas que fallanAparece en 2 lecciones

Regresión

regression

La tarea de predecir un número en una escala continua: un precio, un tiempo, una cantidad.

El nombre es histórico y no ayuda: no significa «regresar». Lo que importa es que la salida es un número y que el error se mide por qué tan lejos quedó, no por si acertó o no. Su baseline (línea base) más común es decir siempre el promedio, o lo mismo que la vez anterior.

Ejemplo. Sugerir el precio de unos tenis usados, o pronosticar cuántos litros de leche se van a vender mañana en una tienda (pronóstico de demanda).

Se presenta en 01 · Qué es un modeloAparece en 3 lecciones

Regularización

regularization

Todo lo que se hace para que el modelo no memorice su entrenamiento y le vaya bien con datos nuevos: más datos o variaciones de las fotos (data augmentation), apagar neuronas al azar (dropout), encoger las perillas (weight decay), parar a tiempo.

No busca bajar la pérdida de entrenamiento; a veces la sube a propósito. Lo que busca es que el modelo generalice. Hay de varias familias: en los datos (data augmentation), en el modelo (dropout), en el optimizador (weight decay) y en el tiempo (early stopping).

Ejemplo. La ResNet original (2015) se entrenó con weight decay de 0.0001 y augmentation, sin dropout.

Se presenta en 04 · Cómo aprende un modeloAparece en 3 lecciones

Reidentificación

re-identification

Volver a encontrar a la persona en datos que se publicaron como «anónimos», cruzándolos con otros datos que ya se tienen. Funciona porque unos pocos datos juntos casi siempre son únicos.

Los datos que lo permiten son los cuasi-identificadores: ninguno identifica solo, pero juntos sí (el código postal, la fecha de nacimiento y el sexo). Con código postal, fecha de nacimiento y sexo, ≈ 87 % de la población de Estados Unidos quedaba única, según un estudio publicado en 2000 con el censo de 1990 (otro análisis, con el censo de 2000, dio ≈ 63 %). La cuenta lo explica: las combinaciones posibles son muchas más que las personas, así que casi todos quedan solos en la suya. La defensa es generalizar hasta un k-anonimato razonable, publicar solo agregados o no publicar.

Ejemplo. 100,000 personas, 50 códigos postales, fechas de 80 años y 2 sexos: 2,920,000 combinaciones y ≈ 96.6 % de las personas solas en la suya.

Reintento

retry

Volver a mandar una request que falló, esperando que la segunda vez salga bien. Sirve para fallas pasajeras (un 503, «estoy lleno»; un 429, «pediste demasiado, espera»; una conexión rechazada) y nunca para errores de la propia request (un 400 o un 422: datos mal formados).

Si cada intento falla al azar el 1 % de las veces, dos intentos fallan juntos el 0.01 %: es una réplica en el tiempo. Pero solo si los intentos son independientes: si el servidor está caído o saturado, el segundo cae en el mismo estado y le suma carga. Un reintento bien hecho espera con backoff y jitter, respeta Retry-After, cabe en el deadline, se hace en una sola capa con presupuesto y solo repite lo idempotente. Después de un timeout es delicado: la operación pudo haberse hecho y solo se perdió la respuesta.

Ejemplo. En el camino interactivo de Alba nadie reintenta: un segundo intento tendría ≈ 80 ms (250 del gateway − 20 de preparar la foto − 150 del primer intento) y el selector manual es mejor respuesta. Los callers batch reintentan una vez, con jitter y con un presupuesto de ≤ 10 % de las requests.

Se presenta en 25 · Timeouts, reintentos e idempotenciaAparece en 5 lecciones

Release (el par gateway + Triton)

release pair

En Alba, una release es un par: el gateway (el servicio que recibe las fotos) de una versión más el Triton (el servidor del modelo) de esa versión, cada uno con su nombre. Así nunca hay dos modelos detrás del mismo nombre.

Cada versión del modelo corre en su propio Deployment triton-vN con su Service triton-vN. El gateway de esa release trae TRITON_URL apuntando a ese Service, su MODEL_VERSION y su labels.json (de un ConfigMap por versión, con su huella verificada al arrancar). Durante un canary conviven dos releases completas, y cada request pasa por una sola: su versión queda escrita en el log y en las métricas, y el análisis puede compararlas.

Ejemplo. La release 15 es el gateway con TRITON_URL=triton-v15.classifier.svc.cluster.local:8000, MODEL_VERSION=resnet50-2026-11-01 y el ConfigMap classifier-labels-15, más el Deployment triton-v15.

Se presenta en 56 · Rollout seguroAparece en 3 lecciones

Release de NGC

NGC release

Una entrega mensual de los contenedores de NVIDIA (TensorRT, Triton, PyTorch), nombrada por año y mes, como 24.08. Los de una misma release comparten la base: la misma CUDA y la misma TensorRT.

NVIDIA publica sus programas en contenedores listos en su catálogo NGC, con una release al mes que se nombra AA.MM. Dentro de una release, el contenedor de TensorRT y el de Triton traen la misma versión de TensorRT y de CUDA. Para un engine, eso es lo que importa: si se construye con la release del servidor, el servidor lo puede cargar. Cambiar de release es un cambio del modelo: engine nuevo, paridad y latencia.

Ejemplo. Alba construye con nvcr.io/nvidia/tensorrt:24.08-py3 (TensorRT 10.3) y sirve con tritonserver:24.08-py3 (Ubuntu 22.04, CUDA 12.6). build_engine.sh fija NGC_RELEASE=24.08, y la release queda como tag de la versión en el registry.

Se presenta en 51 · Export, engine y paridadAparece en 3 lecciones

Reloj monotónico

monotonic clock

Un reloj que solo avanza, desde un punto arbitrario (por ejemplo, desde que se prendió la máquina). No dice qué hora es, pero mide bien cuánto pasó: es el que se usa para duraciones y timeouts.

Cada máquina tiene dos relojes. El de pared (wall clock, time.time() en Python) da la hora del calendario y sirve para poner timestamps, pero puede brincar: NTP lo corrige, alguien lo cambia, una máquina virtual despierta. El monotónico (time.monotonic()), también llamado monótono, nunca retrocede ni brinca. Las latencias, los timeouts y los deadlines se miden con él; restar dos lecturas del de pared puede dar una duración negativa. Su valor no se compara entre máquinas: cada una cuenta desde su propio punto.

Ejemplo. Si mides una request con time.time() y a la mitad NTP atrasa el reloj 300 ms, una request de 40 ms sale con −260 ms. Con time.monotonic() sale 40 ms.

ReLU

rectified linear unit

La activación más usada: si el número es negativo, sale 0; si no, sale igual. ReLU(−0.3) = 0 y ReLU(0.9) = 0.9.

Es barata de calcular y funciona muy bien en redes profundas; se impuso en la década de 2010. Cuando una neurona saca 0 se dice que «no se activó». Como apaga más o menos la mitad de los números, la regla de inicialización de He usa un 2 para compensar.

Ejemplo. En una red chica que calcula el XOR (da 1 si exactamente una de sus dos entradas vale 1), la neurona h₂ = ReLU(x₁ + x₂ − 1) vale 0 en tres de los cuatro casos y 1 solo cuando las dos entradas valen 1.

Se presenta en 06 · Redes neuronales y CNNsAparece en 5 lecciones

Remoto

remote · origin

Otra copia de tu repositorio, en otro lugar, con la que intercambias commits. Por costumbre, la principal se llama origin, y casi siempre vive en GitHub o en GitLab.

git clone baja un repositorio con toda su historia y apunta origin a su dirección. git fetch baja lo nuevo sin tocar tus ramas (queda en origin/main); git pull hace un fetch y lo une a tu rama (si tu rama también tiene commits propios, el Git de hoy pide que elijas --rebase o --no-rebase); git push sube tus commits. Push solo mueve la rama del remoto hacia adelante: si alguien subió algo que no tienes, se rechaza, porque si entrara borraría su trabajo. --force sobrescribe de todos modos; --force-with-lease se niega si el remoto cambió desde la última vez que lo viste. Los equipos protegen main para que nadie la fuerce.

Ejemplo. Luis sube primero; el push de Ana se rechaza con «! [rejected] main -> main (fetch first)». Ana corre git pull --rebase origin main, su commit queda encima del de Luis y el segundo push entra.

Se presenta en 35 · Git: versiones del códigoAparece en 2 lecciones

Reparto por zona

topology spread constraint

Una regla del pod que le dice al scheduler (el que decide dónde corre cada pod) cuánta diferencia de copias acepta entre zonas (u otros grupos de nodos), y qué hacer si no se puede cumplir.

maxSkew es la diferencia máxima entre el grupo con más copias y el que tiene menos; topologyKey es la etiqueta del nodo que define el grupo (topology.kubernetes.io/zone para zonas). Con whenUnsatisfiable: DoNotSchedule, el pod prefiere quedarse Pending a romper la regla; con ScheduleAnyway, la intenta y si no puede arranca igual. Es la forma de pedir Multi-AZ dentro de Kubernetes.

Ejemplo. Triton en Alba: maxSkew: 1 por zona con DoNotSchedule (una T4 en cada zona). El gateway: maxSkew: 1 con ScheduleAnyway.

Se presenta en 55 · Kubernetes

Réplica de lectura

read replica · replication lag

Una copia de la base que recibe los cambios de la copia principal y atiende lecturas. Reparte la carga de leer, pero va un poco atrás: su retraso de replicación.

En el arreglo más común, una sola copia, la primaria, recibe todas las escrituras y manda su registro de cambios (el WAL de las transacciones) a las réplicas, que lo aplican en orden. Sirven porque casi todo se lee mucho más de lo que se escribe, y porque si la primaria se cae, una réplica puede ascender. El retraso de replicación suele ser de milisegundos, pero sube a segundos o minutos con mucha carga, y entonces quien acaba de escribir puede leer el valor viejo. Para garantizar que cada quien vea lo suyo (read your writes), sus lecturas van a la primaria por unos segundos. Lo que dan las réplicas es consistencia eventual.

Ejemplo. Ana baja el precio a 850 y recarga a los 100 ms; la réplica va 300 ms atrás y todavía dice 900. En un sistema de detección de fraude, las features se leen de la réplica de la misma zona y los contadores, siempre de la primaria.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 2 lecciones

Replicación entre regiones

cross-region replication · CRR

Una regla que copia a otra región cada dato nuevo: objetos de un bucket, imágenes de contenedor o cambios de una base de datos. Casi siempre es asíncrona: la copia llega después del original.

Ese atraso define el RPO: lo que iba en camino cuando cayó la región se pierde. Sin garantía, la mayoría de los objetos de S3 llega en menos de 15 minutos; la opción Replication Time Control está diseñada para replicar el 99.99 % en menos de 15 minutos, y su SLA promete el 99.9 %. Cuesta la transferencia (≈ US$0.02 por GB desde us-east-1) más guardar los datos dos veces. Y no es un respaldo: copia también los borrados y los archivos corruptos, así que se combina con versiones o snapshots.

Ejemplo. Alba, el marketplace que sigue el curso, replica sus pesos (≈ 98 MB por versión, centavos) y no sus fotos, que suman 2 TB al día: ≈ 61 TB al mes × US$0.02 por GB ≈ US$1,200 al mes solo de transferencia.

ReplicaSet

ReplicaSet

Un objeto de Kubernetes que cuida que existan exactamente N copias de una plantilla de pod: si faltan, crea; si sobran, borra.

Casi nunca se escribe a mano: lo crea un Deployment, uno por cada versión de la plantilla. Su nombre lleva una huella de la plantilla, y esa huella aparece en el nombre de cada pod. En un rolling update, el ReplicaSet nuevo sube y el viejo baja hasta 0; los viejos se quedan guardados en 0 réplicas para poder volver.

Ejemplo. En triton-v14-7d9f8c6b5-x2kqp, 7d9f8c6b5 es el ReplicaSet de la plantilla actual. Con revisionHistoryLimit: 5, Alba guarda los 5 anteriores.

Se presenta en 55 · KubernetesAparece en 2 lecciones

Reporte del gate

gate report

Lo que el gate de calidad deja escrito: las predicciones foto por foto de los modelos comparados, las métricas globales, por categoría y por slice (cada pedazo de los datos que se mide aparte, como las fotos con poca luz), y el veredicto de cada regla con sus números.

Sirve para tres cosas: recalcular cualquier regla después, investigar por qué falló (abriendo las fotos donde el nuevo se equivoca y el viejo no) y dejar constancia de contra qué se comparó (versión y huella del champion, versión de las reglas). Queda en la corrida de entrenamiento y, si el modelo llega a registrarse, sus números principales se copian como tags de la versión.

Ejemplo. El de Alba trae las top-5 de 3 modelos sobre 50,000 fotos: 150,000 filas, ≈ 5–10 MB en Parquet, más las métricas y el veredicto de cada regla.

Repositorio

repository · repo

La carpeta de un proyecto que Git vigila, con una carpeta oculta .git donde vive toda su historia. Un cambio pasa por tres lugares: el área de trabajo (lo que editas), el staging (lo que va a entrar en la próxima versión guardada) y el historial (las versiones ya guardadas).

El área de trabajo (working tree) son los archivos que ves y editas. El staging (staging area o index) es lo que va a entrar en la próxima foto; se llena con git add. El historial son los commits ya guardados en .git; se agrega uno con git commit. git status --short dice con dos letras dónde está cada archivo: ?? sin seguir, A o M en la primera columna si está en el staging, M en la segunda si cambió y no está en el staging. Si borras .git, los archivos se quedan pero la historia desaparece. Un repositorio puede tener copias en otros lugares: los remotos.

Ejemplo. git init -q gateway crea la carpeta gateway con su .git; después de git add config.py y git commit, git status --short ya no imprime nada: el árbol está limpio.

Se presenta en 35 · Git: versiones del códigoAparece en 6 lecciones

Reproducibilidad

reproducibility

Poder volver a entrenar un modelo y obtener el mismo resultado. Exige fijar cinco ingredientes: código, datos, configuración, entorno y aleatoriedad.

Cada ingrediente se fija con un puntero: el código con un commit (con el árbol limpio), los datos con un snapshot y su huella, la configuración en el mismo commit, el entorno con el digest (la huella) de la imagen de contenedor y la aleatoriedad con la semilla. Aun así, en una GPU dos corridas casi nunca dan los mismos bits (determinismo), por eso hay tres niveles: bit a bit, dentro de tolerancia (métricas que difieren tan poco como dos semillas) y estadístico. Lo normal en producción es el segundo.

Ejemplo. Alba entrenó la misma receta con 5 semillas: 85.12 a 85.34 %, promedio 85.23 %, desviación estándar σ ≈ 0.088 puntos. Su tolerancia es 3σ ≈ 0.26: una repetición que da 85.41 % se reprodujo; una que da 85.71 %, no.

Se presenta en 48 · Versionado y linajeAparece en 2 lecciones

Request

request · petición

Un mensaje que un programa le manda a otro, por la red, para pedirle algo. Lo que regresa se llama response (respuesta).

Viaja por la red con un formato acordado: a qué dirección va, qué se pide y qué datos lleva (en Alba, la foto). Cada request recibe su response, aunque sea un mensaje de error. Contar cuántas llegan por segundo es la forma de medir cuánto trabajo tiene un servicio.

Ejemplo. Cuando Ana sube su foto, los servidores del marketplace le mandan una request a la API del modelo con la foto, y la response trae la categoría.

Se presenta en 00 · El camino completoA fondo en 22 · HTTP: requests, respuestas y códigosAparece en 19 lecciones

Request ID

request ID · correlation ID

Un identificador que se le pone a una request al entrar y que viaja con ella en un header, como X-Request-ID. Cada pieza lo escribe en su log, y así se une todo lo que pasó con esa request.

Lo crea la primera pieza que recibe la request (en Alba, el marketplace que sigue el curso, el backend), casi siempre como un UUID, y lo pasan todas las demás en un header; cada línea de log lo lleva. Sirve para encontrar la historia de una request entre millones de líneas sin depender de las horas, que no coinciden entre máquinas (desfase de relojes), y para unir después la predicción con su etiqueta: si no se guardó el id al predecir, no hay unión posible. X-Request-ID es una costumbre, no un estándar. Crecido, es el trace ID del trazado distribuido, donde cada salto anota cuánto tardó y quién lo llamó; ese sí tiene estándar, el header traceparent del W3C Trace Context. No es lo mismo que una llave de idempotencia, que evita repetir el efecto de una operación.

Ejemplo. La request de Ana lleva X-Request-ID: 9f2c41d0. Su línea del log de predicciones guarda ese id, el sha256 de la foto, la versión del modelo y el top-5; cuando Ana elige la categoría, el backend la guarda con el mismo id, y el dataset las une.

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 8 lecciones

Requests en vuelo (tope)

in-flight requests limit

Cuántas requests hay adentro de una copia del servicio: llegaron y todavía no salen. Con un tope, la que sobra se rechaza al instante en vez de esperar.

Por la Ley de Little, las requests en vuelo son las llegadas por segundo por lo que dura cada una. Cada una ocupa algo (memoria para su body, una conexión, un lugar en el loop), así que se les pone un tope por copia: la que llega con el tope lleno recibe 503 antes de leer su body. Es la forma más simple de load shedding: rechazar cuesta microsegundos, atender tarde no le sirve a nadie.

Ejemplo. MAX_INFLIGHT = 16 por copia en Alba. Con 100 llegadas por segundo y requests de ≈ 50 ms hay 5 adentro; con requests de 200 ms serían 20, y el tope se recorta a 16 porque cada una puede traer 10 MB de body.

Se presenta en 52 · Código de servingAparece en 2 lecciones

Requests y limits

resource requests and limits

Los dos números que declara cada contenedor por recurso: el request es lo que se le reserva (con él se decide en qué máquina cabe) y el limit es el techo que no puede pasar.

El scheduler solo pone un pod en un nodo si la suma de requests cabe en lo que el nodo ofrece; el HPA mide la CPU como porcentaje del request. El limit lo hace cumplir el kernel con un cgroup. Pasarse de CPU frena (throttling); pasarse de memoria mata el proceso (OOMKilled, código 137). Con ellos, Kubernetes pone al pod en una clase de QoS (quality of service, calidad de servicio): Guaranteed (CPU y memoria con request = limit), Burstable (algo declarado) o BestEffort (nada de CPU ni memoria), que decide a quién saca primero si al nodo le falta memoria.

Analogía. Reservar mesa en un restaurante: el request es la mesa apartada aunque llegues tarde; el limit es el máximo de platos que te sirven. Se rompe en la CPU: si pides más de tu techo, no te corren, te hacen esperar. Con la memoria sí te corren (OOMKilled).

Ejemplo. El gateway de Alba pide 1 núcleo de CPU sin límite y 1 GiB de memoria con límite de 1 GiB (en su peor momento usa ≈ 880 MB, el 82 %). Triton pide 2 núcleos sin límite, 6 GiB = límite y nvidia.com/gpu: 1. Los dos son Burstable.

Se presenta en 55 · Kubernetes

Reserva de capacidad

capacity reservation

Apartar máquinas de un tipo en una zona para que estén ahí cuando las pidas. Es lo único que garantiza capacidad, y se paga se use o no.

En AWS se llama On-Demand Capacity Reservation: eliges tipo, zona y cantidad, y esas máquinas quedan para ti a precio on-demand (un Savings Plan puede bajarle el precio). Sirve para el mínimo que no puede fallar, porque un descuento como un Savings Plan o una RI regional no aparta nada. Si no la usas, la pagas igual.

Ejemplo. Si Alba, el marketplace del curso, reserva 2 g4dn.xlarge, una en us-east-1a y otra en us-east-1b, su mínimo de 2 T4 siempre puede arrancar, aunque la zona se quede sin T4 para otros. Paga esas 2 máquinas las 730 horas, como ya las paga hoy.

Se presenta en 40 · Máquinas, GPUs y cómo se cobranAparece en 2 lecciones

Residencia de datos

data residency

La obligación, por ley o por contrato, de guardar o procesar ciertos datos solo dentro de un país o una región. La define el área legal, no ingeniería.

Es lo primero que fija la región, antes que la latencia o el precio, porque no se negocia. Cuenta todo lo que lleva los datos: la base, las copias de respaldo, los logs con datos de personas, la región de réplica y el prompt que se manda a un modelo alojado en otra región. Puede dejarte sin la región más barata o sin la GPU que querías.

Ejemplo. En un servicio que verifica documentos de identidad, el diseño empieza con «cuenta y región aprobadas por legal». Una clínica cuyo contrato dice que las radiografías no salen de México descarta Virginia en la primera pregunta.

Se presenta en 39 · Regiones, zonas y disponibilidadAparece en 3 lecciones

Resize

resize

Redimensionar una imagen a otro tamaño. Para modelos de visión se suele llevar el lado corto a una medida fija sin deformar la foto.

Al cambiar de tamaño hay que decidir cómo se calcula cada píxel nuevo a partir de los viejos: la interpolación (nearest, bilinear, bicubic…), con o sin antialias. Cada una da números un poco distintos, así que tiene que ser la misma en entrenamiento y en producción.

Ejemplo. Una foto de 3024 × 4032 con el lado corto a 256 queda en 256 × 341.

Se presenta en 02 · Una foto, vista por un modeloAparece en 2 lecciones

ResNet

residual network · ResNet-50

Una familia de CNNs (redes convolucionales, las clásicas para imágenes; He y otros, Microsoft Research, 2015) en la que cada bloque tiene un atajo: su entrada se le suma a su salida. Eso permitió entrenar redes muy profundas.

Con el atajo (skip connection), salida = bloque(x) + x: cada bloque solo aprende una corrección, y la señal del aprendizaje llega bien hasta las primeras capas. Ganó la competencia de ImageNet de 2015. La ResNet-50 tiene 50 capas con pesos en su camino principal, 16 bloques residuales en cuatro etapas y hace ≈ 4.1 mil millones de multiplicaciones-sumas por foto de 224 × 224.

Ejemplo. La ResNet-50 original (1,000 categorías) tiene ≈ 25.6 millones de parámetros: ≈ 102 MB en float32. La de Alba, el marketplace del curso, con 500 categorías: ≈ 24.5 millones.

Se presenta en 06 · Redes neuronales y CNNsAparece en 14 lecciones

Resolución

resolution

Cuántos píxeles tiene una imagen, dicho como ancho × alto. Multiplicados dan el total; un megapíxel (MP) es un millón de píxeles.

La resolución dice cuántos números hay que procesar: la memoria y el tiempo de decodificar crecen con ella. También dice qué tan chico puede ser un detalle y todavía verse: en una cámara que inspecciona piezas metálicas y ve 150 mm en 2,448 píxeles, una grieta de 0.2 mm mide 3.3 píxeles; con la imagen achicada a 224 de ancho, 0.3. Ojo con el orden: las fotos se describen como ancho × alto, pero los tensores casi siempre se escriben alto primero.

Ejemplo. Una foto de celular de 4032 × 3024 tiene 12,192,768 píxeles ≈ 12.2 MP.

Responsabilidad compartida

shared responsibility model

La regla de la nube sobre quién cuida qué: el proveedor, la seguridad de la nube (edificios, hardware, hipervisor, sus servicios); tú, la seguridad en la nube (lo que pones encima y cómo lo configuras).

La línea se mueve con IaaS, PaaS y SaaS: en IaaS el sistema operativo de tu VM y sus parches son tuyos; en PaaS ya no; en SaaS casi nada. Pero una franja es tuya siempre: tus datos, quién puede verlos (IAM) y si activaste respaldos. Un bucket público por error o una tabla borrada no son culpa del proveedor.

Ejemplo. Se rompe un disco del servidor de una de las T4 de Alba, el marketplace que sigue el curso: lo cambia AWS. El Linux de esa VM queda sin parchar: es del equipo de Alba.

Se presenta en 38 · Qué es la nube

REST

Representational State Transfer

Un estilo para organizar una API por HTTP: cada cosa es un recurso con su propia dirección (URL), los métodos HTTP son los verbos (GET lee, POST crea, DELETE borra) y cada request trae todo lo necesario, sin que el servidor recuerde las anteriores.

Lo describió Roy Fielding en su tesis doctoral, en el año 2000. Que no haya estado (stateless) significa que cualquier copia del servidor puede contestar cualquier request, y por eso se pueden poner varias copias detrás de un balanceador de carga. Los códigos de estado se usan con su significado estándar: 200, 202, 404, 422, 503. En el trabajo, «API REST» casi siempre quiere decir «API por HTTP, con JSON y códigos de estado», aunque las rutas no sean recursos puros, como /v1/classify.

Analogía. Una biblioteca con fichas: cada libro tiene su número (la URL) y las operaciones son pocas y siempre las mismas: consultar, prestar, devolver. Se rompe en que el bibliotecario sí se acuerda de ti; un servidor REST no recuerda nada entre una request y la siguiente.

Ejemplo. Una API de OCR: POST /v1/jobs crea un trabajo y responde 202; GET /v1/jobs/51c2 dice cómo va; DELETE /v1/jobs/51c2 lo cancela.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 2 lecciones

Retención

data retention

Cuánto tiempo se conserva cada dato antes de borrarlo. La deciden el costo, la ley y la privacidad, y lo que el aprendizaje automático (ML) necesita para reentrenar y comparar modelos.

Se decide al crear cada artefacto, no después, y se cumple con reglas de ciclo de vida (en S3), con un TTL o con un job de purga (en una tabla). La retención real es la del artefacto que más dura: si el bucket borra a los 90 días pero la foto sigue en un snapshot, en un respaldo en otra región o en un CSV en una laptop, sigue existiendo. Un dataset no puede ser la puerta trasera de la retención. Lo común es una retención escalonada: filas crudas por semanas o meses, agregados (que no traen datos de nadie) para siempre.

Ejemplo. Alba: logs de predicción, 90 días; copias para etiquetar, 90 días; agregados diarios, para siempre; golden set y snapshots, sin caducar, pero borrados por hash cuando alguien lo pide. Si el golden set caducara, ya no podrías comparar modelos de meses distintos.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 3 lecciones

Retrieval (recuperación)

retrieval · candidate generation

La primera etapa de una búsqueda: traer rápido y barato unos cientos de candidatos de entre millones, aunque el orden no sea perfecto.

Suele ser una búsqueda en un índice vectorial, muchas veces junto con una búsqueda por palabras (BM25): eso es la búsqueda híbrida. Su trabajo es no dejar fuera lo bueno; ordenarlo bien le toca al re-ranking (reordenar). En RAG (retrieval-augmented generation: un modelo de lenguaje que responde apoyado en documentos que se le buscan) es la parte que busca esos documentos antes de que el LLM responda.

Ejemplo. En la búsqueda de Alba, el marketplace del curso, el índice vectorial aporta ≈ 200 candidatos y BM25 otros ≈ 200, de entre 100 millones de publicaciones, en unas decenas de milisegundos. El re-ranker solo ve los 30 primeros.

Se presenta en 07 · Embeddings: el significado como coordenadasAparece en 2 lecciones

Retry-After

Retry-After header

Un header de la respuesta (un dato con nombre que viaja junto con ella) en el que el servidor dice cuándo volver a intentar: un número de segundos o una fecha. Viene sobre todo con un 503 (servidor saturado) o un 429 (demasiadas requests).

Es el servidor diciéndole al cliente cuánto esperar, en vez de que el cliente lo adivine con su backoff. Respetarlo es esperar al menos eso antes de reintentar; ignorarlo es lo que empeora una saturación, porque todos vuelven de inmediato. Si lo que pide no cabe en el deadline, no se reintenta: se usa el fallback. Es una forma de backpressure: el servidor avisa hacia atrás que no da abasto.

Ejemplo. HTTP/1.1 429 Too Many Requests con Retry-After: 2 quiere decir «vuelve en 2 segundos». Un job batch espera y reintenta; el camino de Ana en Alba, que se rinde a los 300 ms, no puede esperar 2 s y muestra el selector.

Se presenta en 25 · Timeouts, reintentos e idempotenciaAparece en 6 lecciones

Revisión de código

code review

Que otra persona lea un cambio antes de unirlo: si hace lo que dice, si se entiende, si tiene pruebas y si mete algo que no debe. Es la última mirada humana antes de que el código llegue a main, la rama principal.

Se revisa en el pull request. Lo que se busca: casos que rompen el cambio, claridad para quien lo lea después, pruebas que cubran lo que cambió, y cosas que no deben entrar (una contraseña, un archivo de pesos, una dependencia sin razón). En ML se agrega una pregunta: ¿cambia el preprocesamiento? Si cambia en un lado y no en el otro, aparece el training-serving skew. Lo que puede revisar una máquina (pruebas, estilo, secretos) lo revisa integración continua, y la persona se concentra en el diseño. Un archivo CODEOWNERS dice quién debe aprobar cada carpeta.

Ejemplo. Un PR de 50 líneas se revisa con calma en minutos; uno de 2,000 se aprueba sin leer de verdad.

Revocación de un token

token revocation

Cancelar un token antes de que caduque. Con una sesión que guarda el servidor es fácil; con un JWT que se verifica sin estado no se puede «des-firmar», así que la salida es que dure poco.

Hay dos maneras de revocar un JWT y las dos le quitan su ventaja de verificarse solo: una lista de tokens cancelados (por jti o por sub) que cada servicio consulta, o preguntarle al emisor si el token sigue vivo (la introspección de OAuth). Lo común es una vida corta, de 5 a 60 minutos, aunque se configura (algunos proveedores dan más por omisión), con el cliente renovando desde su caché, y, cuando el riesgo lo pide, una lista chiquita que solo guarda los cancelados que todavía no caducan. La carga sobre el emisor es n=I×1,440÷R tokens al día, con I copias del programa que piden su propio token, cada una renovándolo cada R minutos (1,440 son los minutos de un día).

Ejemplo. Un token de los callers de Alba vale 15 minutos: si alguien lo roba en el minuto 5, le sirve hasta el minuto 15. Una llave de API robada sirve hasta que alguien la cambie.

RGB

RGB (red, green, blue)

La forma más común de guardar un color: tres números que dicen cuánta luz roja (R), verde (G) y azul (B) tiene.

Con 8 bits por número, cada uno va de 0 a 255: (0, 0, 0) es negro, (255, 255, 255) es blanco y (255, 0, 0) es rojo puro. Hay 256 × 256 × 256 = 16,777,216 combinaciones. Algunas librerías, como OpenCV, guardan los mismos tres números en orden BGR: si se mezclan, el modelo ve los colores cambiados.

Ejemplo. (232, 174, 54) es un amarillo mostaza.

Right-sizing (la instancia más chica que cumple)

right-sizing

Elegir la instancia y la GPU más chicas que cumplen con el modelo y el tráfico. Para inferencia, casi siempre gana la instancia de una sola GPU.

Por GPU-hora, las instancias chicas son más baratas (la grande cobra CPU y RAM de más), escalan de una en una y una falla se lleva menos. Las excepciones: el modelo no cabe en una GPU y hay que repartirlo entre varias de la misma máquina por NVLink; entrenar con muchas GPUs; o el preproceso necesita más CPU (entonces se sube el tamaño, no la GPU). El paso siguiente es elegir la GPU: la más barata que cumple, medida en costo por predicción, no la mejor.

Ejemplo. Una T4 cuesta ≈ US$0.526 por hora en la g4dn.xlarge y ≈ US$0.978 en la g4dn.12xlarge. Para servir una ResNet-50, la chica gana.

RLHF (ajuste por preferencias humanas)

reinforcement learning from human feedback

La tercera etapa de un modelo grande de lenguaje (LLM) de chat: personas comparan respuestas del modelo, se entrena un modelo que imita sus preferencias y con él se ajusta el LLM hacia lo que la gente prefiere.

Pasos: el modelo escribe dos o más respuestas a la misma petición; una persona elige la mejor; un modelo de recompensa (reward model) aprende a predecir esa elección; y el LLM se ajusta por refuerzo (prueba, recibe una calificación y se mueve hacia lo que sube la calificación), sin alejarse mucho del modelo de la etapa anterior. DPO (direct preference optimization, 2023) consigue algo parecido sin modelo de recompensa, directo de los pares; Meta lo usó en Llama 3. Enseña tono, utilidad y qué rechazar; no agrega conocimiento.

Ejemplo. En InstructGPT (OpenAI, 2022), las personas prefirieron las respuestas de un modelo de 1,300 millones de parámetros ajustado así sobre las de GPT-3, de 175,000 millones.

Rol de IAM

IAM role

Una identidad de la nube con políticas pegadas que no pertenece a nadie: se asume. Quien lo asume recibe sus permisos por un rato, con credenciales temporales.

Un usuario es una persona con contraseña; un rol es un gafete que se presta. Cada rol tiene dos políticas: la de confianza (quién puede asumirlo) y la de permisos (qué puede hacer). Lo normal es un rol por componente: la API, el worker, el job de entrenamiento.

Analogía. Un gafete de visitante: te lo prestan en la entrada, abre solo ciertas puertas y caduca al final del día. Se rompe porque aquí el gafete se renueva solo mientras el programa lo necesite.

Ejemplo. Un servicio de documentos: docs-api escribe originales y no lee resultados; doc-worker lee originales, escribe resultados y tiene prohibido escribir originales.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 5 lecciones

Rollback

rollback

Regresar a la versión anterior que funcionaba. La regla: primero revertir, después investigar. Tiene que tomar minutos o segundos y estar ensayado.

Funciona solo si se preparó antes: la versión anterior sigue disponible (su imagen por digest en el registro, o viva al lado de la nueva: en Alba, de 24 a 48 horas), volver es rápido (una meta común es ≤ 5 minutos: segundos si es mover el tráfico, de ≈ 5 a 20 minutos si hay que levantar pods con GPU) y se ensayó en staging. Los cambios de datos o de esquema son lo difícil de revertir: por eso se hacen compatibles hacia atrás. Para no tener que revertir todo de golpe se despliega poco a poco, con canary, blue-green o shadow (despliegue en sombra). La palabra también se usa en las bases de datos: ROLLBACK deshace una transacción que no terminó.

Ejemplo. Un despliegue malo en Alba (≈ 116 requests por segundo en promedio) con todo el tráfico, 10 minutos para detectar y 5 para revertir (900 s): 116 × 900 ≈ 104,000 requests dañadas, el 35 % de las 300,000 que el SLO de 99.9 % deja fallar al mes. En un canary al 5 %, ≈ 5,200. En Kubernetes: kubectl rollout undo deployment/gateway.

Se presenta en 36 · Pruebas y CI/CDAparece en 4 lecciones

Rollback automático

automated rollback

Regresar el tráfico a la versión estable sin esperar a una persona, cuando una métrica rompe un umbral escrito antes.

Existe porque revertir no puede esperar a que alguien despierte, y porque decidir con calma a las 3 de la mañana es difícil. Usa dos clases de umbrales: topes absolutos (la promesa del servicio) y comparaciones contra el estable en la misma ventana, cada una con su n mínimo para no revertir por azar. La regla de fondo: lo automático revierte; una persona autoriza el avance.

Ejemplo. Alba revierte si el canary pasa de 0.5 % de 5xx (errores del servidor) o de 200 ms de p99. También si, contra el estable, tiene más de 2 × sus 5xx (con ≥ 10,000 requests), 1.2 × su p99 o 1.5 × su baja confianza, o si el PSI pasa de 0.1 (con ≥ 5,000 predicciones).

Se presenta en 56 · Rollout seguro

Rolling update

rolling update

La forma en que un Deployment cambia de versión: sube pods nuevos y baja viejos poco a poco, con un tope de pods de más (maxSurge) y de pods de menos (maxUnavailable).

Con R réplicas, permite e=⌈maxSurge×R⌉ de más y a=⌊maxUnavailable×R⌋ de menos; si nadie lo escribe, 25 % y 25 %. Avanza a medida que los pods nuevos pasan su probe de readiness, y si no avanza en progressDeadlineSeconds (600 s si nadie lo cambia) se marca ProgressDeadlineExceeded, sin regresar solo. Mide salud, no calidad: no sabe si el modelo nuevo predice bien. Para eso están el canary y lo que cuenta la lección «Rollout seguro».

Ejemplo. Triton en Alba: maxSurge: 1 y maxUnavailable: 0. Con 2 réplicas llegan a existir 3 pods, y como cada uno pide una T4, el despliegue pide una T4 de más unos minutos (≈ US$0.13 por 15 min).

Se presenta en 55 · KubernetesAparece en 2 lecciones

Roofline (el modelo del techo)

roofline model

Una gráfica que dice qué tan rápido puede ir, como máximo, un cálculo en un chip: el menor entre su pico de FLOPS y su intensidad aritmética × el ancho de banda de memoria.

A lo ancho va la intensidad aritmética y a lo alto los FLOPS alcanzables, las dos en escala logarítmica. Tiene dos partes: una rampa, donde lo alcanzable es intensidad × ancho de banda (el cálculo es memory-bound), y un techo plano en el pico de TFLOPS (el cálculo es compute-bound). Se juntan en el punto de quiebre (ridge point): pico ÷ ancho de banda, ≈ 203 FLOPs por byte en una T4. Es una cota: lo real queda debajo. Sirve para saber qué recurso te limita y, por lo tanto, cuál vale la pena comprar o ahorrar. Lo propusieron Williams, Waterman y Patterson en 2009.

Ejemplo. En una T4 (65 TFLOPS y 320 GB/s), un cálculo con intensidad 1 alcanza a lo mucho 1 × 320 GB/s = 0.32 TFLOPS, el 0.5 % del pico; uno con intensidad 1,365 llega al techo de 65 TFLOPS.

Root

root · superuser · UID 0

El superusuario de Linux, el usuario número 0: con él, el kernel se salta casi todas las revisiones de permisos. Puede leer y cambiar cualquier archivo, matar cualquier proceso, montar discos y cargar drivers.

Para usar sus poderes en un solo comando se escribe sudo antes. Lo peligroso es dejar un servicio corriendo como root: si alguien explota un error del programa, obtiene exactamente sus permisos. En un contenedor, el proceso corre como root si la imagen no dice otra cosa, y ese UID 0 es el mismo root del nodo, solo que encerrado y con menos poderes: si escapa, es root de la máquina. Por eso la regla es el mínimo privilegio: USER con un UID numérico en la imagen y runAsNonRoot en Kubernetes. Sus poderes están partidos en unas 40 capabilities que se pueden quitar.

Ejemplo. El gateway de Alba corre como el UID 10001 (USER 10001 y runAsUser: 10001). Es el que decodifica fotos que manda cualquiera: si una foto maliciosa explotara un error de Pillow, el atacante no sería root.

Se presenta en 19 · El sistema operativo: Linux, archivos y permisosAparece en 7 lecciones

Rotación de llaves

key rotation

Empezar a cifrar con una llave nueva en lugar de la vieja, conservando la vieja mientras haya datos que descifrar con ella. Limita el daño de una llave filtrada sin que lo sepas.

En KMS, la rotación automática agrega una versión nueva del material de la llave maestra sin cambiarle el nombre: lo nuevo se cifra con la versión nueva y lo viejo se sigue descifrando con la vieja, sin recifrar archivos. Es distinta de la rotación de secretos, donde el secreto viejo se revoca después de un periodo con dos válidos a la vez. Los certificados también se rotan, cada vez más seguido, y por eso se renuevan solos.

Ejemplo. La llave de KMS de Alba rota sola cada año. Un log cifrado en 2025 se sigue leyendo en 2026 con la versión vieja; los logs de 2026 usan la nueva.

Rotación de secretos

secret rotation

Cambiar un secreto por uno nuevo y anular el viejo: cada cierto tiempo y, sobre todo, en cuanto se sospecha que se filtró. Un secreto que nunca rota sigue funcionando para quien lo robó hace un año.

Para no cortar el servicio se rota con un periodo de dos credenciales válidas: se crea la nueva, se guarda en el gestor, los clientes la empiezan a usar (leyendo el archivo nuevo o reiniciando por oleadas) y solo entonces se revoca la vieja. Un secreto que llegó a Git se rota aunque se haya borrado un minuto después, porque la historia y sus copias lo guardan. Rotar seguido ayuda, pero detectar rápido la filtración (escaneo, registros de lectura) acorta más el daño.

Ejemplo. Rotando cada 90 días sin notar nunca la filtración, una contraseña robada sirve en promedio 45 días (90 en el peor caso). Si un escáner la nota en 1 día, sirve ≈ 1.

RPO (objetivo de punto de recuperación)

RPO · recovery point objective

Cuántos datos, medidos en tiempo, aceptas perder en un desastre. Un RPO de 1 hora dice: al volver, puede faltar hasta la última hora de datos.

Lo fija cada cuánto copias o qué tan atrasada va la replicación: con una copia cada noche, el peor caso es casi un día. Se promete con el peor caso, no con el promedio, que es la mitad. Cada artefacto tiene el suyo. Un RPO de cero pide escribir en dos lugares antes de responder, y eso cuesta latencia y complejidad.

Analogía. El último punto de guardado de un videojuego: lo que avanzaste desde ahí se pierde. Se rompe en que en el juego tú decides cuándo guardar; en un sistema lo decide cada cuánto corre la copia o qué tan atrasada va la réplica.

Ejemplo. Un servicio que verifica documentos de identidad los replica con garantía de 15 minutos. En la hora pico entran ≈ 714 por hora (supuesto del ejemplo): 714 por hora × 0.25 horas ≈ 180 documentos en riesgo en el peor caso.

RSS

resident set size

La memoria de un proceso (un programa en marcha) que está de verdad en la RAM en este momento. Es la que importa para saber si algo cabe: lo que un proceso reserva puede ser enorme y no ocupar casi nada.

En ps y en top sale como RSS o RES, junto al tamaño virtual (VSZ o VIRT). Incluye las páginas que el proceso comparte con otros, como las librerías o un archivo abierto con mmap, así que sumar la RSS de varios workers cuenta esas páginas varias veces; Linux tiene otra medida, la PSS (proportional set size), que las reparte. El límite de memoria de un contenedor mira algo parecido a la suma de todo: la memoria propia de sus procesos más las páginas de archivos que usan activamente, cada una una sola vez. En Python, resource.getrusage(resource.RUSAGE_SELF).ru_maxrss da la RSS más alta que ha tenido el proceso: en bytes en macOS y en KiB en Linux.

Ejemplo. Cuatro workers que abren con mmap el mismo modelo de 1.2 GB marcan cada uno una RSS de ≈ 1.6 GB, y su suma da 6.4 GB; pero entre los cuatro ocupan 2.8 GB, porque el modelo está una sola vez.

RTO (objetivo de tiempo de recuperación)

RTO · recovery time objective

Cuánto tiempo aceptas estar caído, desde el desastre hasta volver a atender.

Suma detectar la falla, decidir, mover el tráfico (failover (conmutación por falla)) y tener capacidad lista. Lo baja tener más cosas ya encendidas, y eso es lo que encarece cada estrategia de DR. El RTO real no es el del documento: es el que se mide en un ensayo.

Analogía. En el videojuego, lo que tardas en prender la consola, cargar la partida y llegar a donde ibas. Se rompe en que la consola tarda siempre lo mismo; el RTO de verdad depende de si hay máquinas listas y de cuánto se tarda la gente en decidir.

Ejemplo. Detección de 30 segundos, TTL de 60 segundos y un warm standby que tarda 4 minutos en crecer: ≈ 5.5 minutos. Cumple un SLO de 99.9 % mensual, pero no uno de 99.99 % (4.3 minutos).

RTT

round-trip time

Lo que tarda un paquete en ir de una máquina a otra más lo que tarda la respuesta en volver. Es la unidad con la que se cuenta lo que la red le cobra a una conversación.

Tiene un piso físico: la luz en la fibra recorre ≈ 200 km por milisegundo, así que cada 100 km de distancia suman ≥ 1 ms de RTT. Las rutas reales son más largas que la línea recta y cada router suma un poco. Órdenes de magnitud: decenas de microsegundos por localhost, menos de 1 ms dentro de una zona de la nube, ≈ 1 a 2 ms entre zonas, ≈ 45 a 50 ms de la Ciudad de México a Virginia, por cable. Más ancho de banda no lo baja: solo acercarse o hacer menos idas y vueltas. El handshake cuesta 1 RTT y cada request otro.

Analogía. El tiempo entre que gritas en un cañón y oyes el eco. Se rompe en que el eco solo depende de la distancia; el RTT también de los routers y de las filas en el camino.

Ejemplo. De la Ciudad de México a Virginia hay ≈ 3,012 km: 2 × 3,012 ÷ 200 ≈ 30 ms de RTT como mínimo. El «ping» de un videojuego es su RTT.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 7 lecciones

Ruido en las etiquetas

label noise

Etiquetas equivocadas dentro del dataset. Siempre hay algunas: por cansancio, por una guía ambigua o porque la fuente automática se equivoca o llega tarde.

En train, el ruido le enseña cosas falsas al modelo. En evaluación es peor: el modelo «falla» donde la etiqueta estaba mal y la métrica mide parte del ruido, así que pone un techo a lo que puedes medir. Northcutt, Athalye y Mueller (2021) estimaron al menos 3.3 % de etiquetas erróneas en promedio en los test sets de 10 datasets conocidos, y ≈ 6 % en la validación de ImageNet. Lo sospechoso (donde el modelo contradice la etiqueta con mucha seguridad) se manda a revisión humana; no se borra automáticamente.

Ejemplo. En fraude en pagos, con un supuesto típico, a los 30 días solo ha llegado ≈ 60 % de los contracargos (los avisos del banco de que un pago fue fraude). En los pagos de hace 30 días, ≈ 4 de cada 10 fraudes todavía están etiquetados como pagos buenos; en los de la semana pasada, muchos más.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 3 lecciones

Runbook

runbook

La receta escrita de qué revisar y qué hacer cuando suena una alerta, enlazada desde la alerta misma. Se escribe en calma para usarse con prisa.

Un buen runbook va en orden de lo más probable y lo más rápido de mitigar, y dice cuándo escalar. La regla de fondo: mitigar primero, entender después. El runbook de rollback es un caso particular.

Ejemplo. El runbook del p99 de Alba: (1) qué tramo subió, (2) ¿hubo deploy? → rollback, (3) ¿KEDA en su tope de 4? → falta GPU, (4) ¿un cliente manda de más? → su cuota, (5) escalar si en 30 minutos no mejora.

Runbook de rollback

rollback runbook

La receta escrita, paso a paso, de qué hace la persona de guardia cuando un despliegue sale mal: detectar, revertir sin diagnosticar, confirmar, congelar, comunicar e investigar.

Se escribe con calma para usarse con prisa, por alguien que no hizo el cambio. Su regla central es «primero revertir, después investigar»: cada minuto buscando la causa es un minuto de tráfico con la versión mala. Dice cómo se revierte en cada fase y qué pasa si revertir no arregla nada (entonces el problema no era la versión). Un runbook que nunca se ensayó no es un plan: se practica en staging.

Ejemplo. El de Alba: la máquina detecta; Marta, de guardia, revierte en ≤ 5 min (en el canary ya se revirtió solo; en el bake, un revert en alba/despliegue); confirma en 15–30 min; congela los despliegues del modelo; avisa; investiga con el model_version de cada línea de log.

Se presenta en 56 · Rollout seguroAparece en 2 lecciones

Runner

CI runner

La máquina que corre un trabajo (job) de la integración continua (CI), el sistema que prueba cada cambio al código. Puede ser una que presta el servicio, que nace limpia y se borra al terminar, o una propia, por ejemplo con la GPU de producción.

Los runners del servicio (en GitHub Actions, ubuntu-latest) no hay que mantenerlos, pero los estándar no traen GPU ni ven tu red privada; GitHub renta runners más grandes, uno con una T4, solo en sus planes de pago para organizaciones. Un runner propio (self-hosted) es una máquina tuya con el programa del servicio instalado, que pide trabajos; los jobs lo eligen por sus etiquetas. Riesgos: si el código de cualquier PR corre en tu máquina, el de un PR malicioso también, así que se usan en repositorios privados o solo para la rama principal; y si no se limpia entre trabajos, uno puede dejarle basura al siguiente. En ML se usan para lo que necesita el hardware de producción, como construir y probar un engine de TensorRT, y se prenden solo mientras corre el job.

Ejemplo. El runner con T4 de Alba: una g4dn.xlarge de AWS (≈ US$0.526 la hora bajo demanda, en us-east-1) que se prende para el job y se apaga. El equipo de Alba estima menos de US$10 al mes, contra 0.526 × 730 h ≈ US$384 si estuviera prendida todo el mes. Una guardia aborta el job si la GPU no es una T4.

Se presenta en 36 · Pruebas y CI/CDAparece en 5 lecciones

Runner propio efímero

ephemeral self-hosted runner

Una máquina tuya registrada en GitHub para correr jobs, que toma uno solo y se borra al terminar. Los jobs la eligen por sus etiquetas, como gpu-t4.

Un runner propio sirve cuando el job necesita algo que los de GitHub no traen: una GPU, tu red privada o más disco. Si es persistente, cada job hereda lo que dejó el anterior, y si corre código de un PR, el de un PR malicioso también corre en tu máquina, con sus permisos. La versión efímera toma un job, lo corre y se desregistra; se prende solo para ese job. Regla de Alba: nunca corre un pull_request, solo trabajo de main o de un botón.

Ejemplo. El de Alba es una g4dn.xlarge con una T4, etiquetas [self-hosted, linux, x64, gpu-t4], a US$0.526 la hora. Con ≈ 120 jobs de ≈ 5 min al mes, son 10 h y ≈ US$5.3; prendida todo el mes serían ≈ US$384.

Ruta

path · file path

La dirección de un archivo en el árbol, con las carpetas separadas por /. Es absoluta si empieza en la raíz, como /models/classifier/1/model.plan, y relativa si se lee desde la carpeta de trabajo del programa (casi siempre, la carpeta donde arrancó), como models/model.plan.

Una ruta relativa depende de la carpeta de trabajo del proceso (working directory, la que muestra pwd y fija el WORKDIR de un Dockerfile): el mismo open('models/model.plan') funciona si arrancas en la carpeta correcta y falla con «No such file or directory» si no. . es la carpeta actual y .. la de arriba. ~ es la carpeta personal, pero la traduce la shell, no el kernel. Windows separa con \ en vez de /; en Python, pathlib arma rutas sin preocuparse por eso.

Ejemplo. Parado en /opt/tritonserver, la ruta relativa ../../models/classifier/1/model.plan sube dos carpetas, hasta /, y baja al engine: llega a la misma /models/classifier/1/model.plan.

Se presenta en 19 · El sistema operativo: Linux, archivos y permisosAparece en 6 lecciones

Ruteo por peso

weighted routing · traffic splitting

Repartir el tráfico entre versiones de un servicio según porcentajes fijados en la configuración, como 95 % a la estable y 5 % a la nueva, sin importar cuántas copias tenga cada una.

Es lo que hace posible un canary: darle a una versión nueva una parte chica y exacta del tráfico. Lo pone un proxy: el ALB (cada target group con un peso de 0 a 999), Gateway API o un service mesh. Un Service de Kubernetes, solo, reparte por pods listos, así que 1 pod nuevo junto a 2 estables recibe ≈ 1/3, no 5 %. Los pesos reparten por request: el mismo usuario puede caer de los dos lados. Si eso importa (un A/B por vendedor, una conversación), se reparte con un hash de un id estable.

Ejemplo. Un canary al 5 % en el pico del día de Alba, el marketplace del curso, 350 requests por segundo, recibe 17.5 por segundo: 10,500 requests en 10 minutos para decidir. Por pods, con 2 estables y 1 canary, recibiría ≈ 33 %.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 2 lecciones

Ruteo por zona

zone-aware routing · topology-aware routing

Hacer que cada llamada interna prefiera una réplica de su misma zona, y solo cruce a otra si en la suya no hay ninguna lista. Ahorra el milisegundo y el cargo por GB de cruzar de zona.

Sin él, un Service de Kubernetes reparte entre todas las réplicas, y con dos zonas la mitad del tráfico cruza. En Kubernetes se pide con trafficDistribution: PreferSameZone en el Service. Es una preferencia, no una obligación: si la réplica de la zona falla, la llamada cruza y el sistema degrada en lugar de caerse. Supone tráfico y capacidad parejos entre zonas; si no, una zona se satura mientras la otra descansa. El cobro del cruce es la transferencia entre zonas.

Ejemplo. En Alba, el marketplace que sigue el curso, sin ruteo por zona cruzaría la mitad de sus tensores, ≈ 90 TB al mes: a US$0.02 por GB (US$0.01 al salir de una zona y US$0.01 al entrar a la otra), 90,000 GB × 0.02 ≈ US$1,800 al mes, casi tanto como toda su infraestructura (≈ US$1.8k).

Se presenta en 39 · Regiones, zonas y disponibilidadAparece en 4 lecciones

S

Safetensors

safetensors

Un formato para guardar los pesos de un modelo que no puede ejecutar nada al abrirse: 8 bytes con el largo de un encabezado JSON, el encabezado (nombre, tipo de número, forma y posición de cada tensor) y los bytes de los tensores.

Lo creó Hugging Face; desde fines de 2023 es el formato en que su librería transformers guarda los modelos por omisión, y el de la mayoría de los modelos nuevos de su Hub. Leerlo es leer 8 bytes, hacer json.loads del encabezado y copiar bytes: no hay instrucciones que seguir, a diferencia de pickle. Como el encabezado dice dónde está cada tensor, se puede abrir con mmap y leer solo los tensores que se usan, sin copiar el archivo a la memoria del programa. Los modelos grandes se parten en varios archivos (shards) con un JSON índice. Para servir, muchas veces los pesos se convierten además a ONNX o a un engine de TensorRT.

Ejemplo. La capa final de la ResNet-50 de Alba, fc.weight en F32 de [500, 2048], ocupa 500 × 2048 × 4 = 4,096,000 bytes dentro del archivo, y el encabezado dice en qué byte empieza.

Se presenta en 27 · Archivos y formatos: JSON, CSV, Parquet y YAMLAparece en 3 lecciones

Salidas de un job

job outputs

Textos cortos que un job deja para los jobs que dependen de él. Un paso los escribe en el archivo $GITHUB_OUTPUT y el job los declara en outputs.

Cuando un job termina, su máquina se borra. Sus salidas son lo que sobrevive para los jobs que siguen: un paso escribe una línea nombre=valor en $GITHUB_OUTPUT, el job la expone en outputs, y los jobs con needs la leen como needs.<job>.outputs.<nombre>. Sirven para valores chicos, como un digest o un número de versión; para archivos están los artefactos.

Ejemplo. El paso push del job imagen de Alba escribe digest=sha256:…; paridad, staging y produccion usan needs.imagen.outputs.digest, nunca el tag.

Sampling (muestreo)

sampling · decoding strategy

Elegir el siguiente token al azar, pero respetando las probabilidades que dio el modelo: el de 60 % sale, en promedio, 6 de cada 10 veces.

La alternativa es tomar siempre el más probable (greedy). El muestreo da respuestas más variadas; elegir siempre el más probable da respuestas más repetibles. La temperatura controla qué tan parejo es el sorteo, y top-p lo limita a los tokens más probables que juntos suman p (por ejemplo, 90 %).

Ejemplo. Con 66.5 %, 24.5 % y 9.0 %, en 1,000 sorteos con semilla fija salen 671, 249 y 80. Con top-p = 0.9, el de 9.0 % ni siquiera entra al sorteo.

Saturación

saturation

Cuando un recurso ya no tiene tiempo libre: su utilización llega cerca del 100 % y lo que sigue llegando se va a la fila. La fila crece y el throughput (lo que se termina por segundo) deja de subir.

Es una de las cuatro señales doradas (golden signals) que se vigilan en cada parte de un sistema, con la latencia, el tráfico y los errores; la lista viene del libro de SRE (Site Reliability Engineering) de Google. Se mide con una señal del propio recurso que se llena: el tiempo en la fila, las requests en espera, la CPU de un pod que calcula. La utilización de GPU no sirve: se queda en 100 % igual con 2 que con 200 en la fila. Cuando un recurso se satura, el cuello de botella es él.

Ejemplo. Una T4 de Alba a la que le ofrecen 1,300 fotos por segundo procesa ≈ 1,210: el throughput se aplanó, la fila llegó a su tope de 100 ms y ≈ 7 % se rechaza.

Se presenta en 26 · Qué tan rápido y cuánto: latencia y throughputAparece en 2 lecciones

Savings Plan

Savings Plan

Un compromiso con AWS (la nube de Amazon) de gastar cierto monto por hora durante 1 o 3 años, a cambio de descuento. Lo que pases del monto va a precio on-demand; si usas menos, pagas el monto igual.

El Compute Savings Plan aplica a cualquier familia y región; el EC2 Instance Savings Plan se amarra a una familia en una región a cambio de más descuento (máximos anunciados: hasta 66 % y 72 %, a 3 años con pago adelantado). En GPUs de inferencia, a 1 año y sin pago adelantado, se observan ≈ 35–37 %. Conviene si usarías esas máquinas más de 1 − descuento de las horas: se compromete la base estable, nunca el pico. No aparta máquinas: solo baja el precio.

Ejemplo. La base de Alba, el marketplace del curso (2 T4 + 2 nodos del gateway: ≈ 768 + 248 ≈ US$1,016 al mes), con un plan de 1 año al 30–40 % ahorra 0.30 × 1,016 a 0.40 × 1,016 ≈ US$305–406 al mes.

Se presenta en 40 · Máquinas, GPUs y cómo se cobranAparece en 2 lecciones

SBOM (lista de materiales del software)

software bill of materials

El inventario de todo lo que trae una imagen o un programa: cada paquete, con su versión exacta, en un formato estándar.

Se genera automáticamente en cada release (cada versión que se publica), en formatos como SPDX o CycloneDX, con herramientas como Syft. Sirve para contestar rápido «¿traemos esta biblioteca?» el día que sale un fallo grave, y es la entrada del escaneo de vulnerabilidades. No dice si algo es seguro: dice qué hay.

Analogía. La lista de ingredientes de un producto: no dice si está bueno, pero te deja saber si trae lo que te hace daño. Dónde se rompe: la lista de ingredientes la escribe quien vende; el SBOM lo genera una herramienta a partir de lo que de verdad trae la imagen, y puede dejar fuera lo que la herramienta no reconoce (un archivo copiado a mano, por ejemplo).

Ejemplo. Cada release del gateway de Alba trae su SBOM: Python 3.13, los paquetes del sistema de la imagen base y las 37 dependencias con sus versiones. Si sale un CVE en una de ellas, se busca en los SBOM de todas las imágenes.

Se presenta en 46 · Ataques y cadena de suministroAparece en 3 lecciones

Scheduler del learning rate

learning-rate schedule · LR scheduler

El plan de cómo cambia el learning rate durante el entrenamiento: pasos grandes al principio y finos al final, para asentarse en el fondo.

Los más comunes: escalones (dividir entre 10 cuando la validación se estanca, como en la ResNet original de 2015) y coseno (baja suave, como media ola, hasta casi 0). Muchas veces empieza con warmup. Su estado, en qué paso va, se guarda en el checkpoint: sin él, reanudar no es seguir.

Ejemplo. Coseno desde 0.0003 en 230,032 pasos: a la mitad vale 0.00015; a tres cuartos, ≈ 0.000044; al final, 0.

Se presenta en 04 · Cómo aprende un modeloAparece en 2 lecciones

Scope

scope

La lista de permisos que lleva un token: qué tipo de cosas puede hacer su portador. Un token con scope classify sirve para pedir clasificaciones y para nada más.

Es una autorización gruesa que viaja dentro del token, en los claims: el servicio revisa que el scope incluya la acción que se pide, y si no, responde 403. No sirve para la autorización fina («¿este objeto es tuyo?»), que depende de datos que solo tiene el servidor. Darle a cada cliente solo los scopes que necesita es mínimo privilegio aplicado a los tokens.

Ejemplo. Los programas que llaman al clasificador de Alba (sus callers) tienen classify. Una ruta para cambiar la versión del modelo pediría otro scope, como classifier:admin, que ninguno tiene: un token robado de búsqueda clasifica fotos, pero no cambia el modelo.

Scrape

scrape · pull

Cada lectura que hace Prometheus de la ruta /metrics de un servicio: le pide el texto, lo lee y guarda cada número con la hora. En Alba, cada 15 segundos.

Con pull (jalar), Prometheus decide cuándo leer y nota cuándo un target no contesta: la serie up vale 1 si el scrape salió bien y 0 si no. Con push (empujar), cada servicio mandaría sus números y uno muerto simplemente se callaría. El intervalo fija la resolución: con 15 s, una serie junta 5,760 muestras al día, y un pico de 5 segundos se diluye en su muestra.

Ejemplo. Si el gateway de Alba deja de contestar /metrics, up{pod="gateway-…"} baja a 0 en el siguiente scrape, unos 15 s después, aunque el pod siga atendiendo fotos.

Se presenta en 57 · La request en vivoAparece en 2 lecciones

Script de shell

shell script

Un archivo de texto con comandos, uno por línea, que la shell corre de arriba abajo como si los fueras tecleando. Sirve para repetir una receta igual cada vez.

Dentro se usan las mismas cosas de la terminal, más "$@" (los argumentos del script), for, if y la sustitución $( … ). Se corre con bash script.sh, o con ./script.sh si tiene shebang y permiso de ejecución. Por omisión, bash sigue aunque un comando falle; por eso los scripts serios empiezan con set -euo pipefail: -e se detiene en el primer error, -u prohíbe variables que no existen (una vacía sí pasa) y -o pipefail hace que una tubería falle si falla cualquiera de sus comandos. bash -n revisa la sintaxis sin correrlo y ShellCheck encuentra trampas comunes. Cada paso run: de un CI (las pruebas automáticas de cada cambio) es un script.

Ejemplo. En Alba, bash model/build_engine.sh construye el engine de TensorRT y se niega a correr si la GPU no es una T4. Sin pipefail, grep x no-existe.log | wc -l termina con 0 aunque grep haya fallado.

Se presenta en 32 · La terminal y la shellAparece en 2 lecciones

Secret de Kubernetes

Kubernetes Secret

Un objeto de Kubernetes con la misma forma que un ConfigMap, pero para secretos: tiene permisos aparte y se puede guardar cifrado. Sus valores van en base64, que no es cifrado: cualquiera que pueda leerlo lo decodifica en una línea.

Se guarda en etcd, la base de datos del clúster; por omisión, sin cifrar, a menos que se active el cifrado en reposo (casi siempre con una llave del KMS). Pero eso protege los discos, no a las personas: lo que importa es quién puede hacer get secrets en el namespace y quién puede crear pods ahí, porque un pod puede montar cualquier Secret de su namespace. Llega al contenedor como variable de entorno o, mejor, como archivo de solo lectura; si se monta con permisos cerrados (como 0440) y el contenedor no corre como root, el pod necesita fsGroup para poder leerlo. Guarda a lo mucho 1 MiB. A menudo lo llena External Secrets Operator desde un gestor de secretos.

Ejemplo. DB_PASSWORD: cHJvZC1YcTgx en el Secret gateway-db. base64.b64decode lo vuelve prod-Xq81 sin ninguna llave.

Secreto

secret · credential

La parte de la configuración que da acceso: una contraseña, una API key, un token, una llave de firma. Quien la tiene puede hacerse pasar por el programa, así que nunca va en el código, en Git, en la imagen ni en un log.

En Git queda en la historia aunque se borre; en una capa de la imagen, aunque una línea posterior lo quite; en un log, lo lee mucha gente durante semanas. Como variable de entorno es aceptable, pero se filtra: docker inspect la muestra, /proc/<pid>/environ la guarda, la heredan los hijos y cambiarla exige reiniciar. Mejor: un archivo de solo lectura montado desde un gestor de secretos, con rotación. Lo mejor: no tenerlo, porque el pod tiene su propia identidad en la nube (IAM).

Ejemplo. La contraseña de la base de datos del gateway (DB_PASSWORD) es un secreto; INFER_TIMEOUT_S=0.15 no lo es, aunque las dos lleguen como variables de entorno.

Segmentación

segmentation

La tarea de ponerle una clase a cada píxel de una imagen. El resultado es una máscara: una imagen del mismo tamaño donde cada píxel dice qué es.

Es más fina que la detección de objetos: no dice «aquí hay un tenis, más o menos en esta caja», sino exactamente qué píxeles son tenis y cuáles son fondo.

Ejemplo. Quitar el fondo de una foto de producto, o marcar qué píxeles de una tomografía son un tumor.

Se presenta en 01 · Qué es un modeloAparece en 2 lecciones

Seguimiento de experimentos

experiment tracking

Anotar cada entrenamiento de forma automática, en un lugar compartido, con lo que entró, lo que pasó y lo que salió, para poder contestar «¿con qué se entrenó?» sin preguntarle a nadie.

Un entrenamiento depende de cinco ingredientes (código, datos, receta, entorno y azar) y produce métricas y archivos. El seguimiento de experimentos los anota todos en cada corrida, sin que nadie tenga que acordarse. Así se pueden buscar, comparar y repetir corridas meses después. La herramienta más común de código abierto es MLflow; hay servicios administrados para equipos que corren cientos de experimentos al día. Lo que llega a producción conviene exportarlo y guardarlo en casa.

Analogía. La bitácora de un laboratorio, escrita por el propio programa: fecha, lote del reactivo, temperatura y resultado. Se rompe en que la bitácora se escribe sola: si el programa no anota algo (un cambio sin commit), nadie lo nota.

Ejemplo. Seis meses después, alguien pregunta si el modelo de octubre de Alba se entrenó con el preproceso 1.4.0. La corrida resnet50-2026-10-01 lo dice en un tag; sin seguimiento, habría que revisar el historial del repositorio y adivinar por las fechas.

Semáforo

semaphore

Un contador de lugares: deja pasar a tantas tareas como lugares tiene y pone a esperar a las demás hasta que alguien suelte el suyo. Sirve para acotar cuántas cosas caras corren a la vez.

Una tarea toma un lugar (acquire), hace su trabajo y lo suelta (release). Si no hay lugar, espera; en asyncio espera con await, sin congelar el event loop. Se usa para acotar un recurso: memoria, CPU, conexiones a un tercero. Con un tope de espera, una tarea que no consigue lugar a tiempo se rinde en vez de formar una fila sin fondo.

Ejemplo. El gateway de Alba usa asyncio.Semaphore(2): solo 2 decodes a la vez por copia, porque un PNG de 40 megapíxeles ocupa ≈ 320 MB al decodificarse y la copia tiene 1 GiB. Quien espera más de 50 ms recibe 503 con Retry-After: 1.

Se presenta en 52 · Código de servingAparece en 2 lecciones

Semilla

random seed · seed

El número con el que arranca el generador de números al azar de la computadora. Con la misma semilla salen los mismos «azares»: el mismo orden de fotos, las mismas variaciones.

Fijarla es necesario para repetir un entrenamiento, pero en GPU no alcanza: algunas sumas en paralelo se hacen en distinto orden y dan resultados un poquito distintos. Por eso «reproducible» quiere decir «el mismo resultado dentro del ruido», no idéntico.

Ejemplo. Alba, el marketplace que sigue el curso, entrena con la semilla 17. Con la misma receta y cinco semillas distintas, un ejemplo con números ilustrativos da resultados entre 85.12 % y 85.34 %.

Se presenta en 04 · Cómo aprende un modeloAparece en 15 lecciones

Señal

signal · SIGTERM, SIGKILL

Un aviso corto, con un número, que el sistema operativo le entrega a un proceso (un programa corriendo). SIGTERM le pide que termine; SIGKILL lo termina sin preguntarle.

Al recibir una señal, el proceso corre su manejador (una función suya), la ignora o deja que pase la acción por omisión, que casi siempre es terminar. Las de todos los días: SIGINT (2, Ctrl+C; en Python, KeyboardInterrupt), SIGTERM (15, el aviso amable de kill, docker stop y Kubernetes) y SIGKILL (9, que no se puede atender ni ignorar: el kernel quita al proceso de en medio). Un servidor bien hecho, al recibir SIGTERM, deja de aceptar requests, termina las que tiene en curso y sale; si tarda más que el plazo de gracia (30 s si nadie lo cambia en Kubernetes), le llega SIGKILL. Dentro de un contenedor, el PID 1 ignora las señales que no maneja, salvo un SIGKILL que llegue de afuera.

Analogía. Una nota que te pasan por debajo de la puerta: puedes leerla y actuar (el manejador) o seguir en lo tuyo. SIGKILL no es una nota: es que te saquen del cuarto. Se rompe en que una nota la lees cuando quieres; una señal interrumpe al proceso en cuanto llega.

Ejemplo. En un deploy de Alba, a Triton, el servidor del modelo, primero le corre un preStop de 10 s (una espera antes del aviso); luego recibe SIGTERM, termina lo que tiene en curso en hasta 30 s y sale. Si a los 60 s de empezar el apagado (con el preStop adentro) sigue vivo, el kubelet (el agente de Kubernetes en cada máquina) le manda SIGKILL.

Se presenta en 16 · Programa, proceso e hiloAparece en 8 lecciones

Señal sin labels (proxy de calidad)

proxy metric

Una señal que se mide sin saber la respuesta correcta y avisa «algo cambió» en minutos: la mezcla de categorías predichas, el score top-1 (la probabilidad de la primera opción del modelo), la tasa de baja confianza o el tamaño de las fotos.

Los labels llegan tarde, así que mientras tanto se vigila lo que sí se sabe en el momento: qué contestó el modelo y cómo venía la entrada. Ningún proxy prueba que el modelo empeoró: un cambio en la mezcla puede ser la temporada. Sirven para sospechar, abrir un ticket, mirar muestras y mandar a etiquetar; los labels demorados confirman.

Ejemplo. La tasa de baja confianza de Alba sube de 4 % a 5.5 % el día que sale una versión nueva de la app: no prueba nada, pero apunta a dónde mirar.

Señales doradas

golden signals

Cuatro preguntas para vigilar cualquier servicio: cuánto tarda (latencia), cuánto le piden (tráfico), cuánto falla (errores) y qué tan lleno está (saturación).

Vienen del libro de SRE (Site Reliability Engineering) de Google. Dos recetas hermanas dicen lo mismo desde otro ángulo: RED (rate, errors, duration: tasa, errores, duración) para cada servicio, y USE (utilization, saturation, errors: utilización, saturación, errores) para cada recurso, como una GPU o un disco. La saturación se mide mejor con la fila (cuánto se espera) que con la utilización: una GPU al 100 % puede no tener a nadie esperando.

Ejemplo. En Alba: latencia = el p99 contra 200 ms; tráfico ≈ 116 requests por segundo en promedio; errores = 5xx ÷ requests sin 4xx; saturación = la espera media en la fila de Triton, con warning arriba de 20 ms durante 10 minutos.

Serialización

serialization · deserialization

Convertir datos que viven en la memoria de un programa en una fila de bytes para mandarlos o guardarlos. Del otro lado, deserializar es reconstruirlos.

Un diccionario de Python vive en la memoria en una forma que solo ese proceso entiende; para que viaje hay que escribirlo en un formato que el otro lado sepa leer: JSON (texto), protobuf (binario) o bytes crudos con un tipo conocido. Serializar no es gratis: cuesta bytes en la red y tiempo de CPU en los dos lados. Con datos grandes, como un tensor, el formato decide si serializar ocupa menos de un núcleo o ≈ 25 (el tensor de la foto de Ana a 500 requests por segundo, el pico de diseño de Alba, en JSON).

Analogía. Desarmar un mueble para la mudanza y mandarlo con su instructivo; del otro lado lo arman igual. Se rompe en que una API lo hace en cada request, cientos de veces por segundo, y cada vez cuesta.

Ejemplo. Serializar el tensor de la foto de Ana con json.dumps tardó ≈ 50 ms en una laptop, y leerlo de vuelta ≈ 23 ms más. En binario, con struct.pack, decenas de veces menos.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 2 lecciones

Serie de tiempo

time series

Una lista de pares (hora, valor) de una métrica con una combinación fija de etiquetas. Prometheus, el programa que junta las métricas de un servicio, guarda una por cada combinación distinta.

La métrica classifier_requests_total no es una serie: con status="200" es una y con status="503" es otra, y cada pod tiene las suyas porque pod también es una etiqueta. Cada serie ocupa memoria y un lugar en el índice de Prometheus, y junta una muestra por cada scrape: con uno cada 15 s, 86,400 ÷ 15 = 5,760 al día. Por eso se cuida cuántas hay: es la cardinalidad (de las métricas).

Ejemplo. Con 3 pods, el gateway de Alba tiene 717 series (≈ 720); en un día suman 717 × 5,760 ≈ 4.1 millones de muestras.

Serverless

serverless

Una forma de usar la nube donde pagas por uso (por segundo o por request) y el proveedor escala por ti, a veces hasta cero. Sí hay servidores: no los ves ni los pagas parados.

Viene en dos formas: funciones (código suelto que corre con cada evento, como Lambda) y contenedores (tu imagen completa, como Cloud Run). Hay que hacerse dos preguntas separadas: ¿tiene la GPU que necesito?, y ¿su modo de cobrar y de arrancar encaja con mi tráfico? Gana con tráfico esporádico; pierde con tráfico 24/7 y con latencia estricta desde cero.

Analogía. Un taxi contra un coche propio: pagas solo los viajes, más caro por kilómetro. Se rompe porque el taxi a veces tarda en llegar: ese es el arranque en frío.

Ejemplo. Una L4 en Cloud Run (≈ US$1.05 por hora prendida, sin redundancia zonal) gana a una dedicada (≈ US$588 al mes) mientras esté prendida menos de ≈ 18.4 horas al día.

Service de Kubernetes

Kubernetes Service · kube-proxy

Un objeto de Kubernetes (el sistema que reparte programas entre máquinas) que le da a un grupo de pods (las copias de un programa) un nombre y una dirección IP que no cambian, y reparte las conexiones entre los que están listos. Reparte por conexión, no por request.

Elige sus pods por etiquetas y los guarda en EndpointSlices, con una marca de cuáles están listos (los que pasan su readiness); solo a esos les toca tráfico. El nombre lo resuelve el DNS del clúster a una IP virtual, la ClusterIP. Quien reparte es kube-proxy, que corre en cada máquina y le escribe al kernel reglas para reescribir cada conexión nueva hacia un pod; en su modo más común, iptables, elige al azar (el de nftables, estable desde Kubernetes 1.33, también; el de IPVS, que va por turnos, quedó en desuso en la 1.35). Es L4: con conexiones largas, como las de gRPC sobre HTTP/2, cada cliente se queda pegado a un pod y un pod nuevo no recibe tráfico. Salidas: un Service headless (el DNS da todas las IPs y el cliente reparte), un balanceo L7 como el de un service mesh, o una vida máxima de conexión. Kubernetes reparte por pods listos, así que no pone porcentajes: eso lo hace un proxy con pesos.

Ejemplo. Cinco gateways con una conexión gRPC cada uno y dos Tritons: 62.5 % de las veces el reparto queda 60/40, 31.25 % queda 80/20 y 6.25 % todo a uno. Un tercer Triton recién creado recibe 0 % hasta que alguna conexión se reabre.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 12 lecciones

Service mesh

service mesh

Una capa que pone un proxy junto a cada servicio, casi siempre como un contenedor ayudante dentro del mismo pod (un sidecar), para manejar el tráfico entre servicios (cifrado, balanceo por request, reintentos, métricas, pesos) sin tocar su código.

Cada proxy intercepta lo que entra y sale de su pod, y un plano de control (en Istio, istiod) les reparte configuración y certificados. Da mTLS entre todos los servicios, balanceo L7 por request (que resuelve las conexiones pegadas de un Service), reintentos, timeouts y circuit breakers configurados en un lugar, métricas de cada par de servicios y pesos o copias de tráfico para canaries y shadow. Cuesta dos proxies más por llamada, memoria y CPU en cada pod, y una pieza más que entender; si el mesh y el código reintentan los dos, las fallas se multiplican. Los más conocidos: Istio (con Envoy) y Linkerd. Istio también tiene un modo sin sidecars, ambient (estable desde Istio 1.24, noviembre de 2024): un proxy por máquina para el cifrado y proxies L7 solo donde se piden; sin ellos, el reparto vuelve a ser por conexión.

Ejemplo. Con un mesh, el sidecar del gateway de Alba, el marketplace del curso, repartiría cada request entre los Tritons, aunque usaran gRPC, y cifraría la llamada con el certificado del gateway. Para dos servicios es mucha maquinaria; para decenas de servicios y varios equipos, se paga solo.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 4 lecciones

ServiceMonitor

ServiceMonitor

Un objeto de Kubernetes, del Prometheus Operator, que le dice a Prometheus qué Services (los nombres fijos que reparten el tráfico entre pods) leer, en qué puerto, en qué ruta y cada cuánto. Sin él, Prometheus no lee ese servicio.

Es un recurso nuevo que el Prometheus Operator agrega a Kubernetes: elige Services por sus etiquetas y describe el endpoint (port, path, interval). El propio ServiceMonitor necesita la etiqueta que el Prometheus busca (en kube-prometheus-stack, release); si no coincide o si falta, nada truena: el servicio simplemente no se lee, las alertas evalúan sobre nada y lo que dependa de esas métricas, como KEDA, se queda sin datos. Es una falla silenciosa: se revisa mirando que up exista. Si un pod está detrás de dos Services elegidos, se lee dos veces y las sumas salen al doble; para eso está su primo, el PodMonitor, que elige los pods directo por sus etiquetas.

Ejemplo. El ServiceMonitor de Triton lee el Service triton-v14 en su puerto de métricas, el 8002, cada 15 s. El gateway usa un PodMonitor, porque sus Services gateway-stable y gateway-canary apuntan a los mismos pods fuera de un canary.

Se presenta en 57 · La request en vivoAparece en 2 lecciones

Servicio gestionado

managed service

Un servicio de la nube donde el proveedor opera por ti una parte de lo que hace funcionar un servicio (máquinas, sistema operativo, software): la instala, la actualiza, la repara y la escala. Tú lo usas por su API y pagas más por unidad.

Operar es todo lo que hay que hacer para que algo siga funcionando: parches, máquinas descompuestas, escalar, guardias de noche. Un servicio gestionado se lleva ese trabajo y lo cobra dentro del precio. Va de poco (Kubernetes gestionado: el proveedor opera solo el plano de control) a todo (un producto listo como Textract). Cada escalón quita trabajo y control, y suele cobrar más por unidad. Es la versión práctica de la escalera IaaS, PaaS y SaaS.

Analogía. Pedir comida a domicilio en vez de cocinar: pagas más por plato y no lavas trastes. Se rompe porque algunos servicios cobran además por cada GB que les mandas.

Ejemplo. Textract lee páginas a ≈ US$1.50 por 1,000 (noviembre de 2026): un servicio de documentos con 186,000 páginas al mes paga ≈ US$279 y no opera ninguna GPU.

Se presenta en 42 · Servicios gestionados, serverless y permisosAparece en 3 lecciones

Servicio sin estado

stateless service

Un servicio que no guarda nada de una request para la siguiente: cualquier copia atiende cualquier request, y crecer es agregar copias.

Si un servicio recuerda algo entre requests (una sesión, un carrito, un contador por usuario), cada usuario tiene que volver a la misma copia, y perder una copia es perder datos. Uno sin estado guarda todo lo que dura en otro lado (una base de datos, un caché, el log) y no tiene preferencias: el balanceador manda cada request a cualquier copia, una copia que muere se reemplaza sin perder nada y la capacidad se suma con copias. Lo que sí tiene cada copia es estado pasajero: las requests en vuelo, el pool de conexiones, el semáforo.

Ejemplo. El gateway de Alba: entre 3 y 12 copias, cada una con un proceso. La foto de Ana puede caer en cualquiera; lo único que queda de ella es su línea de log.

Servidor

server

Una computadora (o un programa) que se queda encendida esperando peticiones y las responde.

La palabra se usa para las dos cosas: la máquina y el programa que corre en ella esperando peticiones. En producción, los servidores se quedan encendidos todo el tiempo y muchas veces están en la nube (computadoras que empresas como Amazon o Google rentan por hora), no en una oficina.

Ejemplo. La API de Alba corre en varios servidores en la nube que responden millones de fotos al día. Si uno se apaga, los demás siguen respondiendo.

Se presenta en 00 · El camino completoA fondo en 22 · HTTP: requests, respuestas y códigosAparece en 5 lecciones

Servidor de modelos

model server

Un programa que tiene el modelo cargado y convierte tensores en tensores lo más barato posible: carga versiones, junta requests en batches y reparte el trabajo entre copias del modelo. No sabe nada del producto ni de quién llama.

Es la mitad de un sistema de serving. Un servidor de modelos se ocupa de lo que es igual para cualquier modelo: cargar el archivo y su versión, la fila de requests, el batching dinámico, las copias en la GPU, el protocolo de inferencia, su salud y sus métricas. Todo lo que sabe del producto (validar bytes, nombres de categorías, cuotas, el contrato de la API) se queda en el gateway (el servicio de enfrente, que recibe las requests). Separarlos permite escalar CPU y GPU por separado, cambiar el producto sin tocar la imagen de la GPU y cambiar de servidor sin cambiar el contrato.

Analogía. La cocina de un restaurante: no habla con los clientes, solo cocina lo que le pasan y junta órdenes iguales. Se rompe en que la cocina de verdad improvisa; un servidor de modelos solo corre lo que dice su configuración.

Ejemplo. En Alba es Triton, en 2 GPUs T4. Recibe del gateway un tensor de 602,112 B por foto y devuelve 500 logits; no sabe que existen Ana ni sus tenis.

Serving

model serving · servir un modelo

Tener el modelo cargado en un servidor, listo para responder predicciones por una API.

Es la etapa 3 del camino de un modelo a producción, después de los datos y del modelo: un programa carga el modelo una vez, al arrancar, y desde ahí responde cada request. Lo difícil no es que responda una vez, sino que responda rápido y sin caerse, muchas veces por segundo, con la foto preparada igual que cuando se entrenó.

Ejemplo. En Alba, el serving es la API que recibe la foto de Ana, la prepara y se la pasa al modelo, que corre en un servidor con GPU dentro de Triton, un programa hecho para servir modelos.

Se presenta en 00 · El camino completoA fondo en 52 · Código de servingAparece en 2 lecciones

Sesgo de selección

selection bias

Cuando tus datos existen solo donde el sistema decidió mirar, y por eso no representan el resto. Medir con ellos da un número que no vale para el tráfico real.

Las correcciones de moderación solo existen para lo que alguien revisó (lo reportado, lo sospechoso). Las fotos dudosas que elige el active learning son más difíciles que el promedio, a propósito. Los contracargos (los avisos del banco de que un pago fue fraude) de un sistema de fraude solo existen para los pagos aprobados. Cada fuente debe poder decir su sesgo en una frase y qué fuente independiente la mide, casi siempre una muestra al azar.

Ejemplo. Si mides la exactitud del modelo de Alba solo con las publicaciones que corrigió moderación, lo mides en las problemáticas y sale mucho peor que en el tráfico de verdad.

Sesgo y varianza

bias–variance trade-off

Dos fuentes de error. Sesgo: el modelo es demasiado simple y falla siempre de forma parecida. Varianza: el modelo cambia mucho según la muestra con que lo entrenes, porque aprende sus casualidades.

Mucho sesgo es underfitting; mucha varianza es overfitting. La idea clásica es que al hacer el modelo más complejo baja el sesgo y sube la varianza. En las redes grandes de hoy la historia es más complicada, pero la regla práctica no cambia: mide en datos que el modelo no vio.

Analogía. Cinco dardos, uno por cada modelo entrenado con otra muestra. Sesgo: caen juntos, lejos del centro. Varianza: caen alrededor del centro, desparramados. Se rompe en que en ML no ves el centro: solo lo estimas con datos de validación.

Ejemplo. Entrenas la misma receta con cinco muestras distintas. Con mucho sesgo, las cinco aciertan ≈ 60 % y fallan en lo mismo. Con mucha varianza, aciertan entre 70 % y 90 % según la muestra.

Sesión

session

Lo que recuerda un servidor después de que entraste: un número largo al azar que guarda junto con «es Ana» y que el navegador le regresa en cada request (petición), normalmente en una cookie (un dato que el navegador guarda y regresa solo). Vale lo mismo que la contraseña mientras dure.

Evita pedir la contraseña en cada clic. El servidor guarda el id de sesión con la identidad y la hora, y lo entrega en una cookie marcada Secure (solo por HTTPS), HttpOnly (el JavaScript de la página no la lee) y SameSite (no viaja, o casi no, en requests que provoca otro sitio). Como el servidor la guarda, se puede cancelar al instante: al salir, se borra. Esa es la diferencia con un JWT que se verifica sin estado, que vale hasta su exp.

Ejemplo. Ana entra una vez; el servidor le da la cookie sid=8f3a… y la reconoce en cada página. Si pierde el teléfono y cierra todas sus sesiones, el servidor borra esos ids y la cookie robada deja de servir.

Seudonimización

pseudonymization

Reemplazar el identificador de una persona por otro (un id interno, un código al azar o un HMAC, que es un hash con llave secreta). Quien tiene la tabla o la llave puede volver a la persona, así que el dato sigue siendo personal.

Gana que quien solo ve el dato no sabe de quién es. Un hash sin llave es un mal seudónimo: se revierte por fuerza bruta cuando los valores posibles son pocos (teléfonos, correos de una lista) y une tablas igual. Para un seudónimo estable se usa HMAC con una llave guardada en KMS: el mismo id da siempre el mismo seudónimo, y sin la llave no se puede calcular. Aun así, se guarda con cifrado en reposo, acceso restringido y plazo. No es lo mismo que anonimizar.

Ejemplo. El log de Alba es seudónimo: trae request_id y un prefijo del hash de la foto. El backend une el request_id con la publicación, y quien tenga la foto publicada calcula su hash: los dos caminos llevan a Ana.

Severidad de una alerta

alert severity

Qué tan urgente es una alerta y a quién le llega: page (despierta a la guardia), warning (canal del equipo, en horario) o ticket (trabajo de la semana).

Page solo para lo que afecta a los usuarios ahora y alguien puede arreglar ahora. Warning para una causa que anticipa un page. Ticket para la calidad del modelo y las tendencias, que se entienden mirando datos con calma. Poner todo en page lleva a la fatiga de alertas.

Ejemplo. En Alba, el p99 arriba de 200 ms es page; la fila de Triton arriba de 20 ms, warning; el PSI arriba de 0.2 tres días seguidos, ticket. Nadie se despierta a las 3 de la mañana porque subió el PSI.

Shadow (despliegue en sombra)

shadow deployment

Correr la versión nueva con copias de requests reales, guardar lo que contesta y tirarlo: el usuario solo ve la respuesta de la versión actual.

También se llama dark launch. Mide al modelo nuevo con el tráfico de hoy (errores, latencia y cuánto cambia lo que contesta) sin arriesgar a nadie. Lo que no mide es a la gente: nadie vio sus sugerencias. La copia se hace con copia de tráfico; corre en una tarea aparte, con su plazo y una cola acotada, y su respuesta solo va al log. Su peligro son los efectos secundarios: una copia que escribe en una base de datos, manda un correo o comparte un caché le sirve su respuesta a alguien.

Analogía. Un alumno de manejo con el volante desconectado: gira como si manejara, una cámara graba los dos volantes, y al final se compara. Se rompe en que el alumno ve el camino que eligió el instructor; en el shadow, cada foto es independiente.

Ejemplo. En Alba, el gateway de la release 14 copia el 10 % de las requests (por el hash del request_id) al Triton de la versión 15 durante 1–2 días: ≈ 1 M pares al día; pasa con acuerdo top-1 ≥ 90 %, p99 ≤ 1.1 × el del champion y cero crashes.

Se presenta en 56 · Rollout seguroAparece en 3 lecciones

Shape

shape

La «forma» de un tensor: cuántos números tiene en cada dimensión, en orden. Multiplicándolos sale el total.

Si el shape que manda tu código no es exactamente el que espera el modelo, falla (en el mejor caso) o calcula algo sin sentido (en el peor). Por eso los servidores de modelos, como Triton, lo declaran en su configuración.

Ejemplo. [1, 3, 224, 224] → 1 × 3 × 224 × 224 = 150,528 números.

Se presenta en 02 · Una foto, vista por un modeloAparece en 6 lecciones

Sharding

sharding

Repartir los datos (o el trabajo) entre varias máquinas según una llave. La forma más simple: shard = hash(llave) mod N, el residuo de dividir el hash de la llave entre las N máquinas.

Como el hash se ve al azar, los shards quedan parejos y ninguno se calienta con una moda; como es determinista, cualquier programa sabe dónde está una llave sin preguntar. El problema es cambiar N: de N a N + 1 máquinas, con mod N se mueve la fracción N ÷ (N + 1) de las llaves (80 % de 4 a 5). El arreglo es el hashing consistente: máquinas y llaves en un anillo, cada llave con la primera máquina en el sentido del reloj; al agregar una, se mueve ≈ 1 ÷ (N + 1). Para que el reparto sea parejo, cada máquina va en muchos puntos (nodos virtuales). Lo mismo reparte los mensajes de un tópico entre sus particiones.

Ejemplo. La búsqueda de Alba, el marketplace que sigue el curso, reparte sus ≈ 100 millones de publicaciones activas en 4 shards por hash del listing_id. Pasar a 5 con mod N movería 80 millones (≈ 164 GB de vectores); con el anillo, ≈ 20 millones.

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 2 lecciones

Shebang

shebang · hashbang · #!

La primera línea de un script (un archivo de comandos) que empieza con #! y dice con qué programa se corre, como #!/usr/bin/env bash. La lee el kernel al ejecutar el archivo.

Al ejecutar un archivo de texto, el kernel ve los caracteres #!, toma el resto de la línea como el intérprete y lo lanza con el script como argumento. #!/bin/bash pide exactamente esa bash (en una Mac, una muy vieja, de la serie 3.2); #!/usr/bin/env bash busca bash en PATH, y es la forma más portátil; #!/bin/sh pide la shell básica, que en Debian es dash y no entiende todo lo de bash. Para que ./script.sh funcione, el archivo necesita el permiso x (chmod +x); sin él, sale «Permission denied» con el código 126. El nombre probablemente viene de sharp o hash (#) y bang (!); su origen exacto no se sabe.

Ejemplo. Un contar.sh que empieza con #!/usr/bin/env bash: ./contar.sh tres.txt da 126 hasta que chmod +x contar.sh lo vuelve ejecutable (-rwxr-xr-x). bash contar.sh funciona siempre, porque ahí el programa que corre es bash.

Se presenta en 32 · La terminal y la shellAparece en 2 lecciones

Shell

shell

El programa que lee los comandos que escribes en la terminal, los parte en palabras, encuentra cada programa y lo lanza como un proceso nuevo. bash, zsh y sh son shells.

Para cada línea, la shell repite un ciclo: la lee, la parte en palabras (respetando las comillas), reemplaza las variables y los comodines, busca la primera palabra como builtin o en las carpetas de PATH, lanza el proceso con fork y exec, conecta sus flujos y espera su código de salida. bash es la de casi todos los servidores Linux; zsh, la de macOS desde Catalina (2019); sh, la más básica, a veces la única en un contenedor chico. Una imagen distroless no trae ninguna. También corre archivos de comandos, los scripts.

Analogía. El que atiende en la ventanilla: lee tu papel, entiende qué pides, se lo pasa a la oficina que corresponde y te regresa la respuesta. Se rompe en que la shell no hace casi nada por sí misma: casi todo lo hacen otros programas que ella lanza.

Ejemplo. En kubectl logs gateway-7f9c | grep 504, la shell parte la línea en dos comandos, lanza kubectl y grep a la vez y conecta la salida del primero con la entrada del segundo con un tubo.

Sidecar

sidecar container

Un contenedor auxiliar que corre junto al principal, en el mismo pod (el grupo de contenedores que Kubernetes maneja como una unidad), y comparte su red, para hacer algo que no es su trabajo pero tiene que estar a su lado: mandar logs, renovar certificados o hacer de proxy.

Los contenedores de un pod se hablan por localhost y pueden compartir archivos, así que un sidecar puede interceptar todo el tráfico del principal sin que el programa se entere. Es la forma en que un service mesh pone su proxy junto a cada servicio. El nombre viene del carrito lateral de una motocicleta. Cada sidecar suma memoria y CPU a cada pod, y su arranque y su apagado tienen que coordinarse con los del principal. Desde Kubernetes 1.33 (abril de 2025) hay sidecars nativos, que Kubernetes arranca antes que el principal y apaga después.

Ejemplo. En una malla con Istio, cada pod de Triton lleva dos contenedores: Triton y un Envoy. La request del gateway llega primero al Envoy, que revisa el certificado, cuenta la request en sus métricas y se la pasa a Triton por localhost.

Sigmoide

sigmoid

La función que convierte un solo número cualquiera (un logit) en una probabilidad entre 0 y 1: p = 1 ÷ (1 + e^(−z)). Tiene forma de S.

En 0 da 0.5; con logits grandes se acerca a 1 y con negativos a 0, sin llegar nunca. Se usa en la clasificación binaria y, una por cada etiqueta, en la multietiqueta. Es la inversa del logit: si p = sigmoide(z), entonces z = ln(p ÷ (1 − p)). Un softmax de dos clases es una sigmoide de la diferencia de sus logits.

Ejemplo. z = 2: e^(−2) ≈ 0.135; 1 ÷ 1.135 ≈ 0.881. z = −2 da 0.119, y z = 0 da 0.5.

Se presenta en 01 · Qué es un modeloAparece en 2 lecciones

Significancia

significance level · α

El corte que fijas antes de ver los datos: si el p-value queda abajo de ese corte, el resultado se llama «estadísticamente significativo». Casi siempre α = 0.05.

α (alfa) es también la tasa de falsas alarmas que aceptas: si no hay efecto, el 5 % de las pruebas lo «encuentran» de todas formas (un falso positivo, que en estadística se llama error tipo I). Bajarla a 0.01 da menos falsas alarmas a cambio de más muestra para la misma potencia. «Significativo» no quiere decir «importante»: con millones de usuarios, una diferencia minúscula también lo es.

Ejemplo. Con α = 0.05, de 2,000 A/A simulados (los dos brazos idénticos) salen 102 «significativos»: 5.1 %.

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 3 lecciones

SIMD

single instruction, multiple data · vector instructions

Instrucciones de la CPU que hacen la misma operación sobre varios números a la vez, guardados en fila en un registro ancho (una casilla dentro del núcleo). Con AVX-512, la versión de Intel y AMD con registros de 512 bits, una sola instrucción procesa 16 números FP32.

Cada posición del registro es un carril. Las familias de los chips x86: SSE (128 bits, 4 números FP32), AVX y AVX2 (256 bits, 8) y AVX-512 (512 bits, 16); los chips Arm traen NEON, de 128 bits (y los Graviton más nuevos, también SVE). Con números más chicos caben más: en 512 bits, 32 FP16 o 64 INT8. La instrucción clave para una red es la FMA, que multiplica y suma de un jalón: una MAC por carril. Para INT8, los Xeon traen VNNI (desde 2019) y AMX (desde 2023), una pequeña unidad de matrices dentro de cada núcleo. Python puro no usa SIMD; NumPy, PyTorch y ONNX Runtime sí, por las bibliotecas que llaman. Una GPU hace algo parecido a mucha mayor escala: cada warp son 32 hilos que ejecutan la misma instrucción.

Ejemplo. Un núcleo con dos unidades FMA de 512 bits: 2 × 16 carriles × 2 FLOPs = 64 FLOPs por ciclo; a 3 GHz, ≈ 192 GFLOPS en FP32. Una T4 hace 8.1 TFLOPS en FP32 y 65 en FP16.

Se presenta en 18 · CPU y GPU

Similitud coseno

cosine similarity

Qué tan parecida es la dirección de dos vectores: el coseno del ángulo entre ellos. Va de −1 (opuestos) a 1 (misma dirección); 0 es perpendicular.

Se calcula como el producto punto de los dos vectores dividido entre el producto de sus largos. No le importa qué tan largo es cada vector, solo hacia dónde apunta. Si los vectores ya vienen normalizados (largo 1), la similitud coseno es simplemente el producto punto, que es lo que calculan los índices vectoriales. Qué coseno cuenta como «muy parecido» depende de cada modelo: se decide con ejemplos, no a ojo.

Ejemplo. a = (4, 3) y b = (3, 4): producto punto 4×3 + 3×4 = 24; cada uno mide 5; cos = 24 ÷ (5 × 5) = 0.96. Casi la misma dirección.

Se presenta en 07 · Embeddings: el significado como coordenadasAparece en 3 lecciones

Sincronización de CUDA

CUDA synchronization

Hacer que la CPU espere a que la GPU termine todo el trabajo que tiene en su fila. Sin ella, un reloj alrededor de modelo(x) mide solo cuánto tardó la CPU en dejarle el trabajo (los kernels) en la fila.

La CPU deja cada kernel en una fila de la GPU y sigue con la siguiente línea sin esperar. Por eso modelo(x) regresa en cuanto la CPU terminó de dejar los kernels, no cuando la GPU los corrió. torch.cuda.synchronize() detiene a la CPU hasta que la fila se vacía: para medir bien se calienta primero, se sincroniza antes de arrancar el reloj y otra vez antes de pararlo, y se repite muchas veces. Hay sincronizaciones escondidas: x.item(), x.cpu(), print(x) o un if que depende de un tensor esperan a la GPU sin avisar, y un print a media cuenta hace más lento justo lo que querías mirar.

Analogía. Medir una pizzería con el reloj de la caja: la cajera toma la orden en 20 segundos, pero la pizza sale 15 minutos después. La cajera es la CPU, la cocina es la GPU y sincronizar es esperar a que la pizza llegue a la mesa. Se rompe en que la cocina de la GPU saca los pedidos de una fila estrictamente en orden, y una cajera real no deja apilados cientos de pedidos en milisegundos.

Ejemplo. Con unos supuestos de ejemplo, la CPU deja los 174 kernels de la ResNet-50 en ≈ 1.7 ms y la GPU corre el batch de 32 en ≈ 60 ms: sin sincronizar salen ≈ 18,800 fotos por segundo; de verdad, ≈ 530.

Sistema de archivos

file system · filesystem

La forma en que el sistema operativo organiza los bytes de un disco en archivos y carpetas, con nombre, tamaño, dueño y permisos. En Linux todo cuelga de un solo árbol que empieza en la raíz, /.

En el disco solo hay bloques de bytes; el sistema de archivos lleva el índice de qué bloques son de qué archivo. Los de Linux más comunes son ext4 y XFS; los de Mac y Windows, APFS y NTFS. Otros discos o memorias se agregan al árbol con un montaje, y hay sistemas de archivos que no están en ningún disco: /proc y /sys los inventa el kernel para mostrar procesos y límites, y /dev/shm vive en la RAM. En Linux casi todo es un archivo: la GPU es /dev/nvidia0. Y los nombres distinguen mayúsculas: Model.plan y model.plan son dos archivos, aunque en una Mac sean el mismo.

Ejemplo. El árbol del contenedor de Triton en Alba: el engine está en /models/classifier/1/model.plan, la configuración del sistema en /etc y la GPU aparece como /dev/nvidia0.

Se presenta en 19 · El sistema operativo: Linux, archivos y permisosAparece en 3 lecciones

Sistema operativo

operating system · OS

El programa que administra la computadora: reparte la CPU, la memoria y el disco entre los demás programas, guarda los archivos y no deja que un programa se meta con otro. Linux, Windows, macOS y Android son sistemas operativos.

Tiene dos partes. El kernel, el núcleo que controla el hardware y corre con todos los privilegios, y el espacio de usuario (user space): la biblioteca de C (como glibc), la shell, los comandos como ls y los programas. Un programa nunca toca el hardware directo: se lo pide al kernel con una llamada al sistema. En los servidores, el sistema operativo casi siempre es Linux. Una imagen de contenedor trae el espacio de usuario de una distribución, pero usa el kernel de la máquina donde corre.

Ejemplo. En cada máquina (nodo) con GPU de Alba, el marketplace que sigue el curso, corre Amazon Linux 2023. Su kernel reparte 4 vCPU y 16 GiB de RAM entre Triton, el servidor del modelo, y los programas de Kubernetes de esa máquina, y es el que deja o no a cada uno leer cada archivo.

Se presenta en 19 · El sistema operativo: Linux, archivos y permisosAparece en 7 lecciones

SLA (acuerdo de nivel de servicio)

SLA · service level agreement

Un contrato: lo que un proveedor promete a su cliente sobre un servicio (por ejemplo, 99.99 % de disponibilidad al mes) y lo que le debe si no cumple, casi siempre créditos en la factura.

Tiene cuatro partes: qué se mide, el umbral, las exclusiones y la compensación. No es tu disponibilidad, por tres razones: promete créditos y no minutos; cubre una pieza del proveedor y no tu cadena completa, y muchas veces solo aplica si repartiste en dos o más zonas. Se distingue del SLI, lo que mides, y del SLO, la meta interna. Quien firma un SLA con sus clientes lo pone más flojo que su SLO, para tener margen.

Ejemplo. El SLA de 99.95 % del Kubernetes gestionado de AWS cubre el endpoint de la API de Kubernetes, no tus pods. Si un balanceador de ≈ US$500 al mes se cae 2 horas (99.72 % en el mes), un crédito de 10 % son US$50, y tú gastaste 2.8 presupuestos de error.

Se presenta en 39 · Regiones, zonas y disponibilidadAparece en 2 lecciones

SLI

SLI · service level indicator

El número que se mide para saber si se cumple una promesa del servicio: un percentil de latencia, o la fracción de requests buenas.

El SLO le pone la meta. La forma más práctica es una fracción, porque es un conteo: se suma entre copias y entre ventanas y, con un bucket justo en el umbral, sale exacta. En Prometheus, la fracción de requests en 200 ms o menos es el bucket le="0.2" entre el total.

Ejemplo. Un día con 10,000,000 requests y 9,935,000 en 200 ms o menos: el SLI vale 99.35 %, y el SLO de 99 % se cumple.

Se presenta en 10 · Promedios, medianas y percentilesAparece en 4 lecciones

Slice

slice · rebanada

Un pedazo de los datos de evaluación que comparte algo (fotos de celular, fotos con poca luz, una categoría) y que se mide por separado, porque el promedio general puede esconder que ahí el modelo empeoró.

Es la misma idea que medir cada clase por separado, aplicada a cualquier grupo: fotos de celular contra web, con poca luz, muy chicas, de una región. Un promedio pesa más a los grupos grandes, así que un grupo chico puede empeorar mucho sin mover el total. Por eso el examen de un modelo nuevo exige que no empeore en ningún slice importante, no solo en el promedio.

Ejemplo. Un modelo nuevo sube de 85.0 % a 85.2 % en general, pero en el 5 % de fotos con poca luz baja de 77.4 % a 70.0 %. Solo el slice lo muestra.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 10 lecciones

SLO

SLO · service level objective

La meta que un número medido del servicio tiene que cumplir, en una ventana de tiempo. En Alba, el marketplace que sigue el curso: p99 ≤ 200 ms, medido del lado del servidor.

Un SLO completo dice qué se mide, dónde, cuánto y en qué ventana. Se revisa con su SLI: cada pocos minutos para avisar, y cada 30 días para llevar la cuenta. «p99 ≤ 200 ms» es lo mismo que «al menos el 99 % de las requests en 200 ms o menos», y ese 1 % que sobra es un presupuesto que se puede gastar (presupuesto de error). Si además hay un contrato con multas, se llama SLA (acuerdo de nivel de servicio).

Ejemplo. Alba tiene dos: el de latencia, p99 ≤ 200 ms; y el de disponibilidad, 99.9 % al mes de requests sin error del servidor y dentro de 300 ms.

Se presenta en 10 · Promedios, medianas y percentilesAparece en 14 lecciones

SM

streaming multiprocessor

Cada uno de los bloques de cálculo de una GPU de NVIDIA: lo más parecido a un núcleo de CPU. Tiene sus registros, una memoria chiquita y rápida, carriles de cálculo y tensor cores. Una T4 tiene 40; una H100 SXM, 132.

Un SM de la T4 tiene 64 carriles para FP32, que son los «CUDA cores» de las hojas de datos, y 8 tensor cores, y mantiene vivos hasta 1,024 hilos, en warps de 32. Cuando un warp espera un dato de la VRAM, el SM pone a trabajar a otro en el siguiente ciclo: así esconde la espera. Los CUDA cores que se anuncian son SMs × carriles: 40 × 64 = 2,560 en la T4. Métricas como SM activity, de DCGM (la herramienta de NVIDIA para monitorear GPUs), miden cuántos SMs trabajan, algo que la utilización de GPU de nvidia-smi no ve.

Ejemplo. Los 8.1 TFLOPS en FP32 de la T4: 40 SMs × 64 carriles × 2 FLOPs × 1.59 × 10⁹ ciclos por segundo. Con sus tensor cores en FP16, cada SM hace 512 MACs por ciclo en vez de 64: 65 TFLOPS.

Se presenta en 18 · CPU y GPUAparece en 2 lecciones

Snapshot

snapshot

Una foto fija de los datos en un momento: lo que había entonces, que ya no cambia aunque la tabla siga creciendo. Hace repetible un entrenamiento: el modelo guarda con qué snapshot se entrenó.

En un lakehouse, cada escritura crea un snapshot, y el time travel lee uno viejo; dura hasta que la limpieza lo borra, así que el de un modelo en producción se marca con su propia retención. Otra forma, la de Alba: un manifest, un archivo que lista la llave de cada foto, su etiqueta y su hash, en un prefijo que nunca se reescribe; no copia fotos y pesa megabytes. Un snapshot también debe respetar la retención: si alguien pide borrar su foto, hay que poder encontrarla en todos. La palabra se usa igual para otras cosas: un snapshot de EBS es una copia de un disco. Llevar la cuenta de qué snapshot, qué código y qué contenedor produjeron cada modelo es el versionado de datos y el linaje.

Ejemplo. El modelo de octubre de Alba, resnet50-2026-10-01, apunta a datasets/ds-2026-09-01/ (el snapshot de septiembre), con la huella SHA-256 del manifest. Seis meses después, alguien vuelve a armar exactamente el mismo dataset y repite el entrenamiento.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 14 lecciones

Sobreajustar un batch

overfit-one-batch test

Una prueba rápida del código de entrenamiento: entrenar una y otra vez con un solo batch chico (unas 32 fotos). Un código sano lo memoriza (la pérdida baja casi a cero); si no, algo está roto.

Muchos errores de entrenamiento no tiran el programa: el optimizador no recibe los pesos, el gradiente no llega, las etiquetas no corresponden a sus fotos. Con millones de parámetros y unas pocas fotos, un modelo sano tiene que memorizarlas: es el overfitting usado a propósito. Junto con revisar que la pérdida del primer paso sea ≈ ln(número de clases), atrapa esos errores en un minuto, antes de gastar horas de GPU. No prueba que el modelo aprenda bien. Es un tipo de prueba de humo.

Ejemplo. En Alba corre en el runner de CI en cada commit al código de entrenamiento: la ResNet-50 con 32 fotos fijas debe bajar la pérdida casi a cero en menos de un minuto. El primer paso debe dar ≈ ln 500 ≈ 6.21.

Socket

socket

Lo que un proceso le pide al sistema operativo para hablar por la red: una puerta por donde entran y salen bytes, que el programa usa como un archivo abierto.

Se crea y se usa con syscalls: socket lo crea, bind lo apunta en una IP y un puerto, listen lo pone a esperar, accept acepta una conexión y connect se conecta a otro. El servidor hace bind, listen y accept; el cliente, connect. Cada conexión aceptada es otro socket. El kernel lo maneja igual que a un archivo abierto del proceso, así que cuenta en el límite de archivos abiertos. En Python está en el módulo socket; uvicorn y Triton los usan por dentro.

Ejemplo. socket.socket(socket.AF_INET, socket.SOCK_STREAM) pide un socket de IPv4 y TCP. bind(("0.0.0.0", 8080)) lo apunta en el puerto del gateway, en todas las interfaces.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 2 lecciones

Softmax

softmax

La cuenta que convierte los puntajes crudos de un modelo (sus logits) en probabilidades: eleva e ≈ 2.718 a cada puntaje, suma todo y divide cada uno entre la suma. Quedan números entre 0 y 1 que suman 1.

Conserva el orden (el logit más alto queda con la probabilidad más alta, así que el argmax no cambia) y solo depende de las diferencias entre logits: sumarles a todos el mismo número no cambia nada. Como la exponencial exagera las diferencias, cada punto de diferencia multiplica por e ≈ 2.72. Se usa en la multiclase; en la multietiqueta se usa una sigmoide por etiqueta.

Ejemplo. Logits 3, 1 y 0 → e³ = 20.09, e¹ = 2.72, e⁰ = 1.00; suman 23.81; quedan 84.4 %, 11.4 % y 4.2 %.

Se presenta en 01 · Qué es un modeloAparece en 12 lecciones

Solo decoder

decoder-only

El tipo de transformer de los modelos de lenguaje que escriben (LLMs): una pila de bloques donde cada token solo mira a los anteriores, entrenada a adivinar el siguiente token.

El transformer original (2017) tenía dos mitades para traducir: un encoder, que lee la frase de origen completa en las dos direcciones, y un decoder, que escribe la traducción mirando solo hacia atrás. GPT (2018) y casi todos los LLMs actuales se quedan solo con el decoder. Los que se quedan solo con el encoder, como BERT (2018), no escriben: sirven para entender un texto completo, para clasificar y para embeddings.

Ejemplo. Llama 3 8B (una familia de LLMs públicos de Meta) es solo decoder: una tabla de embeddings, 32 bloques que miran hacia atrás y una capa final que da un logit por cada uno de los 128,256 tokens.

Span

span

Un tramo con nombre dentro de una traza: hora de inicio, duración y el tramo que lo contiene. Una traza son varios spans anidados.

Cada programa abre un span por el trabajo que hace y spans hijos para sus pasos. Llevan atributos (por ejemplo, el request_id o la versión del modelo) y un estado (bien o error). Al dibujarlos uno debajo de otro se ve qué tramo creció. Forman parte de una traza.

Ejemplo. En Alba, el gateway abre un span por la request (20 ms) y, dentro, uno por el preproceso (6 ms) y otro por la llamada a Triton (10 ms); Triton agrega los suyos: uno por el modelo, que marca la entrada a su fila, y dentro otro por el cálculo.

Split

data split · partición

Repartir el dataset en partes que no se mezclan: una para aprender (train), una para decidir (validación) y una para el examen final (test).

No basta con la proporción (80/10/10, por ejemplo). Importa la unidad: si las fotos vienen en familias (del mismo vendedor, o la misma foto en varias publicaciones), la familia entera va a un solo lado (split por grupo); si el modelo va a predecir el futuro, se reparte por fecha (split temporal). Si no, hay leakage.

Ejemplo. Alba, el marketplace del curso, reparte por vendedor: ≈ 95 % a train y ≈ 5 % a validación (1,840,211 y 92,417 fotos en el dataset de septiembre). El examen final es el golden set, que se arma aparte.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 3 lecciones

Split estable

stable split

Un reparto de los datos en el que cada ejemplo cae en train o en validación una vez y se queda ahí en todas las versiones. Los nuevos se reparten sin mover a los viejos.

Si cada versión del dataset sortea el split otra vez, fotos que validaron al modelo viejo entrenan al nuevo, y ya no se pueden comparar. Se logra decidiendo el lado con un hash de algo fijo: un hash no cambia, así que el mismo grupo cae siempre en el mismo lado (asignación con hash). Si se repartiera al azar cada mes, con 95 % a train, la fracción de fotos que pasa por validación al menos una vez en un año sería 1−0.9512 ≈ 46 %.

Ejemplo. Alba: cubeta = SHA-256(seller_id) mod 100; train si es menor que 95. El vendedor s-309 cae en la cubeta 95: validación, hoy y siempre. Sortear cada mes movería ≈ 87,796 de las 92,417 fotos de validación de septiembre a train en octubre.

Split estratificado

stratified split

Repartir cada grupo (cada categoría, por ejemplo) por separado y en la misma proporción, para que train, validación y test tengan la misma mezcla.

Al azar, una categoría chica puede quedarse sin ningún ejemplo en validación, y entonces no se puede medir. Estratificar fija cuántos van a cada lado; el sorteo solo decide cuáles. No hace milagros: con 30 fotos y 5 % de validación quedan 1 o 2, que no miden nada.

Ejemplo. Una categoría con 20 fotos y un split 80/10/10: estratificado, quedan exactamente 16, 2 y 2. Al azar, unas 12 de cada 100 veces validación se queda sin ninguna (0.9 multiplicado por sí mismo 20 veces ≈ 0.12).

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 2 lecciones

Split por grupo

group split · entity split

Repartir por grupos completos (vendedor, cliente, cámara, paciente) en vez de por ejemplos sueltos, para que todos los ejemplos de un grupo queden del mismo lado.

Si los ejemplos de un grupo se parecen entre sí (el mismo fondo, la misma luz, el mismo cliente), repartirlos al azar deja gemelos en train y en test, y el modelo aprende a reconocer el grupo en vez de la tarea. Un truco común: calcular un hash del id del grupo (un número que sale siempre igual para el mismo id) y decidir con él (por ejemplo, hash mod 100 < 95 → train). Así el mismo grupo cae siempre del mismo lado, mes tras mes, sin guardar ninguna lista. El hash tiene que ser estable, como sha256 de hashlib, no el hash() de Python.

Ejemplo. Alba, el marketplace del curso, reparte por vendedor: hash(seller_id) mod 100 < 95 va a train y el resto a validación. Un vendedor con 400 fotos sobre la misma mesa queda entero de un lado. Un sistema de patología reparte por paciente.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 2 lecciones

Split temporal

temporal split · time-based split

Repartir por fecha: entrenar con lo que pasó antes de un corte y evaluar con lo que pasó después. Es obligatorio cuando el modelo va a predecir el futuro.

Un split al azar mezcla días: el modelo ve el lunes y el miércoles y lo examinas con el martes, así que interpola en vez de predecir. Con un corte, el examen se parece a producción: el modelo solo sabe lo que se sabía en esa fecha. Si las etiquetas tardan en llegar (un contracargo, el aviso del banco de que un pago fue fraude, puede tardar meses), además hay que esperar a que maduren. Repetir el corte en varias fechas y promediar se llama backtest.

Ejemplo. Un pronóstico de ventas de supermercado entrena con las ventas hasta una fecha de corte y evalúa los 14 días siguientes, en 8 cortes semanales. La regla: si entrenas con datos hasta el 5 de enero, evalúa desde el 6.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 3 lecciones

SQL

SQL · Structured Query Language

El idioma con el que se le pregunta y se le escribe a una base relacional: dices qué datos quieres (SELECT … FROM … WHERE …) y la base decide cómo encontrarlos.

SQL es declarativo: describe el resultado, no los pasos. Las piezas de todos los días son SELECT (qué columnas), FROM (qué tabla), WHERE (qué filas), ORDER BY (en qué orden), LIMIT (cuántas), GROUP BY con COUNT, SUM o AVG (contar por grupo), JOIN (unir tablas), e INSERT, UPDATE y DELETE para escribir. La base elige el camino, y por eso un índice acelera una consulta sin cambiarla. Los valores se pasan aparte, en huecos (?), nunca pegados al texto: si no, alguien puede meter un comando en un dato (inyección de SQL). Lo hablan PostgreSQL, MySQL y SQLite, y también los almacenes de análisis como DuckDB o los warehouses.

Ejemplo. SELECT categoria, COUNT(*) FROM publicaciones GROUP BY categoria; cuenta las publicaciones de cada una de las 500 categorías: el desbalance del dataset en una línea.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 4 lecciones

SSD

solid-state drive · SATA · NVMe

Un disco sin partes móviles, hecho de memoria flash (la de las memorias USB): no pierde los datos al apagarse y lee 4 KiB al azar en ≈ 0.05 a 0.1 ms, más de 100 veces más rápido que un disco duro. Se conecta por SATA o por NVMe, más rápida.

Cada celda de flash atrapa una carga eléctrica que se queda aunque no haya luz. Se lee y se escribe por páginas de unos KiB, pero solo se borra por bloques grandes, y cada celda aguanta un número limitado de escrituras: un SSD se gasta, y usarlo de swap lo gasta más rápido. SATA es la conexión que se diseñó para discos duros: una sola fila de 32 pedidos y un tope de ≈ 550 MB/s. NVMe (Non-Volatile Memory Express) habla directo por PCIe, el camino rápido dentro de la computadora: muchas filas de pedidos (el estándar permite hasta 65,535), de ≈ 3 a 14 GB/s según la generación y cientos de miles de lecturas al azar por segundo. En AWS, varias máquinas con GPU traen un NVMe local, que se borra cuando la máquina se detiene.

Ejemplo. Un servicio que sirve su propio LLM copia los 70.6 GB de sus pesos de S3 (el almacén de archivos de AWS) al NVMe local de la máquina en ≈ 1 a 2 minutos, porque vLLM, el programa que lo sirve, los lee con mmap y un disco de red haría la carga mucho más lenta.

Se presenta en 17 · Memoria, caché y discoAparece en 5 lecciones

SSE

Server-Sent Events

Una forma de streaming sobre HTTP normal: el servidor contesta con Content-Type: text/event-stream y, en vez de cerrar, va mandando eventos de texto conforme los tiene. Es como llegan los tokens de un LLM (un modelo de lenguaje).

Cada evento lleva una o más líneas que empiezan con data: (y puede llevar otras, como id:), y una línea en blanco lo cierra. Un evento puede llevar un id:, y si la conexión se corta, el cliente se reconecta mandando el último en el header Last-Event-ID; las líneas que empiezan con : son comentarios y sirven de latido para que el balanceador no cierre la conexión callada. Va en un solo sentido, del servidor al cliente. La red entrega los bytes en pedazos que no respetan los eventos, así que el cliente junta lo que llega y procesa al ver la línea en blanco.

Ejemplo. Con una API compatible con OpenAI y "stream": true, llegan eventos como data: {"choices": [{"delta": {"content": "Te"}}]} y, al final, data: [DONE].

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 2 lecciones

SSE-KMS

SSE-KMS · server-side encryption with KMS

El cifrado en reposo de S3, el almacén de archivos de AWS, con una llave de KMS: S3 hace el cifrado de sobre de cada objeto por ti, y para entregarlo (un GET) pide el descifrado con los permisos de quien lo pide.

Al recibir un PUT, S3 pide una llave de datos, cifra el objeto y guarda la llave cifrada; al recibir un GET, pide el Decrypt como quien llama. Por eso leer necesita dos permisos: s3:GetObject en el bucket y kms:Decrypt en la llave. Cada operación es una request a KMS; el Bucket Key de S3 reutiliza una llave por bucket por un rato y baja esas requests hasta en un 99 %. La alternativa SSE-S3 usa llaves que administra S3, sin política propia.

Ejemplo. Las ≈ 7.5 M fotos nuevas al día de Alba, sin Bucket Key, serían 228 M requests a KMS al mes, ≈ US$685; con Bucket Key, ≈ US$8.

ssh

ssh · secure shell

El programa para abrir una shell en otra computadora a través de la red, con todo cifrado: ssh marta@gw-node. Para probar quién eres usa casi siempre un par de llaves, una privada que no sale de tu laptop y una pública en el servidor.

Lo que tecleas lo lee una shell en la otra máquina, y los procesos corren allá; tu terminal solo dibuja. Usa el puerto 22 por omisión. La llave privada (por ejemplo ~/.ssh/id_ed25519, el tipo que ssh-keygen crea por omisión desde OpenSSH 9.5) se guarda con permisos 600, y ssh se niega a usarla si otros la pueden leer; la pública se copia al servidor. ssh host 'comando' corre un solo comando allá: lo que va entre comillas lo resuelve la shell remota, y lo de afuera, la tuya. ssh -L 8000:localhost:8000 host abre un túnel desde tu puerto 8000 hasta el 8000 del servidor. Si se corta la conexión, los procesos de la sesión reciben SIGHUP; por eso los trabajos largos van en tmux o con nohup.

Analogía. Un control remoto con cable largo: los botones están en tu mano, pero la tele que obedece está en otro cuarto. Se rompe en que el cable va cifrado y en que puedes pedirle a la tele de allá que te mande solo lo que te interesa, en vez de todo.

Ejemplo. Buscar 9f2c41d0 en un log de 3 GB: ssh marta@gw-node 'grep 9f2c41d0 /var/log/gateway.log' lo lee allá en ≈ 6 s y trae dos líneas; bajarlo con una red de 100 Mb/s tardaría ≈ 4 minutos.

Se presenta en 32 · La terminal y la shellAparece en 2 lecciones

state_dict

state dict

El diccionario con los pesos de un modelo de PyTorch: un tensor con nombre por cada parámetro y cada buffer (números guardados que no se aprenden, como las estadísticas de la BatchNorm). Es lo que se guarda y se carga, sin el código del modelo.

Los nombres siguen el camino de atributos: layer1.0.conv1.weight es el peso de la primera convolución del primer bloque de la etapa 1. Se guarda el state_dict y no el objeto entero (torch.save(modelo)), porque el objeto necesita el código exacto de su clase en la misma ruta y un pickle completo, que puede ejecutar código al cargarse. Cargarlo bien tiene tres piezas: primero la arquitectura vacía; luego torch.load(ruta, map_location="cpu", weights_only=True), que solo arma tensores y los lee a la RAM aunque vengan de una GPU; y load_state_dict(estado) con strict=True, que truena si falta, sobra o no cuadra algún nombre o forma. Con strict=False el modelo puede quedarse con pesos al azar sin ningún error. También cabe en safetensors.

Ejemplo. El state_dict de la ResNet-50 de Alba tiene 320 tensores: 161 parámetros y 159 buffers de sus 53 BatchNorm, ≈ 98.3 MB en total. Cargarlo en una ResNet-50 de 1,000 clases falla con size mismatch for fc.weight.

Sticky session

sticky session · session affinity

Afinidad: mandar todas las requests de un mismo cliente, sesión o conversación a la misma copia del servicio, en vez de repartirlas.

Se logra con una cookie que pone el balanceador, con un hash de la IP de origen (frágil: muchos clientes comparten IP) o con un hash de un id que viene en la request. Vale la pena cuando la copia guarda en memoria algo caro de rehacer: el KV cache de una conversación en un LLM (prefix caching), el estado del seguimiento de una cámara, una conexión WebSocket. Sus costos: un cliente pesado satura su copia, si la copia muere se pierde su estado, y las copias nuevas reciben poco. Un programa que llama a otro normalmente no guarda cookies, así que ahí la cookie no sirve. Lo mejor, cuando se puede, son copias sin estado.

Ejemplo. Un servicio que sirve su propio LLM tiene 16 réplicas de vLLM (supuesto del ejemplo). Al azar, el siguiente mensaje de una conversación cae en la réplica que ya tiene su prefijo ≈ 1 de cada 16 veces (6.25 %). Con afinidad por conversación, casi siempre; si esa réplica está llena, va a la de menos requests en vuelo.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 2 lecciones

Stream de eventos

event stream · event log

Un registro de eventos que solo crece: cada evento nuevo se agrega al final y leer no borra nada. Varios sistemas lo leen, cada uno a su ritmo con su propio marcador. Ejemplos: Kafka, Kinesis.

Un evento es un registro de algo que ya pasó («listing 42: vendido»). El stream los guarda en orden dentro de cada partición durante su retención (por omisión, 7 días en Kafka y 24 h en Kinesis, que se puede subir hasta 365 días) y después los borra por el principio. Cada grupo de consumidores lleva su offset, así que varios sistemas leen lo mismo sin estorbarse y se puede releer (replay) regresando el offset. Es transporte, no archivo: para reprocesar un año, la fuente de verdad es el data lake. No confundir con el streaming de una respuesta por pedazos sobre una conexión.

Analogía. El ticket largo de una caja registradora: la cocina, la contabilidad y el inventario leen el mismo rollo, cada uno hasta donde va. Se rompe en que el rollo de verdad nunca se borra; el stream sí, por el principio, al pasar la retención.

Ejemplo. En la búsqueda de Alba, el índice, el sink al lake y el monitoreo leen el mismo tópico listing-events. Para estrenar un modelo, un grupo nuevo relee desde el offset de un snapshot.

Se presenta en 30 · Colas y streams: mensajes que esperanAparece en 5 lecciones

Streaming

streaming

Mandar una respuesta por pedazos, conforme se va produciendo, en vez de esperar a tenerla completa. Así quien la espera empieza a usarla desde el primer pedazo.

La respuesta tarda lo mismo, pero quien la espera empieza a usarla con el primer pedazo. Es esencial en los LLMs, que escriben un token a la vez: lo que siente la persona es el TTFT, no el tiempo total. Se hace con SSE (del servidor al cliente), con WebSocket (en los dos sentidos) o con streams de gRPC. Todo el camino debe dejar pasar los pedazos: un proxy que junta la respuesta antes de pasarla (buffering) anula el efecto.

Ejemplo. La respuesta típica del LLM de Alba, de 250 tokens: 0.6 s hasta el primer token y 249 más a 40 ms cada uno, ttotal = 0.6 + 249 × 0.04 ≈ 10.6 s. Con streaming, la persona lee desde los 0.6 s; sin streaming, ve la pantalla en blanco 10.6 s.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 4 lecciones

Stride

stride · paso

Cuántos píxeles salta un filtro de una posición a la siguiente. Con stride 2, la salida queda más o menos de la mitad de ancho y de la mitad de alto.

Entra en la fórmula del tamaño de salida de una convolución o de un pooling: lado = (n + 2p − k) ÷ s + 1, redondeando la división hacia abajo, con n el lado de la entrada, k el del filtro, p el padding y s el stride. Cada capa con stride 2 deja la cuarta parte de las posiciones y hace crecer más rápido el campo receptivo.

Ejemplo. La primera capa de la ResNet-50 (7 × 7, padding 3, stride 2) convierte la foto de 224 × 224 en mapas de 112 × 112: (224 + 6 − 7) ÷ 2 = 111.5, que baja a 111, más 1.

Subred

subnet

Un pedazo del rango de direcciones de una VPC (tu red privada en la nube) que vive en una sola zona de disponibilidad. Al poner una máquina en una subred eliges su zona y el rango del que sale su IP.

Las subredes de una VPC no se enciman y cada una cabe dentro del rango de la VPC. Cada una tiene asociada una tabla de rutas, que la hace pública o privada (subred privada y pública). En AWS cada subred aparta 5 direcciones. En Kubernetes en AWS, cada pod toma una IP de la subred de su nodo, así que las subredes de los nodos se hacen grandes. En Google Cloud una subred es regional, no de una zona.

Ejemplo. Alba parte 10.0.0.0/16 en cuatro /20: 10.0.0.0/20 (pública, 1a), 10.0.16.0/20 (pública, 1b), 10.0.32.0/20 (privada, 1a) y 10.0.48.0/20 (privada, 1b), con 4,091 IPs usables cada una.

Se presenta en 41 · Redes en la nube: VPC, subredes y egressAparece en 2 lecciones

Subred privada y pública

private / public subnet

Una subred pública tiene ruta directa a internet, por el internet gateway (la puerta de la red privada hacia internet); una privada no. Lo que vive en una privada no se alcanza desde internet.

Lo que hace pública o privada a una subred es su tabla de rutas, no su nombre: si 0.0.0.0/0 apunta a un internet gateway, es pública. Una privada, si necesita salir a internet, lo hace por un NAT gateway, que solo deja salir. Regla de diseño: en las públicas va solo lo que recibe tráfico de internet (el balanceador, los NAT); todo lo demás, en privadas.

Ejemplo. En Alba, el ALB y los dos NAT viven en las subredes públicas; los nodos del gateway y de Triton, en las privadas, sin IP pública. Aunque Triton tuviera un error, desde internet no hay camino hasta él.

sudo

sudo · superuser do

El comando para correr otro comando como root, el usuario que puede todo, sin entrar como root: sudo systemctl restart docker. Pide tu contraseña, revisa si tienes permiso y anota quién hizo qué.

Entrar a un servidor como root le da poder total a cualquier error de dedo; con sudo, el poder se pide comando por comando y queda registrado. En un contenedor casi nunca hay sudo: la imagen ya trae lo que necesita y el proceso corre con el usuario que dice su receta (root si no dice otra cosa; mejor, uno sin privilegios). Agregarlo solo le daría a un atacante una forma de subir de privilegios. Nunca se corre con sudo un comando pegado de internet sin entenderlo.

Ejemplo. En un nodo con GPU, sudo systemctl restart docker reinicia Docker después de instalar el NVIDIA Container Toolkit. En un contenedor típico, que no trae sudo, el comando da command not found y el código 127.

Superficie de ataque

attack surface

Todo lo que alguien de fuera puede tocar en tu sistema: puertos abiertos (las entradas de red de una máquina), APIs, archivos que abres, paquetes que instalas. Cada cosa expuesta es una puerta posible.

La superficie de ataque crece con cada servicio que aceptas desde fuera y con cada pedazo de código que procesa datos ajenos. La defensa más barata es achicarla: no exponer lo que no hace falta, sobre todo las APIs de administración de los servidores de modelos, que pueden cargar modelos nuevos. Un componente que interpreta (parsea) bytes que no controlas (como el decodificador de imágenes) también es superficie, aunque no tenga un puerto propio.

Analogía. Las puertas y ventanas de una casa: cada una que agregas es otra que hay que cerrar. Dónde se rompe: en software, una «puerta» puede ser un archivo que tú mismo abres, sin que nadie toque nada desde fuera.

Ejemplo. En Alba solo el ALB (el balanceador de entrada) está expuesto. Triton, el servidor del modelo, no tiene entrada desde fuera: una regla de red deja que solo el gateway le hable al puerto 8000 y solo el monitoreo lea el 8002. El gateway sí es superficie aunque no tenga IP pública, porque decodifica fotos que suben los vendedores.

Swap

swap · swap space · paging to disk

Una parte del disco donde el sistema operativo guarda los pedazos de memoria (las páginas) que no se han usado en un rato, para liberar RAM. Si un programa los vuelve a tocar, se leen del disco: de mil a cien mil veces más lento que la RAM.

Cuando la RAM se llena, el sistema primero suelta la page cache; si no alcanza, manda páginas poco usadas al swap o mata un proceso (el OOM). El swap evita el OOM a cambio de velocidad. Si lo que los programas usan todo el tiempo no cabe en la RAM, el sistema se pasa la vida moviendo páginas de ida y vuelta (thrashing): no se cae, pero se arrastra. En una laptop vale la pena, y macOS además comprime la memoria antes de usarlo. En un servidor que responde requests, no: la latencia explota sin ningún error, y es mejor morir rápido y volver a arrancar. Por eso los servidores suelen tenerlo apagado. En un servidor con Linux, la VRAM no tiene swap: si un tensor no cabe, PyTorch falla con «CUDA out of memory».

Ejemplo. Si 1 de cada 100 lecturas de un servidor sale del swap en un SSD (≈ 100 µs) y las demás de la RAM (≈ 100 ns), el promedio pasa de 100 ns a ≈ 1,099 ns: 11 veces más lento. Con un disco duro, ≈ 1,000 veces.

System prompt (instrucciones de sistema)

system prompt

Las instrucciones que la app le da al modelo de lenguaje (LLM) al principio de cada conversación, antes de lo que escribe la persona: qué papel tiene, qué reglas sigue y en qué formato contesta.

En la plantilla de chat ocupa el rol «system», separado del «user» con tokens especiales. El modelo aprendió a darle más peso en el ajuste con instrucciones, pero no es una barrera de seguridad: una persona o un documento pueden convencer al modelo de ignorarlo o de repetirlo completo. Por eso no lleva secretos. Como es igual en todas las requests de un producto, va primero y el prefix caching lo reutiliza.

Ejemplo. En el LLM que sirve Alba (el marketplace del curso), cada producto tiene un prefijo fijo de ≈ 1,000 tokens (instrucciones y políticas) que se guarda con versión, como el código.

T

Tabla

table · row · column

La forma de ordenar los datos en una base relacional: una cuadrícula donde cada fila es una cosa (una publicación) y cada columna es un dato de todas (el precio), con un tipo fijo.

Al crear la tabla se declaran sus columnas y el tipo de cada una: ese es su esquema. Cada fila se identifica por su llave primaria, y otras tablas apuntan a ella guardando esa llave (una llave foránea). Las tablas se consultan con SQL y se combinan con un JOIN. Por dentro, la base guarda las filas en páginas de disco de tamaño fijo (4 KiB por omisión en SQLite, 8 KiB en PostgreSQL) y lee siempre páginas completas.

Ejemplo. La tabla publicaciones de Alba tiene las columnas id, vendedor, título, categoría, precio y request_id. La fila de Ana dice: 1, ana, Tenis naranjas, tenis, 900.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 2 lecciones

Tabla de rutas

route table

La lista de reglas de una subred que dice, para cada rango de destino, a quién entregar el paquete. Si dos reglas coinciden, gana la más específica.

Cada regla tiene un destino en CIDR y un siguiente salto: local (dentro de la VPC), un internet gateway, un NAT gateway, un gateway endpoint… 0.0.0.0/0 es la ruta por omisión, porque contiene todo. Cuando un destino cabe en varias reglas gana la de prefijo más largo (longest prefix match). Responde «¿hay camino?», no «¿tiene permiso?»: eso es del grupo de seguridad.

Analogía. Como los letreros en un cruce de carreteras: «Monterrey, por aquí; todo lo demás, por allá». Se rompe en que el letrero más específico siempre gana, aunque esté escrito abajo.

Ejemplo. Subred privada de Alba: 10.0.0.0/16 → local, rangos de S3 → gateway endpoint, 0.0.0.0/0 → NAT de su zona. 10.0.37.9 va a local, una IP de S3 al endpoint, 8.8.8.8 al NAT.

Tag

tag

Un nombre fijo para un commit, que no se mueve como una rama: v1.4.0 apunta siempre al mismo commit. Se usa para marcar versiones publicadas.

Con git tag -a v1.4.0 -m "mensaje" se crea un tag anotado, un objeto con autor, fecha y mensaje; sin -a, es solo el nombre. Los nombres suelen seguir la versión semántica: mayor, menor y parche. git push no sube los tags: se suben con git push origin v1.4.0. No hay que confundirlo con el tag de una imagen de contenedor, como classifier-gateway:3f9c2ab, que es otro nombre en otro sistema; en Alba ese tag de imagen es justo el hash corto del commit.

Ejemplo. git tag -a v1.4.0 sobre 1e53ceb, y después de dos commits más, git rev-parse --short=7 v1.4.0^{commit} sigue dando 1e53ceb.

Se presenta en 35 · Git: versiones del códigoAparece en 2 lecciones

Tag de una imagen

image tag

La etiqueta legible después de los dos puntos en el nombre de una imagen, como 3f9c2ab en classifier-gateway:3f9c2ab. Es un apuntador a un digest (la huella exacta del contenido), y se puede mover a otro salvo que el registro lo prohíba.

Lo pone quien construye o sube la imagen. Sirve para que una persona sepa qué es, no para garantizar el contenido: eso lo hace el digest. El tag latest es solo el que Docker pone cuando no escribes otro; no quiere decir «la más nueva», cada máquina puede tener una distinta y no hay forma de volver a «la latest de ayer».

Ejemplo. En Alba, el tag del gateway son los 7 primeros caracteres del commit (3f9c2ab) y el de Triton es la versión del modelo (resnet50-2026-10-01). Nunca latest.

Se presenta en 53 · Empaquetado con DockerAparece en 2 lecciones

Tag de una versión

model version tag

Una etiqueta de texto, llave y valor, pegada a una versión del registro, que dice en qué estado está o quién hizo qué: gate=passed, quién la aprobó, el ticket de un override. No es la etiqueta de una foto.

Los tags guardan lo que no es un archivo: el resultado del gate, el nombre legible de la versión, la GPU para la que se construyó el engine, la firma de un override. Se pueden agregar después de registrar la versión sin cambiar sus archivos, así que no rompen la inmutabilidad. Son lo que permite contestar rápido «¿esta versión pasó el gate?» sin abrir el reporte.

Ejemplo. La versión 15 de Alba lleva gate=passed, name=resnet50-2026-11-01 y, como tags del engine, la GPU (T4, de generación sm_75) y la versión del software de NVIDIA con que se construyó (24.08).

Tag inmutable

tag immutability

Una opción de un repositorio del registro de imágenes: si un tag ya existe, rechaza cualquier subida (push) nueva con ese nombre. Así cada tag nombra un solo contenido para siempre.

Un tag es un letrero que apunta a un digest, y en casi todos los registros, por omisión, el letrero se puede mover: subir otra imagen con el mismo tag lo pisa. Con la inmutabilidad prendida, un segundo push con ese tag falla. Eso hace que el tag diga la verdad, pero no reemplaza desplegar por digest: el digest fija los bytes; el tag los nombra para una persona. Un re-run de CI que reconstruye un commit ya publicado falla en el push: es la regla funcionando.

Ejemplo. En ECR, que no la trae prendida, Alba la prende en classifier-gateway y classifier-triton. Si alguien reconstruye el commit 3f9c2ab, el push responde ImageTagAlreadyExistsException.

Taint y toleration

taint and toleration

Un taint en un nodo aleja a todos los pods que no lo acepten; una toleration en un pod dice que ese pod sí lo acepta. Sirven para reservar nodos caros.

El taint tiene llave, valor y efecto: con NoSchedule, el scheduler no pone ahí pods sin la toleration. La toleration solo deja pasar: no atrae. Por eso un pod que debe caer en ciertos nodos lleva las dos cosas, la toleration y un nodeSelector.

Analogía. El taint es el guardia de la puerta y la toleration es el pase. Se rompe en que tener el pase no te lleva a la puerta: para eso hace falta la dirección, el nodeSelector.

Ejemplo. Los nodos con T4 de Alba llevan nvidia.com/gpu=present:NoSchedule. Triton lo tolera; el gateway no, así que nunca cae en una máquina de US$0.526 la hora.

Se presenta en 55 · Kubernetes

Tamaño de muestra

sample size

Cuántas unidades necesita cada grupo (brazo) de un experimento para ver un efecto dado, o cuántos datos necesita un examen para medir con cierto margen.

Para comparar dos proporciones, la regla de bolsillo es n ≈ 16 × p(1 − p) ÷ MDE² por brazo, con α = 0.05 y potencia de 80 %; el 16 sale de redondear 2 × (1.96 + 0.84)² ≈ 15.7. Para medir una sola proporción con un margen m al 95 %: n ≈ 1.96² × p(1 − p) ÷ m². En los dos casos, el ruido baja con la raíz de n.

Ejemplo. El A/B de Alba, el marketplace que sigue el curso: 16 × 0.70 × 0.30 ÷ 0.01² = 33,600 por brazo (la fórmula completa da 32,647). Para medir una accuracy de 85 % con ±1 punto: 1.96² × 0.1275 ÷ 0.0001 ≈ 4,900 fotos.

Tarea

task

El tipo de pregunta que le haces a un modelo: elegir una categoría, dar un número, ordenar una lista, encontrar objetos… Decide qué sale del modelo y cómo se mide si acertó.

Se decide antes de elegir el modelo, a partir del problema del negocio. Las más comunes: clasificación (binaria, multiclase o multietiqueta), regresión, ranking, detección de objetos, segmentación y ocr. La tarea también decide cómo termina el modelo: una sigmoide, un softmax o nada. Un sistema real a veces combina varias.

Ejemplo. «Sugerir la categoría de una foto» es una tarea de clasificación multiclase. «Sugerir el precio» sería una regresión.

Tasa

rate · arrival rate

Cuántas veces pasa algo por unidad de tiempo: requests por segundo, fallas por día. Es un promedio: dice cuántos llegan en promedio, no cuántos llegan en cada segundo.

Es un valor esperado por unidad de tiempo, y se convierte como cualquier unidad (por segundo × 86,400 = por día). Las QPS son una tasa. Con una tasa de fallas, el tiempo promedio entre dos fallas es 1 ÷ tasa. Como las llegadas al azar se amontonan, cada segundo trae más o menos que la tasa; el modelo de Poisson dice cuánto, y por eso se diseña para el pico y con margen, no para el promedio.

Ejemplo. Alba, el marketplace que sigue el curso: 10 millones de fotos al día ÷ 86,400 s ≈ 116 requests por segundo en promedio, ≈ 350 en el pico del día y 500 de diseño. Con 0.1 % de fallas, ≈ 0.116 fallas por segundo: una cada ≈ 8.6 s.

Se presenta en 11 · Probabilidad para sistemas que fallanAparece en 3 lecciones

Tasa de aceptación

acceptance rate

De las publicaciones donde la pantalla mostró las sugerencias, la fracción cuya categoría se eligió entre ellas. En Alba, ≈ 70 %.

Es la señal de negocio más rápida: llega en minutos u horas. Se mide con los eventos de quien llama (en Alba, suggestion_shown y category_selected del backend), no con el log del servidor, que no sabe si la sugerencia se llegó a pintar. Está sesgada: la gente tiende a aceptar lo que le mostraron (bucle de retroalimentación), así que no sirve para medir la exactitud real; para eso está el holdout.

Ejemplo. Con ≈ 17.3 M publicaciones a la semana, el azar mueve la aceptación de Alba ± 0.02 puntos; el disparador pide una caída de más de 3 puntos semana contra semana.

Tasa de baja confianza

low-confidence rate

La fracción de las predicciones cuya probabilidad más alta (el score top-1) queda debajo de un umbral. En Alba, la de las fotos con top-1 menor que 0.3: ≈ 4 % en un día normal.

Se calcula con dos contadores del histograma del score: el bucket del umbral entre el total, en una ventana de 30 minutos, con una regla de grabación. Se compara contra su propio promedio de 7 días, porque la tasa normal se mueve con las temporadas. Ve las dudas del modelo, no sus errores seguros: un modelo mal calibrado puede equivocarse con 0.9.

Ejemplo. En media hora de tráfico promedio de Alba hay 208,800 requests y ≈ 8,352 fotos dudosas (4 %). El ticket ClassifierLowConfidenceSpike pide más del doble de su promedio de 7 días (≈ 8 %) durante 30 minutos, con más de 1 request por segundo.

TCP

Transmission Control Protocol

El protocolo que convierte los paquetes sueltos de la red en una conexión confiable entre dos programas: los bytes llegan completos, sin repetirse y en orden. Lo usan HTTP (el protocolo de la web) y casi todo lo que no puede perderse.

Numera cada byte (número de secuencia), el que recibe acusa recibo (ACK) y lo que no se acusa a tiempo se reenvía. Antes de mandar datos hace un handshake de tres pasos que cuesta 1 RTT. Además cuida no saturar la red: empieza mandando poco (arranque lento, con una ventana de ≈ 10 paquetes) y duplica en cada RTT, y si se pierde un paquete, baja. Como entrega en orden, un paquete perdido detiene a los que vienen detrás. Su contraparte sin conexión es UDP.

Analogía. Mandar un libro por correo en hojas sueltas numeradas, y que el que lo recibe te avise qué hojas ya tiene: las que no confirma, las vuelves a mandar. Se rompe en que el correo no se pone más lento cuando hay tráfico; TCP sí frena a propósito.

Ejemplo. El JPEG de Ana, del celular al backend y del backend al clasificador de Alba, y el tensor de 602 KB hacia Triton viajan por TCP. Una conexión nueva a 60 ms de RTT tarda 120 ms en traer la primera respuesta; una ya abierta, 60.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 6 lecciones

Temperatura

temperature

La perilla del muestreo: con temperatura baja el modelo casi siempre elige el token más probable; con temperatura alta, las opciones menos probables ganan terreno.

Antes de convertir las calificaciones del modelo (logits) en probabilidades con softmax, se dividen entre la temperatura. Dividir entre un número chico agranda las diferencias; entre uno grande, las aplana. Temperatura 0 equivale a elegir siempre el más probable, aunque en un servidor real eso no garantiza respuestas idénticas.

Ejemplo. Logits 2, 1 y 0. Con temperatura 1: 66.5 %, 24.5 % y 9.0 %. Con 0.5: 86.7 %, 11.7 % y 1.6 %. Con 2: 50.6 %, 30.7 % y 18.6 %.

Se presenta en 08 · Transformers y LLMsAparece en 3 lecciones

Temperature scaling

temperature scaling

Un arreglo de la calibración: dividir todos los logits entre un mismo número T antes del softmax. Con T mayor que 1, el modelo baja su seguridad; el orden de las clases no cambia.

T es un solo número que se elige con el set de validación: el que hace más honestas las probabilidades, por ejemplo el que deja más baja la pérdida de validación. Como dividir entre un número positivo no cambia qué logit es más grande, la top-1 y la top-5 quedan idénticas: solo cambia qué tan seguro dice estar. Es la misma temperatura de los LLMs (los modelos grandes de lenguaje), usada para otra cosa. Se popularizó con un estudio de 2017 (Guo y otros) que mostró que las redes modernas suelen ser demasiado confiadas.

Ejemplo. Logits 3, 1 y 0: el softmax da 84.4 %, 11.4 % y 4.2 %. Con T = 1.5 quedan 2, 0.67 y 0, y el softmax da 71.5 %, 18.8 % y 9.7 %: la misma clase primero, con menos seguridad.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 2 lecciones

Tensor

tensor

Una tabla de números con cualquier cantidad de dimensiones, todos del mismo tipo. Es lo que entra y sale de un modelo.

Un número solo tiene 0 dimensiones, una lista tiene 1, una tabla tiene 2 y una foto a color tiene 3 (canal, alto, ancho). Un grupo de fotos tiene 4. Su shape dice cuántos números hay en cada dimensión.

Ejemplo. La foto de Ana, lista para el modelo de Alba: un tensor de shape [1, 3, 224, 224] con 150,528 números float32.

Se presenta en 02 · Una foto, vista por un modeloAparece en 19 lecciones

Tensor core

tensor core

Un circuito dentro de cada bloque de cálculo (SM) de una GPU de NVIDIA que multiplica dos bloques chicos de matrices y suma el resultado en un solo paso. Trabaja sobre todo con formatos de pocos bits, como FP16, BF16, FP8 o INT8, según la GPU.

Hace D = A × B + C sobre bloques: en la T4, cada uno hace 64 MACs por ciclo en FP16, y hay 8 por SM, así que un SM hace 512 MACs por ciclo en sus tensor cores contra 64 en sus carriles normales. De ahí que la T4 haga 65 TFLOPS en FP16 y 8.1 en FP32. Con FP16, las sumas se acumulan en FP32 (con INT8, en enteros de 32 bits). Los dos números de cada multiplicación tienen que estar en un formato que acepte, y en el mismo (INT8 con INT8): un modelo en float32 en una T4 los deja parados. Nacieron en 2017, con la V100; los de la T4 aceptan FP16, INT8 e INT4; la A100 agregó BF16 y TF32; la L4 y la H100, FP8 (la H100 dejó INT4); Blackwell, FP6 y FP4. Rinden con matrices grandes, otra razón para el batching.

Ejemplo. Alba, la empresa de ejemplo del curso, sirve su modelo en FP16 con TensorRT para usar los tensor cores de su T4: 65 TFLOPS contra 8.1 en FP32. Si la métrica tensor activity de DCGM está cerca de 0 mientras sirves en FP16, el engine no los está usando.

Se presenta en 18 · CPU y GPUAparece en 4 lecciones

TensorRT

TensorRT

El compilador de modelos de NVIDIA: lee un ONNX y produce un engine, el modelo listo para correr rápido en una GPU concreta, con operaciones juntadas, cuentas en FP16 y la forma más rápida de hacer cada capa en ese chip.

TensorRT toma el grafo de un ONNX y lo compila. Su builder simplifica el grafo, junta operaciones (fusión), elige la precisión de cada capa (FP16 donde puede), cronometra varias implementaciones de cada capa en esa GPU y guarda las ganadoras en un engine. El engine queda atado a la GPU y a la versión de TensorRT. Se usa desde la línea de comandos con trtexec o desde Python.

Analogía. Un sastre que toma el patrón de un traje y lo corta a la medida de una persona: queda mejor que uno de talla, pero no le queda a otra. Dónde se rompe: el sastre mide a la persona una vez; TensorRT cronometra en la GPU, y dos cronometradas pueden dar trajes un poco distintos.

Ejemplo. Alba compila su ResNet-50 con TensorRT 10.3, dentro de la imagen nvcr.io/nvidia/tensorrt:24.08-py3, en una T4: el engine FP16 lleva ≈ 49 MB de pesos y una T4 llega con él a ≈ 1,200 fotos por segundo.

Se presenta en 51 · Export, engine y paridadAparece en 3 lecciones

Teoría de colas

queueing theory

La parte de las matemáticas que calcula cuánto se espera en una fila a partir de cómo llegan las requests, cuánto tarda cada una y cuántos servidores hay.

Su modelo más simple, M/M/1, supone llegadas al azar (Poisson), tiempos de servicio al azar, un servidor y una fila en orden de llegada. Da W=S÷(1−ρ) para el tiempo promedio en el sistema y, en ese modelo, un p99 de ≈ 4.6 × W. M/M/c tiene c servidores con una fila compartida (la fórmula de Erlang C), y M/D/1, un servicio constante, que espera la mitad. Los sistemas reales no cumplen los supuestos, pero conservan la forma: plana y después un palo de hockey. Sirve para argumentar; para dimensionar se mide con una prueba de carga.

Ejemplo. Con S = 6 ms: W = 12 ms al 50 %, 30 al 80 %, 60 al 90 %, 120 al 95 % y 600 al 99 %. De 50 a 90 %, la espera en la fila se multiplica por 9.

Terminación de TLS

TLS termination

El lugar donde una conexión cifrada con TLS se descifra. Casi siempre es un balanceador de carga (el que reparte las conexiones entre servidores) o un proxy, que tiene el certificado, lee la request y la pasa al servicio por dentro.

Se termina en el balanceador porque necesita leer la request para hacer su trabajo (ver la ruta, revisar el token, repartir, mandar una parte a una versión nueva en prueba, un canary), y así el certificado vive en un solo lugar. Lo que queda después de ese punto viaja descifrado, salvo que se vuelva a cifrar: con otro certificado hacia el servicio, con mTLS o con un balanceador de capa 4 (que solo ve conexiones, no requests) que no descifra y deja que el servicio termine TLS. Hay que decir, tramo por tramo, qué va cifrado y qué protege lo que no.

Ejemplo. En Alba, el ALB termina TLS con el certificado público de api.alba.example, verifica el JWT (el token firmado) del programa que llama y pasa la request al gateway por HTTP, dentro de la VPC (la red privada de Alba en AWS).

Terminal

terminal · terminal emulator

La ventana de texto donde se escriben comandos en vez de usar el mouse. Solo pasa lo que tecleas a otro programa, la shell, y dibuja el texto que ese programa le regresa.

La terminal no entiende los comandos: eso lo hace la shell que corre adentro. Su trabajo es dibujar letras, colores y el cursor, y mandar las teclas, incluidas combinaciones como Ctrl+C, que le pide al kernel convertir en la señal SIGINT para el proceso de primer plano. Cada sistema trae la suya: la app Terminal en macOS, Windows Terminal en Windows 11 (con WSL2 para tener un Linux de verdad) y GNOME Terminal en muchos Linux. Se le dice «emulador de terminal» porque imita a los aparatos de teclado y pantalla que en los años setenta se conectaban por cable a una computadora grande.

Analogía. El vidrio de una ventanilla de banco: por ahí pasan tus papeles y por ahí te regresan la respuesta, pero el que atiende es otro (la shell). Se rompe en que la terminal sí hace un trabajo propio: dibuja colores, guarda lo que ya salió y convierte teclas como Ctrl+C en avisos.

Ejemplo. Marta abre la app Terminal de su Mac. Lo que escribe lo lee zsh, la shell; la Terminal solo lo dibuja. Si cambia el tamaño de las letras, eso es cosa de la Terminal.

Se presenta en 32 · La terminal y la shellAparece en 5 lecciones

Test

test set · held-out set

La parte que se guarda bajo llave y se usa al final, una vez, para estimar qué tan bien le irá al modelo con datos que nunca vio.

Si miras el test, cambias algo y vuelves a mirar, el test se convirtió en validación y ya no tienes un número honesto. En Alba, el marketplace del curso, el papel del test lo hace el golden set.

Ejemplo. Con 50,000 fotos y un reparto 80/10/10, test son 5,000 fotos que nadie mira hasta el final. Si pruebas 40 variantes y reportas la mejor en test, ese número ya no es honesto.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 2 lecciones

Texto en claro y texto cifrado

plaintext · ciphertext

El texto en claro es lo que quieres proteger, legible (aunque sea una foto); el texto cifrado es lo que sale de cifrarlo: bytes que parecen ruido y solo se regresan con la llave.

Se dice «texto» por tradición, pero puede ser cualquier serie de bytes: una foto, un archivo de pesos, una request HTTP. El texto cifrado puede viajar por cualquier red o guardarse en cualquier disco: sin la llave no dice nada, salvo su tamaño aproximado. Con AES-GCM, junto al texto cifrado viajan un nonce (un número que no se repite) y una etiqueta de 16 bytes que detecta cambios.

Ejemplo. El texto en claro «Calzado > Tenis», de 15 bytes, cifrado con una llave de juguete, da b312e9ccf979760086e1a722089598: los mismos 15 bytes, ilegibles.

TFLOPS

teraFLOPS

Billones (10¹²) de operaciones de punto flotante por segundo: la velocidad de cálculo de un chip. Una GPU T4 anuncia 65 TFLOPS en FP16; una H100 SXM, ≈ 990.

La S mayúscula es «por segundo»: FLOPS es una velocidad y FLOPs, con s minúscula, una cantidad. Lo que publica el fabricante es el pico teórico: todos los núcleos trabajando sin parar con un tipo de dato concreto. Depende mucho de la precisión: la T4 hace 8.1 TFLOPS en float32 y 65 en FP16 con sus tensor cores. Con enteros se dice TOPS (operaciones, no de punto flotante): 130 TOPS en INT8 en la T4. Si la hoja de datos dice with sparsity, divide entre 2: supone un modelo podado con un patrón especial. El tiempo mínimo de un cálculo es sus FLOPs ÷ los FLOPS; en la práctica se logra una fracción, porque a menudo manda el ancho de banda de memoria (ver roofline (el modelo del techo)).

Ejemplo. La ResNet-50 hace 8.2 GFLOPs por foto. En una T4, a 65 TFLOPS: 8.2 × 10⁹ ÷ (65 × 10¹²) ≈ 0.126 ms por foto, un techo de ≈ 7,900 fotos por segundo. Alba, el marketplace que sigue el curso, mide ≈ 1,200 fotos por segundo en sus T4: ≈ 15 % del pico.

Threadpool (grupo de hilos)

thread pool · threadpool

Un grupo de hilos que se reusan y esperan trabajo en una fila: cada tarea que llega la toma un hilo libre y, si todos están ocupados, espera. Sirve para mandar ahí lo que tarda, lo que bloquea o gasta CPU, sin detener al hilo que atiende las requests.

Crear un hilo para cada tarea cuesta, y sin límite se crearían miles. Un pool los reusa y les pone un tope. En un servidor async (programación asíncrona), las llamadas bloqueantes y el trabajo CPU-bound van al pool para que el event loop siga libre: en FastAPI, run_in_threadpool y las rutas escritas con def usan un pool de 40 hilos por omisión; en asyncio está asyncio.to_thread. Por el GIL, el pool solo acelera lo que espera o lo que corre en C y suelta el GIL, como Pillow, NumPy o PyTorch. Su tamaño se acota por CPU y por memoria. Cuando se satura, la fila crece y el p99 se dispara.

Ejemplo. El gateway de Alba, el marketplace del curso, deja decodificar solo 2 fotos a la vez por pod: un PNG de 40 megapíxeles ocupa ≈ 320 MB al decodificarse, y el pod tiene 1 GiB. Si una request espera más de 50 ms por un lugar, recibe un error 503 («servicio no disponible»).

Throttling de CPU

CPU throttling

El freno que pone el kernel a un contenedor que gastó su cuota de CPU: lo congela hasta el siguiente periodo, aunque la máquina tenga núcleos libres.

Un límite de L núcleos da Q=L×T ms de CPU por cada periodo de T = 100 ms, sumando todos los hilos. Si k hilos trabajan a la vez, gastan la cuota en Q÷k ms y esperan el resto del periodo. Con W=k×c ms de trabajo (c ms de CPU por hilo), la duración es D=j×T+(W−j×Q)/k, con j=⌈W÷Q⌉−1. Por eso los servicios sensibles a la latencia suelen pedir CPU (request) sin ponerle techo (limit).

Ejemplo. 4 decodes de 40 ms de CPU con límite de 1 núcleo: W = 160, Q = 100, j = 1, D = 100 + 60 ÷ 4 = 115 ms en vez de 40. Por eso el gateway de Alba no tiene límite de CPU.

Se presenta en 55 · Kubernetes

Throughput

throughput

Cuánto trabajo termina un sistema por unidad de tiempo: requests por segundo, fotos por segundo, tokens por segundo.

Es distinto de la latencia, que es cuánto tarda una sola request: un servicio puede atender 500 por segundo aunque cada una tarde 50 ms, porque atiende muchas a la vez. Un throughput se dice con su momento (promedio o pico) y su lugar (el gateway trabaja por requests; la GPU, por fotos). Con el del pico se cuentan las máquinas.

Ejemplo. Alba diseña su sistema para 500 req/s; una T4 sostiene ≈ 1,200 fotos por segundo, medidas con una prueba de carga. En un LLM hay dos: los tokens por segundo que ve cada persona y los de toda la flota.

Se presenta en 09 · Números grandes, unidades y estimacionesAparece en 7 lecciones

Tiempo de servicio

service time · S

El tiempo que un recurso trabaja de verdad en una request, sin contar lo que ella espera su turno. En las fórmulas de colas se escribe S.

Es el trabajo en sí: los ≈ 6 ms de CPU que el gateway de Alba gasta en decodificar y preparar una foto, o los 3 a 6 ms de la T4 para un batch chico. Casi no cambia con el tráfico. Se baja con mejor hardware o con menos trabajo: el draft mode de JPEG, un modelo en FP16, menos bytes. Junto con las llegadas da la utilización, ρ=λ×S÷c, y qué tan parejo sea también importa: un servicio constante espera la mitad que uno muy variable.

Ejemplo. Cinco fotos de 6 ms cada una tardan de 6 a 14 ms si llegan en ráfaga: el tiempo de servicio es el mismo para las cinco; lo que cambia es la espera.

Tiempo en cola

queueing time · queueing delay · wait time

Lo que una request pasa esperando a que el recurso que necesita se desocupe. Casi cero con poco tráfico; es la parte de la latencia que se dispara cerca del pico.

Aparece aunque el servidor no esté lleno, porque las requests llegan al azar y en ráfagas: cada ráfaga deja una fila. No se baja optimizando el código, sino con más capacidad o con llegadas y servicios más parejos. En una fila M/M/1 vale Wq=ρ×S÷(1−ρ), y crece sin límite cuando la utilización se acerca a 1. Es la mejor señal de saturación: Alba escala Triton por el tiempo promedio en su fila, con un objetivo de 10 ms.

Analogía. La fila de la caja del súper: la cajera cobra igual de rápido, pero si llegan tres carritos juntos, el tercero espera a los otros dos. Se rompe en que tú ves la fila y te cambias de caja; una request espera donde la mandaron.

Ejemplo. Un pod del gateway con 6 ms por foto: a 60 % de utilización, cada foto espera ≈ 9 ms en promedio; a 90 %, ≈ 54 ms, con el mismo trabajo.

Se presenta en 26 · Qué tan rápido y cuánto: latencia y throughputAparece en 3 lecciones

Tiempo Unix

Unix time · epoch time

La forma más común de guardar un instante como número: los segundos que han pasado desde el 1 de enero de 1970 a las 00:00:00 UTC, la hora de referencia del mundo.

Ese instante de partida se llama el epoch de Unix (nada que ver con la época de entrenamiento). Restar dos tiempos Unix da los segundos entre ellos, sin pensar en meses ni horarios. Se usa también en milisegundos (JavaScript, muchos sistemas de eventos) y microsegundos, así que la unidad tiene que ir en el contrato. No cuenta los segundos intercalares: cada día tiene 86,400 segundos. Guardado en un entero de 32 bits con signo, se llena el 19 de enero de 2038 a las 03:14:07 UTC y da la vuelta a 1901 (un overflow): es el problema del año 2038. En 64 bits no pasa.

Ejemplo. 1,793,973,785 es el 6 de noviembre de 2026 a las 14:03:05 UTC: 1,793,973,785 ÷ 86,400 ≈ 20,764 días desde 1970. Leído por error como milisegundos, sería el 21 de enero de 1970.

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 4 lecciones

Time travel de una tabla

time travel

Leer una tabla como estaba en una versión o una fecha pasada. Lo dan los formatos de tabla, pero solo mientras la limpieza no borre esa versión: no es un archivo para siempre.

Un formato de tabla guarda qué archivos formaban cada versión, y con eso se puede pedir VERSION AS OF o TIMESTAMP AS OF. Para no pagar archivos viejos para siempre, la limpieza borra las versiones que pasan de cierta edad: en Delta, por omisión, el registro guarda 30 días, pero VACUUM, si corre, borra los archivos de las versiones de más de 7; en Iceberg, la limpieza borra por omisión los snapshots de más de 5 días. Una versión se puede releer si su edad E es menor o igual que su retención L. Para reproducir un modelo, la versión que usó se guarda aparte: en Iceberg, con un tag (un nombre fijo para esa versión) de retención larga; en Delta, que no tiene tags, con una retención más larga en la tabla o una copia.

Ejemplo. Un modelo se entrenó con una tabla Iceberg al 1 de septiembre de 2026. El 15 de diciembre, E = 105 días: con la limpieza de 5 días, lo más probable es que ya se haya borrado. Con un tag RETAIN 365 DAYS en esa versión, se puede hasta el 1 de septiembre de 2027.

Timeout

timeout

El tiempo máximo que un programa espera algo (una respuesta, una conexión) antes de rendirse. Cuando vence, deja de esperar, cancela y lo trata como una falla.

Sin timeout, una llamada a un servicio lento puede esperar para siempre, y mientras espera ocupa memoria, una conexión y un lugar en vuelo. Una llamada por la red suele tener tres: el de conexión (que la otra máquina acepte el handshake), el de lectura (el silencio máximo entre pedazos de la respuesta) y el total (la llamada completa, el único que acota todo). Por la Ley de Little, el timeout acota cuántas requests se juntan cuando la pieza de abajo se traba. Cada salto debe rendirse antes que quien lo llamó: por eso los timeouts salen de un deadline.

Analogía. Esperar a un amigo en un café con la regla «si a las 5:15 no llegó, me voy». Se rompe en que, al irte, el amigo no se entera: en la red, si el que espera no cancela, el de atrás puede seguir trabajando para nadie.

Ejemplo. El gateway de Alba espera a Triton como máximo 150 ms (INFER_TIMEOUT_S=0.15). Si Triton se traba en el pico de 500 requests por segundo, quedan 500 × 0.15 = 75 llamadas colgadas; con un timeout de 5 s serían 2,500.

Se presenta en 25 · Timeouts, reintentos e idempotenciaAparece en 12 lecciones

Timestamp

timestamp

La hora en que pasó algo, guardada junto con ese algo (una marca de tiempo): cuándo se subió una foto, cuándo se calculó una predicción, cuándo llegó una etiqueta.

Se guarda como un número, casi siempre el tiempo Unix en segundos, milisegundos o microsegundos, o como texto en ISO 8601. Lo importante es que diga sin dudas qué instante es: con su zona (mejor en UTC) y con su unidad. Un mismo evento puede tener varios timestamps: cuándo pasó en el mundo (su event time), cuándo llegó y cuándo se procesó. Elegir el equivocado es una fuente común de leakage y de features mal calculadas.

Ejemplo. La foto de Ana se subió en 2026-11-06T14:03:05Z, que como tiempo Unix es 1,793,973,785. En la línea de log de su predicción, ese es el campo ts.

TLS

TLS · Transport Layer Security

El protocolo que cifra una conexión y comprueba que el servidor es quien dice ser, con su certificado. HTTPS es HTTP (el protocolo de la web) dentro de TLS. La versión actual es TLS 1.3, de 2018.

Tiene dos partes. Un saludo (handshake) en el que las dos puntas acuerdan una llave con Diffie–Hellman sobre curvas elípticas, el servidor manda su certificado y firma el saludo con su llave privada, y los dos confirman con un HMAC de todo lo dicho. Después, todo viaja cifrado con AES-GCM (o ChaCha20) y esa llave. El saludo de TLS 1.3 cuesta 1 RTT (una ida y vuelta por la red) más que TCP, el protocolo que abre la conexión (TLS 1.2 costaba 2), por eso se reutilizan las conexiones con keep-alive. Usa llaves nuevas por conexión: robar después la llave del certificado no descifra conversaciones viejas (secreto hacia adelante). El nombre del servidor (el SNI, Server Name Indication) viaja sin cifrar en el primer mensaje, salvo con la extensión ECH (Encrypted Client Hello), estandarizada en marzo de 2026 (RFC 9849), que la mayoría de los servidores todavía no usa.

Ejemplo. El celular de Ana abre una conexión nueva hasta Virginia, donde están las máquinas de Alba: 1 RTT de TCP, 1 de TLS 1.3 y 1 de la request. Con ≈ 60 ms de RTT, la primera request paga 180 ms de red; las siguientes, por la misma conexión, 60 ms.

Se presenta en 43 · Cifrado, llaves y certificadosAparece en 7 lecciones

Token

token

El pedacito de texto con el que trabaja un modelo de lenguaje: una palabra entera, un trozo de palabra, un signo o un espacio con la palabra que sigue.

Cada token tiene un número (su id) en el vocabulario del tokenizer. Los modelos cobran, miden y limitan todo en tokens: el largo del prompt, la ventana de contexto, el precio y la velocidad («tokens por segundo»).

Ejemplo. En inglés, como regla aproximada, 1 token ≈ ¾ de palabra. En español suelen salir más tokens por palabra, y la cuenta exacta depende de cada tokenizer.

Se presenta en 08 · Transformers y LLMsAparece en 14 lecciones

Token bucket

token bucket

Un algoritmo de rate limit (el tope de requests por cliente): cada cliente tiene un balde de hasta B fichas que se rellena a r por segundo, y cada request gasta una. Con el balde vacío, la request recibe 429.

Separa las dos preguntas de una cuota: qué ritmo sostenido (r) y cuánta ráfaga (B). Un cliente que manda menos de r por segundo nunca recibe un 429; uno que estuvo tranquilo puede mandar hasta B de golpe; nadie sostiene más de r. En un segundo, con el balde lleno, pasan a lo mucho B + r. No necesita un reloj: al llegar cada request se suman las fichas que cayeron desde la última, y el Retry-After sale de cuánto falta para la siguiente. En un LLM, las fichas suelen ser tokens del modelo en vez de requests.

Analogía. Una alcancía de fichas de lavandería que se rellena sola a ritmo fijo y tiene tope: puedes lavar varias cargas seguidas si ahorraste fichas, pero no más rápido que lo que se rellena. Se rompe en que las fichas que no caben se pierden, y en que nadie te deja «pedir prestado» del futuro.

Ejemplo. El equipo de moderación de Alba, el marketplace del curso, llama al clasificador de fotos con r = 50 por segundo y B = 100. Llega una ráfaga de 300 en 1 s: pasan las 100 del balde y las 50 que caen en ese segundo, ≈ 150, y las otras ≈ 150 reciben 429. Si se calma, el balde se rellena en 100 ÷ 50 = 2 s.

Se presenta en 24 · Balanceadores, proxies y gatewaysAparece en 2 lecciones

Token de acceso (Bearer)

access token, bearer token

Un permiso que dura poco y que el cliente manda en cada request (petición), en el encabezado (header) Authorization: Bearer …. «Bearer» (portador) quiere decir que quien lo porta lo usa: el servidor no pregunta quién lo trae.

Separa el secreto de larga vida (que se usa una vez, ante el proveedor de identidad) de lo que viaja en cada request. Como cualquiera que lo copie puede usarlo, viaja por HTTPS (al menos por toda red que no sea de confianza), no se escribe en los logs y caduca pronto. Puede ser opaco (un número sin significado, que el servidor busca en su base) o un JWT que se verifica solo. Se obtiene con OAuth, por ejemplo con client credentials.

Ejemplo. El backend de publicaciones de Alba manda Authorization: Bearer eyJhbGciOiJSUzI1NiIs… en cada POST /v1/classify. El token vale 15 minutos y el backend pide otro a los 12.

Tokenizer

tokenizer

El programa que parte un texto en tokens y cambia cada uno por su número (id), y que al final hace lo contrario: de ids a texto.

Tiene un vocabulario fijo, que se decide antes de entrenar el modelo, casi siempre con BPE: la lista de todos los tokens que conoce. Las palabras comunes suelen ser un solo token; las raras se arman con varios pedazos. Cada modelo trae el suyo, así que el mismo texto da distinto número de tokens en modelos distintos, y los ids de uno no significan nada para otro.

Ejemplo. El tokenizer de Llama 3 (una familia de LLMs públicos de Meta) tiene un vocabulario de 128,256 tokens.

Tolerancia de reproducción (3σ)

reproduction tolerance

Cuánto puede variar una métrica entre dos corridas iguales para decir que «se reprodujo»: tres veces la desviación estándar medida entrenando la misma receta con varias semillas.

Se mide entrenando la receta varias veces con distinta semilla y calculando la desviación estándar σ de la métrica; la tolerancia es τ=3×σ. Una corrida que se aleja del promedio de las semillas más de τ lo hace por azar en menos de 3 de cada 1,000 casos (si el ruido es como una campana). Entre dos corridas sueltas, cada una con su azar, la diferencia varía √2 veces más, y pasar de τ por azar es más frecuente: ≈ 3 de cada 100. Es una regla para decidir dónde mirar, no un veredicto, y vale para esa receta: si la receta cambia, se vuelve a medir.

Ejemplo. Alba entrenó su receta con 5 semillas: 85.21, 85.34, 85.12, 85.29 y 85.18 % en el golden set. Promedio 85.23 %, σ ≈ 0.088 puntos, τ ≈ 0.26. Una repetición con 85.71 % (+0.48) no se reprodujo: algo cambió.

Tombstone

tombstone

Borrar sin borrar: en vez de quitar un dato, se escribe una marca de «ya no existe» (una lápida). La marca viaja a las copias de la base como cualquier cambio, y quien lee la ve y trata el dato como borrado.

Sirve en dos situaciones. Con copias: si una copia borra sin dejar rastro, al compararse con otra que todavía tiene el dato no hay forma de saber si es nuevo o se borró, y el dato resucita; la lápida es una versión nueva que sí viaja. Y cuando borrar de verdad es caro, como en un índice vectorial HNSW: se marca y se filtra al leer, hasta que la estructura se rehace. La lápida no se queda para siempre: se quita cuando ya todas las copias la vieron, a menudo con un TTL más largo que la copia más vieja que pueda estar sirviendo.

Ejemplo. La búsqueda de Alba escribe en Redis una llave tomb:{id} por cada publicación vendida, con TTL de 7 días, y en cada búsqueda revisa sus ≈ 400 candidatos con un solo MGET de ≈ 1–2 ms. Con ≈ 2.5 M vendidas al día, son 2.5 M × 7 ≈ 17.5 M llaves, ≈ 2 GB: ≈ 114 bytes cada una.

Top-k

top-k

Quedarse con las k opciones de probabilidad más alta, en orden. Top-1 es la favorita; top-5, las cinco mejores.

Sirve para mostrar varias sugerencias en vez de una sola. Es el argmax repetido k veces. El orden de las probabilidades es el mismo que el de los logits, así que el top-k se puede sacar de cualquiera de los dos.

Ejemplo. Alba, el marketplace del curso, devuelve el top-5 de 500 categorías: en ≈ 85 de cada 100 fotos acierta la primera y en ≈ 96 la correcta está entre las cinco.

Se presenta en 01 · Qué es un modeloAparece en 5 lecciones

Top-k accuracy

top-k accuracy · top-1 · top-5

La fracción de ejemplos en que la respuesta correcta está entre las k primeras del modelo. Top-1: es la primera. Top-5: está entre las cinco primeras.

Se usa cuando el modelo da una lista ordenada y una persona elige, o cuando hay muchas clases parecidas. Se hizo famosa con la competencia de ImageNet. En Alba, un marketplace que sugiere la categoría de cada foto entre 500, la métrica offline principal es la top-5, porque la app muestra 5 sugerencias; pero cuenta igual el lugar 1 que el 5, aunque la gente casi siempre elige los primeros.

Ejemplo. El modelo de Alba, el marketplace del curso, saca ≈ 85 % de top-1 y ≈ 96 % de top-5: de 1,000 fotos, la primera sugerencia es correcta en 850 y la correcta está entre las cinco en 960.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 5 lecciones

Tópico

topic

Un stream de eventos con nombre, que agrupa los eventos de un mismo tema: listing-events, txn-events. Los productores escriben en él y los grupos de consumidores leen de él.

Un tópico se parte en particiones para escribir y leer en paralelo. Tiene su propia retención y su factor de replicación (cuántas copias guarda el broker). Cada grupo que lo lee lleva un offset por partición. En Pub/Sub la palabra topic se usa para el lugar donde se publica, y cada suscripción recibe su copia.

Ejemplo. Un sistema de detección de fraude con tarjetas tiene dos tópicos: txn-events, con ≈ 1 KB por transacción, y fraud-decisions, con ≈ 2 KB por decisión. Con ≈ 10 M pagos al día, los guarda 7 días: 10 M × 3 KB × 7 × 3 copias ≈ 630 GB.

torch.compile

torch.compile

Una función de PyTorch que compila un modelo en su primera llamada: captura sus operaciones, junta varias en un solo kernel (una función que corre en el chip) y genera código para tu chip. El modelo se sigue usando igual.

Existe desde PyTorch 2.0 (2023). La primera llamada lee el forward mientras corre, lo convierte en una gráfica y la compila. El código vale mientras se cumplan sus guardas (guards), como las formas y los dtypes de la entrada: si llega un batch de otro tamaño, vuelve a compilar, y a la segunda trata el batch como variable. Cada compilación tarda, y la paga quien haga la primera request de cada forma en cada proceso nuevo, si no hay warmup. La ganancia depende del modelo, del batch y del chip: se mide. Para no compilar en cada arranque está AOTInductor, que parte de torch.export.

Ejemplo. El equipo de Alba midió su ResNet-50 en CPU: la primera llamada tardó ≈ 17 s, el primer batch de 8 recompiló en ≈ 6 s, y ya compilada fue de 1.1 a 1.2 veces más rápida que en eager (≈ 15 ms contra ≈ 16–19 ms).

torch.export

torch.export

La función de PyTorch que captura un modelo completo antes de producción, o falla si no puede. Regresa un programa con la gráfica de operaciones, los pesos y las formas que pueden cambiar, como el tamaño del batch.

Existe desde PyTorch 2.1 (2023). No deja pedazos sueltos en Python. Le dices qué dimensiones cambian y entre qué valores (Dim("batch", min=1, max=32)), y fuera de ese rango el programa se niega a correr. Es el punto de partida de lo demás: torch.onnx.export parte de él por omisión desde PyTorch 2.9 (dynamo=True), y de ONNX sale el engine de TensorRT; AOTInductor lo compila por adelantado en un archivo .pt2 que se carga sin compilar nada. Captura el modelo tal como está: antes de exportar, model.eval(), o la BatchNorm se captura con las estadísticas del batch.

Ejemplo. Una red chiquita se exporta con un ejemplo de batch 2 y el batch declarado de 1 a 32: un batch de 7 da lo mismo que el original y uno de 40 truena con Guard failed: input.size()[0] <= 32. Alba todavía exporta a ONNX con el exportador viejo (dynamo=False), con batch dinámico de 1 a 32, y tiene anotado el plan de pasarse a este.

TorchScript

TorchScript

La primera manera de sacar un modelo de PyTorch de Python, para correrlo sin tu código. Hoy va de salida: desde 2025 la documentación de PyTorch lo marca como obsoleto (deprecated) y pide usar torch.export.

Tiene dos modos. torch.jit.trace corre el modelo una vez con una entrada de ejemplo y graba las operaciones que pasaron: si el forward tiene un if que depende de los datos, se graba solo el camino que se tomó y el otro desaparece sin error. torch.jit.script lee el código de Python y lo traduce, con todo y sus if. Triton todavía carga modelos de TorchScript, y el exportador viejo a ONNX (dynamo=False) traza con él. Con Python 3.14, PyTorch 2.15 avisa que no está soportado en esa versión y que puede fallar.

Ejemplo. Con if x.sum() > 0: return x * 2 y return x - 100, un trace hecho con unos positivos responde −2 a una entrada de −1; el script y el original responden −101.

Se presenta en 34 · PyTorch en lo que toca a producciónAparece en 2 lecciones

torchvision

torchvision

La parte de PyTorch para imágenes: arquitecturas ya escritas, como resnet50, pesos entrenados con ImageNet (un dataset público de más de un millón de fotos en 1,000 categorías) para cada una y las transforms del preprocesamiento.

Cada versión de pesos sabe con qué receta se evaluó: ResNet50_Weights.IMAGENET1K_V2.transforms() dice cómo achicar, recortar y normalizar. La regla para servir no es usar la receta de torchvision, sino la misma con la que entrenaste: un preprocesamiento distinto no da error, da training-serving skew. Se instala junto con PyTorch (pip install torch torchvision), y resnet50(weights=None) arma la arquitectura sin descargar pesos.

Ejemplo. Los pesos V1 de la ResNet-50 se evaluaron con Resize(256) y dan 76.13 % de top-1; los V2, con Resize(232), 80.858 %. Alba entrena con Resize(256), así que su gateway usa Resize(256).

Tormenta de reintentos

retry storm

Cuando los reintentos multiplican la carga justo cuando falta capacidad: un servidor lento recibe cada vez más intentos, y la carga de reintentos lo mantiene saturado aunque la causa original ya se haya ido.

Pasa sobre todo cuando varias capas reintentan por su cuenta: con m capas que reintentan r veces, al fondo le llegan hasta (1+r)m intentos por request. Nadie la ve completa, porque cada capa cree que está siendo resiliente. Es una falla correlacionada: los reintentos de miles de clientes llegan juntos, no al azar. Se previene con reintentos en una sola capa, jitter, un presupuesto y, para salir de ella, cortando carga: load shedding o un circuit breaker.

Ejemplo. Tres capas que reintentan 3 veces: 4 × 4 × 4 = 64 intentos al fondo por request. Con las 500 requests por segundo del pico de Alba serían 500 × 64 = 32,000 por segundo, ≈ 13 veces lo que aguantan sus dos T4 (≈ 1,200 fotos por segundo cada una: 2,400).

Se presenta en 25 · Timeouts, reintentos e idempotenciaAparece en 2 lecciones

TPOT (tiempo por token de salida)

time per output token

Lo que tarda un modelo de lenguaje (LLM) en escribir cada token de la respuesta después del primero, en promedio. Es el ritmo al que aparece el texto.

Es la duración de un paso de decode. La respuesta completa tarda TTFT + (tokens de salida − 1) × TPOT. Sube un poco con cada conversación que el servidor junta en el mismo paso. Mientras el texto salga más rápido de lo que una persona lee (≈ 4 a 7 tokens por segundo), nadie lo nota.

Ejemplo. En el LLM que sirve Alba (el marketplace del curso), el TPOT típico es 40 ms (1 ÷ 0.04 = 25 tokens por segundo): una respuesta de 250 tokens tarda TTFT+(tokens−1)×TPOT = 0.6 + 249 × 0.04 ≈ 10.6 s, pero se empieza a leer a los 0.6 s.

Se presenta en 08 · Transformers y LLMsAparece en 5 lecciones

Train

training set · conjunto de entrenamiento

La parte del dataset con la que el modelo aprende: sus parámetros se ajustan para acertarles a estos ejemplos.

Es la parte más grande, de 70 % a 95 % según el tamaño del dataset. Que el modelo acierte en train no prueba gran cosa: con millones de parámetros se puede aprender estas fotos de memoria. Todo lo que se calcula a partir de los datos (el promedio para escalar, la mediana para rellenar huecos) se calcula solo con train.

Ejemplo. Con 50,000 fotos y un reparto 80/10/10, train son 50,000 × 0.80 = 40,000 fotos. En el dataset de septiembre de Alba, el marketplace del curso, son 1,840,211, ≈ 95 % del total.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 5 lecciones

Training-serving skew

training-serving skew

Una diferencia entre cómo se preparan los datos al entrenar y al servir. El modelo recibe en producción números que nunca vio y acierta menos, sin que salga ningún error.

Es culpa del sistema, no del mundo: dos caminos de código que «hacen lo mismo» y no lo hacen. En imágenes, las causas típicas son RGB contra BGR, otra interpolación o librería de resize, el EXIF aplicado en un solo lado, otra normalización, otra calidad de JPEG y otras versiones de librerías. Se evita con un solo código de preprocesamiento para los dos lados, las mismas versiones y una prueba de paridad. No es drift: el drift es que el mundo cambió, y se arregla con datos; el skew se arregla en el código.

Analogía. La misma receta seguida en otra sucursal con una báscula mal calibrada: el pastel sale, se ve como pastel, pero sabe peor, y nadie recibe un aviso. A diferencia del pastelero, el modelo no prueba lo que hace: solo medir lo descubre.

Ejemplo. El modelo de Alba saca 85 % de top-1 en su examen; con fotos etiquetadas preparadas por el gateway real (el programa que recibe y prepara las fotos antes del modelo) saca 80 %, y en los registros no hay ningún error.

Se presenta en 02 · Una foto, vista por un modeloAparece en 13 lecciones

Transacción

transaction · ACID

Un grupo de lecturas y escrituras que la base trata como una sola: o pasan todas (COMMIT) o no pasa ninguna (ROLLBACK). Si el servidor se cae a la mitad, nada queda a medias.

Empieza con BEGIN y termina con COMMIT. Las bases relacionales prometen cuatro cosas, la sigla ACID: atomicidad (todo o nada), consistencia (al terminar se cumplen todas las reglas: llaves únicas, NOT NULL), aislamiento (dos transacciones al mismo tiempo no ven lo que la otra dejó a medias) y durabilidad (lo confirmado sobrevive a un apagón, porque antes de responder la base lo anotó en el disco, en su registro de escritura o WAL). El aislamiento tiene niveles: PostgreSQL usa read committed por omisión, y el más estricto, serializable, a veces rechaza una transacción que hay que reintentar. La C de ACID no es la consistencia de las copias, que es otra idea (consistencia eventual).

Ejemplo. Supón que publicar son dos INSERT (dos escrituras): la publicación y su predicción. Sin transacción, si 1 de cada 10,000 se corta entre los dos, Alba, con ≈ 2.5 M publicaciones al día, junta 2.5 M ÷ 10,000 ≈ 250 publicaciones a medias al día. Con transacción, ninguna.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 5 lecciones

Transfer learning

transfer learning · aprendizaje por transferencia

Usar lo que un modelo ya aprendió en una tarea para resolver otra. Se parte de un modelo preentrenado en vez de empezar de cero.

Lo típico en visión: un backbone entrenado con ImageNet (≈ 1.28 millones de fotos, 1,000 categorías) ya sabe ver bordes, texturas y formas. Se le cambia la cabeza por una con las categorías propias y se sigue entrenando (fine-tuning). Hacen falta muchos menos datos y tiempo. Ayuda menos cuando las imágenes se parecen poco a las del preentrenamiento, como radiografías.

Ejemplo. Alba, el marketplace del curso, parte de una ResNet-50 preentrenada en ImageNet y cambia su cabeza de 1,000 a 500 categorías.

Se presenta en 06 · Redes neuronales y CNNsAparece en 2 lecciones

Transferencia entre regiones

inter-region data transfer

Lo que cobra la nube por cada GB que se copia de una región a otra: desde us-east-1, ≈ US$0.02 por GB a casi cualquier región (≈ US$0.01 a us-east-2).

La cobra la región de donde salen los datos. Es lo que pagan la replicación entre regiones, un respaldo en otra región o un servicio que lee un bucket de otra región. Un gateway endpoint de S3 no la evita: solo sirve para buckets de la misma región. Por eso se replica lo chico y valioso (pesos) y se piensa dos veces lo grande (fotos).

Ejemplo. Replicar las fotos de Alba, ≈ 61 TB al mes: 60,800 × 0.02 ≈ US$1,200 al mes. Replicar los pesos de ≈ 98 MB por versión: centavos.

Transferencia entre zonas

cross-AZ data transfer

Lo que cobra la nube por cada GB que va de una zona a otra de la misma región: en AWS (la nube de Amazon) ≈ US$0.01 al salir y US$0.01 al entrar, US$0.02 por GB cruzado. Dentro de la misma zona es gratis.

Existe porque las zonas son edificios distintos unidos por fibra del proveedor. La latencia extra es ≈ 1 ms, poca cosa; la razón para evitarlo es el costo, que crece con los bytes por request. El antídoto es el ruteo por zona. También cruza lo que no se dibuja: un NAT compartido entre zonas, las réplicas de una cola o una base de datos repartidas en zonas. En Cost Explorer aparece como DataTransfer-Regional-Bytes.

Ejemplo. Alba sin ruteo por zona: 304 M tensores × 602,112 B ≈ 183 TB al mes; la mitad cruza: 91.5 TB × 0.02 ≈ US$1,830 al mes (≈ 90 TB y ≈ US$1,800 con meses de 30 días), más del doble de sus dos GPUs.

Se presenta en 41 · Redes en la nube: VPC, subredes y egressAparece en 2 lecciones

Transferencia internacional de datos

cross-border data transfer

Mandar datos personales a otro país: a una región de la nube, a un proveedor que trabaja desde fuera o a una API de un tercero. Las leyes no la prohíben, pero le ponen condiciones, y no todas la cuentan igual.

La ley mexicana llama transferencia solo al envío a otra empresa que usará los datos para sus fines: el aviso de privacidad trae una cláusula para aceptarla y, salvo excepciones, hace falta el consentimiento. Mandarlos a un encargado en otro país, como la nube, es una «remisión»: basta un contrato. El GDPR cuenta como transferencia cualquier envío fuera de Europa, también a un encargado, y lo permite a países con una decisión de «adecuación» de la Comisión Europea, con garantías como los contratos de cláusulas tipo o, en casos puntuales, con las excepciones que enumera. En machine learning pasa sin que nadie lo note: la región donde se despliega, el proveedor de etiquetado, un modelo de lenguaje de un tercero. Cuando una ley o un contrato exige que los datos no salgan de un país, es residencia de datos.

Ejemplo. Ana vive en la Ciudad de México y su foto se procesa en us-east-1, en Virginia, a ≈ 3,000 km: sus datos salen a Estados Unidos. Como AWS es encargado de Alba, para la ley mexicana es una remisión con contrato; si Ana estuviera en la Unión Europea, el GDPR lo contaría como transferencia.

Transformer

transformer

La arquitectura de red neuronal detrás de casi todos los modelos de lenguaje actuales. Su pieza central es la atención: cada token mira a los demás para decidir qué le importa.

La presentó un artículo de Google de 2017, «Attention Is All You Need» (Vaswani y otros), para traducir. Es una pila de bloques iguales; cada bloque tiene una capa de atención (multi-cabeza) y una red que procesa cada token por separado, con atajos que suman lo que entra a lo que sale. Como la atención no sabe el orden, se le agrega con embeddings posicionales. Los modelos grandes de lenguaje (LLMs) usan solo su mitad que escribe (solo decoder). También se usa con imágenes: el ViT es un transformer.

Ejemplo. Llama 3 8B (una familia de LLMs públicos de Meta) es una pila de 32 bloques; Llama 3 70B, de 80.

Se presenta en 08 · Transformers y LLMsAparece en 5 lecciones

Traza distribuida

distributed trace

El recorrido de una sola request por todos los programas que tocó, con el tiempo de cada tramo. Contesta dónde se fue el tiempo de esa request.

Una traza se arma con spans, uno por tramo, unidos por un id de traza que cada programa le pasa al siguiente en un header. Se dibuja como barras una debajo de otra. Son caras de guardar, así que se muestrean: se decide al principio (por ejemplo, con un hash del id) o al final, quedándose con las lentas y las de error. Las estandariza OpenTelemetry y se llega a ellas desde una métrica con un exemplar.

Ejemplo. Alba guarda ≈ 1 % de las requests (100 mil trazas al día), elegidas por el hash del request_id, en Grafana Tempo, un almacén de trazas: el gateway con sus spans y Triton con los suyos.

Se presenta en 57 · La request en vivoAparece en 2 lecciones

Triton

Triton Inference Server

El servidor de modelos de NVIDIA, escrito en C++: lee los modelos de una carpeta, arma batches, los corre con el motor que toque (TensorRT, ONNX Runtime, PyTorch…) y responde por HTTP y gRPC con el protocolo de inferencia estándar, el v2.

Triton es un servidor de modelos de código abierto. Lee un model repository, carga cada modelo según su config.pbtxt, y para cada uno tiene su fila, su planificador (que arma batches) y sus copias (grupo de instancias). Habla el protocolo de inferencia v2 por HTTP (puerto 8000) y gRPC (8001) y publica métricas (8002). Desde marzo de 2025 NVIDIA lo presenta como parte de su plataforma Dynamo, con el nombre Dynamo-Triton, pero el programa se sigue llamando tritonserver.

Ejemplo. Alba corre tritonserver de la release 24.08 de NGC (el catálogo de contenedores de NVIDIA), con un solo modelo, classifier: el engine FP16 de la ResNet-50, 2 copias por T4, batching de 2 ms y una fila que tira lo que espere más de 100 ms.

Se presenta en 52 · Código de servingAparece en 7 lecciones

trtexec

trtexec

La herramienta de línea de comandos de TensorRT: construye un engine desde un ONNX y lo mide. Su número mide el engine solo, sin la fila del servidor ni la red.

trtexec recibe un ONNX y opciones (--fp16, el perfil con --minShapes, --optShapes y --maxShapes) y guarda el engine con --saveEngine. Al final corre un benchmark con la forma de --shapes. Ese número sirve como chequeo de sanidad (el engine no está roto), pero no decide capacidad: no incluye la fila ni el batching del servidor, y a veces mide batches que en producción no llegan. Para eso está perf_analyzer.

Ejemplo. En Alba, build_engine.sh corre trtexec --onnx=model.onnx --saveEngine=model.plan --fp16 con el perfil 1/16/32 y un benchmark en batch 16, dentro de la imagen tensorrt:24.08-py3 (TensorRT 10.3), en la T4 del runner; tarda ≈ 2–5 min.

Trust policy de un rol

IAM trust policy

La parte de un rol de AWS que dice quién puede asumirlo. Con OIDC (un estándar para probar identidad), el token de identidad que GitHub le da a cada job, revisa sus campos, sobre todo el sub: el que dice de qué repositorio, rama o environment viene el job.

Un rol de IAM tiene dos políticas: la de permisos (qué puede hacer) y la de confianza (quién entra). Para CI sin llaves, la de confianza acepta tokens de OIDC firmados por GitHub y pone condiciones: aud igual a sts.amazonaws.com y sub igual a un valor exacto. GitHub arma el sub con el repositorio y el contexto: repo:<org>/<repo>:ref:refs/heads/main para un push a main, …:pull_request para un PR y …:environment:<nombre> para un job con environment. Un comodín amplio, como repo:<org>/*, deja entrar a cualquier PR de la organización.

Ejemplo. El rol gha-classifier-gateway de Alba solo acepta repo:alba/classifier:ref:refs/heads/main. El job produccion usa otro rol, que pide repo:alba/classifier:environment:produccion.

TTFT (tiempo al primer token)

time to first token

Lo que tarda un modelo de lenguaje (LLM), desde que llega la request (petición), en mandar el primer token de la respuesta. Es lo que la persona siente como «tardó en contestar».

Suma la espera en la cola del servidor y el prefill del prompt. Crece con prompts más largos y, sobre todo, cuando el servidor está saturado: con mucha carga, la cola rompe el TTFT antes que cualquier otra cosa. Con streaming (mandar la respuesta en pedazos mientras se escribe), es el número que decide si la app se siente rápida.

Ejemplo. En el LLM que sirve Alba (el marketplace del curso), la meta es que 95 de cada 100 requests vean su primer token en 1 s o menos; una típica lo ve a los ≈ 0.6 s.

Se presenta en 08 · Transformers y LLMsAparece en 6 lecciones

TTL

time to live

Los segundos que una copia guardada vale antes de volver a preguntar. En el DNS (el directorio que traduce nombres en direcciones) es cuánto se guarda una respuesta; en un caché como Redis, cuánto vive cada llave. Uno corto hace que los cambios se noten rápido; uno largo ahorra consultas.

Lo decide el dueño del nombre, en su servidor autoritativo, y viaja con cada respuesta del DNS. Valores comunes van de 60 s a un día. Mientras no venza, quien guardó la respuesta no se entera de cambios: si un servicio cambia de IP, sus clientes siguen llamando a la vieja hasta que venza el TTL. Por eso, antes de mudar un servicio, se baja con días de anticipación. La misma idea vale en cualquier caché: en Redis, cada llave puede llevar su TTL y se borra sola al vencer. (En los paquetes de IP existe otro TTL, con el mismo nombre: un contador de saltos que evita que un paquete dé vueltas para siempre.)

Ejemplo. Con un TTL de 300 s, un cambio de IP tarda hasta 5 minutos en llegar a todos; con 86,400 s, hasta 24 horas.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 4 lecciones

Tubería

pipe · pipeline

Conectar la salida de un programa con la entrada del siguiente con una barra vertical: cmd1 | cmd2. Los dos corren a la vez, y lo que imprime el primero no sale en la pantalla: entra al segundo.

La shell le pide al kernel un tubo, un pedazo de memoria con dos extremos (64 KiB en Linux), y conecta el stdout de uno al stdin del otro. Si el tubo se llena, el que escribe espera; si se vacía, espera el que lee. Nada se guarda en un archivo intermedio, así que una tubería procesa archivos más grandes que la memoria. Así se arman herramientas con programas chicos: grep filtra, sort ordena, uniq -c cuenta repetidos seguidos, wc -l cuenta líneas, head y tail recortan, cut y awk trabajan por columnas y jq lee JSON. El código de una tubería es el del último comando, salvo con set -o pipefail.

Analogía. Una línea de ensamble: cada estación hace una sola cosa y le pasa la pieza a la siguiente, y todas trabajan al mismo tiempo. Se rompe con sort: esa estación no puede soltar nada hasta haber visto todas las piezas.

Ejemplo. grep -o '"status":[0-9]*' gateway.log | cut -d: -f2 | sort | uniq -c | sort -rn cuenta los códigos de estado de un log del gateway de Alba: 6 200, 2 504…

Twelve-factor

The Twelve-Factor App

Doce reglas para construir programas de servidor fáciles de desplegar, publicadas en 2011 por ingenieros de Heroku, un servicio para publicar apps en la nube. La regla III dice que la configuración va en el entorno, separada del código.

Su prueba más famosa: si pudieras hacer público el repositorio hoy sin filtrar una sola credencial, separaste bien la configuración. Proponía pasar toda la configuración en variables de entorno; la idea de sacarla del código sigue intacta, pero para los secretos hoy se prefiere un archivo montado desde un gestor de secretos, porque las variables de entorno se filtran más. Las otras reglas hablan de dependencias declaradas, procesos sin estado y logs a la salida estándar, entre otras.

Ejemplo. Un repositorio con DB_PASSWORD=prod-Xq81 escrito en settings.py no pasa la prueba. Uno que lee os.environ y trae un .env.example con valores de mentira, sí.

Type hints

type hints

Anotaciones que dicen qué tipo espera cada parámetro de una función y qué tipo regresa, como ancho: int o -> int. Python las guarda pero no las revisa al correr: son documentación.

La sintaxis existe desde Python 3.0, y el PEP 484 (Python 3.5, 2015) acordó usarla para tipos. Python las guarda en __annotations__ y sigue de largo aunque el tipo esté mal. Las revisan programas aparte, antes de correr: mypy y pyright leen el código, siguen los tipos y avisan sin ejecutar nada, y se corren en la integración continua junto con las pruebas. El editor también las usa para autocompletar. Las que más vas a leer: list[int], dict[str, float], str | None (un texto, o nada: el revisor te obliga a manejar el None) e int = 5 (vale 5 si no lo pasas). pydantic usa las mismas anotaciones para revisar datos mientras el programa corre.

Ejemplo. def bytes_tensor(ancho: int, alto: int) -> int regresa 602,112 con 224 y 224 (3 canales × 224 × 224 píxeles × 4 bytes), el tensor en float32 de una foto de Alba. Con "224" y 1, Python no se queja: la cuenta 3 * "224" * 1 * 4 repite el texto y regresa 36 letras; mypy lo habría marcado como incompatible type "str"; expected "int".

Se presenta en 33 · Python, paquetes y entornosAparece en 2 lecciones

Typosquatting

typosquatting

Subir a un índice público de paquetes (como PyPI) un paquete con un nombre casi igual al de uno popular, esperando que alguien lo escriba mal y lo instale.

El paquete falso suele funcionar como el real, para no levantar sospechas, y además hace algo más al instalarse o al importarse. Se defiende no dejando que el instalador decida: un lock file con la lista exacta de paquetes y sus hashes, y un índice privado o un proxy que solo sirve lo aprobado.

Ejemplo. Escribir pi11ow (con unos) en vez de pillow. En un ejemplo de juguete, el instalador lo rechaza porque ese nombre no está en el lock file.

U

UDP

User Datagram Protocol

El protocolo que lleva cada paquete al programa correcto, con su puerto, y nada más: sin conexión, sin acuses, sin reenvíos y sin orden. Lo que se pierde, se pierde. Sirve cuando llegar tarde es peor que no llegar.

Su encabezado mide 8 bytes, contra 20 o más de TCP, y no hace handshake. Lo usan la voz y las videollamadas (un pedazo reenviado llegaría cuando ya no sirve), los juegos en línea, el DNS (una pregunta y su respuesta caben en un paquete) y QUIC, el protocolo de HTTP/3, que hace sus propios acuses y reenvíos encima de UDP para evitar los problemas de TCP.

Ejemplo. En una videollamada, un pedazo de voz perdido se tapa y la llamada sigue; con TCP, toda la voz esperaría a que llegara el reenvío.

Se presenta en 21 · Cómo viaja un mensaje: IP, puertos y DNSAparece en 3 lecciones

uint8

unsigned 8-bit integer

Un tipo de número entero sin signo que ocupa 8 bits (1 byte): va de 0 a 255. Es como vienen los píxeles de una foto decodificada.

Con 8 bits hay 2⁸ = 256 valores posibles: del 0 al 255. No admite decimales ni negativos, así que antes de normalizar se convierte a float32.

Ejemplo. Una imagen de 224 × 224 × 3 en uint8 ocupa 150,528 bytes = 147 KiB.

Se presenta en 02 · Una foto, vista por un modeloAparece en 6 lecciones

Umbral

threshold

Una línea que pone una persona para convertir una probabilidad en una decisión: arriba del umbral se hace una cosa y abajo, otra.

No es parte del modelo: es una regla del producto, se elige con datos y se puede cambiar sin reentrenar. Moverlo cambia qué errores se cometen: subirlo da menos falsas alarmas, pero deja pasar más casos. 0.5 no tiene nada de especial: el umbral sale de lo que cuesta cada error. Al cambiar de modelo hay que revisarlo, porque cada versión reparte su confianza distinto.

Ejemplo. En Alba, el marketplace del curso, si la probabilidad del primer lugar es menor que 0.3, la foto cuenta como de baja confianza: se aparta para que una persona la etiquete, y se cuenta para una alerta. En la detección de fraude, un pago de US$25 conviene rechazarlo desde una probabilidad de fraude de ≈ 16 %.

Se presenta en 01 · Qué es un modeloAparece en 6 lecciones

Umbrales escritos antes

pre-registered thresholds

Las reglas y los números del gate de calidad (el examen automático que aprueba o frena un modelo nuevo), fijados antes de entrenar y guardados en el repositorio. Solo cambian con una propuesta propia y su motivo, antes de la corrida siguiente; nunca después de ver un resultado.

Si los umbrales se deciden después de ver cómo le fue al modelo, siempre aparece un argumento para aprobarlo, y el gate deja de medir. Escribirlos antes (en investigación se dice preregistrar) y versionarlos en Git separa dos decisiones: qué cuenta como bueno, y si este modelo lo es. Quien revisa el cambio de un umbral no sabe todavía a qué modelo va a ayudar. Un umbral que se rompe cada mes por la misma razón se discute en un pull request, no en la corrida.

Ejemplo. Alba guarda sus reglas en gate.yaml, en el repositorio ml-catalogo: margen de 0.3 puntos, 100 categorías con caída máxima de 5 puntos y α = 0.05, cuatro slices, ECE (error de calibración) ≤ 0.05. «El slice cayó 2 puntos, subamos el límite a 2.5» es justo lo que la regla prohíbe.

Underfitting

underfitting · subajuste

Cuando el modelo es demasiado simple, o entrenó muy poco, y ni siquiera aprende bien sus ejemplos de entrenamiento. Se equivoca en todas partes.

En la curva de aprendizaje se ve como dos líneas altas y juntas: el modelo no memoriza, pero tampoco aprende. Se arregla con un modelo más capaz o entrenando más tiempo.

Ejemplo. Época 1: loss de entrenamiento 2.10 y de validación 2.15. Las dos altas y casi iguales: todavía no aprende ni lo que ya vio.

Unidad de aleatorización

randomization unit

Lo que se sortea entre los grupos (brazos) de una prueba A/B: el usuario, la sesión, la request o un grupo entero. Todo lo de una misma unidad cae siempre del mismo lado.

Se elige para que una persona vea una experiencia coherente y para que los brazos no se contaminen entre sí. Casi siempre es el usuario. Si la unidad es el usuario, pero la métrica se cuenta por evento (publicación, clic), los eventos de un mismo usuario se parecen entre sí, la varianza real es mayor y el análisis tiene que agrupar por usuario. La asignación se hace con un hash del id y una sal que cambia en cada experimento.

Ejemplo. En Alba, el marketplace que sigue el curso, la unidad es el vendedor: hash(sal + seller_id) mod 100, de 0 a 49 al control y de 50 a 99 al tratamiento. Si se sorteara por request, Ana vería sugerencias de dos modelos distintos en las fotos de una misma publicación.

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 3 lecciones

Upsert

upsert · INSERT … ON CONFLICT

Una escritura que crea la fila si no existe y la sobrescribe si ya existe (de update + insert). Repetirla deja lo mismo, y por eso aguanta reintentos.

En PostgreSQL (desde la 9.5) y SQLite (desde la 3.24) se escribe INSERT … ON CONFLICT (llave) DO UPDATE SET …; en MySQL, ON DUPLICATE KEY UPDATE; en Redis, un SET ya es un upsert. El conflicto lo detecta la llave primaria o una columna UNIQUE: sin llave no hay upsert. Es idempotente solo si escribe el valor absoluto («lleva 12 ventas»), no el cambio («súmale 3»): un INCR repetido cuenta dos veces. Su pariente ON CONFLICT DO NOTHING guarda la primera vez y descarta las demás: así se guarda una llave de idempotencia o una tabla de deduplicación. Por eso un job de datos escribe con upsert por llave o sobrescribiendo la partición, nunca agregando a ciegas.

Ejemplo. El mismo mensaje llega dos veces. Con upsert, Ana queda en 12 ventas. Con una suma, Beto queda en 6, aunque solo vendió 3.

Se presenta en 28 · Bases de datos: tablas, SQL y llave-valorAparece en 4 lecciones

URL

Uniform Resource Locator

La dirección completa de algo en la red, como https://classifier.internal/v1/classify?top_k=5. Dice con qué protocolo hablar, a qué máquina, en qué puerto, qué cosa y con qué parámetros.

Tiene cinco partes: el esquema (http o https), el host (el nombre de la máquina, que el DNS convierte en IP), el puerto (opcional: si falta, 80 para http y 443 para https), la ruta (/v1/classify, que el servidor interpreta como quiera) y la query (top_k=5, pares nombre=valor después del ?, separados por &). En la request, la ruta y la query van en la primera línea y el host en el header Host; el esquema y el puerto ya se usaron para abrir la conexión. Un #fragmento nunca sale del navegador. Los caracteres especiales se escriben con % y su código: un espacio es %20 y la ñ, %C3%B1.

Ejemplo. http://localhost:8000/v2/health/ready: esquema http, host localhost, puerto 8000 (el HTTP de Triton), ruta /v2/health/ready y sin query.

Se presenta en 22 · HTTP: requests, respuestas y códigosAparece en 3 lecciones

URL prefirmada

presigned URL · signed URL

Una dirección web que trae adentro un permiso firmado: hacer una sola operación (subir o bajar) sobre un solo archivo de un bucket, durante un rato corto que elige el servidor que la firma, por ejemplo 15 minutos. Quien la tenga la puede usar sin las claves del almacén.

La firma la calcula un servidor que sí tiene permiso, con su clave secreta, sin llamar al object storage: es una cuenta local. Cubre el método (PUT o GET), el bucket, la llave, la hora y cuántos segundos vale, y a veces headers como el Content-Type. Al recibir la request, S3 recalcula la firma: si algo cambió, responde 403; si venció, también. Además revisa que quien firmó todavía tenga permiso. Como el permiso viaja en la URL, la request no lleva header Authorization. En S3 dura como mucho 7 días, y menos si se firmó con credenciales temporales. Sirve para que una app o una cámara suban archivos directo al bucket, sin que los bytes crucen la API, y para que un cliente baje un resultado privado. Es como un boleto: si se filtra, sirve hasta que vence; por eso se firma para una llave, con vencimiento corto, y no se escribe en los logs. Google la llama signed URL.

Analogía. Un pase de estacionamiento que te da la caseta: abre una sola pluma, una vez, durante 15 minutos, y no dice tu nombre. Se rompe en que el pase de verdad se pierde al usarlo; una URL prefirmada se puede usar varias veces mientras no venza.

Ejemplo. En un sistema de video con varias cámaras, la API firma para la caja de cada sitio (la computadora conectada a sus cámaras) una URL de PUT a la llave sitio-07/clips/e-31.mp4, con X-Amz-Expires=900: 15 minutos. La caja sube el clip directo a S3; si tarda 20 minutos, recibe 403 y pide otra.

Se presenta en 29 · Object storage, data lakes y warehousesAparece en 5 lecciones

Usuario sin privilegios (en la imagen)

non-root user

El usuario con el que corre el proceso de un contenedor cuando no es root (el administrador, con todos los permisos). Lleva un número fijo, se crea en el Dockerfile y se activa con la línea USER.

Si alguien toma el proceso, no tiene los poderes de root. Va con número (UID) y no con nombre porque Kubernetes, con la regla de no correr como root, revisa el número: con un nombre no puede saber si es el 0. La trampa: crear el usuario y olvidar USER deja la imagen como root, sin aviso. Si la imagen no lo fija, puede fijarlo el pod.

Ejemplo. El gateway de Alba crea app con UID y GID 10001 y escribe USER 10001; el código se copia con dueño root, así que el proceso puede leerlo pero no modificarlo. La imagen de Triton, de NVIDIA, corre como root, y el usuario sin privilegios lo fija el pod.

UTC

Coordinated Universal Time

La hora de referencia del planeta, la que mantienen los relojes atómicos. Cada zona horaria se describe por su diferencia con UTC: la Ciudad de México está en UTC−6.

UTC no tiene horario de verano, así que nunca brinca ni repite una hora. Por eso la regla es guardar en UTC y mostrar en la hora local: los logs, las bases de datos y los datasets van en UTC, y la conversión a la hora de cada persona se hace una vez, al mostrar. Las reglas de cada zona viven en la tz database (en Python, zoneinfo), con nombres como America/Mexico_City. México quitó el horario de verano en 2022 (Ley de los Husos Horarios) para casi todo el país, pero la franja fronteriza del norte lo conserva: Tijuana está en UTC−8 en invierno y en UTC−7 en verano. Donde hay cambio de horario, una hora local no existe un día al año y otra se repite. Una hora guardada sin zona (naive) es la hora de quién sabe dónde.

Ejemplo. A las 14:03 UTC son las 8:03 en CDMX (UTC−6), las 6:03 en Tijuana en noviembre (UTC−8) y las 15:03 en Madrid (UTC+1). El mismo instante, cuatro relojes.

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 6 lecciones

UTF-8

UTF-8

La forma más usada de convertir texto en bytes. Cada carácter ocupa de 1 a 4 bytes: las letras de ASCII (el alfabeto inglés, los dígitos y los signos básicos) 1, la ñ y los acentos 2, el € 3 y casi todos los emoji 4.

Unicode le da un número a cada carácter de cada idioma (la ñ es el U+00F1); UTF-8 dice cómo escribir ese número en bytes. Un texto en ASCII ya es UTF-8 válido. Los primeros bits de cada byte dicen si empieza un carácter o lo continúa, así que un programa no se pierde a la mitad de un texto. Leer UTF-8 con otra tabla, como Latin-1, da el mojibake «Ã±» en lugar de «ñ». Por eso se escribe y se lee siempre con encoding="utf-8". Es la codificación de casi toda la web, de JSON y de Linux. No es la codificación de features.

Ejemplo. «Niño 👟» son 6 caracteres y 10 bytes: 4E 69 C3 B1 6F 20 F0 9F 91 9F. len() de Python da 6; el archivo mide 10.

Utilización

utilization · ρ (rho)

La fracción del tiempo en que un servidor está ocupado. Se calcula como las requests que llegan por segundo (λ), por los segundos de trabajo de cada una (S), entre el número de servidores (c): ρ=λ×S÷c.

Es una cuenta de horas de trabajo: cada segundo llegan λ × S segundos de trabajo para c servidores. También se calcula como lo que llega entre la capacidad. Si llega a 1, la fila crece sin fin; y mucho antes, la espera ya se dispara, como 1 ÷ (1 − ρ). Por eso un servicio online se planea a ≈ 50–70 %. No es la utilización de GPU de nvidia-smi, que mide el tiempo con algún kernel corriendo, ni la fracción de las cuentas por segundo (FLOPS) que el chip alcanza como máximo.

Ejemplo. Un pod del gateway de Alba con 100 requests por segundo, 6 ms de CPU cada una y un vCPU: 100 × 0.006 ÷ 1 = 0.6. Una T4 con 250 fotos por segundo contra 1,200 de máximo: ≈ 21 %.

Se presenta en 26 · Qué tan rápido y cuánto: latencia y throughputAparece en 2 lecciones

Utilización de GPU

GPU utilization · GPU-Util

El porcentaje que muestra nvidia-smi, la herramienta de NVIDIA: la parte del tiempo, en la última fracción de segundo, en que la GPU tenía algún trabajo (al menos un kernel) corriendo. Mide tiempo, no cuánto del chip trabajó ni cuántas requests esperan.

Es la misma que DCGM_FI_DEV_GPU_UTIL, de DCGM (la herramienta de NVIDIA para monitorear GPUs), y nv_gpu_utilization, de Triton. Un kernel chiquito que ocupa 2 SMs sin parar marca 100 %. Falla en las dos direcciones: con batches de 1 marca mucho para el trabajo que hace, y con la GPU ocupada todo el tiempo se queda en ≈ 100 % igual con 2 requests en cola que con 200. Para saber si falta capacidad se mira la cola y el throughput contra el máximo medido; para saber cuánto del chip trabaja, las métricas de perfilado de DCGM (SM activity y tensor activity). No la confundas con la utilización del chip (la fracción del pico de FLOPS que logras) ni con la carga (throughput ÷ capacidad).

Analogía. Un vigilante que anota, minuto a minuto, si había al menos un coche en un estacionamiento de 40 lugares: si un solo coche se queda todo el día, reporta 100 % con 39 lugares vacíos. Se rompe en que un kernel puede ocupar desde un SM hasta los 40.

Ejemplo. Las T4 de Alba, la empresa de ejemplo del curso, están al ≈ 5 % de carga (58 fotos por segundo contra ≈ 1,200 posibles), pero nvidia-smi marcaría del orden de 17 %: 58 batches de una foto por segundo, de ≈ 3 ms cada uno (un supuesto).

Se presenta en 18 · CPU y GPUAparece en 5 lecciones

UUID

universally unique identifier

Un identificador de 128 bits que cada quien genera por su cuenta, sin preguntarle a nadie, y que en la práctica nunca se repite. Se escribe con 32 símbolos hexadecimales y 4 guiones: 36 caracteres.

La versión 4 tiene 122 bits al azar: generando mil millones por segundo, la probabilidad de un choque llegaría a 50 % en ≈ 86 años. La versión 7 (estandarizada en 2024, en el RFC 9562) pone al principio el tiempo Unix en milisegundos: se ordena por fecha de creación, y en un índice de base de datos los nuevos caen al final en vez de en cualquier parte, a cambio de delatar cuándo se creó cada cosa. La versión 5 sale del hash de un texto: el mismo texto da siempre el mismo UUID. En Python: uuid.uuid4(), uuid.uuid5() y, desde 3.14, uuid.uuid7(). Parientes: ULID (128 bits, se ordena como texto) y Snowflake (64 bits: 41 de hora, 10 de máquina y 12 de contador). Es el valor típico de una llave de idempotencia.

Ejemplo. Con 10 millones de UUID v4 al día durante 100 años, la probabilidad de algún choque es ≈ 1.3 × 10⁻¹⁴. Con ids de 64 bits al azar habría ≈ 3,600 choques.

Se presenta en 31 · Tiempo, hashes e identificadoresAparece en 5 lecciones

uv

uv

Un gestor de paquetes y proyectos de Python escrito en Rust por la empresa Astral, publicado en 2024: un solo programa instala paquetes (como pip), crea entornos virtuales (como venv) y escribe lock files (como pip-tools); Astral dice que entre 10 y 100 veces más rápido que pip.

Resuelve y baja en paralelo, y guarda un caché global del que copia o enlaza los archivos en vez de bajarlos otra vez. Se usa de dos maneras: imitando a pip (uv venv, uv pip install -r requirements.txt, uv pip compile requirements.in --generate-hashes -o requirements.txt) o manejando el proyecto desde el pyproject.toml (uv add, uv lock, uv sync --frozen, uv run). Su uv.lock es universal: resuelve para todas las plataformas a la vez y anota qué wheel va en cada una, así que el mismo archivo sirve en la Mac del equipo y en el Linux del contenedor. También instala versiones de Python: uv python install 3.13. No viene con Python. Con uv tool install instala herramientas de línea de comandos, cada una en su entorno, como pipx.

Ejemplo. El comentario del requirements.txt del gateway de Alba dice que, en un proyecto real, ese lock se genera con uv pip compile o con pip-compile --generate-hashes; en producción se instala con uv sync --frozen o pip install -r requirements.txt.

uvicorn

uvicorn

El servidor que corre una aplicación web asíncrona de Python (ASGI), como una de FastAPI: abre el puerto, acepta conexiones, lee HTTP y corre el event loop. Sus opciones deciden procesos, keep-alive y apagado.

uvicorn es la capa de afuera del gateway: el programa que arranca (uvicorn app.main:app), escucha en un puerto, entiende HTTP y le pasa cada request a la aplicación por la interfaz ASGI. --workers N arranca N procesos iguales; con 1 hay un solo event loop. --timeout-keep-alive dice cuánto deja abierta una conexión sin uso, y --timeout-graceful-shutdown, cuánto espera a las requests en curso al apagarse.

Ejemplo. Alba arranca cada copia con --workers 1 --timeout-keep-alive 75 --timeout-graceful-shutdown 20 --no-access-log: un proceso, 75 s de keep-alive (más que los 60 del ALB, el balanceador de AWS) y 20 s para terminar.

Se presenta en 52 · Código de servingAparece en 5 lecciones

V

Validación

validation set · dev set

Una parte del dataset de la que el modelo no aprende y que tú miras mientras desarrollas, para decidir: cuándo parar, qué ajustes usar, qué versión es mejor.

Como con ella tomas decisiones, poco a poco su resultado se vuelve optimista: elegiste justo lo que mejor le fue ahí. Por eso hace falta además un test que no se toca.

Ejemplo. En el dataset de septiembre de Alba, el marketplace del curso, son 92,417 fotos, ≈ 5 % del total.

Se presenta en 03 · Datos, ejemplos, features y etiquetasAparece en 4 lecciones

Validación cruzada

cross-validation · k-fold

Medir con varios exámenes en vez de uno: partes los datos en k grupos, entrenas k veces dejando cada vez un grupo distinto como validación y promedias. Sirve cuando hay pocos datos.

Cada ejemplo sirve de examen exactamente una vez, así que el resultado depende menos de la suerte de un solo reparto, y la distancia entre la mejor y la peor vuelta dice cuánto ruido hay. Mide una receta (arquitectura, hiperparámetros, datos), no un modelo: al final se entrena uno con todos los datos. Se estratifica por clase, se reparte por grupo (todas las fotos de un vendedor en el mismo) y, si el modelo predice el futuro, por tiempo. Cuesta k entrenamientos; con millones de ejemplos, como los ≈ 1.9 millones de fotos de Alba (el marketplace que sigue el curso), basta un set de validación grande.

Ejemplo. 250 fotos en 5 grupos de 50. Las cinco vueltas aciertan 86, 92, 80, 84 y 88 %: el promedio es 86 %, y un solo examen de 50 fotos podía salir entre 80 y 92 % por pura suerte.

Se presenta en 05 · ¿Aprendió de verdad?Aparece en 2 lecciones

Validación de configuración

config validation · fail fast

Revisar toda la configuración al arrancar, antes de aceptar la primera request: que no falte nada obligatorio, que cada valor tenga su tipo y que esté en un rango con sentido. Si algo está mal, el programa no arranca.

Fallar al arrancar es barato: el proceso termina con un código de salida distinto de 0, en Kubernetes el pod nunca queda listo y la actualización se detiene mientras los pods viejos siguen atendiendo. Fallar a la tercera request es caro: el pod ya estaba recibiendo tráfico. Un buen validador junta todos los errores antes de rendirse. En Python se escribe a mano con la biblioteca estándar o con pydantic-settings, que se apoya en pydantic. Los archivos también se validan en el CI, antes de llegar al clúster.

Ejemplo. INFER_TIMEOUT_S=150, escrito pensando en milisegundos, son 150 segundos. Con Triton trabado, cada pod de Alba, con 16 lugares, despacha 16 lugares ÷ 150 s ≈ 0.11 requests por segundo en vez de 16 ÷ 0.15 s ≈ 107, y con 100 por segundo se llena en 16 ÷ 100 = 0.16 s. Un rango de 0.01 a 2 lo rechaza al arrancar.

Valor atípico

outlier

Un valor que queda muy lejos de los demás. Puede ser un error de medición o un caso real y raro; antes de hacer algo con él, hay que saber cuál es.

Jala mucho al promedio y casi nada a la mediana. Una regla común para marcarlos es la de Tukey: más de 1.5 rangos intercuartílicos arriba del tercer cuartil, o abajo del primero (el primer cuartil es el p25; el tercero, el p75, y el rango intercuartílico, la distancia entre los dos). En latencia, los atípicos reales no se borran: son la cola que la promesa del servicio quiere controlar, y se investigan. En los datos de entrenamiento, los errores de captura sí se corrigen o se quitan.

Ejemplo. En 20 requests con cuartiles de 34 y 50 ms, el límite de Tukey es 50 + 1.5 × 16 = 74 ms: las de 160 y 900 ms quedan marcadas.

Valor esperado

expected value · expectation

El promedio a la larga: cada resultado posible multiplicado por su probabilidad, y todo sumado. Es lo que saldría en promedio por vez si repitieras lo mismo muchísimas veces.

No es lo que va a salir: el valor esperado de un dado es 3.5 y ningún dado saca 3.5. Con N repeticiones independientes de algo de probabilidad p se esperan N × p; los minutos caídos esperados en un mes son 43,200 × (1 − disponibilidad). Sirve para decidir con dinero: se elige la acción con menor costo esperado, y por eso las probabilidades tienen que estar calibradas. Ojo: dos riesgos con el mismo valor esperado pueden ser muy distintos si uno de ellos es raro y catastrófico.

Ejemplo. En un sistema de detección de fraude, un pago de US$30 con probabilidad de fraude 0.05: si aprobar un fraude cuesta US$45 (el monto más ≈ US$15 de comisión) y rechazar a un cliente bueno ≈ US$7.5 (supuestos del ejemplo), aprobar cuesta en promedio 0.05 × 45 = US$2.25; rechazar, 0.95 × 7.5 ≈ US$7.13, y pedir verificación, ≈ US$1.52. Gana la verificación.

Valor faltante

missing value · NaN

Un dato que debía estar y no está: la feature quedó vacía para ese ejemplo. Antes de entrenar hay que decidir qué hacer con ella, y hacer lo mismo al servir.

Tres salidas: quitar el ejemplo o la columna (fácil, pero si lo que falta no falta al azar, quitas justo un tipo de caso), rellenar o imputar (con la mediana de train o una regla del negocio, y marcar la fila con una columna «rellenado») o dejarlo como «no sé», NaN (not a number), para un modelo que lo sepa usar, como los de árboles de decisión con gradient boosting. Nunca rellenar con 0 si 0 significa otra cosa: «cero compras» es un dato; «no sé cuántas», otro.

Ejemplo. En fraude: si un pago llega sin el SDK (software development kit: el código que la app trae para identificar al dispositivo), sus features de dispositivo valen NaN, no 0. En un pronóstico de ventas: un producto sin ventas ayer pudo haber vendido cero, estar agotado o no tener dato, y son tres cosas distintas.

Variable de entorno

environment variable · env var

Un ajuste que el proceso recibe al arrancar: un par nombre-valor, los dos de texto, que cada proceso hereda de su padre. Juntas forman un diccionario, como HOME=/home/ana o PYTHONUNBUFFERED=1.

En la shell, MODELO=resnet50 crea una variable que solo vive ahí; export MODELO la pasa al entorno, y desde entonces la heredan los hijos. VAR=valor comando la pone solo para ese comando. Se lee con $VAR (mejor "$VAR") y env las lista todas; en Python están en os.environ. La herencia es una copia al nacer: un proceso que ya corre no ve los cambios del padre, y hay que reiniciarlo. Son la forma más común de configurar un servicio sin cambiar su código; la variable más famosa es PATH.

Analogía. La mochila que cada proceso recibe al nacer, con una copia de las notas de su padre. Lo que el hijo escriba en sus notas no cambia las del padre. Se rompe en que las notas son solo texto: un número o una lista hay que leerlos y convertirlos.

Ejemplo. El gateway de Alba (el marketplace que sigue el curso) arranca con PYTHONUNBUFFERED=1, TRITON_URL, INFER_TIMEOUT_S=0.15 y PREPROCESS_CONCURRENCY=2. INFER_TIMEOUT_S=0.15 python3 app.py se lo da solo a ese proceso.

Se presenta en 32 · La terminal y la shellAparece en 10 lecciones

Varianza

variance

Qué tanto se alejan unos números de su promedio: el promedio de las distancias al promedio, elevadas al cuadrado. Sus unidades son las de los datos, al cuadrado.

Se eleva al cuadrado para que las distancias de arriba y las de abajo no se cancelen y para que una distancia grande pese más. Tiene una propiedad que la vuelve central en estadística: la varianza de una suma de cosas independientes es la suma de sus varianzas. De ahí sale que promediar n datos divida la varianza entre n. Con los datos de una muestra se suele dividir entre n − 1 en vez de n, para no quedarse corto.

Ejemplo. Cinco exámenes dan 81, 89, 85, 82 y 88. Promedio 85; distancias −4, 4, 0, −3 y 3; cuadrados 16, 16, 0, 9 y 9. Suman 50: la varianza es 50 ÷ 5 = 10 (o 50 ÷ 4 = 12.5 con n − 1).

Se presenta en 12 · Ruido, muestras y pruebas A/BAparece en 2 lecciones

vCPU

virtual CPU

La unidad de CPU que renta la nube. En las máquinas de AWS con procesador Intel, como las que usa Alba, la empresa de ejemplo del curso, es un hilo de hardware: medio núcleo físico. En las Graviton (Arm) y en las AMD más nuevas, un núcleo completo.

Una máquina de «4 vCPU» con un Xeon tiene 2 núcleos, cada uno con dos hilos de hardware que comparten sus circuitos. En Kubernetes, «1 CPU» es 1 vCPU y se mide como tiempo: un límite de 2 CPU son 2 segundos de CPU por cada segundo de reloj, y si el pod se pasa, Linux lo frena un rato (CPU throttling). Para calcular cuántos hacen falta: vCPU ocupados = trabajos por segundo × ms de CPU por trabajo ÷ 1,000, medido en el tipo de máquina de producción. Las cuotas de la nube para máquinas con GPU también se cuentan en vCPU. Una trampa: bibliotecas como PyTorch u ONNX Runtime abren tantos hilos como núcleos ven en la máquina, no los que permite el límite del pod.

Ejemplo. La g4dn.xlarge de Alba: 4 vCPU, 16 GiB y una T4 por ≈ US$0.526 la hora, ≈ US$0.13 por vCPU. Un vCPU de una c6i, una máquina de AWS sin GPU, cuesta ≈ US$0.0425: ≈ 3 veces menos. Por eso Alba prepara las fotos (≈ 3 vCPU ocupados en el pico de diseño) en máquinas c6i.

Se presenta en 18 · CPU y GPUAparece en 13 lecciones

Vecinos más cercanos

nearest neighbors · k-NN

Dado un vector, encontrar los k vectores de una colección que están más cerca de él. Es la operación que hay debajo de toda búsqueda por embeddings.

La forma exacta (fuerza bruta, brute force) compara contra todos: con 100 millones de vectores de 512 números son 51.2 mil millones de multiplicaciones por búsqueda. Por eso en producción casi siempre se usa la versión aproximada, el ANN.

Ejemplo. k = 30: los 30 productos cuyo embedding se parece más al de la búsqueda «tenis blancos».

Vector

vector

Una lista ordenada de números. Si tiene 2 números se puede dibujar como un punto (o una flecha) en un plano; si tiene 512, es un punto en un espacio de 512 dimensiones.

Cada número es una coordenada, y su posición en la lista importa: (4, 3) no es lo mismo que (3, 4). La cantidad de números se llama la dimensión del vector. Un vector es un tensor de una sola dimensión, una fila de números; ojo, que en un tensor «dimensión» cuenta las direcciones de la tabla, y en un vector, cuántos números trae.

Ejemplo. (4, 3) es un vector de dimensión 2: un punto 4 pasos a la derecha y 3 hacia arriba. El embedding de una publicación en la búsqueda de Alba, el marketplace del curso, es un vector de dimensión 512.

Se presenta en 07 · Embeddings: el significado como coordenadasAparece en 3 lecciones

Ventana de contexto

context window

El máximo de tokens que un modelo puede tener en cuenta en una request (una petición), sumando el prompt y la respuesta. Lo que no cabe, el modelo no lo ve.

Viene de la arquitectura y de cómo se entrenó el modelo: aprendió posiciones hasta cierto largo (embeddings posicionales). En producción también es una perilla de capacidad: cada token dentro de la ventana ocupa KV cache en la GPU, así que ventanas más largas permiten menos conversaciones a la vez.

Ejemplo. Llama 3 8B (una familia de LLMs públicos de Meta) salió en abril de 2024 con una ventana de 8,192 tokens; Llama 3.1 (julio de 2024) la amplió a ≈ 128 mil.

Ventana de tiempo

time window

Un pedazo de tiempo sobre el que se cuenta o se suma algo: los pagos de una tarjeta en 10 minutos, los errores de un servicio en 5, las fotos de un vendedor en 24 horas.

Hay tres tipos comunes. Fijas (tumbling): pedazos pegados que no se enciman, como 10:00–10:05 y 10:05–10:10; cada evento cae en una. Deslizantes (sliding o hopping): de cierto largo, avanzando a pasos más cortos («la última hora, cada 5 minutos»); cada evento cae en varias. De sesión: se cierran tras un hueco sin actividad, por ejemplo de 30 minutos. En ML se arman por event time, y conviene anclarlas al evento: «24 h» son los eventos entre t − 24 h y t, no el día calendario. La misma ventana calculada distinto en el pipeline de entrenamiento y en el servicio es una causa clásica de diferencias entre entrenar y servir.

Ejemplo. Con ventanas fijas de un minuto, un límite de 3,000 requests por minuto deja pasar 6,000 en 2 segundos (3,000 al final de un minuto y 3,000 al principio del siguiente); con una deslizante, que sigue contando las 3,000 de hace un segundo, ≈ 3,050 (la versión aproximada pondera el minuto anterior: 3,000 × 59/60 = 2,950, y quedan 50).

Versión de modelo

model version

Un modelo concreto dentro del registro, con un número que no se repite y archivos que nunca cambian. Cambiar cualquier cosa, aunque sea la lista de categorías, es crear otra versión.

Que sea inmutable es lo que da sentido a todo lo demás: «la versión 14» significa lo mismo hoy y en un año, así que un rollback a ella es seguro y una pregunta como «¿qué modelo hizo esta sugerencia?» tiene respuesta. Guarda los archivos para servir (el modelo exportado, el engine), labels.json con su huella, la versión del preprocesamiento, la firma de entrada y salida, el reporte del gate y los punteros de su corrida.

Ejemplo. La versión 14 de Alba es resnet50-2026-10-01, entrenada el 1 de octubre de 2026 con ds-2026-09-01; pesa ≈ 150–250 MB (ONNX ≈ 98 MB y engine ≈ 50–150 MB).

Versionado de datos

data versioning

Guardar cada versión de un dataset con un nombre que no cambia, de modo que se pueda volver a leer exactamente igual meses después. Git lo hace con el código; los datos no se versionan solos.

Un modelo depende de su código y de sus datos. Git guarda cada versión del código, pero no sirve para millones de fotos. El versionado de datos congela cada dataset en un snapshot con un id (como ds-2026-09-01), lo protege para que nadie lo cambie (inmutabilidad (de un snapshot)) y deja que cada modelo apunte a él (linaje). Hay cuatro formas comunes: prefijos inmutables con un manifest, DVC, lakeFS y tablas con time travel. Sin versionado, «¿con qué datos se entrenó este modelo?» no tiene respuesta.

Ejemplo. Alba arma un snapshot cada mes, el día 1, con el mes que acaba de terminar: la corrida del 1 de octubre arma ds-2026-09-01, con 1,932,628 fotos etiquetadas. Si en octubre se corrige una etiqueta, no se toca el de septiembre: la corrección entra a ds-2026-10-01, que se arma el 1 de noviembre.

Se presenta en 48 · Versionado y linajeAparece en 3 lecciones

Versionado de una API

API versioning

Marcar cada versión del contrato de una API, casi siempre en la ruta (/v1/, /v2/), para poder cambiarlo sin romper a los clientes que usan la versión anterior.

Hay cambios que no rompen a nadie (agregar un campo opcional, un endpoint nuevo) y cambios que sí (renombrar o quitar un campo, cambiar un tipo, cambiar un valor por omisión o lo que significa un número). Un cambio que rompe se publica como /v2, que convive con /v1 mientras los clientes se cambian; la receta se llama expand and contract. En ML, se versiona el contrato, no el modelo: el modelo cambia sin estrenar /v2, y cada respuesta dice qué model_version la contestó.

Ejemplo. Si Alba renombrara score a confidence, sería /v2/classify. Si cambia de modelo cada mes, sigue en /v1 y cada respuesta trae su model_version, para unir predicciones con etiquetas y depurar.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 3 lecciones

Versionado semántico

semantic versioning · semver

La costumbre de numerar las versiones como MAYOR.MENOR.PARCHE, como 2.5.3: subir el PARCHE solo arregla errores, subir la MENOR agrega cosas sin romper y subir la MAYOR puede romper.

Es una promesa, no una regla que alguien revise. Las 0.x no prometen nada: FastAPI lleva años en 0.x, y el gateway usa la 0.141. No todos lo usan: pip (26.2), certifi (2026.7.22) y attrs (26.1.0) numeran por fecha. Una MAYOR rompe de verdad: NumPy 2.0 (2024) cambió su interfaz binaria y las extensiones compiladas contra NumPy 1.x dejaron de cargar. Y un arreglo también puede cambiar resultados: otra Pillow puede redimensionar un poco distinto, y el accuracy baja sin un solo error, un training-serving skew. Los rangos se escriben con las reglas del PEP 440: ==2.5.3 (exacta), >=2.5 (esa o más nueva, incluida la 3.0), >=2,<3 (con tope) y ~=2.5.3 («compatible»: 2.5.3 o más nueva sin salir de la 2.5).

Ejemplo. De la lista 1.26.4, 2.0.0, 2.5.2, 2.5.3, 2.5.4, 2.6.0 y 3.0.0, ~=2.5.3 acepta 2.5.3 y 2.5.4; >=2.5 acepta también la 3.0.0, la que puede romper.

Se presenta en 33 · Python, paquetes y entornosAparece en 2 lecciones

Visibility timeout

visibility timeout

El tiempo que un mensaje entregado queda escondido para los demás consumidores. Si el consumidor confirma que terminó antes de que venza, el mensaje se borra; si no, vuelve a la cola para otro.

Es cómo una cola sobrevive a un worker que se cae: recibir no borra, solo esconde. En SQS vale 30 s por omisión y llega hasta 12 h; en Pub/Sub se llama ack deadline (10 s por omisión, hasta 600 s). Debe ser mayor que el p99 del tiempo de proceso, con margen (el doble); si es más corto, el mensaje reaparece mientras el primero sigue trabajando y el trabajo se hace varias veces. Para trabajos largos, el worker lo renueva con un latido (en SQS, ChangeMessageVisibility), así uno muerto lo libera pronto y uno vivo lo conserva.

Ejemplo. Un video de 10 minutos con el plazo por omisión de 30 s: el mensaje reaparece cada 30 s y, si hay workers libres, 20 procesan el mismo video antes de que el primero termine.

Se presenta en 30 · Colas y streams: mensajes que esperanAparece en 2 lecciones

ViT

Vision Transformer

Un modelo de visión que parte la foto en parches de 16 × 16 píxeles y los trata como los pedazos de una frase (tokens) con un transformer, la arquitectura de los modelos de lenguaje.

Lo presentaron Dosovitskiy y otros en 2020. Cada parche (16 × 16 × 3 = 768 números) se convierte en un vector, se le suma su posición y entra a un transformer junto con un token extra, [CLS], de donde sale la respuesta. No trae de fábrica las ideas de una CNN (mirar de cerca, el mismo filtro en todas partes): las aprende de los datos, así que brilla con preentrenamientos enormes. El ViT-B/16 tiene ≈ 86 millones de parámetros.

Ejemplo. Una foto de 224 × 224 con parches de 16: 224 ÷ 16 = 14 por lado, 14 × 14 = 196 parches; con el [CLS], 197 tokens.

Se presenta en 06 · Redes neuronales y CNNsAparece en 3 lecciones

VPC (red privada virtual)

VPC (Virtual Private Cloud)

Tu red privada dentro de una región de la nube, aislada de las de otros clientes. Ahí viven tus máquinas, balanceadores y bases de datos, cada uno con su IP privada.

Al crear una VPC eliges su rango de direcciones en notación CIDR, como 10.0.0.0/16, y la partes en subredes, cada una en una zona. Es «virtual» porque comparte cables y switches con todos los clientes: el proveedor separa el tráfico con software. Dentro de la VPC tú decides por dónde va cada paquete (tablas de rutas) y quién puede hablar con quién (grupos de seguridad). Se llama VPC en AWS y Google Cloud, y VNet en Azure.

Analogía. Como rentar un piso en un edificio de oficinas: los pasillos y las puertas internas son tuyos, el edificio pone la luz y la vigilancia. Se rompe en que tu piso y el del vecino pueden estar en la misma máquina, separados solo por software.

Ejemplo. Alba usa la VPC 10.0.0.0/16 en us-east-1: 65,536 direcciones privadas, de las que usa unas pocas decenas.

Se presenta en 41 · Redes en la nube: VPC, subredes y egressAparece en 4 lecciones

VRAM

VRAM · memoria de la GPU

La memoria propia de la GPU, el chip que hace las cuentas de los modelos. Todo con lo que la GPU calcula tiene que estar ahí: al entrenar, las perillas, sus gradientes, el estado del optimizador y las activaciones.

Su tamaño decide qué cabe: 16 GB en una T4, 24 GB en una L4 o una A10G, 80 GB en una H100. Entrenar con Adam en precisión mixta ocupa ≈ 16 bytes por parámetro (la cuenta del artículo de ZeRO, 2020), más las activaciones, que crecen con el tamaño del batch. Servir en FP16 ocupa ≈ 2 bytes por parámetro, más el programa que corre el modelo (el runtime).

Ejemplo. Alba, el marketplace que sigue el curso: 24.5 M × 16 B ≈ 392 MB de lo fijo para entrenar, más ≈ 3 GB de activaciones con batch 64 (estimación). Para servir en FP16: ≈ 49 MB de pesos. Un LLM (un modelo grande de lenguaje, como el de un chatbot) de 8,000 millones de parámetros: 128 GB solo de lo fijo.

Se presenta en 04 · Cómo aprende un modeloAparece en 10 lecciones

W

Warmup

learning-rate warmup · calentamiento

Empezar el entrenamiento con un learning rate casi 0 y subirlo poco a poco durante los primeros pasos, para no dar saltos bruscos cuando todo es inestable.

Al principio los gradientes son grandes y poco confiables: las perillas están lejos de lo bueno, una capa nueva empieza al azar y Adam tiene pocos gradientes para promediar. Subir el lr en línea recta durante cientos o miles de pasos evita que esos primeros pasos deshagan lo aprendido o hagan explotar la pérdida. Goyal y otros (2017) lo usaron durante 5 épocas para entrenar una ResNet-50 con batches de 8,192 fotos.

Ejemplo. Warmup de 1,000 pasos hasta 0.0003: en el paso 100 vale 0.00003; en el 500, 0.00015; en el 1,000, 0.0003.

Se presenta en 04 · Cómo aprende un modeloAparece en 2 lecciones

Warmup de inferencia

inference warmup

Correr unas requests falsas al arrancar un servidor de modelos, antes de recibir tráfico, para que la preparación de la primera llamada no la pague un usuario.

En la primera llamada pasan cosas que después ya no: CUDA carga sus kernels, el caching allocator pide su memoria, cuDNN elige algoritmos y, con torch.compile, se compila. Un buen warmup tiene tres reglas: usa las mismas formas que va a ver el tráfico (cada tamaño de batch que dispare una compilación); no necesita fotos reales, porque se calienta el código, no la respuesta; y la readiness dice «listo» solo cuando termina. No es el warmup del entrenamiento, que sube poco a poco el learning rate.

Ejemplo. En Alba, Triton corre tres batches de 32 en ceros (model_warmup en su config.pbtxt) antes de marcar el modelo como listo. Sin warmup, un pod con torch.compile, 50 requests por segundo, 17 s de primera llamada y 2 recompilaciones de 6 s pierde ≈ 1,450 requests contra el timeout de 0.15 s.

Se presenta en 34 · PyTorch en lo que toca a producciónAparece en 4 lecciones

Warp

warp

Un grupo de 32 hilos de una GPU de NVIDIA que ejecutan la misma instrucción al mismo tiempo, cada uno con sus propios datos. Es la unidad con la que cada SM, cada bloque de cálculo de la GPU, reparte el trabajo.

NVIDIA llama SIMT (single instruction, multiple threads) a esta manera de trabajar: es SIMD visto como hilos. Un SM de la T4 mantiene hasta 32 warps vivos (1,024 hilos), y cada warp tiene sus propios registros, así que cambiar de uno a otro no cuesta nada: cuando uno espera a la memoria, otro trabaja. Si los hilos de un warp toman caminos distintos en un if, el warp recorre los dos, uno después del otro (divergencia): basta un hilo distinto para que todo el warp pague los dos caminos.

Ejemplo. Sumar dos vectores de un millón de números, con un hilo por número, son 1,000,000 ÷ 32 = 31,250 warps. Una T4 tiene vivos a la vez, como mucho, 40 × 32 = 1,280, y los va corriendo por tandas.

Se presenta en 18 · CPU y GPU

Watermark

watermark

Una hora que dice «ya creo haber recibido todos los eventos que pasaron antes de esto», medida con la hora en que pasó cada evento (su event time). Cuando pasa el final de una ventana de conteo, la ventana se cierra y da su resultado; lo que llega después, llega tarde.

Lo más común es calcularlo como el event time más nuevo que se ha visto, menos un margen. Es un trato: un margen grande da cuentas más completas y features más viejas; uno chico, features frescas y más eventos tardíos. Lo que llega tarde se tira, se manda a una salida aparte para corregir o se cuenta después, en el cálculo de entrenamiento. Los programas de streaming como Flink lo manejan solos; en un job batch, la misma idea es esperar a que lleguen los datos de un día antes de cerrarlo.

Ejemplo. Con un margen de 1 minuto, al ver un pago de las 10:06:50 el watermark llega a 10:05:50 y cierra la ventana de 10:00 a 10:05 con 2 pagos. El pago del metro, de las 10:00:05, llega a las 10:07: tarde.

Webhook

webhook · callback

Un aviso al revés: el cliente registra una dirección suya (URL), y tu servicio le manda una request POST a esa dirección cuando algo pasa, por ejemplo cuando su trabajo terminó.

Manda un solo aviso por evento, en vez de miles de preguntas, pero pide más cuidado: el cliente necesita una dirección pública; su endpoint puede estar caído, así que se reintenta esperando cada vez más; el aviso puede llegar dos veces, así que el receptor descarta repetidos por id; y se firma con HMAC (una huella calculada con un secreto compartido) para que nadie pueda mandar avisos falsos. Lo común es combinarlo con polling como respaldo.

Analogía. Dejar tu número en la tintorería para que te llamen cuando el traje esté listo, en vez de pasar cada día a preguntar. Se rompe en que la tintorería no te llama dos veces por error, y un webhook sí puede llegar repetido.

Ejemplo. En un servicio de OCR, al terminar un documento el servicio hace POST a la URL del cliente con el job_id, firmado con HMAC. GitHub firma así sus avisos, en el header X-Hub-Signature-256.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 2 lecciones

WebSocket

WebSocket

Una conexión que empieza como una request HTTP y se convierte en un canal de mensajes en los dos sentidos, abierto todo el tiempo que haga falta.

El cliente pide el cambio con el header Upgrade: websocket y el servidor acepta con el código 101; desde ahí, cualquiera de los dos manda mensajes cuando quiere. Sirve cuando el cliente también manda datos sin parar, como el audio de una llamada. Su costo son las conexiones largas: complican el balanceo, el escalado y cada deploy, porque apagar un servidor corta las conversaciones en curso.

Ejemplo. En una transcripción en vivo, el audio puede subir en fragmentos por un WebSocket mientras la persona habla, y el texto parcial bajar por la misma conexión. En una transcripción de reuniones, los subtítulos llegan a cada navegador por el WebSocket que la app ya tiene abierto durante la reunión; entre los servicios propios, el audio viaja por streams de gRPC.

Se presenta en 23 · APIs: REST, JSON, gRPC y streamingAparece en 2 lecciones

Weight decay

weight decay · decaimiento de pesos

En cada paso, encoger un poquito todas las perillas hacia 0. Una perilla solo se queda grande si el gradiente la sostiene porque de verdad ayuda.

Con un factor λ, cada paso hace perilla − lr × λ × perilla, además del paso del gradiente. Con SGD equivale a sumarle a la pérdida un castigo por perillas grandes (la regularización L2). Con Adam no es lo mismo, porque Adam divide el gradiente entre su tamaño; por eso existe AdamW (Loshchilov y Hutter), que aplica el encogimiento aparte. En PyTorch, AdamW trae λ = 0.01 por defecto.

Ejemplo. w = 2, lr = 0.01, λ = 0.1: cada paso le quita 2 × 0.01 × 0.1 = 0.002. Sin gradiente que la sostenga, en 1,000 pasos bajaría a ≈ 0.74.

Wheel

wheel

El archivo .whl en que se reparte un paquete de Python ya armado: un zip que se copia tal cual a la carpeta de paquetes instalados (site-packages), sin necesitar un compilador. Su nombre dice para qué Python, sistema y chip sirve.

Adentro trae los archivos del paquete y una carpeta .dist-info con su ficha: nombre, versión, lo que pide (Requires-Dist) y, en RECORD, el hash de cada archivo. Instalarla es, en lo esencial, descomprimirla: no hace falta ningún compilador. La otra forma de repartir un paquete es el sdist (source distribution), el código fuente en un .tar.gz, que pip tiene que construir, a veces con un compilador. El nombre tiene cinco partes: nombre, versión y una etiqueta de tres, con qué Python se compiló, con qué interfaz binaria (ABI) y para qué sistema y chip. py3-none-any es puro Python y sirve en cualquier lado; manylinux_2_28_x86_64 es Linux con glibc 2.28 o más nueva en x86_64; musllinux es para Alpine, y muchos paquetes de ML no la publican. pip escoge la más específica que sirva en tu máquina.

Analogía. Un mueble ya armado contra uno en caja para armar: el armado entra directo, pero solo por puertas de su medida. Se rompe en que, si no hay mueble armado de tu medida, pip no se rinde: baja la caja (el sdist) y lo arma él, si tiene las herramientas (un compilador).

Ejemplo. numpy-2.5.3-cp313-cp313-manylinux_2_27_x86_64.manylinux_2_28_x86_64.whl (un nombre con dos etiquetas de Linux a la vez) sirve en el contenedor del gateway (Linux x86_64 con glibc, Python 3.13); numpy-2.5.3-cp313-cp313-macosx_14_0_arm64.whl es la de una MacBook, y fastapi-0.141.1-py3-none-any.whl sirve en las dos.

Se presenta en 33 · Python, paquetes y entornosAparece en 3 lecciones

Worker (trabajador)

worker

Un proceso (o un hilo) que toma trabajo de una fila y lo hace: las requests de un servidor o los mensajes de una cola. Los «workers de uvicorn» (un servidor web de Python) son copias del mismo servidor; los de una cola sacan trabajos (jobs) y los procesan.

La palabra tiene dos usos. En un servidor web, uvicorn --workers N o gunicorn arrancan N procesos iguales que atienden requests, cada uno con su event loop, su memoria y su copia del modelo (multiproceso). En el patrón asíncrono de arquitectura, la API pone cada pedido en una cola y un grupo de workers lo procesa después: se escalan por lo larga que está la cola, pueden bajar a cero y deben aguantar que un mensaje llegue dos veces. El gateway de Alba, el marketplace del curso, corre un solo worker de uvicorn por contenedor y escala con más pods: varios workers por pod esconden el uso real de CPU de cada proceso, multiplican la memoria y complican las métricas.

Ejemplo. El OCR (leer el texto de una imagen) de un PDF de 200 páginas, a ≈ 1 s por página, tarda ≈ 200 s con un worker y ≈ 200 ÷ 20 = 10 s con 20.

Workflow de GitHub Actions

workflow

Un archivo YAML en .github/workflows/ que le dice a GitHub Actions (el servicio de GitHub que corre tareas automáticas) qué hacer, cuándo y en qué máquina: qué eventos lo disparan y qué jobs corre.

El workflow vive junto al código: cambia en un PR, se revisa como el código y su historia queda en Git. Sus partes: on (qué lo dispara: un PR, un push a una rama, un botón con workflow_dispatch o un horario), permissions (qué puede hacer su token), env (variables) y jobs. Un repositorio puede tener varios workflows con ritmos distintos.

Ejemplo. Alba tiene dos: gateway.yml, que corre en cada PR y en cada push a main, y triton-modelo.yml, que solo corre por botón cuando hay un modelo nuevo.

Y

YAML

YAML

Un formato de texto para configuración que escriben y revisan personas: campos nombre: valor, listas con guiones, comentarios con # y la estructura marcada con la indentación.

Es el formato de los manifiestos de Kubernetes, de docker-compose y de las reglas de alertas de Prometheus. Acepta JSON como caso particular y, a diferencia de JSON, admite comentarios. Su riesgo es que adivina los tipos: en la versión 1.1, que siguen muchos lectores como PyYAML, NO, yes y off son booleanos (el «problema de Noruega»), 1.10 es el número 1.1 y 22:30 es un número en base 60. La defensa es poner entre comillas todo texto que pueda parecer otra cosa y cargar con safe_load. Los espacios de la indentación son parte del significado; los tabuladores no se permiten.

Ejemplo. pais: NO se lee como {'pais': False}; pais: "NO", como {'pais': 'NO'}. Por eso las variables de entorno de un manifiesto van entre comillas: value: "5".

Se presenta en 27 · Archivos y formatos: JSON, CSV, Parquet y YAMLAparece en 13 lecciones

Z

Zona de disponibilidad

availability zone · AZ · zone

Uno o más centros de datos dentro de una región, con su propia electricidad, enfriamiento y red, aislados de las otras zonas. Repartir las réplicas en dos o más zonas protege de la caída de una.

Las zonas de una región están separadas por kilómetros, para que un incendio o un apagón no les pegue a dos, y unidas por fibra del proveedor, con ≈ 1 ms de ida y vuelta. Se nombran con la región y una letra: us-east-1a. Una máquina virtual, un disco de red y una subred viven en una zona; el object storage y el balanceador los reparte el proveedor entre varias. Es el dominio de falla que casi todo diseño decide sobrevivir, con multi-AZ y N+1 por zona.

Ejemplo. Alba, el marketplace que sigue el curso, usa dos zonas, us-east-1a y us-east-1b, con una T4 en cada una. Con Triton en una sola zona al 99.5 % serían 0.005×43,200 ≈ 216 minutos caídos al mes; en dos zonas independientes, 0.0052×43,200 ≈ 1.

Se presenta en 39 · Regiones, zonas y disponibilidadAparece en 16 lecciones