SenseiTeoría desde cero0/59

8 · SeguridadLección 3 de 4

Datos personales y la ley

Personal data and the law

Qué cuenta como dato personal en un sistema de ML, dónde se copia, por qué un hash no lo vuelve anónimo y qué te piden las leyes de México y de Europa cuando alguien pide borrar lo suyo.

⏱ 61 min lo esencial · 76 min todo21 conceptos nuevos2 calculadoras10 ejerciciosDatos
Secciones14
  1. 01Qué es un dato personal
  2. 02El mapa: dónde se copia cada dato
  3. 03Minimizar, decir para qué y pedir permiso
  4. 04Seudonimizar no es anonimizar
  5. 05Reidentificación y k-anonimato
  6. 06Derechos de las personas y el borrado
  7. 07Desaprender: por qué no se promete extra
  8. 08La ley: México, Europa y los proveedores
  9. 09Errores comunes
  10. 10En la vida real extra
  11. 11Ejercicios
  12. 12Lo que sigue
  13. 13Palabras que vas a oír
  14. 14Chequeo
La pregunta

La foto que Ana sube a Alba puede traer su cara, su casa y el GPS de su teléfono. ¿Qué de eso es un dato personal, dónde termina copiado, cómo se protege sin dejar de entrenar el modelo y qué pasa si Ana pide que lo borren?

Alba, la empresa que seguimos en el curso, es un marketplace en línea: cualquiera publica lo que vende, y al publicar, Alba le sugiere la categoría de cada foto entre 500. Recibe ≈ 2.5 millones de publicaciones nuevas al día y su clasificador responde ≈ 10 millones de fotos al día, contando las que le piden otros equipos. Cada predicción deja una línea de log (el registro de texto que el sistema escribe de lo que hizo) de ≈ 300 bytes, que se guarda 90 días. Sus máquinas están en AWS, la nube de Amazon, en la región us-east-1, en Virginia, Estados Unidos.

Ana, una vendedora de la Ciudad de México, sube la foto de unos tenis. En la foto se ve la orilla de su sala. El archivo trae, escondido, su EXIF: los metadatos que el teléfono agrega solo, entre ellos el modelo del teléfono y, si tenía la ubicación prendida, el GPS de su casa.

Para el modelo, la foto es una matriz de números que termina en «Calzado › Tenis». Para la ley, es información de una persona. Esta lección trata de lo que eso significa para quien construye el sistema: qué cuenta como dato personal, dónde se copia, cómo se guarda lo mínimo, por qué «lo hasheamos» no basta, cómo se borra algo que ya pasó por logs, datasets y modelos, y qué dicen las leyes de México y de Europa.

01

Qué es un dato personal

Esencial

What counts as personal data

Las leyes usan una definición amplia. En México y en Europa, un dato personal (personal data) es cualquier información de una persona física (un ser humano, no una empresa) identificada o identificable. Identificada: el dato dice quién es («Ana López»). Identificable: con ese dato, solo o junto con otros, alguien podría llegar a saber quién es.

La segunda mitad es la que importa en ML. Casi nunca tienes el nombre de alguien en una tabla de entrenamiento. Pero tienes cosas que llevan a la persona:

  • Directos: nombre, correo, teléfono, CURP (la Clave Única de Registro de Población, el código de 18 caracteres que identifica a cada persona en México), una foto de la cara, una credencial para votar.
  • Indirectos: el GPS de una foto, una placa de coche, la fachada de una casa, una dirección IP (el número que identifica a un aparato en internet), el id de un teléfono.
  • Ids internos que se pueden unir: el seller_id de Ana, el número interno con el que Alba identifica a cada vendedora, no dice su nombre, pero la base de datos de Alba sí lo une con su cuenta (un join: juntar dos tablas por una columna que comparten). Mientras exista esa unión, es dato personal.
Para ir más hondoPII no es exactamente lo mismo

En el trabajo vas a oír PII (personally identifiable information, información que identifica a una persona). Es un término que viene de Estados Unidos y que muchas veces se usa como lista: nombre, número de seguro social (el número de identificación de cada persona en Estados Unidos), correo, teléfono, dirección. La idea de «dato personal» de las leyes es más amplia: incluye lo que hace identificable a alguien al cruzarlo con otra cosa. Un id de dispositivo o un prefijo de hash (los primeros caracteres de una huella calculada a partir del dato; lo ves más abajo) pueden no estar en una lista de PII y aun así ser dato personal.

Por eso, cuando un equipo dice «nuestro log no trae PII», la pregunta de vuelta es: ¿trae algo que, unido con otra tabla, lleve a una persona? Si la respuesta es sí, sigue siendo dato personal.

Datos sensibles: los que más dañan

Algunos datos personales hacen más daño si se escapan o se usan mal, porque pueden llevar a discriminar a alguien o ponerlo en riesgo. Son los datos sensibles (sensitive data; en Europa, «categorías especiales»): el estado de salud, el origen étnico o racial, las creencias religiosas o filosóficas, las opiniones políticas, la preferencia sexual y la información genética.

Las leyes les piden más: un permiso explícito para usarlos (en México, además, por escrito) y medidas de seguridad más fuertes.

Para ir más hondoLa lista de cada ley

En Europa la lista suma la vida sexual, la afiliación sindical y los datos biométricos (medidas del cuerpo, como la cara o la huella digital) usados para identificar a una persona. La lista de la ley mexicana es de ejemplos: otro dato cuyo mal uso pueda llevar a discriminar a alguien también cuenta como sensible.

Para ir más hondoUna cara en una foto no es, por sí sola, un dato biométrico

Que en la foto de Ana se vea su cara la vuelve dato personal. En Europa se vuelve dato biométrico sensible cuando se procesa con técnica para reconocer a la persona: sacar un vector de su cara (una lista de números que la resume) y compararlo con otros. Alba no hace reconocimiento facial: clasifica tenis. Si un día un equipo quisiera agrupar fotos por la cara de quien vende, cambiaría de categoría y necesitaría otra revisión legal.

Para ir más hondoTambién los datos de quien opera el sistema

Los datos personales no son solo de los clientes. Cuando Marta, la ingeniera de guardia de Alba (la que atiende las fallas en su turno), entra a una máquina o lee un bucket, el registro de auditoría anota su usuario, su dirección IP y la hora: también son datos personales, de una empleada. Lo mismo los commits (cada cambio guardado en el código) con nombre y correo, o las grabaciones de una llamada de soporte. Se protegen con la misma lógica: guardar lo necesario (para auditar sí hace falta saber quién fue), con un plazo y con acceso solo para quien lo revisa.

02

El mapa: dónde se copia cada dato

Esencial

The data map: where every copy lives

Antes de proteger un dato, hay que saber dónde está. Ese inventario se llama mapa de datos (data map): una lista de cada lugar donde se guarda o se copia un dato personal, con qué campos, para qué, cuánto tiempo y quién lo puede leer.

En un sistema de ML, los datos personales se copian en lugares que nadie diseñó como «la base de datos de clientes»:

  • Los logs de requests y de predicciones. Cada request (cada petición que llega al sistema) deja una línea. Si la línea guarda el body, el cuerpo de la request donde viaja la foto, guarda la foto.
  • Los datasets y sus snapshots. Una foto que entra a un dataset queda en cada versión congelada de ese dataset.
  • El proveedor de etiquetado. Otra empresa cuyas personas le ponen a cada foto su categoría correcta, para entrenar: ven las fotos.
  • Los metadatos del archivo. El EXIF viaja dentro del JPEG (el formato del archivo de la foto) a donde vaya el JPEG.
  • Los servicios de terceros. Una API (la puerta por la que un programa le pide algo a otro) de un modelo de lenguaje o un servicio de notificaciones reciben lo que les mandes.
  • Las copias de «un rato». Un CSV (una tabla en un archivo de texto) bajado a una laptop, un notebook con una muestra, un respaldo en otra región.

Así se ve el mapa de Alba para la foto de Ana. Toca cada caja para ver qué guarda, y sigue el recorrido.

El mapa de datos de una foto: dónde queda cada copia · Las copias que deja una sola foto. El clasificador no guarda la foto: la guarda el marketplace. Lo que queda del lado de ML es una línea de log sin la foto ni el nombre, pero que todavía se puede ligar a Ana (seudónima: lo ves en «Seudonimizar no es anonimizar») y, si la foto sale dudosa, una copia sin EXIF que va a etiquetar.
  • App de Ana · la foto, con EXIF
    La foto de los tenis sale del teléfono con su EXIF: el modelo del teléfono y, si la ubicación estaba prendida, el GPS de la casa de Ana. Al fondo se ve parte de su sala. Todo eso es dato personal.
  • Backend de publicaciones · la publicación
    El programa del marketplace que guarda la publicación de Ana y llama al clasificador. Es el único que une el request_id de cada foto con la cuenta de Ana: por eso el log del clasificador es seudónimo, no anónimo.
  • Gateway del clasificador · no guarda la foto
    Recibe la foto, la decodifica en memoria, se la pasa al modelo y la suelta. No la escribe en disco ni en el log: guardarla «para depurar» sería la copia más grande y la más peligrosa.
  • Modelo entrenado · parámetros, no fotos
    Se entrena cada mes con el último snapshot. No guarda las fotos: guarda ≈ 24.5 millones de parámetros que cada foto movió un poco. Por eso no se le puede «borrar» una foto (machine unlearning).
  • Fotos del producto · las guarda el marketplace
    La foto original vive aquí porque es la publicación de Ana: ≈ 2 TB de fotos al día en todo el marketplace: ≈ 10 M fotos al día × ≈ 200 KB, la cifra redonda que usa el curso (≈ 7.5 M son de publicaciones nuevas y el resto las piden otros equipos). La borra el producto cuando Ana borra su publicación. Las otras copias salen de aquí.
  • Log de predicciones · seudónimo · 90 días
    Una línea de ≈ 300 bytes por foto: request_id, caller, versión del modelo, top-5, latencias, bytes y un prefijo del hash de la foto. Sin la foto, sin EXIF, sin el id de la vendedora. Es seudónimo: 10 M líneas al día × 90 días = 900 M vivas.
  • Snapshot del dataset · manifest · sin EXIF
    Cada snapshot es una lista congelada (el manifest) de qué fotos y etiquetas entrenan cada modelo, con el hash de cada foto. El golden set de 50,000 fotos también vive así, sin EXIF. Inmutable no es eterno: necesita su retención.
  • Proveedor de etiquetado · un encargado
    Personas de otra empresa ven las fotos para ponerles la categoría correcta. Es un encargado: trabaja por cuenta de Alba, con un contrato que dice qué recibe, para qué y cuándo lo borra. Si trabaja desde otro país, los datos salen del país: para el GDPR es una transferencia; para la ley mexicana, una remisión a un encargado, con su contrato.
  • Fotos a etiquetar · sin EXIF · 90 días
    Las dudosas (las que el modelo clasificó con confianza menor que 0.3) y otras que se eligen: ≈ 5,000 al mes. Se copian del bucket del producto sin EXIF a un bucket restringido, con cifrado en reposo, y se borran a los 90 días con una regla de ciclo de vida.

Fíjate en lo que no está. El gateway, el programa que recibe la foto y se la pasa al modelo, no la guarda: la decodifica en memoria (la convierte en números en la RAM, sin escribirla en disco) y la suelta. Triton, el servidor del modelo, tampoco. La foto original la guarda el producto, en su propio bucket (un almacén de archivos en la nube), porque es la publicación de Ana. El clasificador la usa y la deja ir.

Cuántos registros personales hay vivos a la vez

La retención es cuánto tiempo se guarda cada cosa antes de borrarse. Con ella se calcula cuántos registros hay vivos en un momento, que es justo lo que se escaparía si algo saliera mal.

Registros vivos y retención real
E=r×D
Dreal=max(D1,D2,…,Dn)
donde
r
registros nuevos al día, en registros por día (o por mes, si D va en meses: las dos en la misma unidad de tiempo)
D
cuánto tiempo se guarda cada registro antes de borrarse, su retención, en días (o en meses, si r va por mes)
E
registros vivos en cualquier momento, en registros, ya que el almacén se llenó: los que quedarían expuestos en una brecha
D1,…,Dn
la retención de cada copia del mismo dato, en días (el log, un respaldo, un CSV bajado)
n
cuántas copias hay de ese dato
Dreal
la retención de verdad, en días: la de la copia que más dura
Las líneas vivas del log de AlbaLa cuenta
Líneas nuevas al día, runa por foto, ficha de Alba
≈ 10 M
10,000,000
Retención, Dficha de Alba
90 días
90
Líneas vivas, E
E=r×D = 10 M × 90
900 M líneas
Bytes vivos, E × bytes por línea≈ 300 B por línea, ficha de Alba
900 M × 300 B
≈ 270 GB
Líneas vivas, E, si la retención D fuera de 30 días
E=r×D = 10 M × 30
300 M líneas
Si alguien copia el log a un bucket sin regla de borrado y lo deja un añosupuesto del ejemplo
Dreal = max(90, 365)
365 días
Líneas vivas con esa copia, E
E=r×Dreal = 10 M × 365
3,650 M líneas
Resultado
Con 90 días hay 900 millones de líneas vivas. Una sola copia olvidada sube la retención real a 365 días y multiplica por ≈ 4 (3,650 ÷ 900) lo que se escaparía en una brecha.

La segunda fórmula es la trampa más común: la retención real no es la que dice la política, sino la de la copia que más dura. Por eso la retención se escribe como regla automática en cada almacén (una regla de ciclo de vida en S3, el almacén de archivos de AWS, que borra cada archivo al cumplir su plazo; o un job, un programa que corre, hace su tarea y termina, que purga una tabla) y no como buena voluntad.

03

Minimizar, decir para qué y pedir permiso

Esencial

Minimize, state the purpose, ask for permission

Minimizar: lo que no guardas no se escapa

La minimización (data minimization) es juntar y guardar solo lo que necesitas para lo que vas a hacer. Es la medida más barata de todas: no cuesta cifrar, ni vigilar, ni borrar lo que nunca guardaste.

Alba minimiza en tres lugares:

  • El log de predicciones guarda el request_id (el número único de cada request), quién llamó, la versión del modelo, las 5 categorías con sus probabilidades, las latencias (cuánto tardó cada paso), los bytes y un prefijo del hash SHA-256 de la foto: los primeros caracteres de una huella que sale de sus bytes. No guarda la foto, ni el EXIF, ni el id de la vendedora en claro (tal cual, sin esconder).
  • Las fotos que van a etiquetar, ≈ 5,000 al mes (sobre todo las que el modelo clasificó con poca seguridad), se copian sin EXIF a un bucket restringido y se borran a los 90 días.
  • El golden set, el examen fijo de 50,000 fotos con el que se evalúa cada modelo, se guarda congelado y sin EXIF.

La forma práctica de minimizar un log es una lista de campos permitidos (allowlist), no una lista de campos prohibidos. Con una lista de prohibidos, el día que alguien agrega un campo nuevo, como el id de la vendedora, se cuela al log sin que nadie lo decida. Con una de permitidos, lo nuevo se queda fuera hasta que alguien lo agregue a propósito.

Python
import json

PERMITIDOS = ["request_id", "caller", "model_version", "top_k", "latencia_ms", "bytes", "sha256_prefijo"]

def linea_de_log(evento):
    # allowlist: solo pasan los campos de la lista; lo nuevo o lo inesperado se queda fuera
    return {campo: evento[campo] for campo in PERMITIDOS if campo in evento}

evento = {
    "request_id": "9f2c41d0", "caller": "backend-publicaciones", "model_version": "resnet50-2026-10-01",
    "top_k": [["Calzado > Tenis", 0.94]], "latencia_ms": 21, "bytes": 200000,
    "sha256_prefijo": "3a7bd3e2360a3d29",
    "vendedora_id": "ana-48213",                        # no está en la lista: no pasa
    "exif": {"gps": [19.4326, -99.1332], "modelo": "Teléfono X"},   # tampoco
    "foto": "<200 KB de bytes JPEG>",                   # tampoco
}
linea = linea_de_log(evento)
print(sorted(set(evento) - set(linea)))
print(len(json.dumps(evento)), "->", len(json.dumps(linea)), "caracteres")
Salida
['exif', 'foto', 'vendedora_id']
343 -> 213 caracteres

Los tres campos que se quedaron fuera son justo los que llevan a Ana. En el evento de verdad, la foto pesaría ≈ 200 KB y no 23 caracteres. La línea de juguete mide 213 caracteres; la real, con las 5 categorías y todas las latencias, mide ≈ 300 bytes: unas 670 veces menos que la foto.

Finalidad: para qué juntaste el dato

La finalidad del tratamiento (purpose limitation) es el «para qué» de un dato. Las leyes piden decirlo antes de juntarlo y no usarlo después para otra cosa que no sea compatible. Ana subió su foto para publicar sus tenis. Que Alba use esa foto para sugerirle la categoría encaja con eso.

Entrenar un modelo con esa foto ya es otra pregunta. Puede caber en la finalidad original, si el aviso de privacidad lo dice (el documento que dice para qué se usan los datos; lo ves dos secciones abajo), o puede ser una finalidad nueva. En México, usar un dato para una finalidad que no está en el aviso exige volver a pedir el consentimiento; en Europa depende de si la nueva finalidad es compatible con la original. En ML esto aparece a cada rato: los logs que se juntaron para depurar errores terminan siendo un dataset; las conversaciones de soporte terminan entrenando un asistente. Cada salto de finalidad es una decisión que pasa por legal, y quien hace ML es quien primero lo nota.

Consentimiento y aviso de privacidad

El consentimiento (consent) es el permiso de la persona para que uses sus datos. Para que valga tiene que ser libre (sin obligarla), informado (sabe qué va a pasar) y específico (para una finalidad concreta, no «para lo que sea»). Para datos sensibles, las leyes piden que sea expreso: una acción clara, no el silencio.

El consentimiento tiene un costo de diseño: la persona lo puede retirar en cualquier momento, y entonces tienes que dejar de usar el dato y saber dónde está.

Para ir más hondoExpreso, por escrito o tácito

En México, el consentimiento para datos sensibles, además de expreso, va por escrito: con firma autógrafa (a mano), firma electrónica u otro mecanismo de autenticación (una forma de comprobar que de verdad es esa persona). Para los demás datos, la ley mexicana acepta por regla general el consentimiento tácito: si la empresa te puso el aviso de privacidad a la vista y no te opusiste.

Para ir más hondoEl consentimiento no es la única base

Usar un dato puede apoyarse en otras razones que la ley acepta: cumplir un contrato con la persona (para publicar los tenis de Ana, Alba necesita la foto), una obligación legal o, en Europa, un «interés legítimo»: una razón válida de la empresa, siempre que se haya pesado contra los derechos de la persona y no pese más. En Europa, el consentimiento es una de seis bases legales al mismo nivel; en México es la regla general, y la ley enumera los casos en que no hace falta (entre ellos, cumplir la relación con la persona o una ley).

En México, lo que avisa todo esto es el aviso de privacidad (privacy notice): el documento que la empresa pone a disposición de la persona a más tardar en el momento en que junta sus datos. En la práctica es la página «Aviso de privacidad» que aceptas al crear una cuenta.

Para quien hace ML, el aviso es un contrato con el sistema: si el aviso de Alba no dice que las fotos se usan para entrenar modelos, entrenar con ellas no está cubierto, aunque el código funcione. Por eso, antes de armar un dataset con datos de usuarios, se lee el aviso.

Para ir más hondoQué trae un aviso de privacidad

Dice quién es la empresa y su domicilio, qué datos junta (y cuáles son sensibles), para qué finalidades, cómo puede la persona limitar su uso y ejercer sus derechos, y cómo se le avisarán los cambios. Si la empresa piensa transferir los datos a otra empresa, trae además una cláusula para que la persona diga si lo acepta.

04

Seudonimizar no es anonimizar

Esencial

Pseudonymizing is not anonymizing

Hay dos operaciones que suenan igual y no lo son.

Seudonimizar (pseudonymization) es reemplazar el identificador de una persona por otro: en vez de ana-48213, guardar p-7f3a. Quien tiene la tabla de equivalencias, o la llave con la que se calculó el reemplazo, puede volver a la persona. Por eso un dato seudónimo sigue siendo dato personal. Lo que gana es que quien solo ve el log no sabe de quién es cada línea.

Anonimizar (anonymization) es transformar los datos de modo que nadie, con medios razonables, pueda volver a la persona. Un dato anónimo de verdad deja de ser dato personal y sale de las leyes de protección. Por eso es tan tentador decir «está anonimizado», y por eso hay que demostrarlo.

El log de predicciones de Alba es seudónimo, no anónimo. No trae el nombre de Ana, pero trae el request_id, y el backend de publicaciones (el programa del marketplace que guarda cada publicación) guarda ese mismo request_id junto a la publicación: con una unión se llega a Ana. Y trae un prefijo del hash de la foto: quien tenga la foto publicada calcula su hash y encuentra la línea.

Por qué un hash sin llave no esconde nada

Una función hash como SHA-256 convierte cualquier texto en una huella de largo fijo (en SHA-256, 64 caracteres), y no se puede «deshacer»: de la huella no se saca el texto. Por eso parece buena idea guardar sha256(teléfono) en vez del teléfono. El problema es que no hace falta deshacerla: basta con probar todos los teléfonos posibles, calcular su hash y ver cuál coincide. Es un ataque de fuerza bruta, y funciona porque el hash es determinista (el mismo teléfono siempre da la misma huella) y porque los teléfonos posibles son pocos. Es la misma cuenta de fuerza bruta de «Cifrado, llaves y certificados», aplicada a un dato chico en vez de a una llave.

Tiempo para probar todos los valores
N=10d
N=2L
t=Nv
donde
d
cuántos dígitos tiene el identificador, en dígitos (un teléfono en México: 10)
L
cuántos bits tiene una llave secreta, en bits, si lo que se prueba es la llave y no el dato (la de HMAC, que ves en un momento, tiene 256)
N
cuántos valores posibles hay, en valores: 10d para un dato de d dígitos, 2L para una llave de L bits
v
cuántos hashes calcula el atacante por segundo, en hashes por segundo
t
el tiempo para probarlos todos, en segundos; en promedio encuentra el bueno a la mitad (por eso en «Cifrado, llaves y certificados», que cuenta el promedio, se divide entre 2)
Un teléfono hasheado sin llaveLa cuenta
Dígitos, dun teléfono de México
10
10
Valores posibles, N
N=10d=1010
10,000,000,000
Velocidad de una GPU de juego, vla de «Cifrado, llaves y certificados», que mide ≈ 2.2 × 10¹⁰ SHA-256 por segundo; redondeado
2 × 10¹⁰
20,000,000,000
Tiempo con la GPU, t
t=N÷v = 10¹⁰ ÷ (2 × 10¹⁰)
0.5 s
Velocidad de Python en una laptop, vel bucle del programa de abajo, un solo núcleo: de 1 a 3 × 10⁶ según la laptop
≈ 2 × 10⁶
2,000,000
Tiempo con la laptop, t
10¹⁰ ÷ (2 × 10⁶) = 5,000 s
≈ 1.4 h
Resultado
Todos los teléfonos de México se prueban en medio segundo con una GPU y en una a tres horas con Python en una laptop. Hashear un teléfono sin llave no lo esconde.

El programa de abajo lo hace con un espacio de juguete: un teléfono que empieza con 551234 y del que faltan 4 dígitos, N=104. Después hace lo mismo con HMAC, un hash que mezcla una llave secreta con el dato.

Python
import hashlib, hmac

def h(tel):                                   # hash sin llave: cualquiera lo puede calcular
    return hashlib.sha256(tel.encode()).hexdigest()

# El log «anonimizado» trae el hash de un teléfono de juguete: 55 1234 seguido de 4 dígitos
log = h("5512348907")
print("en el log:", log[:16], "...")

# El atacante no necesita deshacer el hash: prueba todos los teléfonos posibles
intentos = 0
for resto in range(10_000):                   # 10^4 opciones en este juguete
    candidato = f"551234{resto:04d}"
    intentos += 1
    if h(candidato) == log:
        print("encontrado:", candidato, "en", intentos, "intentos")
        break

# Con HMAC, la huella depende de una llave que el atacante no tiene
llave = bytes(range(32))                      # en la vida real, 32 bytes al azar guardados en KMS
seudonimo = hmac.new(llave, b"5512348907", hashlib.sha256).hexdigest()
print("con HMAC:", seudonimo[:16], "...")
aciertos = sum(h(f"551234{r:04d}") == seudonimo for r in range(10_000))
print("aciertos del atacante sin la llave:", aciertos)
Salida
en el log: bf7aa9b0df4c3e42 ...
encontrado: 5512348907 en 8908 intentos
con HMAC: 762a31827fc4fe5b ...
aciertos del atacante sin la llave: 0
Hash sin llave contra HMAC. Arriba, sin llave: el teléfono 5512348907 pasa por SHA-256 y da la huella que empieza con bf7aa9b0df, que es la que guarda el log. El atacante pasa por el mismo SHA-256 todos los teléfonos posibles, de 5512340000 a 5512349999, y en el intento 8,908 obtiene la misma huella: encontró el teléfono. Abajo, con HMAC: el teléfono y una llave secreta guardada en KMS pasan juntos por HMAC y dan la huella 762a31827fc4. El atacante, que no tiene la llave, solo puede calcular SHA-256 de cada teléfono, y sus huellas nunca coinciden: cero aciertos. SIN LLAVE · SHA-256 EN EL LOG 5512348907 SHA-256 bf7aa9b0df… EL ATACANTE PRUEBA TODOS 5512340000 5512340001 … 5512349999 SHA-256 ¡la misma! en el intento 8,908 CON HMAC · LA LLAVE VIVE EN KMS 5512348907 llave secreta HMAC 762a31827f… SIN LA LLAVE, EL ATACANTE… 10,000 tels. SHA-256 0 aciertos Sin la llave, no hay qué probar: son 2²⁵⁶ llaves.
Arriba, el hash sin llave: el atacante calcula la misma cuenta sobre todos los teléfonos y encuentra el que coincide. Abajo, con HMAC: sin la llave, sus cuentas dan otras huellas y no coincide ninguna.

HMAC: un seudónimo estable que solo tú puedes calcular

Con HMAC, la huella depende del teléfono y de la llave. El atacante que no tiene la llave ya no puede probar teléfonos: tendría que adivinar la llave primero. Una llave de 256 bits (ceros y unos) tiene 2²⁵⁶ ≈ 1.2 × 10⁷⁷ valores; con la misma fórmula, t=2256÷(2×1010) ≈ 5.8 × 10⁶⁶ segundos. La edad del universo es ≈ 4.4 × 10¹⁷ segundos (≈ 13,800 millones de años): la llave tardaría ≈ 1.3 × 10⁴⁹ veces eso.

Eso lo vuelve un buen seudónimo: el mismo teléfono siempre da el mismo HMAC, así que puedes contar cuántas veces aparece una persona o unir dos tablas tuyas, sin guardar el teléfono. La llave vive en un gestor de llaves (KMS, el servicio de AWS que guarda llaves y no las deja salir, o Secrets Manager), aparte de la llave de los buckets, y la usa solo el servicio que tiene permiso.

Pero sigue siendo seudónimo: quien tiene la llave puede recalcular el HMAC de cualquier teléfono y encontrar a la persona. Por eso el dato sigue siendo personal, se guarda con cifrado en reposo (lo guardado en disco va cifrado: sin la llave, los bytes no se leen) y con acceso restringido, y la llave se protege como lo que es: la tabla de equivalencias.

¿Cuánto tarda en revertirse un hash?Calculadora

Un hash sin llave se revierte probando todos los valores posibles: la misma cuenta de fuerza bruta de «Cifrado, llaves y certificados». Aplica la fórmula de la lección, N=10d y t=N÷v, y la misma cuenta para una llave de HMAC de L bits, con N=2L. Arranca con un teléfono de México (d = 10) y una GPU de juego (≈ 2 × 10¹⁰ SHA-256 por segundo: los ≈ 2.2 × 10¹⁰ medidos en «Cifrado, llaves y certificados», redondeados).

Valores posibles sin llave, NN=10d1.00 × 10^10
Tiempo para probarlos todos, t, en segundost=N÷v5.00 × 10^-1
El mismo t, en minutost÷600.008
Con HMAC: tiempo para probar todas las llaves, t, en segundost=2L÷v5.79 × 10^66
El mismo tiempo con HMAC, en años2L÷v, entre 31,557,600 segundos por año1.83 × 10^59

Sin llave, el tiempo crece 10 veces por cada dígito; con llave, se duplica por cada bit. Por eso una llave de 128 o 256 bits no se adivina, y un teléfono hasheado sí.

Empieza con un teléfono de 10 dígitos y una GPU de juego. Cambia la velocidad a 2,000 (en miles de hashes por segundo: Python en una laptop) y verás los ≈ 83 minutos (≈ 1.4 h) de la cuenta. Prueba con 18 dígitos, como si una CURP fuera solo de números, y mira cuánto crece. Luego baja la llave a 40 bits: con la GPU, una llave corta se adivina en menos de un minuto (mira el tiempo con HMAC en segundos).

Para ir más hondoLa sal secreta y el HMAC

Cuando reparte las vendedoras entre entrenamiento y prueba (el split del dataset) y entre los dos grupos de un experimento (A/B), Alba usa un «hash con sal» del seller_id: le pega un texto fijo antes de hashear. Si esa sal es secreta y larga, se comporta como una llave. HMAC es la forma estándar y revisada de hacer lo mismo, sin los errores de armarla a mano; por eso es la que se recomienda.

05

Reidentificación y k-anonimato

Esencial

Re-identification and k-anonymity

Quitar el nombre y el teléfono no basta. La reidentificación (re-identification) es volver a encontrar a la persona en datos que se publicaron como «anónimos», cruzándolos con otros datos que el atacante ya tiene.

Los datos que lo permiten se llaman cuasi-identificadores: ninguno identifica solo, pero juntos sí. El código postal, la fecha de nacimiento y el sexo son el ejemplo clásico: en un estudio publicado en 2000, con datos del censo de 1990, la investigadora Latanya Sweeney estimó que ≈ 87 % de la población de Estados Unidos queda identificada de forma única con solo esos tres datos.

Para ir más hondoEl caso del gobernador

En 1997, Sweeney ya había mostrado el riesgo con un caso real: encontró el expediente médico del gobernador de Massachusetts en los datos de visitas al hospital de los empleados del estado, que la aseguradora estatal había entregado «sin nombres», cruzándolos con el padrón electoral (la lista de votantes, que traía nombre, código postal, fecha de nacimiento y sexo).

¿Por qué funciona? Porque las combinaciones posibles son muchas más que las personas.

Personas por combinación
C=c1×c2×…×cj
m=PC
u≈e−(P−1)/C
donde
c1,…,cj
cuántos valores distintos puede tomar cada cuasi-identificador, en valores (códigos postales, fechas, sexos)
j
cuántos cuasi-identificadores hay (en el ejemplo, 3)
C
cuántas combinaciones posibles hay, en combinaciones
P
cuántas personas hay en la tabla, en personas
m
cuántas personas caen en cada combinación, en promedio
u
la fracción de personas que quedan solas en su combinación, de 0 a 1 (o en %), si se reparten al azar y parejo
e
el número de Euler, ≈ 2.718, la base de la función exponencial
Para ir más hondoDe dónde sale la última fórmula

La última fórmula sale de pensar en una persona: cada una de las otras P−1 cae en su misma combinación con probabilidad 1/C. La probabilidad de que ninguna caiga ahí es (1−1/C)P−1, que para C grande vale casi e−(P−1)/C.

Una tabla de 100,000 personasLa cuenta
Personas, Psupuesto: una ciudad mediana
100,000
100,000
Códigos postales, c1supuesto del ejemplo
50
50
Fechas de nacimiento, c2≈ 80 años × 365 días
80 × 365
29,200
Sexo, c3hombre o mujer, como en el registro
2
2
Combinaciones, C
C=c1×c2×c3 = 50 × 29,200 × 2
2,920,000
Personas por combinación, m
m=P÷C = 100,000 ÷ 2,920,000
≈ 0.034
Solas en su combinación, uP−1 = 99,999
u≈e−(P−1)/C = e−99,999/2,920,000 = e−0.0342
≈ 96.6 %
Con solo el año de nacimiento, c2
80
80
Combinaciones, C
C=c1×c2×c3 = 50 × 80 × 2
8,000
Personas por combinación, m
m=P÷C = 100,000 ÷ 8,000
12.5
Solas, u
u≈e−(P−1)/C = e−99,999/8,000 = e−12.5
≈ 0.0004 %
Resultado
Con la fecha completa, ≈ 97 de cada 100 personas son únicas: quitarles el nombre no las esconde. Con solo el año, quedan ≈ 12 por combinación y casi nadie está solo.
Para ir más hondo¿Cuadra la fórmula con el 87 % de Sweeney?

Con los números de Estados Unidos de 1990 (≈ 249 millones de personas en el censo y del orden de 30,000 a 40,000 códigos postales de 5 dígitos), y con las mismas fechas de 80 años × 365 días y 2 sexos, la misma fórmula da u ≈ 87 % a 90 %, del mismo tamaño que el 87 % que estimó Sweeney. La fórmula supone que la gente se reparte parejo; en la vida real se amontona (muchas personas en unos códigos postales y unas edades), así que la cuenta es solo una aproximación: un análisis posterior, hecho con cómo se reparte de verdad la gente en el censo de 2000, dio ≈ 63 %, que sigue siendo la mayoría. Y los que quedan en las orillas son todavía más fáciles de encontrar.

k-anonimato: cada combinación, al menos k personas

El k-anonimato (k-anonymity) es una regla para publicar tablas: cada combinación de cuasi-identificadores debe aparecer en al menos k filas. Así, quien sabe el código postal y la edad de alguien encuentra k candidatos, no uno. El k de una tabla es el tamaño de su grupo más chico.

Se consigue generalizando: en vez del código postal completo, sus primeros 3 dígitos; en vez de la edad, la década; o quitando una columna. Cada generalización junta filas en grupos más grandes y le quita detalle a la tabla.

Para ir más hondoMedir el k con Python

Este programa toma la tabla de juguete de la figura de abajo, mide su k con los datos exactos y después de generalizar, y muestra qué padecimientos quedan en cada grupo.

Python
from collections import Counter

# Una tabla «anónima» de juguete: sin nombre, pero con código postal, edad y sexo
filas = [("06700", 23, "M", "asma"),     ("06700", 27, "M", "diabetes"),
         ("06700", 24, "H", "asma"),     ("06720", 31, "H", "gripa"),
         ("06720", 38, "H", "asma"),     ("06720", 35, "M", "gripa"),
         ("03100", 52, "M", "diabetes"), ("03100", 57, "M", "gripa")]

def k_de(tabla, cuasi):
    grupos = Counter(cuasi(f) for f in tabla)   # cuántas filas comparten cada combinación
    return min(grupos.values()), grupos

exacto = lambda f: (f[0], f[1], f[2])                   # código postal, edad y sexo tal cual
general = lambda f: (f[0][:3] + "**", f"{f[1] // 10 * 10}s")   # 3 dígitos, década, sin sexo

for nombre, cuasi in (("exacto", exacto), ("generalizado", general)):
    k, grupos = k_de(filas, cuasi)
    print(nombre, "-> k =", k, "| tamaños de los grupos:", sorted(grupos.values()))

_, grupos = k_de(filas, general)
for clave, n in grupos.items():
    print(clave, n, "padecimientos:", [f[3] for f in filas if general(f) == clave])
Salida
exacto -> k = 1 | tamaños de los grupos: [1, 1, 1, 1, 1, 1, 1, 1]
generalizado -> k = 2 | tamaños de los grupos: [2, 3, 3]
('067**', '20s') 3 padecimientos: ['asma', 'diabetes', 'asma']
('067**', '30s') 3 padecimientos: ['gripa', 'asma', 'gripa']
('031**', '50s') 2 padecimientos: ['diabetes', 'gripa']
La misma tabla de 8 personas, dos veces. Arriba, con los datos exactos: código postal, edad y sexo. Cada fila tiene una combinación distinta, así que cada persona está sola en su grupo: k es igual a 1. Abajo, generalizada: el código postal a sus primeros 3 dígitos, la edad por década y sin sexo. Quedan tres grupos: 067** con edad de 20 a 29, con 3 personas que tienen asma, diabetes y asma; 067** con edad de 30 a 39, con 3 personas que tienen gripa, asma y gripa; y 031** con edad de 50 a 59, con 2 personas que tienen diabetes y gripa. El grupo más chico tiene 2 filas: k es igual a 2. EXACTO · CADA FILA ESTÁ SOLA C.P.EDADSEXOPADECIMIENTO 0670023Masma 0670027Mdiabetes 0670024Hasma 0672031Hgripa 0672038Hasma 0672035Mgripa 0310052Mdiabetes 0310057Mgripa k = 1 generalizar GENERALIZADO · 3 DÍGITOS, DÉCADA, SIN SEXO 067** · 20 a 29 asma · diabetes · asma 3 067** · 30 a 39 gripa · asma · gripa 3 031** · 50 a 59 diabetes · gripa 2 k = 2 el grupo más chico
La misma tabla dos veces (en la columna del sexo, M = mujer y H = hombre). Con los datos exactos, cada fila está sola (k = 1). Con el código postal a 3 dígitos, la edad por década y sin sexo, quedan 3 grupos de 3, 3 y 2 filas (k = 2).
¿Cuántas personas quedan solas?Calculadora

Cuántas personas comparten cada combinación de cuasi-identificadores. Aplica las fórmulas de la lección: C=c1×c2×c3, m=P÷C y u≈e−(P−1)/C, que supone que la gente se reparte al azar y parejo. Arranca con la tabla de la cuenta: 100,000 personas, 50 códigos postales, la fecha de nacimiento completa (80 años × 365 días) y el sexo.

Combinaciones posibles, Cc1×c2×c32,920,000
Personas por combinación, en promedio, mm=P÷C0.034
Fracción de personas solas en su combinación, uu≈e−(P−1)/C96.63 %
Personas solas, en promedioP×u96,633

Si m es mucho menor que 1, casi todos quedan solos: quitar el nombre no esconde a nadie. Hay que generalizar hasta que m sea de varias personas, y aun así los grupos raros quedan chicos, porque la gente no se reparte parejo.

Empieza con la tabla de la cuenta: 100,000 personas, 50 códigos postales, la fecha completa y el sexo. Cambia la fecha a solo el año (80) y mira cómo se desploma la fracción de personas solas. Luego sube los códigos postales a 2,000: una ciudad grande con mucho detalle vuelve a dejar gente sola.

Para ir más hondoCuando el grupo entero comparte el secreto

El k-anonimato protege contra «¿cuál de estas filas es ella?», pero no contra «¿qué tiene?». Si las 2 personas del grupo 031**, década de los 50, tuvieran diabetes, saber que tu vecina está en ese grupo te diría su diagnóstico sin saber cuál fila es. Para eso existe la ℓ-diversidad: cada grupo debe tener al menos ℓ valores distintos del dato sensible. Y aun así hay ataques que cruzan varias tablas publicadas.

La respuesta más fuerte que se conoce es la privacidad diferencial (differential privacy): en vez de publicar los datos, publicas resultados (conteos, promedios, incluso un modelo) con un ruido calculado, de forma que el resultado casi no cambia si una persona está o no está en los datos. La usó el censo de Estados Unidos de 2020 para publicar sus tablas, y la usan algunas empresas para publicar estadísticas. Tiene un costo: el ruido le quita precisión, sobre todo a los grupos chicos.

Para ML, la lección práctica es esta: un dataset sin nombres casi nunca es anónimo. Un dataset de fotos con su fecha, su ciudad y la categoría de lo que se vende puede llevar a una persona. Lo honesto es tratarlo como seudónimo: dato personal, con acceso restringido, plazo y forma de borrarlo.

06

Derechos de las personas y el borrado

Esencial

People's rights and erasure

Las leyes le dan a cada persona derechos sobre sus datos. En México se resumen en cuatro letras, los derechos ARCO (ARCO rights):

  • Acceso: saber qué datos suyos tienes y qué haces con ellos.
  • Rectificación: corregirlos si están mal o incompletos.
  • Cancelación: que los saques de tus archivos y sistemas. En México pasan primero por un bloqueo: se guardan sin usarse solo mientras dura el plazo para reclamar algo de esa relación, y luego se suprimen.
  • Oposición: que dejes de usarlos para una finalidad, aunque los tengas bien.

En Europa son casi los mismos, más otros como la portabilidad (recibir tus datos en un formato que otro servicio pueda leer). El más famoso es el derecho al borrado (right to erasure), también llamado «derecho al olvido».

Borrar en un sistema de ML: cuatro pasos

Borrar una fila de una base de datos es un DELETE, una orden de SQL. Borrar a una persona de un sistema de ML es encontrar cada copia. Por eso el mapa de datos no es un trámite: sin él, el borrado es una búsqueda a ciegas.

  1. 1

    Encontrar todo por id

    El backend de publicaciones sabe qué publicaciones son de Ana y qué request_id tuvo cada foto. Con esos ids y el hash de cada foto se buscan las copias: en el log, en el bucket de fotos a etiquetar, en el golden set y en los manifests de los snapshots: el manifest es la lista de qué fotos forman cada snapshot.

  2. 2

    Borrar y sacar de los manifests

    Las fotos se borran de los buckets. Los manifests dicen en qué snapshots aparece cada una; el siguiente snapshot ya no las incluye. Los snapshots viejos son inmutables (no se pueden cambiar) a propósito: no se reescriben ni caducan. La huella de lo borrado se anota en un registro de borrados, y todo entrenamiento salta esas filas. Lo ves a fondo en «Versionado y linaje».

  3. 3

    Decidir qué pasa con el modelo

    El modelo ya entrenado no se «desentrena»: no guarda las fotos, sino millones de parámetros (los números que aprendió) que cada foto movió un poco, así que no hay una fila que borrar. Se documenta, y el siguiente reentrenamiento mensual ya no incluye esas fotos. Qué tan pronto hay que llegar ahí lo decide legal.

  4. 4

    Dejar constancia, sin repetir los datos

    Se anota en el registro de auditoría qué se borró, de dónde y cuándo, con los ids y no con las fotos. Así se puede demostrar sin volver a guardar lo que se borró.

Una solicitud de borrado recorre todo el sistema · Lo que dispara una solicitud de borrado. Las flechas punteadas son lo que no se borra al instante: el log caduca solo a los 90 días, y el modelo cambia con el siguiente reentrenamiento.
  • Ana · pide borrar sus datos
    Ejerce su derecho al borrado, la «C» de los derechos ARCO, por el medio que dice el aviso de privacidad.
  • Backend de publicaciones · sabe qué es de Ana
    Con la cuenta de Ana encuentra sus publicaciones, el request_id de cada foto y su hash. Sin esa unión, nadie podría encontrar sus copias seudónimas.
  • Fotos del producto · las originales
    El producto borra las fotos originales de las publicaciones de Ana. Si el bucket tiene versiones prendidas (guarda cada versión anterior de un archivo), también hay que borrar esas: si no, la foto sigue ahí.
  • Log de predicciones · caduca a los 90 días
    Sus líneas solo traen request_id, categorías y un prefijo del hash, y se borran solas a los 90 días. Se reescriben las particiones de esos días o se deja que caduquen, según decida legal.
  • Job de borrado · por request_id y hash
    Un programa que recibe la lista de ids y hashes y los busca en cada copia del mapa de datos. Con un dataset indexado por id, borrar es una consulta y un job, no una búsqueda a ciegas.
  • Etiquetado y golden set · copias sin EXIF
    Si alguna foto de Ana estaba en el bucket de fotos a etiquetar (≈ 5,000 al mes, 90 días) o en el golden set de 50,000, se borra de ahí. El golden set pierde unas fotos y se documenta el cambio.
  • Modelo en producción · no se desentrena
    El modelo actual aprendió de esas fotos y no se puede «borrar» de él (machine unlearning). El siguiente reentrenamiento mensual se hace sin ellas, y el modelo viejo se retira.
  • Siguiente snapshot · ya sin las fotos
    Los manifests dicen en qué snapshots aparece cada foto. El siguiente ya no las incluye. Los viejos, que son inmutables para poder reproducir cada modelo, salen de circulación cuando vence su retención.
  • Registro de auditoría · qué, dónde, cuándo
    Se anota qué se borró, de dónde y cuándo, con los ids y sin las fotos: el registro de auditoría sirve para demostrarlo sin volver a guardar lo borrado.

El log de predicciones merece una nota. Sus líneas no traen la foto ni el nombre de Ana, solo el request_id y un prefijo de hash, y caducan solas a los 90 días. Hay dos opciones: reescribir las particiones (los pedazos del log, uno por día) de los días donde aparece, sin esas líneas, o dejar que caduquen y decirlo. Cuál vale la decide legal; lo que pone ML es que las dos sean posibles: un log particionado por día, con una regla de borrado a los 90 días, y la forma de encontrar las líneas de una persona.

Decisiones que toma solo un modelo

Hay un derecho que toca directo a ML. Una decisión automatizada (automated decision) es una decisión tomada solo por un sistema, sin una persona que la revise, que afecta a alguien de forma legal o igual de seria: negarle un crédito, rechazar su solicitud de empleo o suspender su cuenta. Las dos leyes le dan derechos a la persona frente a ella: en Europa, a no quedar sujeta a una decisión así; en México, a oponerse.

La sugerencia de categoría de Alba no está en ese caso: Ana ve la sugerencia y puede cambiarla a mano. Pero si un modelo de moderación bajara publicaciones sin que nadie las revise, o uno de fraude cerrara cuentas solo, sí. La defensa de diseño es la misma en todos: que exista una persona que revise los casos graves, y que se pueda explicar por qué se decidió.

Para ir más hondoLo que dice cada ley de las decisiones automatizadas

En Europa, la persona tiene derecho a no quedar sujeta a una decisión así. Hay excepciones (que sea necesaria para un contrato con ella, que una ley la permita o que ella lo consienta de forma explícita), y aun entonces puede pedir que una persona la revise y dar su punto de vista. La ley mexicana de 2025 reconoce el derecho a oponerse a un tratamiento automatizado, sin intervención humana, que le produzca efectos jurídicos no deseados o afecte de forma significativa sus intereses, derechos o libertades.

07

Desaprender: por qué no se promete

Extra

Unlearning: why it is not promised

Un modelo no guarda las fotos con las que se entrenó. El de Alba, una ResNet-50 que elige entre 500 categorías, guarda ≈ 24.5 millones de parámetros que cada foto movió un poquito durante el entrenamiento. No hay una fila que borrar.

Lo que piden quienes quieren «borrar a alguien del modelo» se llama machine unlearning (desaprendizaje automático): conseguir un modelo que se comporte como si esa persona nunca hubiera estado en los datos. La única forma segura de lograrlo es reentrenar sin sus datos. Hay técnicas de investigación que intentan hacerlo más barato, pero en noviembre de 2026 no son una herramienta estándar ni un método con garantía que se pueda prometer.

En Alba, reentrenar ya es rutina: cada mes, una corrida de ≈ 3 a 4 horas de una GPU cuesta ≈ US$3–4 (≈ US$10–50 al mes, con las corridas de prueba). Así que la promesa honesta es la que ya hace: el siguiente modelo mensual no incluye las fotos borradas, y el de antes se retira.

La línea del tiempo de un borrado, de arriba hacia abajo. Fin de septiembre: el snapshot de septiembre trae la foto de Ana. 1 de octubre: el modelo resnet50-2026-10-01 se entrena con ese snapshot y aprendió de la foto. 20 de octubre: Ana pide el borrado; sus fotos salen de los buckets y quedan fuera del siguiente snapshot. Fin de octubre: el snapshot de octubre ya no trae la foto. Principios de noviembre: el modelo resnet50-2026-11-01 se entrena con él y nunca vio la foto; después de su canary, el modelo de octubre se queda vivo 24 a 48 horas por si hay que regresar, y luego se retira. UN BORRADO EN EL TIEMPO FIN DE SEPTIEMBRE Snapshot de septiembre: trae la foto 1 DE OCTUBRE resnet50-2026-10-01: aprendió de ella 20 DE OCTUBRE · ANA PIDE BORRAR Sus fotos salen de los buckets y quedan fuera del siguiente snapshot FIN DE OCTUBRE Snapshot de octubre: ya sin la foto PRINCIPIOS DE NOVIEMBRE resnet50-2026-11-01: nunca la vio El de octubre se queda 24–48 h por si hay que regresar, y se retira.
La línea del tiempo de un borrado. El modelo de octubre se entrenó con el snapshot de septiembre, que tiene la foto de Ana. Ana pide el borrado el 20 de octubre; el snapshot de octubre ya no la trae, y el modelo de noviembre se entrena sin ella.

¿Importa que el modelo de octubre la «recuerde»? A veces sí. Un modelo grande puede memorizar ejemplos raros, y hay ataques de inferencia de pertenencia que adivinan si un dato estuvo en el entrenamiento, o que sacan texto memorizado de un modelo de lenguaje. Para un clasificador de 500 categorías entrenado con ≈ 1.8 millones de fotos, el riesgo de que deje ver una foto de Ana es bajo. Para un modelo de lenguaje entrenado con conversaciones de soporte, no lo es: ahí conviene no meter datos personales al entrenamiento desde el principio.

Reentrenar por pedazos

Una de las ideas de investigación más conocidas para abaratarlo (la publicaron en 2021 con el nombre SISA) es fácil de contar con números. En vez de un solo modelo con todas las fotos, entrenas 8 modelos chicos, cada uno con un octavo de los datos, y al predecir los juntas (por ejemplo, promediando sus probabilidades). Si Ana pide borrar una foto, solo reentrenas el pedazo donde estaba: ≈ 1/8 del trabajo. Si además cada pedazo guarda checkpoints (copias del modelo a mitad del entrenamiento), puedes regresar al checkpoint de antes de que entrara la foto y seguir desde ahí.

El costo está en la calidad: 8 modelos que vieron un octavo de los datos cada uno suelen equivocarse más que uno que vio todo, y predecir con 8 modelos cuesta más cómputo en cada request. Para Alba, que ya reentrena todo cada mes por ≈ US$3–4 la corrida, no vale la pena. Para un modelo que cuesta millones entrenar, la cuenta cambia, y por eso se investiga.

Lo que sí guarda una fila por foto

Hay piezas de un sistema de ML que sí guardan algo por cada foto, y esas sí se borran fila por fila. Un índice de búsqueda con embeddings (vectores que resumen cada foto, para encontrar las parecidas) guarda un vector por foto: en Alba, el de recomendaciones guarda vectores de 128 números para ≈ 100 millones de publicaciones. Ese vector salió de la foto de Ana y apunta a su publicación: es dato derivado de ella, y cuando se borra la publicación se borra su vector del índice. Lo mismo pasa con un caché de predicciones por foto (una copia de cada respuesta, para no recalcularla) o con una feature store (la base de datos de las columnas que un modelo usa como entrada) con columnas por vendedora. El mapa de datos las lista igual que a los buckets.

08

La ley: México, Europa y los proveedores

Esencial

The law: Mexico, Europe and vendors

En México: la LFPDPPP de 2025

La LFPDPPP es la Ley Federal de Protección de Datos Personales en Posesión de los Particulares: la que aplica a las empresas privadas en México. La versión nueva se publicó en el Diario Oficial de la Federación (el periódico del gobierno donde se publican las leyes) el 20 de marzo de 2025, entró en vigor al día siguiente y reemplazó a la de 2010.

Sus piezas son las de esta lección: aviso de privacidad, consentimiento (expreso y por escrito para datos sensibles), finalidades, derechos ARCO, medidas de seguridad, el derecho a oponerse a tratamientos automatizados y reglas para transferir datos. Desde la reforma de 2025, la vigila la Secretaría Anticorrupción y Buen Gobierno, del gobierno federal.

A Alba le aplica porque trata datos de personas en México, como Ana.

Para ir más hondoQuién la vigilaba antes

Antes de 2025 la vigilaba el INAI (Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales), un órgano autónomo, que no dependía del gobierno, y que desapareció con la reforma.

En Europa: el GDPR, aunque estés fuera

El GDPR (General Data Protection Regulation, el Reglamento General de Protección de Datos de la Unión Europea) aplica desde mayo de 2018. Lo importante para una empresa mexicana es su alcance: aplica a cualquier empresa del mundo que ofrezca bienes o servicios a personas que están en la Unión Europea, o que vigile su comportamiento, aunque la empresa no tenga oficinas allá. Si Alba deja que vendan personas en España, el GDPR le aplica para esas personas.

Sus multas llegan hasta 20 millones de euros o el 4 % de la facturación mundial anual de la empresa (todo lo que vende en un año, en todos los países), lo que sea mayor.

Para ir más hondoOtras reglas del GDPR que conviene tener a mano
  • Brechas: aviso a la autoridad en 72 horas desde que la empresa se entera, salvo que sea improbable que cause un riesgo para las personas, y a las personas si el riesgo es alto.
  • Seudónimo y anónimo: el dato seudónimo sigue cubierto para quien puede volver a la persona, como Alba, que tiene la tabla o la llave; el anónimo de verdad, no.
  • Decisiones automatizadas: el derecho a no quedar sujeto a una decisión tomada solo por un sistema con efectos serios.
Para ir más hondoLo que está cambiando en Europa

Desde 2025, el Tribunal de Justicia de la Unión Europea, el que interpreta sus leyes, acepta que, para quien recibe un dato seudónimo sin ningún medio razonable de volver a la persona, puede no ser dato personal. Para Alba, que tiene la tabla y la llave, sigue siéndolo.

En noviembre de 2026, la Unión Europea discute una reforma (el paquete llamado Digital Omnibus) que tocaría algunas de estas reglas, entre ellas el dato seudónimo y el aviso de brechas. Todavía no es ley: antes de diseñar con estos números, verifica con legal el texto vigente.

Quién trata los datos por ti

Casi nadie trata los datos solo. AWS guarda los buckets y corre las máquinas; un proveedor externo etiqueta las fotos. Cada uno es un encargado (processor): alguien que trata datos personales por cuenta de la empresa responsable, solo para lo que ella le pide. Alba sigue siendo la responsable (controller): la que decide para qué y cómo.

Con un encargado se firma un contrato que dice qué datos recibe, para qué, cómo los protege, cuánto los guarda y que los borra al terminar. Y se le manda lo mínimo: al proveedor de etiquetado de Alba le llegan ≈ 5,000 fotos al mes, sin EXIF, sin el nombre de la vendedora y sin su publicación.

Para ir más hondoResponsable, encargado, remisión y transferencia

La ley mexicana y su reglamento distinguen dos formas de mandar datos a otra empresa. Si se los mandas a un encargado, que los trata por tu cuenta y solo para lo que le pides, el reglamento lo llama remisión: no necesita el consentimiento de la persona ni avisarle, aunque el encargado esté en otro país, porque el dato sigue bajo tu responsabilidad; sí necesita un contrato u otro instrumento que fije la relación. Si se los mandas a otra empresa que los va a usar para sus propios fines, la ley lo llama transferencia: esa empresa asume las mismas obligaciones que tú, el aviso de privacidad trae una cláusula para que la persona diga si la acepta y, salvo excepciones de la ley, hace falta su consentimiento. (El reglamento es de 2011; en noviembre de 2026 sigue publicado como vigente junto a la ley nueva.)

La diferencia no está en el contrato que firmes, sino en quién decide para qué se usan. Un proveedor de etiquetado que solo etiqueta es encargado. Uno que además usa tus fotos para entrenar sus propios modelos ya está decidiendo una finalidad suya: el reglamento lo trata entonces como responsable, con todas sus obligaciones, y eso tiene que estar prohibido en el contrato o cubierto en el aviso.

Mandar datos a otro país

Una transferencia internacional (cross-border transfer) es mandar datos personales a otro país. Así se le dice en ingeniería y en el GDPR; la ley mexicana reserva la palabra «transferencia» para cuando quien recibe es otra empresa responsable, y al envío a un encargado lo llama remisión. En ML pasa sin que nadie lo note:

  • La región de la nube. Ana vive en la Ciudad de México y su foto se procesa en us-east-1, en Virginia, a ≈ 3,000 km: eso ya es mandar sus datos a Estados Unidos. Como AWS los trata por cuenta de Alba, para la ley mexicana es una remisión a un encargado, no una transferencia.
  • El proveedor de etiquetado, si sus personas trabajan desde otro país.
  • Una API gestionada o un modelo de lenguaje de un tercero, que recibe lo que le mandes y lo procesa donde estén sus servidores.

Las leyes no prohíben mandar datos fuera, pero ponen condiciones, y cada una cuenta distinto.

Para ir más hondoCómo cuenta cada ley un envío a otro país

La ley mexicana no pone condiciones especiales por el país: si quien recibe es un encargado (la nube, el proveedor de etiquetado), es una remisión con su contrato; si es otra empresa para sus propios fines, es una transferencia, con su cláusula en el aviso y, salvo excepciones, el consentimiento.

El GDPR, en cambio, cuenta como transferencia cualquier envío fuera de Europa, también a un encargado. Lo permite a países que la Comisión Europea (el órgano de gobierno de la Unión) declaró con protección «adecuada», o con garantías como las cláusulas tipo: contratos modelo, aprobados por la Comisión, que obligan a quien recibe los datos a protegerlos. Fuera de eso, solo en casos puntuales que el reglamento enumera.

Cuando una ley o un contrato exige que los datos se queden en un país, se habla de residencia de datos, y eso decide en qué región de la nube se despliega.

Brechas: cuando los datos se escapan

Una brecha de datos (data breach) es cualquier incidente en que datos personales se pierden, se destruyen, se cambian o los ve alguien que no debía: un bucket que quedó público, una laptop robada con un CSV, una llave filtrada en un repositorio de código.

Las leyes piden dos cosas. Primero, avisar: en Europa, a la autoridad en 72 horas (y a las personas si el riesgo es alto); en México, de inmediato a las personas afectadas cuando la brecha afecte de forma significativa sus derechos patrimoniales o morales (su dinero y sus bienes, o su honor y su vida privada), para que puedan protegerse. La ley mexicana no pide avisar a la autoridad. Segundo, poder decir qué se escapó, y aquí vuelve el mapa de datos: si sabes que el bucket público solo tenía el log seudónimo de los últimos 90 días, puedes decir qué campos, de cuántas líneas y de qué fechas. Si no lo sabes, tienes que suponer lo peor.

09

Errores comunes

Esencial

Common mistakes

10

En la vida real

Extra

In real life

En Alba, todo lo de esta lección es un diseño concreto: el gateway no guarda la foto; el log trae request_id y un prefijo del hash, sin la foto ni el EXIF, durante 90 días; las ≈ 5,000 fotos al mes que van a etiquetar se copian sin EXIF y se borran a los 90 días; el golden set de 50,000 fotos está congelado y sin EXIF; un borrado se busca por request_id y hash, sale de los buckets y del siguiente snapshot, y el modelo cambia en el siguiente reentrenamiento mensual. Le aplican la LFPDPPP y, si atiende personas en Europa, el GDPR.

Un sistema de OCR de documentos de identidad (un modelo que lee el texto de una imagen). Aquí el dato personal no es un accidente: es la etiqueta. El modelo lee nombre, CURP y domicilio de una credencial. Las reglas cambian: los valores de los campos nunca van a los logs ni a las métricas (solo «el campo CURP salió con confianza 0.97», nunca la CURP), las copias de entrenamiento viven en una cuenta aparte con acceso mínimo, y las fotos que el sistema rechaza no se guardan.

Un modelo de lenguaje y un asistente con RAG. Las preguntas de la gente traen teléfonos, correos y direcciones sin que nadie lo pida. La práctica es detectarlos y taparlos antes de escribir el log, no guardar los prompts (lo que la persona le escribe al modelo) ni las respuestas por omisión y, si se usa un modelo de un tercero, revisar en qué país procesa y si guarda lo que recibe.

Cámaras de video en una fábrica. Los clips muestran a trabajadores: son dato personal aunque nadie haga reconocimiento facial. Se avisa a quienes aparecen, se guardan pocos días, se registra quién vio qué, y las imágenes que se conservan como evidencia se guardan con las caras difuminadas.

Un agente de soporte. Un agente (un programa con un modelo de lenguaje que da pasos por su cuenta: consulta, decide y actúa) que lee el historial de pedidos de una persona y propone un reembolso trata datos personales en cada paso: lo que la persona escribe, lo que el agente consulta y lo que propone. En Alba, los reembolsos de más de US$50 los aprueba una persona; eso, además de proteger el dinero, evita que una decisión con efecto real sobre alguien quede tomada solo por un sistema.

Fuera de México y Europa hay otras leyes con la misma lógica. En Estados Unidos no hay una ley federal general (en noviembre de 2026 hay proyectos en el Congreso, ninguno aprobado): HIPAA (Health Insurance Portability and Accountability Act, la ley de datos de salud) cubre los datos de salud que manejan hospitales y médicos, seguros médicos y quienes trabajan para ellos, y pide, entre otras cosas, acceso mínimo y registrado. La CCPA (California Consumer Privacy Act) de California cubre a los residentes de ese estado frente a empresas que pasan ciertos umbrales y les da derechos parecidos a los ARCO. Tiene reglas nuevas vigentes desde enero de 2026 que entran por etapas: las de decisiones automatizadas se cumplen desde enero de 2027. Cuando un sistema atiende a gente de varios países, la pregunta de diseño es la misma: dónde están las personas, qué datos se juntan y a dónde viajan.

11

Ejercicios

Esencial

Exercises

Resuélvelos con lápiz antes de abrir la solución. Los de fuerza bruta y combinaciones se pueden comprobar con las calculadoras.

  1. 1Fácil

    Di si cada dato es personal, y si es sensible: (a) la foto de unos tenis sobre un fondo blanco, sin EXIF; (b) la foto de un medicamento con la receta a nombre de la vendedora; (c) el request_id 9f2c41d0 en el log de Alba; (d) «el 4 % de las fotos de hoy fueron de bicicletas».

    Ver la solución paso a paso
    • (a) Si está ligada a una publicación y a una cuenta, sí es dato personal, aunque la foto en sí no muestre a nadie: lleva a quien la subió. Sola y sin liga, no.
    • (b) Personal y sensible: la receta trae el nombre y deja ver un dato de salud.
    • (c) Personal, seudónimo: no trae el nombre, pero el backend une ese request_id con la publicación y la cuenta.
    • (d) No: es un conteo de millones de fotos del que no se saca a nadie.
  2. 2Fácil

    El log de Alba guarda ≈ 10 millones de líneas al día durante 90 días. ¿Cuántas hay vivas? Si la retención bajara a 30 días, ¿cuántas dejarían de estar expuestas en una brecha?

    Ver la solución paso a paso
    • Con E=r×D: r = 10 M al día, D = 90 días, E = 10 M × 90 = 900 millones de líneas.
    • A 30 días: E = 10 M × 30 = 300 millones.
    • Dejarían de estar expuestas 900 M − 300 M = 600 millones de líneas, dos tercios. El costo: los análisis que necesitan más de 30 días tendrían que usar los agregados.
  3. 3Fácil

    Un equipo propone guardar sha256(correo) en el dataset «para que esté anonimizado». Explica en dos frases por qué no lo está.

    Ver la solución paso a paso
    • El hash es determinista: quien tenga una lista de correos calcula sus hashes y los compara, así que el dato se puede volver a ligar a la persona.
    • Además, el mismo correo da el mismo hash en todas las tablas, así que sirve para unirlas. Es un seudónimo, y por eso sigue siendo dato personal.
  4. 4Fácil

    La foto de Ana se procesa en us-east-1. ¿Qué tipo de operación es esa para la ley mexicana, y qué necesita?

    Ver la solución paso a paso
    • Los datos de una persona en México salen a Estados Unidos, donde está la región (en Virginia, a ≈ 3,000 km): en ingeniería se le dice transferencia internacional.
    • Pero AWS trata los datos por cuenta de Alba: es un encargado. Para la ley mexicana y su reglamento eso es una remisión internacional, no una transferencia: no necesita el consentimiento de Ana ni avisarle, pero sí un contrato que diga cómo protege los datos y que solo los usa para lo que Alba le pide. Si Ana estuviera en la Unión Europea, el GDPR sí lo contaría como transferencia y Alba tendría que cumplir sus condiciones e informarlo.
  5. 5Medio

    Una tabla de 1,000,000 de personas trae código postal (200 valores), año de nacimiento (80) y sexo (2). ¿Cuántas combinaciones hay, cuántas personas por combinación y qué fracción queda sola? ¿Y si se cambia el año por la fecha completa (80 × 365)?

    Ver la solución paso a paso
    • Con C=c1×c2×c3, m=P÷C y u≈e−(P−1)/C, con P = 1,000,000:
    • Con el año: C = 200 × 80 × 2 = 32,000. m=P÷C = 1,000,000 ÷ 32,000 = 31.25. u≈e−999,999/32,000=e−31.25 ≈ 2.7 × 10⁻¹⁴: prácticamente nadie queda solo.
    • Con la fecha: c2 = 29,200, C = 200 × 29,200 × 2 = 11,680,000. m = 1,000,000 ÷ 11,680,000 ≈ 0.086. u≈e−0.0856 ≈ 91.8 % solos.
    • Cambiar el año por la fecha multiplica C por 365 y pasa de casi nadie a más de 9 de cada 10.
  6. 6Medio

    Un atacante tiene una GPU que calcula 2 × 10¹⁰ hashes por segundo. ¿Cuánto tarda en probar (a) todos los teléfonos de 10 dígitos, (b) todas las CURP posibles si fueran 18 dígitos del 0 al 9, (c) una llave de HMAC de 128 bits?

    Ver la solución paso a paso
    • Con t=N÷v y v = 2 × 10¹⁰:
    • (a) N = 10¹⁰: t = 0.5 segundos.
    • (b) N = 10¹⁸: t = 10¹⁸ ÷ (2 × 10¹⁰) = 5 × 10⁷ s; 5 × 10⁷ ÷ 31,557,600 s por año ≈ 1.6 años. Y una CURP de verdad tiene letras y una estructura fija (iniciales, fecha de nacimiento, sexo, estado), así que el espacio real es mucho más chico que «18 caracteres cualesquiera»: no la protejas con un hash sin llave.
    • (c) N = 2¹²⁸ ≈ 3.4 × 10³⁸: t ≈ 1.7 × 10²⁸ s ≈ 5.4 × 10²⁰ años.
  7. 7Medio

    Ana pide a Alba borrar sus datos. Haz la lista de dónde hay que buscar y qué pasa en cada lugar, en el orden de los cuatro pasos.

    Ver la solución paso a paso
    • Encontrar: con sus publicaciones, el backend saca sus request_id y el hash de cada foto. Con eso se busca en el log de predicciones, en el bucket de fotos a etiquetar, en el golden set y en los manifests de los snapshots.
    • Borrar: el producto borra las fotos de sus publicaciones; se borran sus copias en el bucket de etiquetado y en el golden set, si estaban; el siguiente snapshot ya no las incluye. El log: se reescriben sus días o se deja caducar a los 90 días, lo que decida legal.
    • El modelo: no se desentrena; el siguiente reentrenamiento mensual se hace sin esas fotos, y el modelo anterior se retira.
    • Constancia: en el registro de auditoría, qué se borró, de dónde y cuándo, con ids y sin las fotos.
  8. 8Medio

    El proveedor de etiquetado de Alba recibe ≈ 5,000 fotos al mes y las guarda 90 días. ¿Cuántas fotos tiene en su poder en cualquier momento? Nombra tres cosas que debe decir su contrato.

    Ver la solución paso a paso
    • Con E=r×D, las dos en meses: r = 5,000 al mes y D = 90 días ≈ 3 meses: E ≈ 5,000 × 3 = ≈ 15,000 fotos. (En días da lo mismo: 5,000 ÷ 30.4 ≈ 164 al día × 90 ≈ 14,800.)
    • El contrato de un encargado dice: qué datos recibe y para qué (solo etiquetar), cómo los protege (cifrado, acceso por persona, registro), cuánto los guarda y que los borra al terminar; también que no los usa para nada propio y desde qué país trabaja.
  9. 9Reto

    Un equipo de Alba quiere publicar un dataset «abierto» para investigación con 100,000 fotos de productos, cada una con la fecha y hora de subida, la ciudad de la vendedora y la categoría. (a) ¿Es anónimo? (b) Propón tres cambios para acercarlo y di qué se pierde con cada uno.

    Ver la solución paso a paso
    • (a) No. La fecha y hora exacta, la ciudad y la categoría son cuasi-identificadores: cualquiera puede buscar en el marketplace una publicación de esa categoría, en esa ciudad, a esa hora, y encontrar a la vendedora. Y las fotos pueden traer caras, casas o placas.
    • (b) Cambios posibles:
    • Quitar la hora y dejar solo el mes: se pierde estudiar patrones por hora.
    • Cambiar la ciudad por la región del país: se pierde el detalle geográfico.
    • Revisar las fotos para quitar las que muestran personas, placas o documentos, y quitar todo el EXIF: se pierden ejemplos.
    • Luego medir el k de la tabla con los cuasi-identificadores que queden, y quitar los grupos chicos. Aun así, con fotos públicas que se pueden buscar por imagen, la anonimización es muy difícil: lo prudente es no publicarlo, o publicar solo estadísticas.
  10. 10Reto

    Alba recibe una solicitud de borrado el 20 de octubre. El modelo en producción, resnet50-2026-10-01, se entrenó con el snapshot de septiembre. Se reentrena una vez al mes, en ≈ 3–4 horas, y la versión anterior se queda viva 24–48 horas por si hay que regresar. (a) ¿Cuándo deja de haber en producción un modelo entrenado con la foto? (b) ¿Qué harías si legal pide que pase en menos de 7 días? (c) ¿Por qué no basta con reentrenar solo la última capa?

    Ver la solución paso a paso
    • (a) El snapshot de octubre ya no trae la foto, y el modelo resnet50-2026-11-01 se entrena con él a principios de noviembre. Antes de quedarse con todo el tráfico pasa 1–2 días en shadow (recibe copias de las requests sin contestar) y su canary (atiende una parte del tráfico que va creciendo: 5 % → 25 % → 100 %), y el de octubre sigue vivo 24–48 horas más por si hay que regresar. Hacia la primera semana de noviembre ya no hay ninguno con la foto: ≈ 2 semanas después de la solicitud.
    • (b) Adelantar un reentrenamiento: cuesta ≈ 3–4 horas de una GPU y ≈ US$3–4 por corrida, más pasar el gate de evaluación (el examen que el modelo nuevo debe pasar antes de salir) y el despliegue gradual. Si las solicitudes son frecuentes, se juntan por semana y se reentrena con ese ritmo.
    • (c) Porque la foto movió todos los parámetros, no solo los de la última capa: las capas de antes también aprendieron de ella. Reentrenar solo la cabeza (la última capa, la que elige la categoría) deja esa huella en el resto. La garantía está solo en reentrenar todo sin el dato.
12

Lo que sigue

Esencial

What comes next

  • La siguiente lección, «Ataques y cadena de suministro», explica la inferencia de pertenencia, el envenenamiento de datos y cómo se defiende el modelo; ahí vuelve la idea de que un modelo puede dejar ver algo de sus datos.
  • «Cifrado, llaves y certificados» explica a fondo el HMAC, KMS y el cifrado en reposo que protegen los seudónimos de esta lección, y «Autenticación y permisos» explica el registro de auditoría donde queda la constancia de cada borrado.
  • «Versionado y linaje» arma los snapshots con manifest que hacen que un borrado sea una consulta y un job, y no una búsqueda a ciegas.
13

Palabras que vas a oír

Esencial

Words you will hear

Estos son los conceptos que presentó esta lección. Cada uno tiene su tarjeta con la definición completa.

Dato personalpersonal dataCualquier información de una persona identificada o identificable: que dice quién es, o que junto con otros datos permite saberlo. Una cara, las coordenadas GPS de una foto, un correo o un id interno que se puede unir con otra tabla.Más

Es el concepto que usan las leyes de México (LFPDPPP) y de Europa (GDPR), y es más amplio que PII. «Identificable» es la parte que importa en machine learning: casi nunca hay nombres en un dataset, pero sí hay cosas que llevan a la persona, como el EXIF de una foto, una placa, una dirección IP o un request_id que el backend une con una cuenta. Un dato seudónimo sigue siendo dato personal; uno anónimo de verdad deja de serlo. Algunos son sensibles y piden más protección.

Ejemplo. En Alba, la foto de los tenis de Ana es dato personal porque está ligada a su publicación y a su cuenta. «El 4 % de las fotos de hoy fueron de bicicletas» no lo es: es un conteo de millones de fotos.

Ver en el glosario →

PIIPII · personally identifiable informationInformación que identifica a una persona: nombre, correo, teléfono, número de identificación, dirección. Es el término técnico que viene de Estados Unidos y se usa mucho como lista; las leyes hablan de «dato personal», que es más amplio.Más

La diferencia importa: un log puede no traer nada de una lista de PII y aun así traer datos personales, porque un id de dispositivo, un prefijo de hash o un request_id se pueden unir con otra tabla para llegar a la persona. Cuando un equipo dice «el log no trae PII», la pregunta de vuelta es si trae algo que, cruzado con otra cosa, lleve a alguien. La práctica de taparla en textos (correos, teléfonos) antes de guardarlos se llama redacción de PII.

Ejemplo. El log de Alba no trae nombre, correo ni teléfono: «sin PII directa». Pero trae el request_id, que el backend une con la publicación de Ana: es dato personal seudónimo.

Ver en el glosario →

Dato personal sensiblesensitive data · special categoriesUn dato personal que puede causar discriminación o un riesgo grave si se escapa o se usa mal: salud, origen étnico o racial, creencias, opiniones políticas, preferencia sexual, genética. Las leyes piden más seguridad y un permiso más fuerte: en México, consentimiento expreso y por escrito.Más

En Europa se llaman «categorías especiales» y suman la vida sexual, la afiliación sindical y la biometría para identificar. Una cara en una foto es dato personal, pero se vuelve dato biométrico sensible cuando se procesa para reconocer a la persona (sacar un vector de su cara y compararlo). Un dato de salud puede colarse sin que nadie lo busque: una receta en la foto de un medicamento, la etiqueta de una muestra médica. Para estos datos el consentimiento tiene que ser expreso (en México, además, por escrito: con firma o un mecanismo de autenticación), y conviene minimizarlos todavía más. En Europa, el consentimiento explícito es una de las excepciones que enumera el GDPR para poder tratarlos; hay otras.

Ejemplo. La foto de un medicamento con la receta a nombre de la vendedora trae su nombre y un dato de salud: es dato sensible. La de unos tenis no.

Ver en el glosario →

Mapa de datos personalesdata map · data inventoryEl inventario de cada lugar donde se guarda o se copia un dato personal: qué campos, para qué, cuánto tiempo, quién lo lee y en qué país. Sin él no se puede borrar a alguien ni decir qué se escapó en una brecha.Más

En machine learning, los datos personales se copian donde nadie diseñó una «base de clientes»: logs de requests y de predicciones, datasets y sus snapshots, el proveedor de etiquetado, los metadatos del archivo (EXIF), los servicios de terceros y las copias «de un rato» (un CSV en una laptop, un respaldo en otra región). La retención real es la de la copia que más dura, así que el mapa lista cada copia con su plazo. Es lo que vuelve el borrado una consulta y un job, y lo que permite responder en una brecha.

Ejemplo. En el mapa de Alba, la foto de Ana está en el bucket del producto; una línea seudónima en el log de predicciones (90 días); y, si sale dudosa, una copia sin EXIF en el bucket de etiquetado (90 días), en el proveedor y en un snapshot.

Ver en el glosario →

Minimización de datosdata minimizationJuntar y guardar solo los datos personales que necesitas para lo que vas a hacer, y nada más. Es la protección más barata: lo que no guardas no hay que cifrarlo, ni vigilarlo, ni borrarlo, y no se escapa.Más

En un log se hace con una lista de campos permitidos (allowlist), nunca con una de prohibidos: así un campo nuevo no se cuela sin que nadie lo decida. Nunca se guarda el contenido (body) de las requests «para depurar». También es minimizar quitar el EXIF antes de copiar una foto, mandarle a un encargado solo lo que necesita y darle a cada copia una retención corta con su regla de ciclo de vida.

Ejemplo. El log de Alba guarda request_id, caller, versión del modelo, top-5, latencias, bytes y un prefijo del hash: ≈ 300 bytes por línea. Sin la foto (≈ 200 KB), sin el EXIF y sin el id de la vendedora.

Ver en el glosario →

Finalidad del tratamientopurpose limitationEl «para qué» de un dato personal. Se dice antes de juntarlo, y después no se usa para otra cosa sin más. En México, una finalidad que no está en el aviso de privacidad de la empresa exige pedir el consentimiento de nuevo; en Europa, depende de si es compatible con la original.Más

En machine learning, el salto de finalidad pasa seguido: logs que se juntaron para depurar terminan siendo un dataset; conversaciones de soporte terminan entrenando un asistente; fotos de publicaciones terminan en un modelo de caras. Cada salto es una decisión que pasa por legal, y quien hace ML suele ser quien primero lo ve. El aviso de privacidad dice cuáles finalidades están cubiertas.

Ejemplo. Ana subió su foto para publicar sus tenis. Sugerirle la categoría encaja con eso; usar la foto para entrenar el modelo tiene que estar en el aviso de privacidad de Alba.

Ver en el glosario →

ConsentimientoconsentEl permiso de una persona para que uses sus datos personales. Vale si es libre (sin obligarla), informado (sabe qué pasará) y específico (para una finalidad concreta). Para datos sensibles, tiene que ser expreso; en México, además, por escrito.Más

No es la única base para tratar datos: también lo son cumplir un contrato con la persona, una obligación legal o, en Europa, un interés legítimo bien pesado. En Europa es una de seis bases al mismo nivel; en México es la regla general y la ley enumera las excepciones, y para datos no sensibles basta el consentimiento tácito (te mostraron el aviso y no te opusiste). Tiene un costo de diseño: se puede retirar en cualquier momento, y entonces hay que dejar de usar el dato y poder encontrar dónde está (el mapa de datos). «Expreso» quiere decir una acción clara, como marcar una casilla, no el silencio.

Ejemplo. Un sistema de transcripción de llamadas solo guarda la transcripción si quien organiza la llamada lo activa, y no entrena con el audio sin un consentimiento explícito.

Ver en el glosario →

Aviso de privacidadprivacy noticeEl documento que, según la ley mexicana, la empresa pone a disposición de la persona a más tardar cuando junta sus datos: quién es, qué datos junta, para qué finalidades y cómo ejercer los derechos ARCO (acceso, rectificación, cancelación y oposición).Más

Es la página «Aviso de privacidad» que aceptas al crear una cuenta. También dice cuáles de los datos son sensibles, cómo limitar su uso y, si la empresa piensa transferirlos a otra, si la persona lo acepta. Para quien hace machine learning funciona como un contrato con el sistema: si el aviso no dice que los datos se usan para entrenar modelos, eso no está cubierto aunque el código funcione: en México, una finalidad nueva pide el consentimiento otra vez. Por eso se lee antes de armar un dataset con datos de usuarios. Lo pide la LFPDPPP; el GDPR pide una información parecida.

Ejemplo. Si Alba quiere entrenar su clasificador con las fotos de las publicaciones, su aviso tiene que decir esa finalidad; si no la dice, en México tendría que pedirle el consentimiento a Ana otra vez.

Ver en el glosario →

SeudonimizaciónpseudonymizationReemplazar el identificador de una persona por otro (un id interno, un código al azar o un HMAC, que es un hash con llave secreta). Quien tiene la tabla o la llave puede volver a la persona, así que el dato sigue siendo personal.Más

Gana que quien solo ve el dato no sabe de quién es. Un hash sin llave es un mal seudónimo: se revierte por fuerza bruta cuando los valores posibles son pocos (teléfonos, correos de una lista) y une tablas igual. Para un seudónimo estable se usa HMAC con una llave guardada en KMS: el mismo id da siempre el mismo seudónimo, y sin la llave no se puede calcular. Aun así, se guarda con cifrado en reposo, acceso restringido y plazo. No es lo mismo que anonimizar.

Ejemplo. El log de Alba es seudónimo: trae request_id y un prefijo del hash de la foto. El backend une el request_id con la publicación, y quien tenga la foto publicada calcula su hash: los dos caminos llevan a Ana.

Ver en el glosario →

AnonimizaciónanonymizationTransformar datos personales de modo que nadie, con medios razonables, pueda volver a la persona. Un dato anónimo de verdad deja de ser dato personal, pero lograrlo es difícil y hay que demostrarlo.Más

Quitar el nombre no basta: los cuasi-identificadores (código postal, fecha de nacimiento, sexo, fecha y lugar de una foto) permiten la reidentificación. Las técnicas van de generalizar hasta cumplir k-anonimato a publicar solo agregados o resultados con privacidad diferencial (se les agrega ruido calculado para que ninguna persona sola cambie el resultado). Un dataset de fotos casi nunca es anónimo: las fotos pueden traer caras, casas o placas, y se pueden buscar por imagen. Lo honesto es tratarlo como seudónimo.

Ejemplo. «Cuántas publicaciones de cada categoría hubo por semana y por estado», sin ids, es anónimo. Las mismas publicaciones con su hora exacta y la ciudad de la vendedora no lo son.

Ver en el glosario →

Reidentificaciónre-identificationVolver a encontrar a la persona en datos que se publicaron como «anónimos», cruzándolos con otros datos que ya se tienen. Funciona porque unos pocos datos juntos casi siempre son únicos.Más

Los datos que lo permiten son los cuasi-identificadores: ninguno identifica solo, pero juntos sí (el código postal, la fecha de nacimiento y el sexo). Con código postal, fecha de nacimiento y sexo, ≈ 87 % de la población de Estados Unidos quedaba única, según un estudio publicado en 2000 con el censo de 1990 (otro análisis, con el censo de 2000, dio ≈ 63 %). La cuenta lo explica: las combinaciones posibles son muchas más que las personas, así que casi todos quedan solos en la suya. La defensa es generalizar hasta un k-anonimato razonable, publicar solo agregados o no publicar.

Ejemplo. 100,000 personas, 50 códigos postales, fechas de 80 años y 2 sexos: 2,920,000 combinaciones y ≈ 96.6 % de las personas solas en la suya.

Ver en el glosario →

k-anonimatok-anonymityUna regla para publicar tablas: cada combinación de cuasi-identificadores (datos que solos no identifican, pero juntos sí, como código postal y edad) aparece en al menos k filas, así que quien conoce esos datos de alguien encuentra k candidatos y no uno.Más

El k de una tabla es el tamaño de su grupo más chico. Se sube generalizando (el código postal a 3 dígitos, la edad por década) o quitando columnas, y cada paso le quita detalle a la tabla. No protege el dato sensible si todo el grupo lo comparte (para eso está la ℓ-diversidad: que cada grupo tenga varios valores distintos del dato sensible), ni contra ataques que cruzan varias tablas. Con m=P/C personas por combinación, una tabla de P personas y C combinaciones se ve de un vistazo si hay esperanza.

Analogía. Como ir de uniforme a una foto de grupo: si todos se ven iguales, quien busca a uno encuentra a k. Se rompe en que si todos los del grupo traen el mismo letrero (el mismo diagnóstico), ya sabes lo que dice el de tu vecina sin saber cuál es ella.

Ejemplo. Una tabla de 8 personas con código postal, edad y sexo exactos tiene k = 1: cada fila está sola. Con el código a 3 dígitos, la edad por década y sin sexo, quedan grupos de 3, 3 y 2: k = 2.

Ver en el glosario →

Derechos ARCOARCO rightsLos cuatro derechos que la ley mexicana da a cada persona sobre sus datos: Acceso (saber qué tienes), Rectificación (corregirlo), Cancelación (que lo borres) y Oposición (que dejes de usarlo para algo).Más

Se ejercen ante la empresa responsable, por el medio que diga el aviso de privacidad, y la ley fija plazos para responder. En Europa, el GDPR da derechos parecidos, más la portabilidad (recibir tus datos en un formato que otro servicio pueda leer). Para machine learning, el de cancelación es el que pide más ingeniería: es el derecho al borrado y exige saber dónde está cada copia (mapa de datos). El de oposición incluye oponerse a decisiones automatizadas.

Ejemplo. Ana pide a Alba ver qué datos suyos tiene (acceso), corregir su ciudad (rectificación), borrar una publicación vieja con sus fotos (cancelación) y que no usen sus fotos para entrenar (oposición).

Ver en el glosario →

Derecho al borradoright to erasure · right to be forgottenEl derecho de una persona a que se borren sus datos personales cuando ya no deben estar. En un sistema de machine learning obliga a encontrar cada copia: registros (logs), carpetas de archivos en la nube (buckets), datasets, sus copias fechadas (snapshots) y, a la larga, el modelo.Más

Se hace en cuatro pasos: (1) encontrar todo por id (con el request_id y el hash de cada foto); (2) borrar de los buckets y sacar de los manifests (la lista de qué fotos forman cada snapshot), para que el siguiente snapshot ya no lo incluya; (3) el modelo ya entrenado no se desentrena (machine unlearning): el siguiente reentrenamiento se hace sin esos datos; (4) dejar constancia en el registro de auditoría, con ids y sin los datos. Un log con retención corta puede reescribirse o dejarse caducar; lo decide legal. En México es la «C» de los derechos ARCO.

Ejemplo. Cuando Ana pide borrar sus datos, Alba busca por request_id y hash, borra las copias del bucket de etiquetado y del golden set, si estaban, saca sus fotos del siguiente snapshot y su foto ya no está en el modelo del mes siguiente.

Ver en el glosario →

Decisión automatizadaautomated decision-makingUna decisión tomada solo por un sistema, sin que una persona la revise, que afecta a alguien de forma legal o igual de seria: negar un crédito, rechazar un empleo, suspender una cuenta. Las leyes dan derechos frente a ella: en Europa, a no quedar sujeto; en México, a oponerse.Más

En Europa, el GDPR da el derecho a no quedar sujeto a una decisión así, salvo excepciones (un contrato, una ley o el consentimiento explícito), y aun entonces a pedir que una persona la revise. La LFPDPPP de 2025 reconoce el derecho a oponerse a un tratamiento automatizado, sin intervención humana, que produzca efectos jurídicos no deseados o afecte de forma significativa los intereses, derechos o libertades de la persona. Lo que la vuelve «solo automatizada» es que nadie la revise; lo que la vuelve seria es el efecto. La defensa de diseño: una persona en los casos graves y poder explicar por qué se decidió.

Ejemplo. La sugerencia de categoría de Alba no lo es: Ana la ve y la cambia si quiere. Un modelo de fraude que cerrara cuentas sin que nadie revise, sí.

Ver en el glosario →

Machine unlearningmachine unlearning · desaprendizaje automáticoConseguir que un modelo ya entrenado se comporte como si ciertos datos nunca hubieran estado en su entrenamiento. La única forma segura es reentrenar sin ellos; las técnicas más baratas son investigación, no algo que se pueda prometer.Más

Un modelo no guarda filas: guarda parámetros que cada ejemplo movió un poco, así que no hay qué borrar adentro. Hay propuestas para abaratarlo, como entrenar varios modelos con pedazos separados de los datos y reentrenar solo el afectado, pero no son una herramienta estándar. Importa porque algunos modelos memorizan ejemplos raros, y la inferencia de pertenencia puede adivinar si un dato estuvo en el entrenamiento. La promesa honesta ante un borrado es: borrar las copias y que el siguiente reentrenamiento no lo incluya.

Ejemplo. Alba reentrena cada mes: una corrida de ≈ 3–4 horas en una GPU, de ≈ US$3–4 (≈ US$10–50 al mes contando las corridas de prueba y las repetidas). Una foto borrada el 20 de octubre ya no está en el modelo de noviembre.

Ver en el glosario →

LFPDPPPMexican Federal Law on Protection of Personal Data Held by Private PartiesLa Ley Federal de Protección de Datos Personales en Posesión de los Particulares: la ley mexicana de datos personales para empresas privadas. La nueva se publicó el 20 de marzo de 2025 y reemplazó a la de 2010.Más

Trae el aviso de privacidad, el consentimiento (expreso y por escrito para datos sensibles), las finalidades, los derechos ARCO, las medidas de seguridad, la oposición a tratamientos automatizados y las reglas de transferencia. Con la reforma de 2025 desapareció el INAI, el órgano autónomo que la vigilaba; desde entonces la vigila la Secretaría Anticorrupción y Buen Gobierno. Los artículos, plazos y multas los confirma el equipo legal.

Ejemplo. A Alba le aplica porque trata datos de personas en México, como Ana, aunque sus máquinas estén en Virginia.

Ver en el glosario →

GDPRGDPR · General Data Protection RegulationEl Reglamento General de Protección de Datos de la Unión Europea, que aplica desde mayo de 2018. Alcanza a empresas de cualquier país que ofrezcan bienes o servicios a personas en la Unión Europea.Más

Pide una base legal para cada tratamiento (el consentimiento es una de varias), minimización y finalidad del tratamiento, derechos de acceso, borrado y portabilidad, el derecho frente a decisiones automatizadas, aviso de brechas a la autoridad en 72 horas (salvo que sea improbable que causen riesgo) y contratos con cada encargado. Los datos seudónimos siguen cubiertos para quien puede volver a la persona; los anónimos, no. Sus multas llegan a 20 millones de euros o al 4 % de la facturación mundial anual, lo que sea mayor. Limita las transferencias fuera de Europa. En noviembre de 2026 se discute una reforma (el Digital Omnibus) que aún no es ley.

Ejemplo. Si Alba deja vender a personas en España, el GDPR le aplica para ellas aunque Alba no tenga oficina en Europa.

Ver en el glosario →

Encargado del tratamientoprocessor · data processorQuien trata datos personales por cuenta de otra empresa, la responsable, y solo para lo que ella le pide: la nube que guarda los archivos, el proveedor que etiqueta las fotos.Más

La responsable (controller) decide para qué y cómo; el encargado (processor) ejecuta. Se firma un contrato que dice qué datos recibe, para qué, cómo los protege, cuánto los guarda, que los borra al terminar, que no los usa para lo suyo y desde qué país trabaja. Se le manda lo mínimo (minimización). Si el encargado está en otro país, para el GDPR es una transferencia internacional. En la ley mexicana, mandarle datos a un encargado, aunque esté en otro país, se llama «remisión» (así lo nombra su reglamento): no pide el consentimiento de la persona ni avisarle, pero sí un contrato. Si el encargado usa los datos para fines propios, el reglamento lo trata como responsable.

Ejemplo. Al proveedor de etiquetado de Alba le llegan ≈ 5,000 fotos al mes, sin EXIF, sin nombre de la vendedora y sin su publicación; las guarda 90 días.

Ver en el glosario →

Transferencia internacional de datoscross-border data transferMandar datos personales a otro país: a una región de la nube, a un proveedor que trabaja desde fuera o a una API de un tercero. Las leyes no la prohíben, pero le ponen condiciones, y no todas la cuentan igual.Más

La ley mexicana llama transferencia solo al envío a otra empresa que usará los datos para sus fines: el aviso de privacidad trae una cláusula para aceptarla y, salvo excepciones, hace falta el consentimiento. Mandarlos a un encargado en otro país, como la nube, es una «remisión»: basta un contrato. El GDPR cuenta como transferencia cualquier envío fuera de Europa, también a un encargado, y lo permite a países con una decisión de «adecuación» de la Comisión Europea, con garantías como los contratos de cláusulas tipo o, en casos puntuales, con las excepciones que enumera. En machine learning pasa sin que nadie lo note: la región donde se despliega, el proveedor de etiquetado, un modelo de lenguaje de un tercero. Cuando una ley o un contrato exige que los datos no salgan de un país, es residencia de datos.

Ejemplo. Ana vive en la Ciudad de México y su foto se procesa en us-east-1, en Virginia, a ≈ 3,000 km: sus datos salen a Estados Unidos. Como AWS es encargado de Alba, para la ley mexicana es una remisión con contrato; si Ana estuviera en la Unión Europea, el GDPR lo contaría como transferencia.

Ver en el glosario →

Brecha de datosdata breach · personal data breachUn incidente en que datos personales se pierden, se destruyen, se cambian o los ve alguien que no debía: un bucket (una carpeta de archivos en la nube) abierto al público, una laptop robada con una tabla de datos, una llave filtrada. Obliga a avisar y a poder decir qué se escapó.Más

En Europa se avisa a la autoridad en 72 horas desde que la empresa se entera (salvo que sea improbable que cause riesgo), y a las personas si el riesgo es alto. En México se avisa de inmediato a las personas cuando la brecha afecta de forma significativa sus derechos patrimoniales o morales; la ley no pide avisar a la autoridad. Para decir qué se escapó hace falta el mapa de datos: qué campos, de cuántos registros, de qué fechas. La minimización y la retención corta deciden de antemano qué tan grave es una brecha; el registro de auditoría dice quién accedió.

Ejemplo. Si el log de Alba quedara expuesto, saldrían ≈ 900 millones de líneas (10 M al día × 90 días) con request_id, categorías y prefijos de hash, pero sin fotos, sin GPS y sin nombres.

Ver en el glosario →

14

Chequeo

Esencial

Check

Intenta responder en tu cabeza antes de abrir cada respuesta.

  1. 1¿Por qué el request_id en el log de Alba es dato personal si no trae el nombre de nadie?Ver respuesta

    Porque el backend guarda ese mismo request_id junto a la publicación y la cuenta: con una unión se llega a Ana. Es un seudónimo, y un seudónimo sigue siendo dato personal.

  2. 2¿Qué diferencia hay entre seudonimizar y anonimizar?Ver respuesta

    Seudonimizar cambia el identificador por otro, y quien tiene la llave o la tabla puede volver a la persona. Anonimizar hace que nadie pueda volver con medios razonables, y solo entonces el dato deja de ser personal.

  3. 3¿Por qué se revierte en medio segundo un teléfono hasheado con SHA-256, y qué lo evita?Ver respuesta

    Porque hay solo 10¹⁰ teléfonos y una GPU calcula ≈ 2 × 10¹⁰ hashes por segundo: se prueban todos. Lo evita HMAC con una llave secreta: sin la llave, no hay qué probar.

  4. 4¿Qué dice el k de una tabla con k-anonimato?Ver respuesta

    Que cada combinación de cuasi-identificadores aparece en al menos k filas: quien conoce esos datos de alguien encuentra k candidatos, no uno.

  5. 5¿Por qué no se promete borrar a alguien de un modelo ya entrenado?Ver respuesta

    Porque el modelo no guarda filas, guarda parámetros que todos los datos movieron. Lo que se promete es borrar las copias, sacar el dato del siguiente snapshot y reentrenar sin él.

  6. 6¿Por qué el GDPR le puede aplicar a una empresa mexicana?Ver respuesta

    Porque aplica a quien ofrezca bienes o servicios a personas que están en la Unión Europea, aunque la empresa no tenga oficinas allá.

Repasar los 21 conceptos de esta lección con tarjetas Sigue · 46Ataques y cadena de suministroSeguridad ← 44 · Autenticación y permisos