El grafo computacional y la diferenciación automática
Sobre este vídeo
El grafo computacional y la diferenciación automática, en acción.
Un grafo computacional representa una función como una red de operaciones elementales. La diferenciación automática recorre ese grafo para calcular derivadas exactas: el modo inverso, base de la retropropagación, obtiene el gradiente de todos los pesos en una sola pasada hacia atrás. Es el mecanismo que hace posible entrenar redes con miles de millones de parámetros.
Transcripción del vídeo
- 0:01 Un grafo computacional divide el cálculo en operaciones:
- 0:05 multiplicamos a por b y sumamos c.
- 0:08 Hacia atrás, la diferenciación automática aplica la regla de la cadena:
- 0:12 la derivada respecto a a vale 2, y respecto a b, 3.
Más vídeos
Explicación
El bucle agéntico y el patrón ReAct
El bucle agéntico (razonar, actuar, observar) en movimiento.
Explicación
El momentum en el descenso de gradiente
Cómo el momentum acumula velocidad y suaviza el descenso de gradiente.
Explicación
Retropropagación, la derivación matemática paso a paso
La derivación de la retropropagación, factor a factor con la regla de la cadena.
Explicación
Retropropagación, la intuición detrás del aprendizaje
La intuición de la retropropagación: el error fluye hacia atrás por la red.
Explicación
Descenso de gradiente por lotes, estocástico y mini-batch
Batch, estocástico y mini-batch: tres formas de recorrer los datos.
Explicación
El descenso de gradiente (gradient descent)
El descenso de gradiente, paso a paso: cómo la pendiente guía cada actualización del peso.