Categorías

El momentum en el descenso de gradiente

0:14

Sobre este vídeo

Cómo el momentum acumula velocidad y suaviza el descenso de gradiente.

El momentum es una mejora del descenso de gradiente que acumula una velocidad a partir de los gradientes anteriores en lugar de mirar solo el actual. Con un coeficiente β cercano a 0,9, esa inercia suaviza el zigzag del SGD puro, atraviesa los valles alargados y hace que el entrenamiento converja bastante más rápido.

Transcripción del vídeo

El vídeo no tiene narración: esto es lo que muestra.

  1. Cómo el momentum acumula velocidad y suaviza el descenso de gradiente.

Leer el artículo completo Ver en YouTube

Más vídeos

Todos los vídeos