Qué es una función de activación y por qué es necesaria
Sobre este vídeo
Por qué una función de activación no lineal hace posible el aprendizaje profundo.
Una función de activación es la operación no lineal que cada neurona aplica a su suma ponderada z para producir su salida a igual a f de z. Sin ella, apilar capas solo encadena transformaciones lineales y toda la red se reduce a una sola. La no linealidad es lo que permite aprender patrones complejos.
Transcripción del vídeo
- 0:01 Sigmoide, tangente hiperbólica y ReLU doblan la recta.
- 0:05 Sin esa curva, apilar capas equivale a una sola capa lineal; con ella, la red aprende
- 0:12 patrones complejos.
Más vídeos
Explicación
El bucle agéntico y el patrón ReAct
El bucle agéntico (razonar, actuar, observar) en movimiento.
Explicación
El momentum en el descenso de gradiente
Cómo el momentum acumula velocidad y suaviza el descenso de gradiente.
Explicación
El grafo computacional y la diferenciación automática
El grafo computacional y la diferenciación automática, en acción.
Explicación
Retropropagación, la derivación matemática paso a paso
La derivación de la retropropagación, factor a factor con la regla de la cadena.
Explicación
Retropropagación, la intuición detrás del aprendizaje
La intuición de la retropropagación: el error fluye hacia atrás por la red.
Explicación
Descenso de gradiente por lotes, estocástico y mini-batch
Batch, estocástico y mini-batch: tres formas de recorrer los datos.