The Hyperbolic Tangent: A Powerful Activation Function
La tangente hiperbólica (tanh) produce salidas simétricas entre -1 y 1, lo que la convierte en una función de activación más estable que la sigmoide para capas ocultas.
Tag
funcion-activacion
The Sigmoid Function: A Key Tool in Neural Networks
La función sigmoide comprime cualquier valor de entrada en el rango (0, 1), lo que la convierte en la función de activación natural para modelar probabilidades en redes neuronales.
The Leaky ReLU Function and Its Role in Neural Networks
Leaky ReLU resuelve el problema de la neurona muerta de ReLU estándar al permitir un gradiente pequeño en la región negativa, mejorando el entrenamiento en redes profundas.
The Rectified Linear Unit (ReLU): An Essential Tool for Deep Learning
ReLU es la función de activación más utilizada en redes neuronales profundas: simple, eficiente y resistente al desvanecimiento del gradiente que lastra a la sigmoide.
The Step Function: An Essential Tool in Neural Networks
La función escalón o de Heaviside es la función de activación más simple de una red neuronal: convierte cualquier entrada en una salida binaria 0 o 1.