Artificial Intelligence
The Leaky ReLU Function and Its Role in Neural Networks
Leaky ReLU resuelve el problema de la neurona muerta de ReLU estándar al permitir un gradiente pequeño en la región negativa, mejorando el entrenamiento en redes profundas.