La Tangente Hiperbólica: Función de Activación Potente

Actualizado: 2026-07-17

La tangente hiperbólica (tanh) resuelve uno de los defectos principales de la sigmoide: la falta de simetría. Al producir salidas centradas en cero entre -1 y 1, facilita la convergencia del entrenamiento y sigue siendo la elección preferida en arquitecturas recurrentes y en contextos donde la salida balanceada importa.

Puntos clave

• Tanh mapea cualquier valor real al intervalo (-1, 1), con salida centrada en cero.
• Es matemáticamente una versión reescalada de la función sigmoide: tanh(x) = 2·σ(2x) − 1.
• La simetría respecto al origen facilita la optimización: las actualizaciones de gradiente son balanceadas.
• Comparte con sigmoide el problema del desvanecimiento del gradiente en entradas extremas.
• Es la función de activación estándar en las celdas de memoria LSTM y GRU.

Definición y propiedades

La tangente hiperbólica se define como:

tanh(x) = (eˣ − e⁻ˣ) / (eˣ + e⁻ˣ)

Sus propiedades fundamentales:

• tanh(0) = 0: la salida está centrada en cero.
• tanh(x) → 1 cuando x → +∞.
• tanh(x) → -1 cuando x → -∞.
• Es impar: tanh(-x) = -tanh(x).
• Su derivada es tanh'(x) = 1 − tanh²(x), con valor máximo 1 en x = 0.

Esta simetría respecto al origen es la diferencia clave respecto a la sigmoide. Cuando las activaciones están centradas en cero, los gradientes que se propagan hacia atrás no tienen un sesgo sistemático hacia positivo o negativo, lo que acelera la convergencia.

Ventajas sobre la sigmoide

Tanto tanh como sigmoide son suaves, diferenciables en todo su dominio y saturan en los extremos. La diferencia práctica entre ambas es medible: la derivada de tanh en x=0 vale 1, cuatro veces más que el 0.25 de la sigmoide en el mismo punto. Pero tanh tiene ventajas claras en capas ocultas:

1. Salida centrada en cero: las capas siguientes reciben activaciones con media aproximada de 0, no de 0.5 como con sigmoide.
2. Gradientes más fuertes: la derivada de tanh en x=0 es 1, frente a 0.25 de la sigmoide. Gradientes más grandes = aprendizaje más rápido en la zona central.
3. Interpretación natural para clasificación: salidas negativas corresponden a una clase, positivas a otra.

La desventaja compartida: el desvanecimiento del gradiente. Para |x| > 2, la derivada de tanh cae rápidamente hacia cero (por debajo de 0.07 en x = 2.5). En redes muy profundas, ReLU o Leaky ReLU son más robustas.

Implementación en redes neuronales

En la práctica, tanh aparece en:

• Capas ocultas de redes recurrentes (RNN): la actualización del estado oculto usa tanh para comprimir la información al rango (-1, 1).
• Celdas LSTM: la función de actualización del estado de celda usa tanh, mientras que las puertas usan sigmoide.
• Celdas GRU: igual que LSTM, combina tanh y sigmoide en sus puertas.
• Redes de autoencoder: cuando la salida debe estar entre -1 y 1 por simetría del dominio.

En el contexto del aprendizaje automático adversarial, las redes generativas suelen usar tanh en la última capa del generador cuando el espacio de salida es (-1, 1): por ejemplo, imágenes normalizadas en ese rango. Para el aprendizaje por refuerzo, las redes de política con acciones continuas a veces usan tanh para limitar el rango de salida.

Cuándo elegir tanh frente a otras funciones

La decisión práctica:

• Capa oculta en red poco profunda: tanh o sigmoide, con ligera preferencia por tanh.
• Capa oculta en red profunda (>5 capas): ReLU o Leaky ReLU por mayor resistencia al desvanecimiento del gradiente.
• Celdas recurrentes (LSTM, GRU): tanh es el estándar, bien establecido y estable desde que Hochreiter y Schmidhuber lo fijaron en la propuesta original de LSTM de 1997.
• Capa de salida para clasificación binaria: sigmoide.
• Capa de salida para clasificación multiclase: softmax.

Para entender la función escalón como punto de partida histórico y comparar estas funciones en el marco de redes neuronales totalmente conectadas es útil ver cómo cada elección de activación afecta la arquitectura completa.

Preguntas frecuentes

¿Por qué tanh converge más rápido que la sigmoide en la práctica?

Porque su salida está centrada en cero: los gradientes de la capa siguiente no arrastran el sesgo sistemático que produce la salida siempre positiva de la sigmoide (media 0.5), así que las actualizaciones de peso oscilan menos y el descenso de gradiente avanza en línea más directa hacia el mínimo.

¿Tanh sufre el mismo desvanecimiento del gradiente que la sigmoide?

Sí. Para |x| > 2 la derivada de tanh cae por debajo de 0.07 y se acerca a cero conforme |x| crece, igual que la sigmoide satura en sus extremos. En redes muy profundas esto sigue siendo un problema, motivo por el que ReLU y sus variantes dominan las capas ocultas de arquitecturas feedforward profundas.

¿Se puede sustituir tanh por ReLU dentro de una celda LSTM?

No de forma directa: el diseño original de LSTM depende de que tanh acote el estado de celda al rango (-1, 1), algo que ReLU no garantiza (su salida es no acotada por arriba). Sustituir tanh sin rediseñar la celda suele desestabilizar el entrenamiento.

Esta guía también está disponible en inglés: The Hyperbolic Tangent: A Powerful Activation Function.

Conclusión

La tangente hiperbólica es la función de activación preferida para capas recurrentes y para cualquier contexto donde la simetría de la salida importa. Su simetría respecto al origen la hace más estable que la sigmoide en capas ocultas, y su integración en las arquitecturas LSTM y GRU garantiza que seguirá siendo relevante mientras las redes recurrentes tengan un lugar en el repertorio de herramientas de aprendizaje profundo. Para redes muy profundas tipo feedforward, ReLU sigue siendo la opción más eficiente; para recurrentes y autoencoders, tanh es difícil de superar.

Fuentes: PyTorch (torch.nn.Tanh)^[1], TensorFlow (tf.math.tanh)^[2], Stanford CS231n, Neural Networks Part 1^[3], Wikipedia, Hyperbolic functions^[4].

Fuentes

1. PyTorch (torch.nn.Tanh)
2. TensorFlow (tf.math.tanh)
3. Stanford CS231n, Neural Networks Part 1
4. Wikipedia, Hyperbolic functions

Ruta: La neurona y las funciones de activación