Fundamentos matemáticos de las redes neuronales
El álgebra lineal y el cálculo que necesitas antes de entrenar tu primera red: vectores, matrices, derivadas, la regla de la cadena, el gradiente, y las nociones de exponenciales, logaritmos y probabilidad.
-
Qué matemáticas hay detrás de las redes neuronales
Las matemáticas de las redes neuronales se apoyan en tres bloques: el álgebra lineal representa datos y pesos como vectores y matrices, el cálculo con derivadas y la regla de la cadena permite que la red aprenda mediante el descenso de gradiente, y la probabilidad da forma a las funciones de pérdida. Este mapa recorre ese camino de principio a fin.
-
Escalares, vectores, matrices y tensores explicados
Un escalar es un solo número, un vector una lista ordenada de números, una matriz una tabla de dos dimensiones y un tensor la generalización a cualquier número de dimensiones. En una red neuronal los datos entran como vectores y los pesos forman matrices, de modo que cada capa calcula z = Wx + b combinando ambos.
-
El producto escalar (dot product) y la neurona
El producto escalar multiplica cada entrada por su peso y suma los resultados en un solo número. Una neurona usa esa operación para calcular su suma ponderada z igual a w por x más el sesgo b, y ese valor decide, tras la activación, cuánto se enciende la neurona ante los datos que recibe.
-
Multiplicación de matrices en redes neuronales
La multiplicación de matrices es la operación central de una red neuronal: cada capa agrupa sus pesos en una matriz W y calcula su salida como el producto W por X. Esa sola operación, repetida capa tras capa, es la que convierte las entradas en predicciones y explica por qué las tarjetas gráficas dominan el aprendizaje profundo.
-
Transpuesta, matriz identidad e inversa
La matriz transpuesta intercambia filas por columnas y aparece en cada paso de la retropropagación; la matriz identidad actúa como el 1 del álgebra de matrices y no altera ningún vector, y la matriz inversa deshace una transformación, aunque solo existe cuando la matriz es cuadrada y su determinante no es cero.
-
Normas de vectores (L1, L2) y distancia
La norma de un vector mide su longitud o magnitud. La norma L1 suma los valores absolutos de las componentes y la norma L2 aplica el teorema de Pitágoras: raíz de la suma de cuadrados. Ambas definen distancias distintas entre puntos y son la base de la regularización que evita el sobreajuste en las redes neuronales.
-
Derivadas, la tasa de cambio que enseña a la red
Una derivada mide la tasa de cambio de una función: cuánto varía su salida cuando la entrada cambia un poco. En una red neuronal, esa pendiente indica en qué dirección y con qué fuerza ajustar cada peso para reducir el error, y es la base del descenso de gradiente y la retropropagación.
-
Reglas de derivación esenciales para redes neuronales
Las reglas de derivación esenciales son un puñado de fórmulas que convierten cualquier función en su derivada: la regla de la potencia, las del producto y del cociente, y las del exponencial y el logaritmo. Con ellas, más la regla de la cadena, una red neuronal calcula gradientes y aprende ajustando sus pesos.
-
La regla de la cadena, el motor de la retropropagación
La regla de la cadena calcula la derivada de una función compuesta multiplicando las derivadas de sus eslabones: si y depende de u y u depende de x, entonces dy/dx es dy/du por du/dx. Esa multiplicación de derivadas capa por capa es exactamente lo que hace la retropropagación para entrenar una red neuronal.
-
Derivadas parciales y el gradiente en redes neuronales
Una derivada parcial mide cómo cambia una función cuando movemos solo una de sus variables y dejamos fijas las demás. El gradiente reúne todas esas derivadas parciales en un vector que apunta hacia el ascenso más pronunciado; en una red neuronal, moverse en sentido contrario reduce el error y guía el entrenamiento.
-
Exponencial y logaritmo natural en el aprendizaje profundo
La función exponencial eˣ y su inversa, el logaritmo natural ln(x), aparecen una y otra vez en el aprendizaje profundo. La exponencial construye la sigmoide y la softmax para convertir números en probabilidades, y el logaritmo natural define la entropía cruzada, la pérdida con la que se entrenan los clasificadores.
-
Nociones de probabilidad para redes neuronales
La probabilidad en redes neuronales aparece en tres ideas: una distribución asigna pesos a los resultados posibles, el valor esperado promedia esos resultados y la verosimilitud mide cómo de bien encaja el modelo con los datos. De esas tres piezas nacen la softmax y la entropía cruzada.