Toda neurona artificial hace lo mismo: sopesa sus entradas, las suma y añade un ajuste. Los pesos deciden cuánto importa cada entrada, el sesgo mueve el resultado hacia arriba o hacia abajo, y la suma de todo es la suma ponderada z = Wx + b. Ese número es el corazón del cálculo y el que la red modifica cuando aprende. Entender estas tres piezas es entender la unidad básica del aprendizaje profundo. La misma explicación está disponible en inglés.

Fórmula clave $z = \sum_i w_i x_i + b$

Puntos clave

  • Los pesos y sesgos son los parámetros que una red ajusta durante el entrenamiento; todo lo demás es fijo.
  • Un peso mide la importancia de una entrada: cuanto mayor es su valor absoluto, más influye esa entrada en el resultado.
  • El sesgo es un desplazamiento que permite a la neurona activarse aunque todas las entradas valgan cero.
  • La suma ponderada z = Wx + b combina entradas, pesos y sesgo en un solo número antes de la función de activación.
  • Un modelo como GPT-3 contiene 175.000 millones de estos parámetros, y todos se aprenden con la misma regla.

Qué representan los pesos

Un peso es un número que multiplica a una entrada. Si una neurona recibe la entrada x y le asigna el peso w, su contribución al resultado es w · x. Cuando el peso es grande, esa entrada pesa mucho en la decisión; cuando es cercano a cero, apenas cuenta; y cuando es negativo, empuja el resultado en sentido contrario.

Con varias entradas, los pesos forman un vector (o una matriz cuando hay varias neuronas). Calcular su efecto conjunto es un producto escalar entre el vector de entradas y el de pesos. Los pesos empiezan con valores aleatorios pequeños y son justo lo que el entrenamiento va afinando poco a poco. En el libro Deep Learning[1], Goodfellow, Bengio y Courville describen los pesos como los parámetros que controlan cómo se transforma la señal al pasar de una capa a la siguiente.

El papel del sesgo (bias)

El sesgo, o bias, es un número que se suma al final, después de combinar entradas y pesos. Su misión es desplazar el resultado: sin él, cuando todas las entradas valen cero la suma ponderada sería siempre cero y la neurona no tendría margen para ajustar su punto de activación.

Una analogía útil es la recta y = m·x + b de la geometría: los pesos son la pendiente y el sesgo es la ordenada en el origen, ese término que sube o baja toda la recta. Como explica Michael Nielsen en Neural Networks and Deep Learning[2], el sesgo puede leerse como una medida de lo fácil que resulta que la neurona se active. Cada neurona tiene su propio sesgo, así que en una capa de 100 neuronas hay 100 sesgos, uno por cada una.

La suma ponderada z = Wx + b

La suma ponderada reúne todo en una sola operación. Con $n$ entradas, la neurona calcula:

$$z = w_1 x_1 + w_2 x_2 + \dots + w_n x_n + b = \sum_i w_i x_i + b$$

En notación matricial, para una capa entera esto se escribe $z = Wx + b$, donde $W$ es la matriz de pesos, $x$ el vector de entrada y $b$ el vector de sesgos. Ese resultado $z$ se llama a veces preactivación, porque todavía no ha pasado por la función de activación $a = f(z)$. Como lo expresa Nielsen, «una forma de pensar en el perceptrón es que es un dispositivo que toma decisiones sopesando la evidencia». La suma ponderada es precisamente ese acto de sopesar. Puedes ver cómo encaja dentro del recorrido completo en el mapa de las matemáticas de las redes neuronales.

El sesgo puede absorberse dentro de los pesos con un truco habitual: se añade una entrada constante $x_0 = 1$ con peso $w_0 = b$. Así la suma ponderada se convierte en un único producto escalar $z = \sum_{i=0}^{n} w_i x_i$, sin término aparte.

Ver la derivación

Para una capa con varias neuronas, cada neurona $j$ tiene su propia fila de pesos $w_{j1}, w_{j2}, \dots, w_{jn}$ y su propio sesgo $b_j$, y calcula $z_j = \sum_i w_{ji} x_i + b_j$. Al apilar las $m$ neuronas, esas filas forman la matriz $W$ y los sesgos el vector $b$, de modo que las $m$ ecuaciones escalares se escriben de golpe como el producto matriz-vector $z = Wx + b$.

Cómo se ajustan durante el entrenamiento

Al principio los pesos y el sesgo son valores aleatorios, así que la red se equivoca casi siempre. El entrenamiento mide ese error con una función de pérdida L y calcula, para cada peso y cada sesgo, cuánto cambiaría el error si los moviéramos un poco: eso es el gradiente ∇. Después ajusta cada parámetro en la dirección que reduce el error, con un paso proporcional a la tasa de aprendizaje η.

La regla básica del descenso de gradiente es w ← w - η · ∂L/∂w, y lo mismo para el sesgo. Este ciclo (medir el error, calcular gradientes, ajustar) se repite miles o millones de veces. La idea se remonta al perceptrón de Frank Rosenblatt en 1958, que ya modificaba pesos según sus aciertos y fallos, aunque con una regla mucho más sencilla que las actuales.

Ejemplo numérico

Veámoslo con una neurona de dos entradas. Supongamos entradas $x = [0{,}5,\ 0{,}9]$, pesos $w = [0{,}4,\ 0{,}7]$ y sesgo $b = -0{,}3$. La suma ponderada es:

$$z = 0{,}4 \cdot 0{,}5 + 0{,}7 \cdot 0{,}9 + (-0{,}3) = 0{,}2 + 0{,}63 – 0{,}3 = 0{,}53$$

Si aplicamos la función sigmoide como activación, $a = f(0{,}53) \approx 0{,}63$. Ahora imagina que el entrenamiento sube el segundo peso de $0{,}7$ a $0{,}9$: la suma ponderada pasaría a $0{,}71$ y la salida subiría a $0{,}67$. Ese pequeño cambio en un solo peso mueve la respuesta de la neurona, y multiplicado por millones de parámetros es como una red entera aprende.

Preguntas frecuentes

¿Cuál es la diferencia entre un peso y un sesgo?

Un peso multiplica a una entrada concreta y mide su importancia; hay un peso por cada conexión de entrada. El sesgo es un único número que se suma al final, independiente de las entradas, y sirve para desplazar el punto en el que la neurona se activa.

¿Por qué una neurona necesita un sesgo?

Sin sesgo, si todas las entradas valen cero la suma ponderada sería cero y la neurona quedaría anclada a ese punto. El sesgo le da libertad para activarse antes o después, igual que la ordenada en el origen desplaza una recta hacia arriba o hacia abajo.

¿Los pesos y sesgos se programan a mano?

No. Se inicializan con valores aleatorios pequeños y luego el algoritmo de entrenamiento los ajusta solo, guiado por el gradiente de la función de pérdida. El programador define la arquitectura y los datos, no el valor final de cada parámetro.

Conclusión

Pesos, sesgos y suma ponderada son la mecánica más básica del aprendizaje profundo: los pesos ponderan las entradas, el sesgo desplaza el resultado y z = Wx + b lo reúne todo en un número. Ajustar esos parámetros millones de veces es, literalmente, lo que significa que una red aprenda. El siguiente paso natural es ver qué hace la función de activación con esa z y cómo el gradiente reparte el error entre todos los pesos.

Fuentes

  1. Deep Learning
  2. Neural Networks and Deep Learning
  3. Neurona artificial (Wikipedia)
  4. Perceptrón (Wikipedia)

Ruta: La neurona y las funciones de activación