Una división que no fragmenta la memoria exprés
Mantener en la cabeza la posición exacta de un lápiz mientras se mueve lentamente es una tarea rutinaria para el cerebro. Para las redes neuronales artificiales, es casi imposible. Las redes recurrentes típicas, como GRU y LSTM, tienden a dividir el movimiento continuo en escalones rígidos: el lápiz no se desliza suavemente, sino que salta de un punto a otro. La red parece recordar no una línea, sino varios fotogramas sueltos.
Un grupo de investigadores propuso una red con división: la Recurrent Divisive Normalization Network (RDNN). Su secreto no está en restar señales inhibitorias, sino en dividirlas. Cuando una neurona está activa, no solo amortigua a la vecina, sino que reduce su salida de forma proporcional. Esto recuerda al control de volumen: si hay ruido en una habitación, no restamos el ruido del habla, sino que dividimos: hablamos más alto en relación con el fondo. Este mecanismo está muy extendido en la corteza cerebral, pero en las redes artificiales casi no se usa.
El análisis matemático mostró que la división crea en la red una variedad lenta: una senda suave por la que el estado de la memoria puede cambiar sin saltos. Cuando la red se entrena con retropropagación del error, la división escala automáticamente los pasos de aprendizaje: en las zonas muy activas, la actualización de parámetros se atenúa. Esto comprime el rango efectivo de la red: la dinámica se encoge por sí sola en un cauce estrecho de baja dimensión, evitando el sobreajuste y el caos.
En experimentos con tareas de memoria de trabajo, RDNN retuvo señales continuas con una precisión decenas de veces mayor que las redes convencionales. Y cuando se sustituyó la división por la resta, la red comenzó de inmediato a fragmentar la señal suave en escalones. Parece que la biología no eligió este mecanismo por casualidad: la división resultó matemáticamente necesaria para almacenar magnitudes continuas en un mundo cambiante.
La división de señales en las neuronas se describió por primera vez en la corteza visual: así el cerebro no se deslumbra con la luz brillante, sino que simplemente reduce la sensibilidad: divide, no resta.