Termostato sin termómetro: cómo la red encuentra por sí sola el punto crítico ✛

Original: "Adaptive self-organized criticality in deep neural networks"
· Simon Vock, Christian Meisel
arXiv:2608.28431v1 · 2026-08-28 · CC BY 4.0 · 3 min
Cada neurona ajusta sus conexiones según su propia actividad, y toda la red se sitúa en el filo entre la extinción y la explosión.

En un edificio de nueve pisos, con mil habitaciones por planta, algunos susurran y otros gritan. Los vecinos transmiten las palabras, pero si todos hablan demasiado bajo, el mensaje se desvanece ya en el tercer piso. Si hablan demasiado alto, para cuando llega al último piso se ha convertido en un rugido ininteligible. Entre esos extremos hay un régimen en el que el susurro llega hasta el final sin distorsión. Los neurocientíficos lo llaman punto crítico, y el cerebro parece funcionar precisamente ahí.

El punto crítico es como la temperatura a la que el agua se congela: un poco más frío, hielo; un poco más cálido, líquido. En ese punto, la red ni explota ni se apaga.

Durante mucho tiempo se pensó que llevar una red al estado crítico solo era posible desde fuera, ajustando parámetros globales, como un afinador de piano. Pero los autores del nuevo trabajo plantearon un experimento simple: dieron a cada neurona el derecho de decidir por sí misma si reforzar o debilitar sus conexiones, guiándose únicamente por su propia actividad. La regla cabe en una línea: si la neurona está demasiado activa, debilita la conexión entrante; si está demasiado pasiva, refuérzala. Sin termómetro, sin mediciones de toda la red.

Los investigadores tomaron una red totalmente conectada con nueve capas ocultas de mil neuronas cada una y la pusieron en marcha desde distintos estados iniciales, desde casi el silencio total hasta un ruido ensordecedor. Tras veinte épocas de ese autoajuste, todas las redes convergieron al mismo régimen: la actividad dejó de decaer o crecer, y la fuerza media de las conexiones alcanzó una meseta común. La red encontró por sí sola el punto crítico, como el agua encuentra su nivel.

El exponente de Lyapunov es la velocidad a la que dos trayectorias casi idénticas se separan. En el punto crítico es cero: las perturbaciones ni crecen ni se desvanecen.

Pero cuando al autoajuste se le añadió el aprendizaje supervisado habitual, comenzó la competencia. El descenso de gradiente empuja a la red hacia la solución de la tarea, mientras que la homeostasis la empuja hacia la criticalidad. Estas dos fuerzas movían los pesos en direcciones opuestas, y cuanto más fuerte era la regla autorreguladora, peor reconocía la red los dígitos. El descenso de gradiente puro daba la mayor precisión, y el aumento de la homeostasis la reducía progresivamente.

Un termostato sin termómetro funciona, pero todavía no sabe llevarse bien con la tarea. Ese es el principal desafío: combinar la búsqueda de la criticalidad con el aprendizaje de una habilidad útil. Quizá la solución esté en una regla de plasticidad general que tenga en cuenta tanto la actividad local como la señal global de la tarea. Entonces la red podría mantenerse al borde del caos y, a la vez, resolver problemas prácticos, como un cerebro que logra pensar sin sobrecalentarse.

La regla de homeostasis es tan simple que se puede describir en una línea: si una neurona está demasiado activa, debilita la conexión entrante; si está demasiado pasiva, refuérzala. Y con esto basta para que la red encuentre por sí sola el punto crítico.

\sigma = \frac{a_{out}}{a_{in}}
σ=1 significa conservación de la actividad al propagarse a través de la red
\lambda_0 = \frac{1}{L} \log(\Lambda_0)
λ0=0 corresponde al punto crítico, donde las perturbaciones ni crecen ni se atenúan
w'_{ij} = \begin{cases} (|w_{ij}| - c) \cdot \operatorname{sgn}(w_{ij}) & \text{если } a_i > T \\ (|w_{ij}| + c) \cdot \operatorname{sgn}(w_{ij}) & \text{если } a_i < T \end{cases}
Una neurona activa debilita la conexión entrante, una inactiva la fortalece
Científicos
Emile Clapeyron
Conceptos
red neuronal profunda redes neuronales en mapeo espacial autoorganización estocástica sistemas dinámicos autocorrección de IA Redes Generativas Antagónicas aprendizaje profundo en imagenología médica red aleatoria aprendizaje dinámica estocástica biológica aceleración de dinámica molecular almacenamiento de información control en tiempo real