La red encuentra el equilibrio sola, sin termómetro ✛

Original: "Adaptive self-organized criticality in deep neural networks"
· Simon Vock, Christian Meisel
arXiv:2608.28431v1 · 2026-08-28 · CC BY 4.0 · 2 min
Las neuronas ajustan sus conexiones según su propia actividad, y toda la red llega al borde entre la extinción y la explosión.

Una cadena de personas se transmite un mensaje en voz baja. Si cada uno habla demasiado bajo, el mensaje se pierde a mitad de camino. Si habla demasiado alto, al final se convierte en una cacofonía. Pero hay un modo en que el susurro llega a la última persona sin distorsión. Los científicos lo llaman punto crítico, y el cerebro parece funcionar justo ahí.

El punto crítico es como la temperatura de congelación del agua: un poco más frío, hielo; un poco más cálido, líquido. En ese punto, la red ni explota ni se apaga.

Antes se pensaba que solo se podía llevar a la red a un estado crítico desde fuera, ajustando parámetros globales. Pero en el nuevo trabajo, cada neurona recibe una regla simple: si está demasiado activa, debilita su conexión de entrada; si está demasiado pasiva, la fortalece. Es como si cada persona de la cadena decidiera por sí misma si hablar más alto o más bajo, guiándose solo por su propia voz.

Los científicos lo probaron en una red de nueve capas con mil neuronas cada una. La pusieron en marcha desde diferentes estados iniciales, desde casi el silencio total hasta un fuerte ruido. Tras veinte ciclos de autoajuste, todas las redes llegaron al mismo régimen: la actividad dejó de decaer o crecer, y la fuerza de las conexiones se igualó. La red encontró el punto crítico por sí sola, como el agua encuentra su nivel.

Pero cuando al autoajuste se le añadió el aprendizaje para reconocer dígitos, comenzó la competencia. El aprendizaje normal empuja a la red hacia la solución de la tarea, mientras que el autoajuste la empuja hacia la criticalidad. Estas dos fuerzas se estorbaron mutuamente: cuanto más fuerte era la regla autorreguladora, peor reconocía la red los dígitos. Por ahora, el termostato sin termómetro funciona, pero no sabe llevarse bien con la tarea.

La regla de homeostasis es tan simple que se puede describir en una línea: si una neurona está demasiado activa, debilita la conexión entrante; si está demasiado pasiva, refuérzala. Y con esto basta para que la red encuentre por sí sola el punto crítico.

\sigma = \frac{a_{out}}{a_{in}}
σ=1 significa conservación de la actividad al propagarse a través de la red
\lambda_0 = \frac{1}{L} \log(\Lambda_0)
λ0=0 corresponde al punto crítico, donde las perturbaciones ni crecen ni se atenúan
w'_{ij} = \begin{cases} (|w_{ij}| - c) \cdot \operatorname{sgn}(w_{ij}) & \text{если } a_i > T \\ (|w_{ij}| + c) \cdot \operatorname{sgn}(w_{ij}) & \text{если } a_i < T \end{cases}
Una neurona activa debilita la conexión entrante, una inactiva la fortalece
Científicos
Emile Clapeyron
Conceptos
red neuronal profunda redes neuronales en mapeo espacial autoorganización estocástica sistemas dinámicos autocorrección de IA Redes Generativas Antagónicas aprendizaje profundo en imagenología médica red aleatoria aprendizaje dinámica estocástica biológica aceleración de dinámica molecular almacenamiento de información control en tiempo real