Prédire le chaos quand tout bruit ✛

Original: "Adaptive Nonlinear Vector Autoregression: Robust Forecasting for Noisy Chaotic Time Series"
arXiv:2507.08738 · 2025-07-11 · CC BY 4.0 · 2 min
Un réseau de neurones entraînable remplace les polynômes rigides et rend la prédiction des séries chaotiques précise même avec 30 % de bruit.

Un interprète dans une salle bruyante essaie de distinguer la parole du brouhaha. La méthode habituelle consiste à mémoriser un ensemble de phrases et à les appliquer selon un schéma. Mais si le bruit augmente, le schéma se brise. La régression vectorielle non linéaire adaptative fonctionne autrement : elle apprend à comprendre le sens du discours en filtrant les interférences.

La régression vectorielle non linéaire standard construit des caractéristiques non linéaires selon un schéma polynomial rigide. C'est comme un interprète qui ne connaît que des phrases apprises par cœur.

Dans le nouveau modèle, les caractéristiques non linéaires sont générées par un perceptron multicouche entraînable. L'entrée est un plongement à retard, c'est-à-dire plusieurs valeurs successives de la série, décalées dans le temps. Le réseau de neurones transforme ce vecteur en caractéristiques qui sont ensuite combinées avec des caractéristiques linéaires et transmises à la couche de lecture. La matrice de lecture est entraînée conjointement avec le perceptron par descente de gradient, et non calculée par inversion de matrice. Cela permet d'éviter le goulot d'étranglement de l'approche classique.

Sur le système de Lorenz-96 à 100 variables, le modèle standard aurait besoin d'environ 0,8 téraoctet de mémoire, soit environ 200 films de long métrage. La version adaptative s'est contentée de quelques dizaines de mégaoctets.

Les expériences sur trois systèmes chaotiques, Mackey-Glass, Lorenz-63 et Lorenz-96, ont montré l'avantage de l'approche adaptative. Avec 30 % de bruit sur le système de Mackey-Glass, l'erreur de prédiction sur 100 pas était de 0,051 contre 0,073 pour le modèle standard. Sur Lorenz-96, seule la version adaptative a pu terminer l'apprentissage et la prédiction : la version standard a buté sur la mémoire, et les échos-réseaux sur le temps de calcul. La non-linéarité entraînable s'est avérée plus robuste que les polynômes fixes.

L'interprète qui apprend à comprendre le sens plutôt qu'à mémoriser des phrases gère le bruit. De même, le modèle qui génère des caractéristiques à partir des données, plutôt que selon un schéma, prédit le chaos plus précisément. C'est un pas de la construction manuelle de caractéristiques vers l'extraction automatique de motifs, particulièrement précieux lorsque la physique du processus n'est connue qu'approximativement.

Pour stocker la matrice de caractéristiques de la NVAR standard sur le système de Lorenz-96, il faudrait environ 0,8 téraoctet de mémoire, soit environ 200 films en haute qualité. La version adaptative n'a nécessité que quelques dizaines de mégaoctets.

L'idée de non-linéarité entraînable pour prédire le chaos fait écho à « Fondation » d'Isaac Asimov : là-bas, la psychohistoire prédisait l'avenir de grandes masses humaines en s'appuyant sur des régularités statistiques. Ici, le modèle apprend les lois du chaos à partir des données, ce qui rappelle de loin la tentative de Hari Seldon de formaliser l'imprévisible.

Notions
nonlinear laplacian spectral analysis régression par réseau de neurones réseaux neuronaux d'apprentissage prédictif calcul par réservoir grands modèles de langage régression linéaire probabilistic forecast apprentissage faiblement supervisé méthodes de régularisation Dynamique non linéaire modèle de langage protéique autoregressive model paramètre réseau aléatoire régularisation transformeurs autoencodeur apprentissage automatique robuste modélisation stochastique réseaux antagonistes génératifs