Un interprète dans une salle bruyante essaie de distinguer la parole du brouhaha. La méthode habituelle consiste à mémoriser un ensemble de phrases et à les appliquer selon un schéma. Mais si le bruit augmente, le schéma se brise. La régression vectorielle non linéaire adaptative fonctionne autrement : elle apprend à comprendre le sens du discours en filtrant les interférences.
Dans le nouveau modèle, les caractéristiques non linéaires sont générées par un perceptron multicouche entraînable. L'entrée est un plongement à retard, c'est-à-dire plusieurs valeurs successives de la série, décalées dans le temps. Le réseau de neurones transforme ce vecteur en caractéristiques qui sont ensuite combinées avec des caractéristiques linéaires et transmises à la couche de lecture. La matrice de lecture est entraînée conjointement avec le perceptron par descente de gradient, et non calculée par inversion de matrice. Cela permet d'éviter le goulot d'étranglement de l'approche classique.
Les expériences sur trois systèmes chaotiques, Mackey-Glass, Lorenz-63 et Lorenz-96, ont montré l'avantage de l'approche adaptative. Avec 30 % de bruit sur le système de Mackey-Glass, l'erreur de prédiction sur 100 pas était de 0,051 contre 0,073 pour le modèle standard. Sur Lorenz-96, seule la version adaptative a pu terminer l'apprentissage et la prédiction : la version standard a buté sur la mémoire, et les échos-réseaux sur le temps de calcul. La non-linéarité entraînable s'est avérée plus robuste que les polynômes fixes.
L'interprète qui apprend à comprendre le sens plutôt qu'à mémoriser des phrases gère le bruit. De même, le modèle qui génère des caractéristiques à partir des données, plutôt que selon un schéma, prédit le chaos plus précisément. C'est un pas de la construction manuelle de caractéristiques vers l'extraction automatique de motifs, particulièrement précieux lorsque la physique du processus n'est connue qu'approximativement.
Pour stocker la matrice de caractéristiques de la NVAR standard sur le système de Lorenz-96, il faudrait environ 0,8 téraoctet de mémoire, soit environ 200 films en haute qualité. La version adaptative n'a nécessité que quelques dizaines de mégaoctets.
L'idée de non-linéarité entraînable pour prédire le chaos fait écho à « Fondation » d'Isaac Asimov : là-bas, la psychohistoire prédisait l'avenir de grandes masses humaines en s'appuyant sur des régularités statistiques. Ici, le modèle apprend les lois du chaos à partir des données, ce qui rappelle de loin la tentative de Hari Seldon de formaliser l'imprévisible.