L'orchestre de particules trouve une harmonie éternelle : de nouvelles garanties pour SVGD ✛ ✎

Un millier de particules entament une danse de gradient. Chacune ressent une attraction vers les zones de haute probabilité et une répulsion de ses voisines — pour éviter de s'agglutiner. C'est la méthode SVGD (déplacement de particules pour approcher une distribution complexe), une manière élégante de générer des échantillons à partir de distributions compliquées, par exemple pour l'inférence bayésienne. Dans l'idéal, lorsque les particules sont en nombre infini, leur flux est décrit par une équation aux dérivées partielles de type McKean-Vlasov — l'orchestre joue une partition où chaque violon entend toute la salle. Mais en pratique, le nombre de particules est fini. Les estimations classiques de propagation du chaos (propriété d'indépendance pour un grand nombre) garantissent que l'ensemble fini ressemble à l'ensemble infini seulement pendant un temps court. Ensuite, l'erreur croît de manière catastrophique — comme si les musiciens de l'orchestre se désynchronisaient progressivement, chacun à son propre tempo.

Les chercheurs ont proposé deux techniques contrastées pour que l'orchestre ne se désaccorde pas. La première est une stratégie de coupure. Au début, tant que l'erreur est faible, les particules se comparent à une référence en temps fini avec le champ moyen (interaction moyenne d'un nombre infini de particules). Ensuite, après un temps de l'ordre du logarithme du nombre de particules, les deux systèmes ont eu le temps de converger indépendamment vers la mesure cible. Leur proximité est ensuite maintenue par dissipation d'entropie : la différence fond comme neige au soleil de mars. L'équation clé :

\[ \frac{d}{dt} \mathrm{KL}(\mu_t \| \pi) = - \mathrm{KSD}^2(\mu_t \| \pi) \]

La vitesse de décroissance de l'entropie relative (mesure de dissimilarité entre distributions) est égale au carré de la divergence de Stein (une mesure de différence particulière via l'opérateur de Stein). Plus on se rapproche de la cible, plus la fonte ralentit, mais le processus ne s'arrête pas.

La deuxième approche a révélé une structure élégante pour des cibles spéciales. Si la distribution cible est obtenue par une transformation inversible d'une gaussienne standard, et si le noyau (règle de similarité entre particules) est choisi en conséquence, alors la dynamique se referme sur un nombre fini d'observables — les premiers et seconds moments. Les particules et le champ moyen obéissent alors au même système d'équations différentielles ordinaires. C'est comme un orchestre où tous les musiciens suivent le premier violon et construisent automatiquement l'harmonie.

Les résultats justifient le fonctionnement à long terme des ensembles finis : on n'a plus besoin de se demander si l'erreur va croître de manière incontrôlée. De plus, en concevant le noyau pour une cible spécifique, on peut atteindre une efficacité non seulement pratique mais aussi théorique. Une suite naturelle est la recherche d'autres familles cible-noyau permettant une telle fermeture, par exemple parmi les familles exponentielles. Une autre direction est l'assouplissement des exigences de régularité pour couvrir les noyaux populaires en pratique. L'étape clé suivante est de développer des méthodes numériques pour construire automatiquement des noyaux de dimension finie adaptés à une cible donnée. Ce travail est directement lié au problème fondamental de la propagation du chaos en mécanique statistique hors équilibre et à la justification des méthodes de champ moyen. L'orchestre de particules sait désormais que sa musique peut résonner éternellement sans perdre sa justesse.