Huit musiciens sont figés avant le début de la symphonie. Leur partition : donner tour à tour les réponses d'un grand modèle de langage. Mais voilà le problème : si l'un d'eux est en retard, tous les autres ne peuvent pas jouer — pas une seule note. C'est ainsi que fonctionnent les processeurs ordinaires : lorsque de nombreux cœurs collaborent à des tâches d'apprentissage automatique, ils doivent se retrouver à des points strictement définis (les barrières). L'absence même d'un seul cœur suspend tout le groupe, et le remplacer par un autre peut fausser le résultat.

Dans Anima OS — un système d'exploitation écrit en Rust — ce problème a été résolu en transformant le groupe rigide en un orchestre flexible sans chef. Chaque cœur-musicien peut entrer ou sortir uniquement entre les phrases musicales, c'est-à-dire entre les jetons (morceaux de mots). Le système utilise un protocole simple : avant le début d'une phrase, tous les cœurs répondent, acceptant de jouer, et une liste est constituée. Cette liste est figée, et ensuite le travail ne se fait qu'avec ceux qui y figurent. Ceux qui n'ont pas répondu à temps — pas de souci, ils sautent cette phrase, et leur travail est fait par les voisins.

Les essais sur un processeur AMD Ryzen 9 avec les modèles SmolLM2-135M et Qwen2.5-7B ont montré : lorsque le quart du temps était consacré à l'IA, la performance globale pour les tâches ordinaires a augmenté de 1,75 fois — de 327 à 574 opérations de service par seconde. Le modèle répondait aussi vite, et chaque mot correspondait exactement à ce qu'aurait produit un groupe isolé strict. Le retour d'un cœur occupé se faisait presque instantanément — en 0,22 microseconde (un millionième de seconde). Même si un cœur était occupé par un autre processus, il était repris en 16 millisecondes au maximum.

L'orchestre flexible brise la règle habituelle selon laquelle les calculs synchrones ne peuvent pas être partagés avec d'autres. Désormais, les modèles de langage ne sont plus des programmes isolés, mais des tâches flexibles qui savent négocier les ressources. Comme un orchestre qui change de composition entre les mouvements d'une symphonie, le processeur peut prêter ses cœurs à l'IA un instant, puis les rendre aussitôt à d'autres occupations. À l'avenir, une telle solution pourrait être portée dans Linux classique, adaptée aux processeurs mobiles et intégrée aux systèmes d'économie d'énergie. Désormais, un cœur en retard n'est plus un problème. N'ayant pas rejoint le départ commun, il saute simplement une mesure, et l'orchestre flexible continue de jouer — et aucune note ne sonne faux.