Un orchestre sans chef : le gang élastique pour l'inférence de LLM
Sept cœurs sont figés devant une barrière invisible. Le huitième s'attarde sur un processus étranger — et toute l'inférence de grands modèles de langage se bloque. Voilà le principal conflit de la vie commune entre les tâches d'apprentissage automatique et les processus ordinaires sur un même processeur.