Orquesta sin director: un grupo elástico para la inferencia de LLM
Siete núcleos se detienen en una barrera invisible. El octavo se ha entretenido en un proceso ajeno... y toda la inferencia de LLM se congela. Así es el principal conflicto de convivencia entre las tareas de aprendizaje automático y los procesos comunes en un mismo procesador.