Ocho músicos se quedan quietos antes de comenzar la sinfonía. Su parte es responder por turnos a los grandes modelos de lenguaje. Pero aquí está el problema: si uno llega tarde, los demás no pueden tocar ni una sola nota. Así funcionan los procesadores comunes: cuando muchos núcleos trabajan juntos en tareas de aprendizaje automático, deben encontrarse en puntos estrictamente definidos (barreras). La ausencia de un solo núcleo detiene a todo el grupo, y reemplazarlo por otro puede distorsionar el resultado.

En Anima OS, un sistema operativo escrito en Rust, resolvieron este problema transformando el grupo rígido en una orquesta flexible sin director. Cada núcleo-músico solo puede entrar o salir entre frases musicales, es decir, entre tokens (fragmentos de palabras). El sistema usa un protocolo simple: antes de comenzar una frase, todos los núcleos responden, aceptando tocar, y se forma una lista con ellos. Esta lista se fija, y después el trabajo continúa solo con los que están en ella. Si alguien no llega a tiempo, no importa: se salta esa frase y su trabajo lo hacen los vecinos.

Las pruebas en un procesador AMD Ryzen 9 con los modelos SmolLM2-135M y Qwen2.5-7B mostraron que, cuando se dedicaba una cuarta parte del tiempo a la IA, el rendimiento general para las tareas comunes aumentó 1,75 veces, de 327 a 574 operaciones de servicio por segundo. Al mismo tiempo, el modelo respondía con la misma rapidez y cada palabra coincidía exactamente con lo que habría producido un grupo rígido y aislado. La devolución del núcleo ocupado ocurría casi instantáneamente, en 0,22 microsegundos (una millonésima de segundo). Incluso si el núcleo estaba ocupado por otro proceso, se recuperaba en un máximo de 16 milisegundos.

La orquesta flexible rompe la regla habitual de que los cálculos sincronizados no se pueden compartir con otros. Ahora los modelos de lenguaje no son programas aislados, sino tareas flexibles que saben negociar recursos. Como una orquesta que cambia de formación entre los movimientos de una sinfonía, el procesador puede prestar núcleos a la IA por un instante y devolverlos de inmediato al resto de las tareas. En el futuro, esta solución podrá trasladarse a Linux convencional, adaptarse a procesadores móviles e integrarse en sistemas de ahorro energético. Ahora, un núcleo que llega tarde ya no es un problema. Al no llegar al inicio común, simplemente se salta un compás, y la orquesta flexible sigue tocando sin que una sola nota desafine.