Производительность cs.PF

Суперкомпьютер, моделирующий поведение лазерной плазмы, похож на кухню, где сотни поваров готовят одно блюдо. Если у одной плиты столпились десять человек, а у другой никого, работа встанет. Так и в расчётах: частицы плазмы скапливаются в одних участках пространства, оставляя другие почти пустыми. Процессоры, которым достались «горячие» зоны, трудятся на износ, а остальные ждут.

Рекомендательные системы, определяющие, какой пост вы увидите следующим, работают на глубоких нейросетях из тысяч операций — сложных графов вычислений (схемах из операций над данными). Эти системы — живые, постоянно эволюционирующие динамические системы: малейшее изменение архитектуры распространяется каскадом по всему графу.

Семь ядер замерли у невидимого барьера. Восьмое задержалось на чужом процессе — и весь LLM-инференс завис. Так выглядит главная коллизия совместной жизни задач машинного обучения и обычных процессов на одном процессоре. Инференс-ганг требует, чтобы все ядра ударили в такт одновременно — иначе тишина.