Что прячет нейтринная модель: карта физики, которую не читает навигатор ✛ ✎

Оригинал: "Finding and using interpretable latents in a neutrino foundation model with sparse autoencoders"
arXiv:2608.26090v1 · 2026-08-26 · arXiv non-exclusive · собственный разбор · 1 мин
Внутри нейтринной модели нашли «библиотеку» физических признаков, но голова направления её почти не использует.

Когда нейтрино пролетает сквозь лёд, оно оставляет слабую вспышку света. Детектор IceCube ловит её, и модель PolarBERT должна угадать, откуда прилетела частица. Раньше было непонятно, что модель видит внутри.

Чтобы это узнать, исследователи применили разреженный автокодировщик — нейросеть, которая выделяет малое число значимых признаков. Получился словарь из 1024 «полок», на каждой — своя физическая идея. Например, одна полка отвечает за яркие и чистые события, другая — за глубину, на которой произошла вспышка.

Но голова направления, которая должна использовать эту библиотеку, почти не обращается к ней. Удаление этих признаков меняет предсказанное направление меньше чем на 0.1° — как если бы навигатор игнорировал подробную карту.

Зато другая голова — неопределённости — причинно зависит от ярко-чистых признаков. Обучив её, учёные смогли отбирать события так, что точность направления улучшилась с 20.2° до 3.2° при 20% отбора. Теперь ясно: модель знает физику, но не использует её для основной задачи. Это открывает путь к новым применениям.

Ярко-чистый латент срабатывает лишь на 14% событий, но именно он оказался причинным для головы неопределённости, а не для головы направления.

Понятия
автоэнкодер объяснимый ИИ автоматизированный анализ распознавание образов реконструкция данных с помощью нейронных сетей самонаблюдаемое обучение прозрачность нейронное усвоение языка трансформеры языковая модель белков система отсчёта прогностическая модель перенос обучения машинное обучение физически информированная нейронная сеть нейронные сети прогностического обучения детектирование нейтрино обучающие данные IceCube