статистика

бустированное дерево решений

Комитет простых деревьев, каждое из которых исправляет ошибки предыдущего; долгое время стандартный классификатор в физике частиц.
29 статей

Описание

Бустинг деревьев решений (BDT) — это метод ансамблевого обучения, объединяющий множество простых деревьев решений для создания мощного классификатора. Каждое дерево обучается последовательно, при этом каждое новое дерево фокусируется на ошибках, допущенных предыдущими. BDT уже более десяти лет являются основным классификатором в физике высоких энергий, используемым для отделения редких сигнальных событий от подавляющего фонового шума в данных коллайдеров.

История

Концепция бустинга была предложена Робертом Шапирой в 1990 году, а алгоритм AdaBoost был разработан Фройндом и Шапирой в 1995 году. BDT стали стандартом в физике частиц после открытия бозона Хиггса в 2012 году, где они сыграли ключевую роль в отделении сигнала Хиггса от фона.

Как это работает

Наиболее распространённый алгоритм бустинга — AdaBoost: начните с набора весов на обучающих выборках, обучите неглубокое дерево, затем увеличьте веса неправильно классифицированных образцов и уменьшите веса правильно классифицированных. Следующее дерево обучается на перевзвешенных данных, и процесс повторяется. Итоговый прогноз — взвешенное голосование всех деревьев. Градиентный бустинг — это обобщение, которое оптимизирует произвольную функцию потерь, подгоняя каждое новое дерево под остаточные ошибки текущего ансамбля.

Где применяется

BDT используются в физике частиц для классификации событий, в кредитном скоринге для оценки рисков и в медицинской диагностике для прогнозирования заболеваний на основе данных пациентов.

Любопытный факт

При открытии бозона Хиггса в 2012 году BDT оказались настолько эффективными, что помогли выделить сигнал, который появлялся лишь примерно в одном из триллиона протон-протонных столкновений.

Граф понятий →

Статьи по теме · 29

Квантовая физика2026-08-102 минarXiv:2608.09583экспресс
Шум, который помогает исправлять ошибки: стохастический декодер для квантовых компьютеров
Квантовый компьютер похож на оркестр, где каждый музыкант — кубит, квантовый аналог классического бита, — играет свою партию, но то и дело сбивается из-за декогеренции и внешних помех. Чтобы музыка не превратилась в какофонию, нужен дирижёр, который мгновенно слышит фальшивые ноты и поправляет их.
Деление, сохраняющее непрерывность памяти
Удержать в голове точное положение ручки, пока её медленно двигают, — для мозга рядовая задача. Для искусственных нейросетей она почти невыполнима. Обычные рекуррентные сети, такие как GRU (Gated Recurrent Unit) и LSTM (Long Short-Term Memory), склонны разбивать непрерывное движение на жёсткие ступеньки: ручка не ползёт плавно, а перескакивает из точки в точку.
Машинное обучение2026-07-151 минarXiv:2607.13891экспресс
Радар без обучения: как PiVoT превращает шум в порядок
Обычный радар напоминает микрофон в гудящей толпе: отдельные звуки сливаются в кашу. PiVoT работает как дирижёр, который в хаосе настройки мгновенно распознаёт каждый инструмент. Вместо того чтобы перебирать гипотезы, алгоритм стягивает петлю вокруг самых вероятных целей — автомобилей, велосипедистов, пешеходов.
Слуховые аппараты с обратной связью: как технология «пробует» звук на вкус
Традиционные слуховые аппараты напоминают повара, который готовит по рецепту вслепую. Они анализируют звуковой беспорядок с микрофона и на его основе усиливают речь. В шумном кафе такой подход часто ошибается. Новая система ведёт себя как опытный кулинар: сначала обрабатывает сигнал, а затем «пробует» результат.
Интеллектуальное ускорение: как обучить энергосистему тактическому мышлению
Энергосистемы, интегрирующие солнечные панели и ветрогенераторы, напоминают шахматную партию: облачность и колебания нагрузки — это ходы соперника, которые невозможно предвидеть. Для поддержания баланса диспетчеры прежде перебирали десятки сценариев (неопределённость), что требовало чрезмерных временных и вычислительных ресурсов.
Теория информации2026-07-141 минarXiv:2607.13119экспресс
Двойные подсказки: как смартфоны обучаются без сбоев
Когда вы набираете «салат», а интеллектуальная клавиатура предлагает «цезарь», за кулисами миллионы телефонов совместно обучаются предсказывать слова. Они обмениваются не вашими сообщениями, а лишь улучшениями общего алгоритма — подобно тренеру, который рассылает спортсменам только изменения в плане тренировок: «добавьте 5 отжиманий к вчерашней программе».
Теория информации2026-07-141 минarXiv:2607.13160экспресс
Программируемые зеркала: как алгоритм DSAC-T управляет радиоволнами
Радиоволны от смартфона, распространяющиеся со скоростью света — около 300 000 км/с в вакууме, — легко отражаются от стен и углов, теряя энергию. Умные поверхности — это программируемые зеркала, состоящие из множества микроскопических отражателей: они улавливают рассеянный сигнал и перенаправляют его точно к цели, словно ловкий фокусник, заставляющий луч обходить преграды.
Тёплый старт для квантового мотора: как машинное обучение разгоняет расчёты молекул
DFTB — это скоростной поезд в мире квантовой химии: в сотни раз быстрее классического DFT, но всё ещё на электронных рельсах. Однако его двигатель — итеративное самосогласование зарядов — порой напоминает оркестр, где каждый инструмент начинает с произвольной ноты.
Гравитационное танго: как нейросеть с физической интуицией расслышала ритм чёрных дыр
Выделить сигнал от одной пары сверхмассивных чёрных дыр — всё равно что расслышать шаги танцора в грохоте урагана. Где-то в космосе эти монстры кружатся в медленном гравитационном танго, искажая само пространство-время. Их гравитационные волны — не резкие всплески, как у LIGO, а глубинное дыхание метрики, растянутое на годы.
Гены говорят на разных языках — нейросеть нашла общий
60 мышей, 1980 образцов, 234 пациента с раком лёгкого. За каждым числом — тысячи генов. Их активность измеряют, чтобы понять болезнь. Но данные не однородны: у одного больного оценивают уровень белка (непрерывное число), ставят диагноз (да/нет) и определяют подтип опухоли (категория). Смешать их в одной модели — как сложить градусы Цельсия и километры.
Молекулярный балет без режиссёра
Танец сотен частиц: одни пары кружатся медленно и плавно, другие дёргаются в бешеном ритме. Чтобы понять суть танца, нужно следить именно за медленными движениями — они и есть главная хореография системы. В науке о молекулах такие медленные движения называют «медленными модами», и именно они определяют, как белок сворачивается в клубок или как лекарство связывается с мишенью.
Как нейросеть подслушала шум жизни
Рост популяции со стороны похож на разгоняющийся поезд: сначала еле ползёт, потом набирает ход. Но стоит вглядеться в данные — и картинка расплывается. В одном замере десяток особей, в другом сразу сотня. Классические модели смахивают этот разброс как досадную грязь с объектива. Они считают, что шум везде одинаковый, и просто не обращают на него внимания.
Нейтринный детектор учится слышать шёпот
Фотограф снимает ночной лес и пытается поймать в кадр светлячков. Вспышки редкие, слабые, а вокруг — шум ветра и далёкие огни. Примерно так работает огромный детектор Hyper-Kamiokande в Японии: он ловит нейтрино — почти неосязаемые частицы — по крошечным вспышкам света в 260 тысячах тонн воды.
Космология2026-05-071 минarXiv:2605.05679экспресс
Космический оркестр проверяет тёмную материю
Два тяжёлых шара кружатся на поверхности пруда. От них расходятся круги — это гравитационные волны. Когда шары сближаются, волны уносят энергию, и круги становятся чаще. Астрономы ловят такую рябь от пар сверхмассивных чёрных дыр — они в миллиарды раз тяжелее Солнца и сидят в центрах далёких галактик. Но в пруду может быть не только вода.
Медицинская физика2026-04-282 минarXiv:2604.25356экспресс
Рентген-детектив без шпаргалок
Фруктовый смузи пробуют через две разные трубочки. Одна пропускает только крупные кусочки, другая — только жидкость. По отдельности ощущения обманчивы, но вместе они дают ключ: вот, кажется, банан, а здесь — клубника.
Как нейросеть находит ошибки в учебниках физики
Ядро урана напоминает тугой кошелёк, защёлкнутый на две половинки. Чтобы он лопнул и высвободил энергию — то есть чтобы ядро разделилось, — нужно перевалить через энергетический барьер. Высота этого порога определяет, стабильно вещество или готово распасться в любой момент.
Ловец смазанных электронов
Когда две частицы летят почти с одинаковой скоростью в одном направлении, их сигналы в детекторе сливаются, как два голоса в унисон. Отличить дуэт от солиста — отдельное искусство.
Нейросеть учится видеть распады бозона Хиггса
На Большом адронном коллайдере сталкиваются протоны, и из вспышки рождаются десятки частиц. Среди них могут быть следы редких процессов — например, распад бозона Хиггса на два W-бозона. Но эти частицы разлетаются так быстро, что их следы сливаются в одну широкую струю. Выделить такую струю среди тысяч похожих — всё равно что найти нужную ветку в шумящем лесу.
Отделяем сигнал от шума в детекторах частиц
Детекторы частиц, такие как резистивные плоские камеры (RPC), работают как чувствительные ловушки: когда заряженная частица пролетает сквозь них, рождается электрический сигнал. Но иногда камера выдаёт ложный след — как будто кто-то невидимый нажал кнопку звонка. Эти ложные сигналы путают картину и мешают точно определить, куда летела частица.
Квантовые газы2026-03-261 минarXiv:2603.25775экспресс
Нейросеть увидела узлы в квантовом тумане
В холодном облаке атомов, охлаждённом почти до абсолютного нуля, энергии могут вести себя как нити, которые сплетаются в косы. Эти косы — не просто красивый образ: их узор связан с топологией, разделом математики, изучающим свойства, сохраняющиеся при непрерывных деформациях.
Как нейросеть наводит резкость в ливнях частиц
В детекторе Большого адронного коллайдера каждую секунду рождаются миллионы частиц. Их вспышки энергии в калориметре похожи на капли дождя на оконном стекле: отдельные капли видны, но когда их много и они сливаются, разглядеть каждую уже сложно. А физикам нужно знать точно, сколько энергии принесла каждая частица и куда она попала.
Детектор, который не устаёт
Детектор частиц на Большом адронном коллайдере работает годами без остановки. Его датчики каждую секунду выдают горы данных, и среди них нужно быстро заметить сбой — например, перегрев или сломанный канал. Раньше за этим следили простые правила, но они часто ошибались.
Учим нейросеть на меньшем, но с умом
Белков в природе — как песчинок на пляже, и у каждого своя работа: одни расщепляют пищу, другие строят клетки. Но чтобы понять, чем именно занят конкретный белок, его нужно изучить в лаборатории — а это медленно и дорого.
Машинное обучение2026-02-211 минarXiv:2602.18679экспресс
Как нейросеть предсказывает невиданное
Турбулентный поток воды в трубе и колебания маятника кажутся непохожими. Но внутри у них есть общее: оба подчиняются своим законам движения, которые можно описать числами. Нейросеть, обученная только на одном таком «танце» чисел, вдруг начинает понимать другой — без единого дополнительного примера. Это как музыкант, который выучил одну мелодию, а потом с листа играет незнакомую пьесу, уловив её гармонию.
Компьютерное зрение2026-01-242 минarXiv:2601.17504экспресс
Опухоль мозга на снимках: где заканчивается уверенность
Ткань мозга на снимке напоминает грозовое небо: светлые пятна, тёмные провалы, размытые края. Опухоль прячется среди этих узоров, и врачу нужно обвести её контур, чтобы спланировать операцию или облучение. Один режим МРТ подсвечивает отёк, другой — ядро опухоли, третий — мёртвые участки.
Климат в цене облигации: как машинное обучение предсказывает купоны катастрофных бондов
В 1992 году ураган Эндрю пронёсся по Флориде, оставив страховщиков с убытками в 15,5 миллиарда долларов. Многие компании тогда обанкротились, и рынок придумал способ перекладывать риск катастроф на плечи инвесторов: катастрофные облигации.
Деревья предсказывают хаос без настройки
Оркестр без дирижёра: музыканты рассаживаются, настраивают инструменты и начинают играть слаженно, потому что каждый слышит общий ритм. Так работает TreeDOX — метод, который предсказывает хаотические ряды, не требуя от человека ни выбора параметров, ни тонкой настройки.
Картограф бифуркационных ландшафтов: как численное продолжение вскрывает скрытые механизмы систем с запаздыванием
Картограф, прокладывающий маршрут через горный хребет, отмечает не только вершины и долины, но и перевалы, где тропа резко меняет направление.
Совет из сотни невысоких экспертов предсказывает капризы Эль-Ниньо
Барометр в порту Папеэте на Таити и барометр в австралийском Дарвине разделяют 7400 километров. Когда один показывает высокое давление, другой часто показывает низкое, и эта разница, названная Южной осцилляцией, управляет дождями от Индии до Бразилии. Предсказать её хотя бы на месяц вперёд — задача с вековой историей.