статистика

важность признаков

Насколько каждая входная переменная на самом деле влияет на решения обученной модели.
42 статьи

Описание

Важность признаков относится к методам, которые присваивают оценку входным признакам на основе того, насколько они полезны для предсказания целевой переменной в обученной модели. Это помогает интерпретировать, какие переменные наиболее влиятельны в решениях модели, способствуя пониманию модели, отбору признаков и получению инсайтов в предметной области.

История

Концепция неформально использовалась десятилетиями, но формализованные методы, такие как важность по Джини, были введены с случайными лесами в начале 2000-х годов Лео Брейманом и Адель Катлер. Важность по перестановкам также стала популярной примерно в то время.

Как это работает

Методы различаются в зависимости от типа модели. Для моделей на основе деревьев (например, случайные леса, градиентный бустинг) важность часто вычисляется по тому, насколько каждый признак уменьшает нечистоту (например, нечистоту Джини или энтропию) во всех разбиениях. Для линейных моделей величина коэффициентов может служить приблизительной оценкой. Агностические к модели методы, такие как важность по перестановкам, измеряют падение производительности модели при случайном перемешивании значений признака, разрывая его связь с целевой переменной.

Где применяется

Используется в таких областях, как геномика, для выявления генов, наиболее предсказывающих заболевание, в маркетинге для понимания ключевых факторов, влияющих на клиентов, и при отладке моделей, чтобы убедиться, что модель опирается на разумные признаки, а не на ложные корреляции.

Любопытный факт

Оценки важности признаков относительны и могут вводить в заблуждение, если признаки коррелированы; действительно важный признак может получить низкую оценку, если коррелированный признак уже используется в модели.

Граф понятий →

Статьи по теме · 42

Смещение в гонке вариантов: как задержка наблюдения искажает оценку преимущества
Два бегуна стартуют на дистанции с меняющимся уклоном. Один выходит раньше, другой позже, и судья замеряет их скорости, не зная о разнице в старте. Так и с вариантами вируса: данные о них приходят с задержками, и если эти задержки неодинаковы, оценка конкурентного преимущества может оказаться грубо неверной. В эволюционной биологии преимущество часто оценивают по наклону логит-кривой частоты вторгающегося типа.
Оркестр дыхания: как коврик под простыней слышит паузы в ночном дыхании
Ночью в спальне звучит оркестр, где солист — дыхание. Под простынёй лежит коврик из 512 датчиков, и каждый улавливает малейшие движения тела. Когда дыхание останавливается на десять секунд, оркестр замолкает. Задача — услышать эту тишину. Раньше было неясно, какие ноты в этой музыке важнее.
Награда как педаль газа: почему с возрастом она жмётся слабее
Денежная купюра, приклеенная к финишной черте, заставляет руку лететь быстрее. В лаборатории такую купюру заменили монетой в 50 пенсов, а финишную черту — целью на экране. Исследователи пригласили 28 молодых людей и 28 пожилых, посадили их за рукоятку робота и попросили вести курсор к цели. Иногда за быстроту и точность платили, иногда нет.
Нейронный табель: как органоиды оценивают лекарства для мозга
В школьном дневнике каждая оценка говорит сама за себя, но понять, как ученик справляется в целом, можно только по табелю. Для лекарств, которые действуют на мозг, такого табеля долго не было. Каждый тест на миниатюрной копии мозга, выращенной в пробирке, давал свой сигнал: одни гены «зажигались», другие «гасли», электрические импульсы то учащались, то замирали.
Моторный контекст и когнитивная инерция: как движение меняет решения
Человек подбрасывает монетку, чтобы принять решение. Стоя на месте, он видит орла. Делает несколько шагов — и снова бросает. Интуитивно кажется, что ходьба не должна влиять на исход броска. Но что, если сама прогулка меняет то, как часто он решает просто повторить прошлый результат? Именно это проверили исследователи.
Машинное обучение2026-08-022 минarXiv:2608.01481экспресс
Мысль, прочитанная по магнитному полю
Магнитоэнцефалограф — прибор, похожий на шлем с сотнями датчиков, — улавливает слабые магнитные поля, которые создают работающие нейроны. Если человек слушает речь, в этих сигналах прячутся отпечатки услышанных слов. Но достать их оттуда непросто: сигнал от тысяч источников сливается в запутанный клубок.
SpecFANN: Молниеносный набросок звёздного спектра
Художник делает быстрый набросок углём — и лицо на портрете уже узнаваемо. Астрофизики решают схожую задачу: спектр звезды — это её индивидуальный портрет, раскрывающий температуру, состав, силу тяжести. До недавнего времени для получения такого портрета требовалась кропотливая «живопись маслом» — код радиативного переноса в условиях отклонения от локального теплового равновесия (non-LTE).
Системы и управление2026-07-161 минarXiv:2607.14606экспресс
Как за секунды распознать врага в небе
Пилоту в воздушном бою необходимо мгновенно идентифицировать объект и его намерения. Традиционные системы ожидают полного набора радарных данных — это сродни вратарю, который реагирует лишь после удара по мячу. Новый алгоритм действует как опытный вратарь: анализируя начальные движения нападающего, он предсказывает манёвр цели задолго до завершения траектории.
Обработка сигналов2026-07-161 минarXiv:2607.14938экспресс
Где ты? Радиоволны знают ответ: как помехи становятся навигацией
Радиосигналы в замкнутом пространстве ведут себя подобно акустическим волнам в концертном зале: многократно отражаясь от стен, мебели и других поверхностей, они формируют уникальную интерференционную картину — своего рода безмолвную «мелодию» каждого места. Смартфон, оснащённый приёмником, подобно чуткому уху, регистрирует эту картину через анализ помех и искажений сигнала.
Иллюзия точности: как проверка ИИ в акустике вводит в заблуждение
Искусственный интеллект, предсказывающий акустику помещения, напоминает студента на экзамене со шпаргалкой. Если проверочные точки совпадают с учебными, модель просто запоминает звуковой «отпечаток» каждой позиции — как студент, узнающий билет по загибу уголка.
Звук2026-07-151 минarXiv:2607.13477экспресс
ИИ-судьи речи: когда алгоритм оценивает не звук, а текстовые подсказки
Автоматические судьи речи — это алгоритмы, обученные оценивать произношение и эмоциональную окраску голоса. Однако, как показали исследования, они часто ведут себя подобно кулинарному критику, который выносит вердикт, прочитав меню, но не попробовав само блюдо.
Обработка сигналов2026-07-152 минarXiv:2607.13583экспресс
Оркестр из неидеальных элементов: как технологические неровности парадоксально усиливают радиосигнал
Представьте себе умную антенную панель — фазированную решётку, — которая управляет радиоволнами, несущимися с скоростью света. Она работает подобно оркестру: сотни миниатюрных излучателей, словно музыкальные инструменты, по команде с изменяемым напряжением сдвигают фазу (момент «вступления» в общее звучание).
Слуховые аппараты с обратной связью: как технология «пробует» звук на вкус
Традиционные слуховые аппараты напоминают повара, который готовит по рецепту вслепую. Они анализируют звуковой беспорядок с микрофона и на его основе усиливают речь. В шумном кафе такой подход часто ошибается. Новая система ведёт себя как опытный кулинар: сначала обрабатывает сигнал, а затем «пробует» результат.
Системы и управление2026-07-141 минarXiv:2607.12590экспресс
Коэволюция агента и среды: как алгоритм учится преобразовывать мир вокруг себя
Традиционно алгоритмы машинного обучения действуют в статичном окружении — подобно воде, которая течёт по уже проложенному руслу, не меняя его формы. Новый метод переворачивает эту парадигму: он позволяет агенту одновременно осваивать действия и целенаправленно изменять саму среду, в которой он существует.
Распознавание движений: ключ в позе, а не в траектории
Исследователи отобрали 16 повседневных действий — от мытья посуды до приседаний — и разложили движения на элементарные составляющие, подобно тому, как спектроскоп разделяет свет на спектр частот. Они сравнили три подхода к анализу и обнаружили неожиданный ключ к распознаванию: для идентификации действия достаточно усреднённого стоп-кадра, то есть статичной позы.
Нейроны раскрывают секреты за минуты, а не часы
Нейрон похож на сложный музыкальный инструмент. Чтобы понять, как он отзовётся на прикосновение, раньше приходилось подключаться к каждой струне напрямую — процедура тонкая, медленная и доступная лишь для единичных клеток. Матрицы микроэлектродов (сетки из сотен датчиков) слушают весь оркестр сразу, но расшифровать, какой именно инструмент играет, по общему гулу долго не удавалось.
Ретушь по правилам: где кончается наука и начинается обман
На экране — результат сложнейшего моделирования: две планеты столкнулись, разлетается ударная волна. Пара кликов в редакторе — и резкие тени становятся мягче, шум сглаживается, фон темнеет. Такая цифровая ретушь (правка изображения для улучшения вида) давно вошла в арсенал учёных.
Кто лечит лучше: универсальный ИИ или узкий специалист
Каждую неделю врачи задают ИИ-помощникам миллионы вопросов у постели больного. Но проверяют эти инструменты обычно на экзаменационных задачках, а не на том, что спрашивают в реальной клинике. Группа исследователей решила это исправить. Они собрали 620 настоящих вопросов от докторов из 30 специальностей — от кардиологии до онкологии.
Как глубокое обучение раскрывает логику солнечных прогнозов
Солнечные вспышки — мощные взрывы на Солнце, способные вывести из строя спутники и обесточить города. Их предсказание осложнено запутанностью магнитных полей в солнечных пятнах.
Сколько мышей нужно, чтобы понять микробиом
Затевая ремонт, краску покупают не на глаз, а по площади стен. В науке счёт образцов — такая же прикидка, только ставки выше. Недобор — и работа превращается в лотерею: можно пропустить реальный эффект, а можно случайно принять шум за открытие. Перебор — лишние пробирки, потраченные месяцы и, в опытах с животными, напрасные жизни. В микробиоме эта задачка особенно хитрая.
Квантовая физика2026-06-021 минarXiv:2606.02986экспресс
Слушая квантовый шум: как машинное обучение предсказывает предел чувствительности датчиков
Представьте кипящий чайник с плотно закрытой крышкой: бурления не видно, но звук и вибрация выдают мощность нагрева воды. Подобно этому, квантовые системы скрывают свою предельную чувствительность — способность улавливать магнитные поля или гравитационные волны — за сложной внутренней динамикой.
Как химическая логика спасает спектры от шума
Спектр — это как фотография внутреннего устройства вещества, сделанная светом. Когда луч проходит сквозь образец или отражается от него, молекулы оставляют на этой фотографии характерные тёмные полосы — пики. Но если снимок засвечен или покрыт серой пеленой, разглядеть детали почти невозможно.
Машинное обучение2026-05-081 минarXiv:2605.07878экспресс
Почему одни вопросы работают, а другие нет
Вы пробуете блюдо в ресторане, но меню не видели. Задаёте официанту вопросы — слишком солёное? с какими специями? — и по ответам пытаетесь угадать, что за повар его готовил. Примерно так же исследователи изучают современные нейросети, когда доступ к ним есть только через API (программный интерфейс, где можно задать вопрос и получить ответ, но нельзя заглянуть внутрь).
Популяции и эволюция2026-05-051 минarXiv:2605.04339экспресс
Лоскутное одеяло эволюции
Пятнистый ландшафт — не просто картинка из учебника географии. Для микробов, клеток или животных мир состоит из лоскутов: здесь теплее, там больше еды, а за тем камнем — почти яд. Когда в такой мозаике появляется мутант с новым свойством, его судьба зависит от того, на какой «лоскут» он попал. Новая работа связывает воедино два фактора.
Популяции и эволюция2026-04-121 минarXiv:2604.10571экспресс
Эволюция по одним законам
Инженеры, улучшающие нейросети, действуют как селекционеры: пробуют вариант, смотрят на результат, оставляют лучшее. Собрали 935 таких проб из 161 статьи и измерили, как часто правка кода оказывается полезной, вредной или никакой. Картина вышла знакомая каждому биологу: 68% изменений ухудшают работу, 19% не меняют ничего, и лишь 13% дают выигрыш.
Сила хвата, дыхание и бег: три щита от деменции
Старение мозга похоже на износ моста: трещины появляются незаметно, но если вовремя укрепить опоры, конструкция простоит дольше. Такими опорами оказались три обычные вещи — сила рукопожатия, способность долго двигаться без одышки и объём лёгких. Врачи наблюдали за 51 517 британцами 12 лет и увидели: у людей с самым высоким уровнем каждой из этих способностей деменция развивалась вдвое реже, чем у самых слабых.
Машинное обучение2026-04-051 минarXiv:2604.04175экспресс
Врач видит не всё: модель учится на пробелах
Обычная медицинская нейросеть видит пациента как точку на карте: есть рост, давление, анализ крови — и модель ставит одну метку «здоров» или «болен». Но в реальной больнице карта всегда рваная. Один анализ сдан в понедельник, другой — через месяц, а томограф вообще другой марки. Точка на такой карте — самообман. Новая модель работает иначе.
Походка как зеркало здоровья
Походка — это не просто способ добраться из точки А в точку Б. Каждый шаг, взмах руки, наклон корпуса — как подпись, которую тело оставляет в пространстве. Раньше врачи замечали, что болезнь меняет походку, но считали это лишь симптомом конкретной проблемы: хромаешь — значит, болит нога. Теперь выяснилось, что походка — это целая книга о здоровье, и читать её можно с помощью обычной камеры.
Геномика2026-03-221 минarXiv:2603.21201экспресс
46 способов посчитать риск
Генетики читают ДНК как длинный список букв. Из него они складывают «оценку полигенного риска» — число, которое показывает, насколько у человека выше или ниже среднего шанс заболеть, например, диабетом. Таких способов посчитать риск сейчас десятки, и каждый делает это по-своему: один смотрит на тысячу букв, другой — на миллион, третий требует мощный компьютер, четвёртый падает на половине данных.
Гидродинамика2026-03-191 минarXiv:2603.18615экспресс
Капля бьёт по-разному
Капля дождя, падая на землю, бьёт с определённой силой. Но что, если капля не круглая, а вытянутая, как сигара, или сплюснутая, как блин? Оказывается, форма капли решает всё: сила удара может меняться более чем в десять раз только из-за того, как капля выглядит в момент падения.
Машинное обучение2026-02-011 минarXiv:2602.01045экспресс
Спрятанные признаки ускоряют обучение
Нейросеть можно сравнить с общежитием, где каждому жильцу полагается своя комната. Обычно каждый признак в данных занимает отдельный нейрон, и обучение идёт по очереди: сначала один признак, потом другой. Это медленно и зависит от того, какие именно данные попались. Но если разрешить нескольким признакам жить в одной комнате — наложить их друг на друга, — картина меняется.
Биомолекулы2026-01-311 минarXiv:2602.00660экспресс
Как белки находят свой минимум
Чтобы отличить один белок от другого, нужно описать его форму и состав. Таких описаний — десятки: длина молекулы, заряд, растворимость. Но не все они одинаково полезны. Метод под названием Differentiable Information Imbalance (DII) умеет отбирать самые информативные характеристики, отбрасывая лишние.
Точки слома: как реставратор чистит данные
Старые метеосводки хранят сюрпризы: столбик термометра вдруг подпрыгивает на полградуса не из-за погоды, а потому что на станции сменили прибор. Такие резкие сдвиги в данных называют точками изменения, и отделить их от настоящих климатических сигналов — задача, над которой бьются статистики.
Карта в голове: как мозг переносит опыт
Переезжая в новую квартиру, человек не учится заново открывать двери и включать свет. Опыт из старого дома переносится сам собой: кухня — это место с плитой и мойкой, спальня — с кроватью. Мозг хранит не точную карту, а гибкую схему, которую накладывает на незнакомое пространство. Учёные построили компьютерную модель такого переноса. В ней два этажа.
Биофизика2026-01-211 минarXiv:2601.15106экспресс
Как клетка решает, выжить ли после облучения
Клетка, попавшая под пучок протонов, напоминает город после точечной бомбардировки: где-то разрушены целые кварталы, а где-то лишь выбиты стёкла. Выживет ли город, зависит от того, какие именно здания задеты — и как распределились удары. Раньше врачи оценивали ущерб по общей мощности бомбёжки, но этого мало: две одинаковые дозы могут оставить совершенно разные разрушения.
Как кровь рассказывает о судьбе опухоли
Капля крови может рассказать, как ведёт себя опухоль в лёгких. Врачи давно замечали: когда болезнь отступает, одни показатели крови растут, другие падают. Но связать эти изменения в единую картину не удавалось.
Биофизика2026-01-141 минarXiv:2601.09660экспресс
Как сухожилие рвётся изнутри
Сухожилие в плече — как трос, который держит руку и позволяет ей вращаться. Когда такой трос получает травму, его внутренняя структура меняется, и он начинает растягиваться иначе. В этой работе взяли сухожилие надостной мышцы крысы и потянули его вдоль волокон, одновременно записывая, как каждая точка внутри него смещается.
Машинное обучение2026-01-111 минarXiv:2601.06788экспресс
Почему нейросети напоминают чёрные дыры: урок «лысых» моделей
Дообучение нейросети сродни попытке изменить чёрную дыру, не переступая её горизонта событий: корректировке подвергается лишь малая часть параметров. Заглянув во внутреннюю структуру, исследователи обнаружили любопытные паттерны — сильные корреляции между фрагментами модели, напоминающие квантовую запутанность.
Машинное обучение2026-01-011 минarXiv:2601.00192экспресс
Сердце под микроскопом: крошечная модель ловит аритмию за полмикросекунды
Электрокардиограмма похожа на партитуру, где каждая нота — удар сердца. Врач слышит мелодию и замечает фальшивые ноты — аритмию. Но слушать партитуру часами утомительно, поэтому у кровати больного ставят умный датчик.
Шёпот в зале: как собрать материал, глушащий звук на двух частотах сразу
Стальная пластина с решёткой 8×8 ячеек гасит упругие волны сразу в двух частотных коридорах. Это не случайная удача, а итог расчёта по новой схеме: сначала грубый шаблон под низкую частоту, затем тонкая доводка внутри свободных пикселей под высокую. Фононный материал — искусственная структура, которая управляет распространением упругих волн, как светофор управляет потоком машин.