статистика

перекрёстная проверка

Оценка модели на данных, на которых она не обучалась, путём многократного разбиения выборки.
24 статьи

Описание

Перекрёстная проверка — это семейство методов для оценки того, насколько хорошо статистическая модель будет работать на новых, ранее не виденных данных. Основная идея заключается в разделении имеющихся данных на отдельные части: одна часть используется для обучения модели, а другая — для её тестирования. Это имитирует реальную ситуацию, когда модель должна делать предсказания на данных, с которыми она никогда не сталкивалась, что даёт более честную оценку её предсказательной способности, чем простое повторное тестирование на обучающих данных.

История

Концепция была введена Сеймуром Гайссером в 1975 году, опираясь на более ранние работы по разделению данных и предсказанию.

Как это работает

Наиболее распространённая форма — k-блочная перекрёстная проверка. Данные случайным образом делятся на k блоков одинакового размера. Модель обучается на k−1 блоках и тестируется на оставшемся блоке. Этот процесс повторяется k раз, каждый раз используя другой блок в качестве тестового набора. Итоговая оценка производительности — среднее значение результатов по k тестам. Это позволяет использовать все данные как для обучения, так и для тестирования, снижая дисперсию оценки по сравнению с однократным разбиением.

Где применяется

Используется в машинном обучении для настройки гиперпараметров, выбора между конкурирующими моделями и получения реалистичных показателей точности.

Любопытный факт

В перекрёстной проверке с исключением по одному — частном случае, когда k равно числу точек данных, — модель обучается на всех точках, кроме одной, и тестируется на этой единственной точке, и так повторяется для каждой точки.

Граф понятий →

Статьи по теме · 24

Оркестр без дирижёра: как услышать ритм в неровных наблюдениях
Оркестр играет без дирижёра. Каждый инструмент вступает по своему расписанию: скрипка в понедельник, флейта в среду, литавры в субботу. Астрономы слышат не музыку, а отдельные ноты, разбросанные по календарю. Телескоп видит звезду только когда она над горизонтом и когда расписание выделило ей время. Получается неровная временная сетка, на которой классические методы корреляции спотыкаются.
Диагноз по реакции: что рассказывает здоровая ткань мозга о болезни
Представьте, что вы пытаетесь понять, что случилось в комнате, по звуку, который остался после выстрела. Выстрела уже нет, но эхо ещё гуляет по стенам. Примерно так нейропатолог смотрит на срез мозговой ткани, в котором самой опухоли не оказалось: биопсия взяла только здоровую ткань, которая успела отреагировать на болезнь.
Предвзятость, которой не нужен учитель: эффект обратной базовой ставки
Представьте склад с коробками яблок и груш. Яблок много, груш мало. Но когда кладовщик говорит «фрукт с гладкой кожурой», мы почему-то чаще вспоминаем редкую грушу, а не частое яблоко. Это проявление эффекта обратной базовой ставки — устойчивого когнитивного искажения, при котором мозг, разрешая неоднозначность между категориями, систематически переоценивает редкие варианты за счёт частых.
Неинвазивный глюкометр на запястье: почему точность оказалась миражом
Глюкометр, которому не нужно прокалывать палец, а достаточно лишь «взглянуть» на запястье, — мечта миллионов людей с диабетом. Именно её обещают алгоритмы, извлекающие уровень глюкозы из обычного сигнала пульса — фотоплетизмограммы (ФПГ), той самой кривой, что измеряет частоту сердечных сокращений в умных часах.
Машинное обучение2026-08-011 минarXiv:2608.00776экспресс
Химия обретает зрение: как компьютерное зрение улучшает предсказание химических реакций
Прогноз выхода химической реакции — это попытка предсказать урожай, зная лишь состав почвы. Долгое время химики опирались на длинные колонки чисел, так называемые квантовые дескрипторы, которые описывают энергию электронов, но умалчивают о форме молекулы.
Гравитация-невидимка: танец двойных звёзд бросает вызов Ньютону
Два фигуриста на застывшем до горизонта озере. Они так далеко, что силуэты превратились в точки, а их взаимное притяжение — почти богословский концепт. По заветам Ньютона, они обязаны кружиться в умозрительно медленном вальсе. Но телескопы видят иное. Пары кружат быстрее, будто лёд сам дышит под ними, сообщая ускорение, которого там быть не должно.
Машинное обучение2026-07-161 минarXiv:2607.14995экспресс
MseaCL: как научить ИИ различать похожие МРТ-снимки, используя текстовые отчёты
Обычные алгоритмы компьютерного зрения воспринимают медицинские изображения как набор несвязанных фрагментов — любые два несовпадающих снимка для них абсолютно различны. Это напоминает попытку отличить близнецов, не зная об их родстве. В медицине же пациенты с одним заболеванием часто выглядят на МРТ почти идентично, и алгоритм ошибается, путая «родственные» случаи.
Иллюзия точности: как проверка ИИ в акустике вводит в заблуждение
Искусственный интеллект, предсказывающий акустику помещения, напоминает студента на экзамене со шпаргалкой. Если проверочные точки совпадают с учебными, модель просто запоминает звуковой «отпечаток» каждой позиции — как студент, узнающий билет по загибу уголка.
Компьютерное зрение2026-07-141 минarXiv:2607.12375экспресс
Искусственный интеллект с лупой и спектрометром: как нейросеть оценивает качество изображений
Оценка качества снимка — это работа для дотошного контролёра с целым арсеналом инструментов. Нейросеть IQA-T1 действует именно так: она не просто разглядывает картинку, а методично применяет то спектроскоп, то люксметр. Цифровой шум, словно рябь на воде, маскирует дефекты, но анализ частот — спектроскопия изображения — позволяет выявить потерю резкости.
Системы и управление2026-07-141 минarXiv:2607.13221экспресс
Верификация энергосети через выборочный контроль: метод фон Неймана
Энергосеть — огромный ресторан, где тысячи «блюд»-аварий грозят подачей каждую минуту. Полная проверка каждой тарелки отнимет часы, а беглый осмотр иногда пропускает опасность, как незаметную плесень на сыре. Метод фон Неймана — математика, придумавшего, как ловить шулеров, проверяя лишь часть карт, — предлагает иной путь.
Машинное обучение2026-07-141 минarXiv:2607.14157экспресс
Умное сито для поиска: как C3R отсеивает дезинформацию и молчит в сомнениях
Поиск в интернете похож на просеивание муки для выпечки: среди белых частиц могут оказаться тёмные вкрапления почвы. Это загрязнение данных — незаметная примесь, которая портит итоговый результат. C3R действует как умное сито: оно не только отсеивает информационный сор — ложные или вводящие в заблуждение данные, — но и способно остановиться, если мусора слишком много.
Системы и управление2026-07-131 минarXiv:2607.11243экспресс
Почему в тяговой сети поездов возникают колебания напряжения
Электрическая сеть железной дороги подобна оркестру: поезда — музыканты, чьи силовые преобразователи по-разному откликаются на ток. Когда их «электрические голоса» звучат вразнобой, возникает беспорядок — какофония, способная перерасти в опасную раскачку напряжения.
Таможенный досмотр для кода: как гарантировать безошибочную оптимизацию детских программ
Ребёнок собирает в Scratch простую игру: персонаж появляется в центре и мгновенно перепрыгивает в угол. Первое перемещение пропадает между кадрами — его никто не видит. Убрать такую команду безопасно. Но как автоматический оптимизатор узнает об этом? Сегодня в репозитории Scratch десятки миллионов проектов, написанных юными авторами. Ошибка улучшателя способна незаметно исказить их замысел.
Компилируем один раз, дифференцируем везде
Переводчик сидит в зале совещаний и переводит каждое слово. Но вот он замечает, что его перевод можно улучшить, если он будет учиться на своих ошибках. Он начинает записывать, какие фразы вызвали непонимание, и корректирует их. Через час его перевод становится точнее, а совещание проходит быстрее.
Как проверить предсказатель, не зная ответа
Лаборатория отправляет роботу список из тысячи молекул-кандидатов для нового лекарства. Робот-предсказатель, натренированный на старых данных, выдаёт для каждой оценку «подойдёт — не подойдёт». Но когда список приходит из незнакомой области — другого вируса или редкой опухоли — робот начинает путаться. Его уверенность остаётся высокой, а реальные попадания падают до нуля.
Медицинская физика2026-05-231 минarXiv:2605.26151экспресс
Усталость мышц видна без прикосновений
Рука поднимает с полки чашку — привычное движение, которое мы не замечаем, пока мышцы не устанут. Тогда траектория меняется: локоть уходит чуть в сторону, кисть подрагивает. Врач обычно ловит эти перемены руками, ощупывая мышцы пациента.
Почему дрожит рука, а ноги не идут
У одного человека болезнь начинается с дрожи в руке — чашка пляшет на блюдце, пока он несёт её к столу. У другого — ноги вдруг отказываются идти ровно: шаг становится коротким, шаркающим, будто пол внезапно покрылся липким слоем. Это не две разные болезни, а два лица одной и той же — болезни Паркинсона.
Методология2026-05-181 минarXiv:2605.18655экспресс
Карта тёмной материи без подстраховки
Камера делает снимок, но матрица шумит, оптика размывает, а часть пикселей засвечена. Восстановить исходную картинку — всё равно что угадать мелодию по испорченной пластинке: вариантов много, и какой из них правдив, неясно. В науке такие задачи называют обратными, и они повсюду — от медицинских томографов до радиотелескопов.
Материаловедение2026-04-292 минarXiv:2604.26703экспресс
Когда компьютер ошибается — и сам это чинит
Повар готовит пирог по рецепту, но вместо пышного теста получает жёсткую корку. Он начинает перебирать причины: может, мука отсырела, или духовка греет неравномерно, или яйца были слишком холодными. Примерно так же ведут себя расчёты в материаловедении: стандартная теория (DFT) часто ошибается, предсказывая, что кристалл будет проводить ток, а эксперимент показывает — он изолятор.
Методология2026-04-251 минarXiv:2604.23463экспресс
Как два врача вместе точнее ставят диагноз
Два специалиста смотрят на один и тот же снимок молочной железы. Один — опытный врач, второй — программа с искусственным интеллектом. Иногда их мнения совпадают, иногда расходятся. От того, насколько часто они соглашаются друг с другом, зависит, насколько точно они вместе отличат здоровую ткань от опухоли.
Биомолекулы2026-01-311 минarXiv:2602.00782экспресс
Белки без заикания
Белковая языковая модель — это как повар, который учился по тысячам рецептов и теперь сочиняет новые блюда. Иногда он увлекается и сыплет соль в каждое блюдо, потому что в одной удачной книге её было много. В белках такое повторение — не просто некрасиво: одинаковые куски цепочки делают белок хрупким, он не может свернуться в нужную форму и не работает.
Геномика2026-01-141 минarXiv:2601.09758экспресс
Как отличить технический сбой от настоящей болезни
Генетическая диагностика похожа на сравнение двух фотографий, сделанных разными камерами. Если одна камера чуть сдвинула цвета, на снимке появятся «дефекты», которых нет в реальности. Так и в анализе ДНК: образец пациента сравнивают с эталонным, и если эталон обработан реактивами из другой партии или в другой лаборатории, сравнение даёт ложные сигналы — то лишние мутации, то пропущенные настоящие.
Неровный пульс времени: как случайный ритм измерений искажает выводы и что с этим делать
Представьте переводчика, который отвлекается на каждый шорох в зале. Чем больше шорохов, тем больше ошибок в переводе, хотя смысл речи не менялся. Так и с данными: если измерения идут неравномерно, стандартные инструменты анализа начинают «слышать» изменения, которых в самом процессе не было.
Где ломается лёд: как найти переломы в случайном потоке
Ледяной покров реки кажется цельным, но под ним есть трещины, которые меняют течение. Так и временной ряд: за ровной поверхностью чисел скрываются моменты, когда правила игры меняются. Эти моменты называют точками смены, и их поиск похож на простукивание льда в поисках слабых мест.