
Нейронные сети, которые учатся предсказывать будущие события или закономерности без явного контроля.Предиктивное обучение в нейронных сетях относится к классу методов обучения без учителя, при котором сеть обучается предсказывать будущие точки данных, недостающие части входных данных или последующие события в последовательности, не нуждаясь в размеченных примерах. Вместо того чтобы получать информацию о том, что представляет собой объект, сеть учится, пытаясь предсказать, что произойдет дальше — это мощная форма самоконтроля, которая извлекает структуру из необработанных данных. Такой подход лежит в основе многих современных прорывов в области ИИ, от языковых моделей, предсказывающих следующее слово, до систем компьютерного зрения, предвосхищающих будущие кадры видео.
Идея предсказания как обучающего сигнала восходит к 1980-м годам, когда в нейронауке появились теории предсказательного кодирования, но широкое распространение она получила в 2010-х годах с развитием глубокого обучения, особенно в работах по неконтролируемому обучению представлениям и предсказанию последовательностей.
Сети подается последовательность или частичное наблюдение, и она должна сгенерировать следующий элемент. Во время обучения ошибка между ее предсказанием и фактическим следующим элементом используется для корректировки внутренних весов сети. Многократно предсказывая, сеть строит внутреннюю модель закономерностей в данных — например, что галактики группируются определенным образом или что штрихи рукописного текста следуют плавным кривым. Такая предсказательная цель заставляет сеть улавливать причинно-следственные и статистические зависимости, позволяя ей обобщать на невиданные данные без явных меток.
Используется в автономном вождении для предсказания движения пешеходов, в сжатии видео, в обнаружении аномалий для промышленного мониторинга и в научных открытиях — например, нейронная сеть, которая идентифицировала новые галактики по данным телескопов без человеческой разметки.
Тот же предсказательный принцип используется в мозге: зрительная кора постоянно предсказывает следующую визуальную сцену, и только разница между предсказанием и реальностью передается в вышестоящие области.















