Нейронная сеть со случайно назначенными связями, используемая как базовый уровень для сравнения.Случайная сеть — это нейронная сеть, связи которой назначаются случайным образом, без какого-либо обучения. Она служит базовым уровнем в исследованиях машинного обучения, чтобы понять, что на самом деле дают структура и обучение. Удивительно, но случайные сети могут работать лучше, чем ожидается, особенно в сочетании с определёнными архитектурами или при использовании в качестве извлекателей признаков.
Идея случайных сетей восходит к 1980-м годам, когда появились сети с эхо-состояниями и жидкостные машины, но современное возрождение связано с наблюдением, что случайно инициализированные глубокие сети могут быть удивительно эффективными, как показали исследования около 2010 года.
В случайной сети веса между нейронами инициализируются случайными значениями и затем замораживаются. Сеть не обучается с помощью обратного распространения ошибки. Вместо этого её выход либо используется напрямую (например, для классификации с помощью простого выходного слоя), либо её скрытые активации служат признаками для другой модели. Случайность действует как фиксированное нелинейное преобразование входа, которое иногда может полезным образом разделять данные.
Случайные сети используются в резервуарных вычислениях для прогнозирования временных рядов, в экстремальных обучающих машинах для быстрой классификации, а также как базовый уровень для оценки пользы обучения в глубоком обучении.
Случайная сеть с одним скрытым слоем может аппроксимировать любую непрерывную функцию на компактной области, если скрытый слой достаточно широк, — это результат, известный как теорема об универсальной аппроксимации для случайных признаков.

















