От оптимизации к коллективной разведке: эволюционные алгоритмы выходят на новую территорию ✛ ✎ ✦

Оригинал: "From Consistency to Collaborative Discovery: MFEA-CoD for Multitask Novelty Search"
arXiv:2607.00761 · 2026-07-01 · arXiv non-exclusive · собственный разбор · 2 мин
Эволюционная многозадачность впервые применена не для ускорения сходимости, а для координированного поиска поведенчески новых решений.

Контекст

Эволюционные алгоритмы (эволюция в пробирке) долго служили для поиска одного лучшего ответа. Но когда ландшафт обманывает, быстрее приводит к цели не жадный подъём, а исследование «просто интересного». Так появился поиск новизны — метод, нацеленный на охват разнообразных поведений, а не на немедленное вознаграждение. Теперь этот подход вышел на новый уровень: несколько поисковых задач запускаются одновременно и учатся друг у друга, избегая дублирования открытий. Подобно картографам, которые делят материк на сектора, алгоритмы разделяют пространство генотипов, чтобы быстрее составить полную карту фенотипов.

Методы

В основе MFEA-CoD лежат два механизма. Первый — репульсионный оператор: он отталкивает поисковые траектории разных задач друг от друга, словно магнитные полюса, заставляя их исследовать разные участки. Второй — адаптивный перенос решений между задачами: если одна открыла перспективную область, другая может этим воспользоваться, но только когда это реально полезно. Интенсивность переноса регулируется по ходу дела, анализируя вклад в общий архив новизны. Такой дуэт напоминает работу археологов, которые раскапывают разные курганы, но иногда сбегаются к общей находке, а затем снова расходятся по своим участкам.

Результаты

Испытания на синтетических и реалистичных задачах подтвердили эффективность. В серии задач типа «бассейны» с разной степенью пересечения целевых областей MFEA-CoD увеличивал итоговый архив решений на 15–35% по сравнению с независимым поиском. На лабиринтах, где робот должен найти выход вопреки обманчивым тупикам, координированный поиск достигал 100% успеха в пяти из шести сценариев, а первый удачный маршрут находил в 1.5–2 раза быстрее. В задачах управления роботами Hopper и Walker2d из набора MuJoCo алгоритм стабильно превосходил как одиночный поиск новизны, так и классические оптимизаторы, быстрее выходя на высокие награды.

Значение

Перенос идеи «совместной разведки» в стохастическую оптимизацию открывает путь к решению проблем, где целевая функция вводит в заблуждение. Это может быть полезно в инженерном дизайне, планировании движений, открытии лекарств — везде, где важнее исследовать пространство возможностей, чем быстро сходиться к локально хорошему, но обманчивому решению.

Развитие

Ожидается, что подход масштабируют на десятки и сотни задач, возможно, с динамическим определением родства между ними. Другое направление — гибридизация с физическими симуляциями и большими языковыми моделями, чтобы переносить знания не только между задачами, но и между дисциплинами.

Влияние

Метод повлияет на все области, где применяется эволюционная оптимизация: от робототехники (обучение навыкам) до автоматического синтеза материалов и нейросетевых архитектур.

Следующие шаги

Ближайший шаг — проверка на задачах с реальным физическим моделированием, где каждый эксперимент дорог, и кооперация особенно выгодна.

Ключевые проблемы

Работа затрагивает фундаментальную проблему преодоления обманчивых ландшафтов — одну из «великих задач» глобальной оптимизации, встречающуюся при сворачивании белков, в квантовой химии и в тренировке глубоких сетей. Эффект ступеньки, поддерживаемый новизной, может быть универсальным ключом к таким ландшафтам.

Взгляд машины знаний

Этот раздел адресован автору работы и его коллегам. Соседние работы нашёл смысловой поиск по нашему архиву — не по совпадению слов, а по смыслу. Мы не рецензируем: мы показываем поле вокруг.

Что сделано в работе

Работа предлагает многофакторный эволюционный алгоритм MFEA-CoD, который решает несколько задач одновременно, координируя их через репульсионный оператор для разделения поисковых траекторий и адаптивный перенос решений для обмена полезной информацией. Алгоритм тестировался на синтетических задачах с пересекающимися целевыми областями, лабиринтах и задачах управления роботами, где показал увеличение архива решений и ускорение нахождения успешных маршрутов.

В чём сила

Сила работы в комбинации отталкивания для поддержания разнообразия и адаптивного обмена, который предотвращает преждевременную сходимость и позволяет совместно исследовать пространство поведений.

Куда можно двигаться

Что можно попробовать

  • Проверить, как репульсионный оператор влияет на покрытие пространства поведений в задачах с непрерывными ландшафтами новизны.
  • Использовать адаптивный перенос не только между задачами, но и между разными запусками одного алгоритма для обмена архивом новизны.
  • Применить MFEA-CoD к задачам планирования движений с несколькими роботами, где разделение траекторий критично для избежания столкновений.

Почему это может быть важно

Если координированный поиск новизны станет стандартным инструментом, это может ускорить открытие разнообразных решений в инженерии и науке, где важнее исследовать пространство возможностей, чем быстро сходиться к локально хорошему решению.

В тестах с лабиринтом робот иногда сначала шёл в противоположную от цели сторону, но именно этот «нелогичный» манёвр позволял ему позже найти короткий путь — классический эффект «ступеньки» в новизне.

\rho(x, A) = \frac{1}{K} \sum_{k=1}^{K} \mathrm{dist}(\phi(x), \mu_k)
Формальное определение новизны решения x: среднее расстояние до K ближайших точек в поведенческом пространстве из архива A
F_{\text{nov-aug}}(x) = w \cdot f(x) + (1-w) \cdot \rho(x, A)
Взвешенная сумма качества f(x) и новизны; коэффициент w регулирует баланс между оптимизацией и исследованием

Ключевые числа

  • рост архива на лабиринтах: до 3199 уникальных поведений против 2824 у одиночного поиска
  • успешные попытки: 100% успешных прохождений в 5 из 6 сценариев
  • ускорение первого успеха: в 1.5–2 раза быстрее находит первый работающий маршрут
  • дополнительный охват в генеративных задачах: архив изображений увеличился на 13–15%
Учёные
Andrey Markov
Понятия
генетический алгоритм открытие лекарств