Дирижёр держит не палочку, а кисть, и каждый взмах рождает цвет и форму. Эта аналогия помогает понять новую технологию: она преобразует эмоциональную динамику песни в панорамное видео, окружающее слушателя, — подобно тому, как художник превращает замысел в объёмное полотно.
Сначала алгоритм, подобно спектроскопии [tag:spectroscopy] — методу разложения света по длинам волн, — раскладывает трек на эмоциональные компоненты. Каждые четыре такта он определяет две числовые характеристики: уровень радости и энергичности. Эти два параметра становятся сырьём для визуализации: значения конвертируются в яркость и насыщенность кадров, а резкие музыкальные переходы добавляют визуальную энтропию [tag:entropy] — меру непредсказуемости, хаотичности, — делая картинку динамичной. Яркость подбирается с точностью фотометрических замеров [tag:photometry] — так в науке измеряют освещённость, — что обеспечивает физически достоверное ощущение света. В итоге рождается фильм, где можно оглядеться, словно вы стоите внутри музыкальной шкатулки, — аналогия упрощает: на деле вы погружаетесь в сферическую проекцию, реагирующую на звук.
Интересно, что система игнорирует текст песен и не копирует существующие клипы. Она передаёт чистую эмоциональную дугу — от тихой грусти до взрывной энергии, — опираясь исключительно на математический анализ музыкального сигнала. Так музыка становится видимой и объёмной.
Валентность и возбуждение — две шкалы, которыми психологи описывают любое настроение. Именно на них опирается технология, чтобы перевести музыку в цвет и движение.
В будущем музыканты смогут создавать не просто альбомы, а целые виртуальные миры, в которые можно войти.