В 1990-х годах философ Джон Сёрл придумал мысленный эксперимент: человек сидит в комнате и, не зная китайского, по инструкциям выдаёт правильные ответы на китайском. Со стороны кажется, что он понимает язык, но внутри — лишь механическое следование правилам. Так и компьютер, имитирующий мозг, может только симулировать сознание, не обладая им на самом деле. Этот довод часто сводят к короткой фразе: «Симуляция мозга сознательна не более, чем симуляция воды мокрая».
Авторы новой работы смотрят на проблему иначе. Они опираются на идею, что сознание — не свойство вещества, а результат определённой вычислительной организации. Вода мокрая из-за взаимодействия молекул, а не потому, что мы её так назвали. Так и сознание: если система внутренне устроена как мозг, она будет обладать сознанием — будь то нейроны или кремниевые чипы.
Раньше исследователи определяли функции по тому, как система реагирует на стимулы. Но такой подход уравнивает мозг и гигантскую таблицу ответов. Чтобы избежать этого, авторы вводят понятие внутренней причинно-вычислительной реализации. Оно учитывает, как части системы влияют друг на друга, как меняются их состояния и где проходит граница между агентом и средой.
Вывод условен, но важен: если сознание — это инвариант такой внутренней организации, то любая система, точно её повторяющая, будет сознательной. Биологическая она, искусственная или смоделированная — роли не играет. Отрицать сознание у симуляции можно, только указав, какую именно внутреннюю структуру она не воспроизводит.
Мозг человека потребляет около 20 ватт — как лампочка в холодильнике, но при этом решает задачи, недоступные суперкомпьютерам.
В романе «Город перестановок» Грега Игана люди загружают сознание в компьютерную симуляцию, и оно продолжает жить как цифровая личность.