Dans les années 1990, le philosophe John Searle a imaginé une expérience de pensée : une personne est assise dans une pièce et, sans connaître le chinois, suit des instructions pour fournir des réponses correctes en chinois. De l'extérieur, on dirait qu'elle comprend la langue, mais à l'intérieur, ce n'est qu'un suivi mécanique de règles. Ainsi, un ordinateur qui imite le cerveau ne peut que simuler la conscience sans la posséder réellement. Cet argument est souvent résumé en une phrase : « Une simulation du cerveau n'est pas plus consciente qu'une simulation d'eau n'est mouillée ».
Les auteurs de la nouvelle étude abordent le problème autrement. Ils s'appuient sur l'idée que la conscience n'est pas une propriété de la matière, mais le résultat d'une certaine organisation computationnelle. L'eau est mouillée à cause des interactions entre molécules, pas parce que nous l'avons nommée ainsi. De même pour la conscience : si un système est organisé intérieurement comme un cerveau, il sera conscient — que ce soit des neurones ou des puces de silicium.
Auparavant, les chercheurs définissaient les fonctions par la manière dont le système réagit aux stimuli. Mais cette approche assimile le cerveau à un tableau géant de réponses. Pour éviter cela, les auteurs introduisent le concept de réalisation causale-computationnelle interne. Il prend en compte la manière dont les parties du système s'influencent mutuellement, comment leurs états changent et où se situe la frontière entre l'agent et l'environnement.
La conclusion est conditionnelle mais importante : si la conscience est un invariant de cette organisation interne, alors tout système qui la reproduit exactement sera conscient. Qu'il soit biologique, artificiel ou simulé — peu importe. On ne peut refuser la conscience à une simulation qu'en indiquant quelle structure interne précise elle ne reproduit pas.
Le cerveau humain consomme environ 20 watts — comme une ampoule dans un réfrigérateur, mais il résout des problèmes inaccessibles aux superordinateurs.
Dans le roman « La Cité des permutants » de Greg Egan, les gens téléchargent leur conscience dans une simulation informatique, et elle continue de vivre comme une personnalité numérique.