concept

théorie de l'information

Information theory is a conceptual framework quantifying information, entropy, and data compression in physical and biological systems.
22 articles liés · 1 formules · 5 qui a travaillé ici

Description

Le concept central est l'entropie de Shannon : H = −∑ pᵢ log₂ pᵢ. Elle mesure le nombre moyen de bits nécessaires pour coder un symbole de la source. Si tous les symboles sont équiprobables, H est maximale. La redondance du langage permet de compresser les données sans perte (Shannon a prouvé la limite de compression dans le théorème de la source). Une autre pierre angulaire est la capacité du canal : C = B log₂(1+S/N). Si l'on code un message avec un débit inférieur à C, on peut le transmettre pratiquement sans erreur, malgré le bruit. Ces idées fonctionnent dans tous les systèmes de communication : des satellites aux clés USB.

Histoire

Claude Shannon (1916–2001) a formulé une théorie mathématique dans ses rapports militaires secrets du début des années 1940 et l'a généralisée dans le célèbre article de 1948 dans le Bell System Technical Journal. Il a introduit le terme « bit » (proposé par J. Tukey) et a relié l'entropie informationnelle à l'entropie physique de Boltzmann. Ses prédécesseurs étaient H. Nyquist (qui a étudié la vitesse de transmission télégraphique, 1924) et R. Hartley (qui a proposé une mesure logarithmique, 1928). Plus tard, A.N. Kolmogorov a développé l'approche algorithmique de l'information (complexité de Kolmogorov). En théorie quantique de l'information, l'entropie de von Neumann généralise l'entropie de Shannon pour les états quantiques mixtes.

Comment ça marche

L'information est mesurée en bits comme le logarithme du nombre d'états possibles : I = log₂ N ou −log₂ p. L'entropie H = −∑ pᵢ log pᵢ atteint son maximum pour une distribution uniforme. Lors de la transmission sur un canal de capacité C (formule de Shannon-Hartley : C = B log₂(1+S/N) pour un bruit gaussien), le théorème de Shannon garantit : si le débit de codage R < C, on peut atteindre une probabilité d'erreur arbitrairement faible en utilisant des codes en blocs suffisamment longs. En pratique, on approche la limite à l'aide de turbo-codes et de codes LDPC, utilisant un décodage itératif et des probabilités a priori. Pour la compression sans perte, un code optimal atteint une longueur moyenne égale à l'entropie et est construit par l'algorithme de Huffman ou le codage arithmétique. La théorie de l'information s'applique également à l'apprentissage automatique (principe de longueur de description minimale, méthodes bayésiennes) et à la bioinformatique.

En pratique

Grâce à elle, Internet fonctionne, la compression des photos en JPEG et la récupération de la musique endommagée sur CD. Même le séquençage de l'ADN utilise une mesure informationnelle pour l'assemblage du génome.

Anecdote

La phrase « Hello, World! » dans un texte anglais aléatoire contiendrait environ 80 bits, mais en raison de la redondance de la langue, elle peut être compressée à 40-50 bits. Shannon a calculé qu'un texte anglais porte en moyenne seulement 1,3 bits par lettre.

Concept graph →

Formules

$$|\dot{I}|^2 \le \frac{1}{2\beta^2} \dot{\sigma} A$$
Information flow squared is bounded by entropy production times activity.
Ce qu'il y a dans la formule
Ivariableinformation flow between subsystems — information flow bit per second
σvariableentropy production rate — entropy production rate joule per kelvin second
Avariableactivity (a measure of dynamical activity in the system) — activity per second
βvariableinverse temperature (1/k_B T) — inverse temperature per joule
|·|²opérateursquared magnitude — absolute value squared
d/dtopérateurderivative with respect to time — dérivée temporelle
|\dot{i}_x|^2\le\frac{1}{2β_x^2}\dot{σ}_xa_x · 2606.27868

Articles liés · 33

Le chaos en chimie : comment la perte d'information révèle l'entropie de Kolmogorov-Sinaï
Notez une recette, puis comparez-la une heure plus tard : si les proportions ont dévié ne serait-ce que d'un gramme, le goût a disparu. C'est à peu près ainsi que se comportent les réactions chimiques dans les systèmes ouverts : la moindre différence dans les concentrations initiales s'amplifie avec le temps pour…
Une précision qui ne bride pas le changement
L'architecte consolide les fondations, mais ménage une porte pour les rénovations : c'est ainsi que les systèmes vivants équilibrent fiabilité et renouvellement. La cellule copie l'information héréditaire avec une précision dont rêverait n'importe quel copiste, tout en sachant tolérer des changements qui l'aident à survivre dans de nouvelles conditions.
Le piston qui guette le vide
Un piston dans un cylindre rempli de gaz se déplace généralement lorsque le gaz exerce une pression sur lui. Mais il existe un piston qui se déplace lorsqu'il y a du vide devant lui. Toutes les cinq secondes, il vérifie l'espace contre sa paroi, et si personne ne s'y trouve, il fait un pas vers l'intérieur, comprimant le gaz sans effort mécanique direct.
Un thermomètre capricieux pour les trous noirs
Un thermomètre capricieux affiche des températures différentes selon celui qui le regarde. C'est à peu près ce que fait un trou noir : ses propriétés thermiques — entropie et température — dépendent de la façon dont nous décrivons l'information qu'il recèle.
Physique biologique2026-07-282 minarXiv:2607.26295express
Comment le mouvement et les sensations s'enroulent en une boucle
Une bactérie nage vers de la nourriture. Un signal chimique la guide, mais à chaque mouvement, le signal change. Une boucle se forme : sensation — action — nouvelle sensation. Les auteurs de l'étude ont transformé cette boucle en une grandeur mesurable.
Compresser les réseaux : quand les routes deviennent des points
Une carte routière ordinaire avec le trafic, c'est une multitude de nombres. Les envoyer tous en entier prend trop de temps. Mais on peut réduire le volume sans perdre l'essentiel. Les chercheurs ont trouvé une solution ingénieuse : d'abord, redessiner la carte pour que les rues deviennent des points et les intersections des passerelles entre ces points.
Symphonie d'ombre : quand les données sont devenues un portrait de trou noir
En 2019, le monde a découvert la première image de l'ombre d'un trou noir : un beignet orange sur fond noir, devenu le symbole du progrès scientifique. Mais cette image n'a pas été prise par une caméra : elle est née d'une alchimie mathématique, où les données de huit radiotélescopes, n'ayant capté que des miettes de signal, se sont fondues en une image unique.
Comment l'entropie aide les robots à trouver leur chemin plus vite
Un groupe de recherche ratisse un champ brumeux. Au début, les gens s'écartent largement : une « température » de recherche élevée signifie une grande diversité de tentatives. Ayant repéré une piste, ils se rapprochent. Mais la vitesse de rapprochement est cruciale — si l'on resserre le cercle trop tôt, la meilleure trouvaille restera de côté.
Traitement du signal2026-07-152 minarXiv:2607.13710express
Cuisine sans délai : comment les réseaux gagnent en ultra-fiabilité
Imaginez un chef expérimenté en heure de pointe : soudain, une cuisinière tombe en panne ou un ingrédient clé vient à manquer. Au lieu de paniquer, il réorganise instantanément la recette — accélère la préparation de certains plats, ralentit d'autres, en redéployant les ressources à la volée. Ce principe d'adaptation dynamique est à la base de la nouvelle génération de réseaux ultra-fiables.
Comment l'IA a cessé de lire pour rien
Les assistants logiciels d'écriture de code agissent souvent comme un cuisinier qui, pour faire cuire un seul œuf, relit tout son livre de recettes. Face à une demande de correction minuscule, ils rouvrent des dizaines de fichiers et vérifient des liens connus depuis longtemps. C'est du travail inutile — de l'énergie gaspillée.
Concentré sonore : transmettre la parole sans gaspillage de bits
La méthode standard de numérisation de la parole : on mesure le volume des milliers de fois par seconde. C'est comme goûter un bouillon avec une cuillère à café — chaque gorgée est aqueuse, et il n'y a presque pas de détails. Le flux de données enfle, alors que le sens se compte sur les doigts. Les chercheurs ont proposé de « réduire » d'abord le signal sonore.
Systèmes dynamiques2026-07-042 minarXiv:2607.03979express
Qui propage, qui souffre : la vie cachée d'une épidémie
L'orchestre joue sans chef. Nous connaissons le volume global — c'est l'indice de contagiosité de base R0, le rayon spectral de l'épidémie. Mais la partition elle-même — la matrice des contacts entre personnes d'âges différents — renferme la mélodie : qui propage l'infection, et qui en reçoit le coup principal.
L'empreinte de la recherche : comment les pays signent leur science
Un article scientifique n'est pas seulement un ensemble de résultats, c'est une empreinte de la recherche. Certains chercheurs tracent sur le papier de strictes lignes bibliométriques, d'autres apposent des signatures expérimentales, d'autres encore écrivent en lettres d'analyse de contenu.
Logique2026-06-303 minarXiv:2607.01271
Le pont qui ne tient que pour le fini
Dans le monde de la logique, il y a un pont. Il enjambe le gouffre qui sépare l'admissibilité d'une règle de sa dérivabilité à partir des axiomes. Tant que les règles se contentent d'un nombre fini de prémisses, le pont est solide — pour la logique classique, tout ce qui ne viole pas la vérité est déjà contenu dans la syntaxe. Mais dès qu'on ajoute des prémisses infinies, les piliers commencent à trembler.
Comment le biais de confirmation aide à penser plus vite
Nous avons l'habitude de penser que ne remarquer que les confirmations de nos intuitions est une erreur. Mais des calculs récents, inspirés par le comportement des vagues, renversent ce point de vue. Il s'avère que l'habitude de chercher ce qui est familier est le meilleur moyen de réduire le bruit informationnel (les scientifiques l'appellent entropie).
Six règles pour un système vivant
La vie est une danse perpétuelle entre l'ordre et le chaos. Déjà au milieu du siècle dernier, Erwin Schrödinger remarquait que le vivant se nourrit moins de matière que d'« entropie négative » — sa capacité à maintenir son propre ordre en augmentant le désordre autour de lui.
L'information, ombre de l'inaccompli
Effacer ne serait-ce qu'un bit, c'est libérer de la chaleur. Cette découverte de Rolf Landauer a suggéré que l'information n'est pas matérielle, mais pas non plus illusoire. Imaginez que chaque événement projette une ombre — c'est cela, l'information : l'ensemble de toutes les possibilités non advenues.
Comment l'entropie prédit la structure des alliages
Créer un alliage à partir de plusieurs métaux, c'est un peu comme cuisiner une soupe avec des ingrédients inconnus : deviner la texture finale sans goûter est presque impossible. Les modèles standard se trompent souvent dès qu'il y a plus de trois sortes d'atomes.
Le mystère du désordre : pourquoi l'entropie obéit à des règles strictes
L'entropie est une mesure du désordre. Deux jeux de cartes mélangés, réunis en un seul tas, ne deviendront pas plus chaotiques que la somme de leurs désordres respectifs. C'est la règle de sous-additivité : le tout n'est pas plus chaotique que ses parties.
Physique quantique2026-05-173 minarXiv:2605.17418express
Le paradoxe de l'ornithorynque : quand deux canaux valent mieux qu'un
Deux interprètes simultanés sont assis dans la même cabine. Le premier traduit de l'anglais vers le russe, mais avale la moitié des mots. Le second traduit du russe vers le français, et perd aussi la moitié. Si on les met ensemble, on pourrait penser que cela donnera un mélange confus : les pertes s'additionnent, et l'auditeur ne recevra qu'un quart du sens.
Comment extraire les lois de la nature du bruit
Un enregistrement sur dictaphone d'une place de ville. On entend le bourdonnement de la foule, des pas, des bribes de conversations, le bruit des voitures. Quelque part dans ce mélange de sons, un musicien de rue joue une mélodie simple à la flûte. L'entendre n'est pas facile — il y a trop de choses mélangées.
Physique quantique2026-05-152 minarXiv:2605.15784express
Compression quantique : mesurer un signal sans mesures superflues
En 1948, l'ingénieur Claude Shannon a posé les fondations de la théorie de l'information. Le théorème de Nyquist-Shannon a apporté une première réponse : pour ne pas perdre le signal, il faut effectuer deux fois plus de mesures que sa composante la plus rapide. En 2006, la méthode du sondage compressé (compressed sensing) a assoupli cette exigence.
Quand le désordre engendre l'ordre
Étalons une poignée de pièces sur une table. Chaque pièce représente un résultat possible : pile, face, ou autre chose. Si l'on connaît le degré de chaos de cet ensemble (son entropie), quelles combinaisons de probabilités rencontrera-t-on le plus souvent ? Il s'avère que la réponse dépend de la quantité de chaos que l'on autorise.
La conscience comme défaillance du thermostat
Un thermostat maintient une pièce à 20 degrés. Ouvrez la fenêtre en hiver – il enclenche le chauffage pour rétablir l'équilibre. Le cerveau fait quelque chose de similaire : il prédit constamment ce qui va se passer l'instant d'après et se corrige s'il se trompe. C'est ainsi qu'il apprend.
Pourquoi l'ADN ne se copie pas de la manière la plus économe
Si vous écrivez la recette d'une protéine sur une feuille et que vous la donnez à imprimer, une faute de frappe sur une seule lettre peut gâcher tout le tirage. La cellule est confrontée au même problème lorsqu'elle copie son ADN — une longue instruction composée de quatre « lettres » chimiques.
Le temps s'emmêle comme des fils
Une corde de guitare cassée ne se tait pas simplement. Elle vibre encore un moment, et selon la nature de cette vibration, le luthier comprend quelle corde il a en main : épaisse ou fine, tendue ou lâche. C'est à peu près ainsi que les physiciens écoutent les « vibrations » des systèmes quantiques lorsqu'ils veulent connaître leur structure.
La complexité à la frontière de l'ordre et du chaos
Un film magnétique, découpé en minuscules cellules-flèches, se comporte comme une foule sur une place. Tant qu'il fait froid, toutes les flèches pointent dans la même direction — un ordre parfait. Chauffez le film, et les flèches se mettent à s'agiter, comme des passants qui ont perdu leur but.
Friction contre la limite de Landauer
Effacer un bit d'information n'est pas gratuit. En 1961, Rolf Landauer a montré qu'à température ambiante, cela nécessite au minimum environ 3 zeptojoules d'énergie — une quantité minuscule, mais non nulle. Cette limite était considérée comme aussi infranchissable que la conservation de l'énergie. Mais que se passerait-il si l'on « trompait » légèrement le système ?
Comment le cerveau transmet les pensées
Un bureau où les employés échangent des notes. Tant qu'il y a peu de tâches, chacun travaille de son côté. Mais quand une commande urgente arrive, certains services se mettent à envoyer activement des messages à d'autres, et le travail d'ensemble devient plus coordonné. C'est à peu près ce que fait le cerveau lorsque nous essayons de garder plusieurs choses en tête à la fois.
Le fil du contact : pourquoi un maillon manquant peut tout faire s'effondrer
L'interprète sursaute au moindre bruit dans la salle, et une réunion d'une heure en dure deux. C'est un peu la même chose dans la lutte contre une épidémie : le service de traçage des contacts tente de reconstituer la chaîne de contamination, mais il y a toujours des oublis.
Physique quantique2026-01-211 minarXiv:2601.15263express
Pourquoi les signaux supraluminiques embrouillent le temps
Selon les lois de la physique, rien ne peut dépasser la vitesse de la lumière, sinon, pour certains observateurs, l'effet se produirait avant la cause. Artur Ekert et Andrzej Dragan ont montré qu'une telle situation engendre une incertitude qui rappelle le hasard quantique.
L'entropie comme source de particules : des bits à la matière
En 1989, John Wheeler a formulé une idée audacieuse : « it from bit », tout ce qui existe provient de l'information. Longtemps, cela est resté une belle métaphore, mais aujourd'hui des physiciens ont trouvé un mécanisme concret qui transforme les bits en particules.
Le crépuscule du temps : pourquoi la flèche disparaît mais le temps demeure
Lorsque l'entropie atteint son maximum, la pièce est terminée. Le rideau tombe, les acteurs se dispersent, les décors se figent. Mais la scène, elle, demeure. C'est exactement ce qui se passe avec le temps : la mort thermique de l'Univers efface la direction « passé-futur », mais pas le temps lui-même.