Information theory is a conceptual framework quantifying information, entropy, and data compression in physical and biological systems.Le concept central est l'entropie de Shannon : H = −∑ pᵢ log₂ pᵢ. Elle mesure le nombre moyen de bits nécessaires pour coder un symbole de la source. Si tous les symboles sont équiprobables, H est maximale. La redondance du langage permet de compresser les données sans perte (Shannon a prouvé la limite de compression dans le théorème de la source). Une autre pierre angulaire est la capacité du canal : C = B log₂(1+S/N). Si l'on code un message avec un débit inférieur à C, on peut le transmettre pratiquement sans erreur, malgré le bruit. Ces idées fonctionnent dans tous les systèmes de communication : des satellites aux clés USB.
Claude Shannon (1916–2001) a formulé une théorie mathématique dans ses rapports militaires secrets du début des années 1940 et l'a généralisée dans le célèbre article de 1948 dans le Bell System Technical Journal. Il a introduit le terme « bit » (proposé par J. Tukey) et a relié l'entropie informationnelle à l'entropie physique de Boltzmann. Ses prédécesseurs étaient H. Nyquist (qui a étudié la vitesse de transmission télégraphique, 1924) et R. Hartley (qui a proposé une mesure logarithmique, 1928). Plus tard, A.N. Kolmogorov a développé l'approche algorithmique de l'information (complexité de Kolmogorov). En théorie quantique de l'information, l'entropie de von Neumann généralise l'entropie de Shannon pour les états quantiques mixtes.
L'information est mesurée en bits comme le logarithme du nombre d'états possibles : I = log₂ N ou −log₂ p. L'entropie H = −∑ pᵢ log pᵢ atteint son maximum pour une distribution uniforme. Lors de la transmission sur un canal de capacité C (formule de Shannon-Hartley : C = B log₂(1+S/N) pour un bruit gaussien), le théorème de Shannon garantit : si le débit de codage R < C, on peut atteindre une probabilité d'erreur arbitrairement faible en utilisant des codes en blocs suffisamment longs. En pratique, on approche la limite à l'aide de turbo-codes et de codes LDPC, utilisant un décodage itératif et des probabilités a priori. Pour la compression sans perte, un code optimal atteint une longueur moyenne égale à l'entropie et est construit par l'algorithme de Huffman ou le codage arithmétique. La théorie de l'information s'applique également à l'apprentissage automatique (principe de longueur de description minimale, méthodes bayésiennes) et à la bioinformatique.
Grâce à elle, Internet fonctionne, la compression des photos en JPEG et la récupération de la musique endommagée sur CD. Même le séquençage de l'ADN utilise une mesure informationnelle pour l'assemblage du génome.
La phrase « Hello, World! » dans un texte anglais aléatoire contiendrait environ 80 bits, mais en raison de la redondance de la langue, elle peut être compressée à 40-50 bits. Shannon a calculé qu'un texte anglais porte en moyenne seulement 1,3 bits par lettre.
| I | variable | information flow between subsystems — information flow bit per second |
| σ | variable | entropy production rate — entropy production rate joule per kelvin second |
| A | variable | activity (a measure of dynamical activity in the system) — activity per second |
| β | variable | inverse temperature (1/k_B T) — inverse temperature per joule |
| |·|² | opérateur | squared magnitude — absolute value squared |
| d/dt | opérateur | derivative with respect to time — dérivée temporelle |

















