4. Application à la thermodynamique
La notion de quantité d'information est l'un des concepts de base de la théorie de l'information. Remarquant que son expression mathématique ressemblait à celle que Ludwig Boltzmann avait donnée à la fin du xixe siècle pour l'entropie, Shannon a pressenti que l'on pouvait établir un pont entre la théorie de l'information et la thermodynamique. Afin de comprendre ce lien, souvenons-nous d'abord qu'un morceau de matière, même petit, comprend un si grand nombre de particules qu'on ne peut le décrire à l'échelle microscopique que de façon statistique. Prenons l'exemple d'une épingle d'acier. Elle contient quelque 1019 atomes. La plupart d'entre eux sont des atomes de fer, situés aux nœuds d'un réseau cristallin. Les autres (environ 1 p. 100 du total) sont des atomes de carbone, plus petits, qui s'intercalent en se plaçant dans certains des interstices. L'empilement des atomes de fer n'est pas parfaitement régulier, de sorte que la configuration de l'édifice est caractérisée par la nature et la position des défauts, ainsi que par les emplacements des atomes de carbone. Le nombre de ces configurations défie l'entendement. Déjà, le nombre d'états distincts obtenus en disposant les atomes de carbone de toutes les façons possibles dans un réseau régulier d'atomes de fer nécessiterait, si on voulait l'écrire, pas moins de 1017 chiffres. La connaissance de la configuration précise de notre tête d'épingle est donc hors de portée. En revanche, nous pouvons espérer rendre compte des propriétés, non pas d'un objet spécifique, mais d'échantillons génériques. Ce ne sont plus les particularités d'une certaine tête d'épingle qu'il s'agit alors de décrire, mais les propriétés communes à toutes les têtes d'épingle fabriquées dans les mêmes conditions.
Tous les objets ont alors les mêmes caractéristiques macroscopiques (volume, composition, masse, température), mais la configuration microscopique de chacun d'entre eux reste inconnue. On peut toutefois attribuer une probabilité […]
… pour nos abonnés, l'article se prolonge sur 5 pages…
