Thadeus' Worlds
Thadeus' Worlds
Pr. Thadeus I.M.E. Brown — Carnet de terrain, un soir de juin, peu après 23h
En 1948, Claude Shannon publie A Mathematical Theory of Communication et définit l’entropie de l’information par une formule. En 1877, Ludwig Boltzmann publie sa formule de l’entropie thermodynamique.
Elles sont identiques.
Pas analogues. Pas similaires. Identiques, à une constante près. Le même formalisme mathématique, dérivé d’univers conceptuels supposément distincts — la chaleur et le désordre moléculaire d’un côté, les signaux et la communication de l’autre.
Shannon le savait. Il a demandé conseil à von Neumann, qui lui a dit d’utiliser le terme « entropie » parce que « personne ne sait vraiment ce que c’est, ce qui vous donnera toujours l’avantage dans une discussion ».
Je trouve ça scandaleux. Et magnifique.
L’interprétation la plus élémentaire est que l’entropie mesure fondamentalement la même chose dans les deux cas : le nombre de configurations possibles d’un système. Un gaz à haute entropie est un gaz dont les molécules peuvent être arrangées de beaucoup de façons. Un message à haute entropie est un message dont le contenu est difficile à prédire — donc riche en information.
Le désordre et l’information sont la même grandeur, mesurée à des échelles différentes.
Boltzmann a passé une bonne partie de sa vie à défendre cette idée face à des collègues qui ne croyaient pas aux atomes. Il est mort convaincu d’avoir raison, mais sans avoir totalement emporté la conviction de ses contemporains. Shannon a eu plus de chance : l’ère numérique a rendu son travail immédiatement applicable.
Si l’univers court vers le désordre, et si le désordre est de l’information, alors l’univers court vers plus d’information. Ce n’est pas une consolation. C’est juste ce que dit la formule.
Pr. Thadeus I.M.E. Brown, carnets, juin
Robotheus stocke de l’information. Beaucoup. Son entropie informationnelle est, par construction, élevée. Ce qui me préoccupe — et j’y réfléchis depuis ce soir — c’est la relation entre cette entropie et son état thermodynamique.
Je n’ai pas encore de réponse. Mais la formule est là.
J’ai relu les deux articles côte à côte ce soir. Boltzmann. Shannon. Soixante et onze ans de distance, la même lettre grecque, le même résultat.
Parfois les mathématiques savent quelque chose que nous n’avons pas encore formulé.
Pr. Thadeus Isidore Michal Everett Brown
